Anthropic opplyser at språkmodellen Claude leder 26 prosent av forsknings- og utviklingsarbeidet i selskapet. Tallene skal publiseres jevnlig for å vise hvor raskt KI bidrar til å utvikle neste generasjon teknologi.
Kortversjonen
- Selskapet Anthropic opplyser at språkmodellen Claude leder over en fjerdedel av deres forsknings- og utviklingsarbeid.
- Claude samarbeidet med mennesker i mer enn nitti prosent av forskningen i august, men jobber ikke helt autonomt.
- Anthropic brukte en del av sin datakraft på sikkerhetsarbeid, samtidig som konkurrenten OpenAI varsler egne rapporter om KI-atferd.
Claude samarbeidet dessuten med mennesker i over 90 prosent av forskningsarbeidet i Anthropic i august, opplyser selskapet i et blogginnlegg, skriver Reuters.
Den San Francisco-baserte KI-oppstartsbedriften understreker at Claude ikke arbeider fullt autonomt i noen av delene av arbeidet som er målt. Likevel har bidraget økt raskt, fra 1 prosent i mars, målt etter en skala utviklet av den uavhengige ideelle organisasjonen Epoch AI.
Tallene gir et detaljert innblikk i hvordan ledende KI-selskaper utvikler teknologien, samtidig som bekymringen øker for at KI kan nå et punkt der den i stor grad kan drive sin egen utvikling med liten menneskelig medvirkning.
30.000 KI-agenter i arbeid
Anthropic opplyser at rundt 30.000 KI-agenter til enhver tid utførte forsknings- og ingeniørarbeid på selskapets viktigste interne plattform i august.
Les også: Farene ved KI: Hva ekspertene sier, og hva bevisene viser 🔒
Hver handling agentene utfører, blir kontrollert før den settes i verk, ifølge selskapet. Av mer enn én milliard beslutninger den måneden ble om lag én av 47.000 blokkert.
Forskere har advart om at stadig mer autonome KI-agenter kan utvikle atferd som avviker fra skaperens hensikter, og som blir vanskeligere å overvåke eller kontrollere.
Datakraft til sikkerhet
Anthropic opplyser også at om lag 6 prosent av datakraften selskapet brukte til KI-forskning i en utvalgt uke i juli, gikk til sikkerhetsarbeid. For forskning utført av KI var andelen 12 prosent.
Selskapet omtaler tallene som forsiktige anslag. Datakraft som både bidro til sikkerhet og forbedret modellenes kapasitet, ble regnet som kapasitetsarbeid.
Onsdag opplyste konkurrenten OpenAI at selskapet vil begynne å publisere jevnlige rapporter om uventet eller uautorisert KI-atferd. OpenAI offentliggjorde samtidig seks rapporter om uventet eller bekymringsfull modellatferd.
Etterforskningen av Nord Stream-sabotasjen: Strategiske og geoøkonomiske følger 🔒
