Anthropic sier at den nye modellen Claude Mythos Preview har funnet mer enn 10.000 alvorlige sikkerhetshull i viktig programvare.
Selskapet advarer samtidig om at det nå er lettere å finne svakheter enn å rette dem.
Anthropic skriver i en ny oppdatering at selskapets Project Glasswing har funnet mer enn 10.000 alvorlige eller kritiske sikkerhetshull i programvare som brukes av store deler av internett og viktig infrastruktur.
Prosjektet ble lansert forrige måned for å sikre kritisk programvare før stadig kraftigere kunstig intelligens kan brukes av angripere. Rundt 50 partnere har deltatt i arbeidet, ifølge selskapet.
Anthropic skriver at utviklingen viser et tydelig skifte innen cybersikkerhet.
– Fremgang innen programvaresikkerhet pleide å være begrenset av hvor raskt vi kunne finne nye sårbarheter. Nå begrenses den av hvor raskt vi kan verifisere, varsle om og rette det store antallet sårbarheter som AI finner, skriver selskapet.
Fant mange feil i åpen kildekode
Anthropic har også brukt Mythos Preview til å undersøke mer enn 1.000 prosjekter med åpen kildekode. Dette er programvare som ofte brukes som byggesteiner i nettsider, tjenester og digitale systemer.
Så langt har modellen funnet 23.019 mulige sikkerhetshull i disse prosjektene. Av disse ble 6.202 vurdert som alvorlige eller kritiske av modellen.
Selskapet opplyser at 1.752 av de alvorlige funnene er grundig gjennomgått av uavhengige sikkerhetsmiljøer eller av Anthropic selv. Av disse viste 90,6 prosent seg å være reelle funn.
Les også: Project Glasswing: Teknologigiganter går sammen om ny cybersatsing
Anthropic peker på dette som et tegn på at modellen ikke bare finner mange mulige problemer, men også treffer godt.
Vanskeligere å rette enn å finne
Samtidig advarer Anthropic om at teknologien skaper et nytt problem. Når AI kan finne store mengder sikkerhetshull raskt, blir presset på utviklere og sikkerhetsmiljøer langt større.
Mange prosjekter, særlig innen åpen kildekode, drives av små grupper eller frivillige. Flere utviklere har ifølge Anthropic bedt selskapet om å senke tempoet i varslingen, fordi de trenger mer tid til å lage rettelser.
Selskapet skriver at et alvorlig sikkerhetshull funnet av Mythos Preview i snitt tar to uker å rette.
Holder modellen tilbake
Anthropic skriver at modeller på Mythos-nivå foreløpig ikke slippes bredt til offentligheten.
Årsaken er risikoen for misbruk. Selskapet mener ingen AI-selskaper ennå har sterke nok sikkerhetstiltak til å hindre at slike modeller kan brukes til alvorlige digitale angrep.
– Hvis en like kapabel modell slippes uten slike sikkerhetstiltak, vil det raskt bli dramatisk billigere og enklere for nesten hvem som helst i verden å utnytte svak programvare, skriver Anthropic.
Selskapet sier at Project Glasswing nå skal utvides sammen med viktige partnere, blant annet amerikanske og allierte myndigheter. Målet er å gi forsvarere et forsprang før slike AI-verktøy blir mer utbredt.
Kunstig intelligens – det ultimate geostrategiske verktøyet?
