Anthropic lanserer Project Glasswing sammen med flere av verdens største teknologiselskaper
Målet er å sikre kritisk programvare i en tid der kunstig intelligens gjør både angrep og forsvar kraftigere.
Anthropic kunngjør et nytt samarbeid med blant andre Amazon Web Services, Microsoft, Google og Apple.
Prosjektet har fått navnet Project Glasswing og skal styrke sikkerheten i programvaren samfunnet er avhengig av.
Bakgrunnen er utviklingen av en ny KI-modell som kan finne alvorlige svakheter i datasystemer.
Advarer om nytt trusselbilde
Ifølge selskapet har modellen, kalt Claude Mythos Preview, allerede avdekket tusenvis av alvorlige feil i programvare.
Flere av disse finnes i sentrale systemer som operativsystemer og nettlesere.
– KI-modeller har nå nådd et nivå der de kan overgå nesten alle mennesker i å finne og utnytte sårbarheter, opplyser Anthropic.
Selskapet advarer om at slike evner raskt kan spre seg.
Det kan føre til flere og mer alvorlige dataangrep, med konsekvenser for både økonomi, sikkerhet og samfunn.
Kan både skade og beskytte
Programvare brukes i alt fra banker og sykehus til strømnett og transport.
Feil i slike systemer kan få store følger dersom de utnyttes.
Les også: Anthropic-sjef om egen chatbot: – Kan ikke utelukke bevissthet
Samtidig peker Anthropic på at den samme teknologien også kan brukes til å styrke sikkerheten.
– De samme evnene som gjør KI farlig i feil hender, gjør den også svært nyttig for å finne og rette feil, heter det.
Prosjektet skal derfor gi utvalgte aktører tilgang til modellen for å oppdage og tette sikkerhetshull.
Over 40 organisasjoner som utvikler viktig programvare skal delta.
Store investeringer
Anthropic setter av opptil 100 millioner dollar (omtrent 1,1 milliarder kroner) i brukskreditter til prosjektet.
I tillegg gis det 4 millioner dollar (omtrent 44 millioner kroner) i støtte til organisasjoner som jobber med åpen programvare.
Flere selskaper i samarbeidet peker på at utviklingen går raskt.
– Det som før tok måneder, kan nå skje på minutter med KI, sier representanter fra CrowdStrike.
Prosjektet er fortsatt i en tidlig fase, men ambisjonen er å utvikle nye metoder for å sikre digitale systemer.
Anthropic varsler også tettere samarbeid med myndigheter framover.
– Arbeidet med å beskytte verdens digitale infrastruktur vil ta tid. Derfor må vi handle nå, opplyser selskapet.
Europas vei mot digital suverenitet i en ny realpolitisk virkelighet 🔒
