Amerikanske National Security Agency (NSA) bruker Anthropics nye KI-modell Mythos i offensive cyberoperasjoner. Samtidig ligger selskapet i juridisk strid med Pentagon om hvordan teknologien kan brukes i krig.
Anthropic hjelper den amerikanske etterretningstjenesten NSA med å ta i bruk KI-modellen Mythos til offensive cyberoperasjoner, skriver Financial Times.
Ifølge avisen har det San Francisco-baserte selskapet plassert rundt seks ansatte inne i NSA. De skal veilede bruken av teknologien og tilpasse modellene til konkrete oppgaver.
Det er uklart om Anthropics egne ansatte bistår i aktive operasjoner. En person med kjennskap til saken sier likevel at Mythos kan være nyttig for å trenge inn i datanettverk i land som Kina eller Iran.
– Den beste måten å bygge et godt forsvar på, er å bygge et godt angrep, sier en person nær Anthropic til avisen.
Personen mener motstandere trolig allerede utvikler egne KI-drevne angrepsverktøy.
– Hvis Mythos ikke brukes til å bygge angrepsagenter, vil motstandere finne en måte å gjøre det på, sier personen.
Strid med Pentagon
Samarbeidet skjer samtidig som Anthropic ligger i juridisk strid med det amerikanske forsvarsdepartementet, som NSA er en del av.
Anthropic har forsøkt å begrense amerikanske myndigheters bruk av selskapets Claude-modeller til masseovervåking av amerikanske borgere og dødelige selvstyrte droner.
Les også: Den tredje kroppen: hvordan kunstig intelligens endrer maktens symboler
Det førte til at Pentagon stemplet selskapet som en «risiko i forsyningskjeden». Ifølge Financial Times er dette første gang et amerikansk selskap har fått en slik betegnelse.
Anthropic har saksøkt Pentagon på grunn av merkelappen. Den kan tvinge selskapet til å avslutte avtaler med organisasjoner som samarbeider med det amerikanske militæret.
Frykt for misbruk
Etter at striden oppstod, lanserte Anthropic Claude Mythos. Modellen har skapt bekymring hos myndigheter, banker og IT-selskaper fordi den kan finne og utnytte svakheter i programvare.
Tidligere denne uken kunngjorde Anthropic at Mythos skal gjøres tilgjengelig for 150 organisasjoner i 15 land. Da modellen ble lansert i april, var den først bare tilgjengelig for et utvalg amerikanske organisasjoner.
OpenAI har senere lansert en modell med lignende evner.
Eksperter advarer om at avanserte KI-modeller kan hjelpe hackere med å bryte seg inn i datasystemer. Samtidig kan de også brukes som kraftige verktøy mot fiendtlige aktører.
Anthropic og det amerikanske forsvarsdepartementet ønsker ikke å kommentere saken.
Kunstig intelligens – det ultimate geostrategiske verktøyet?
