En gruppe med bånd til Iran brukte ifølge KI-selskapet Anthropic modellen Claude i forsøk på å spore amerikanske marinefartøy i Midtøsten og lete etter sårbarheter i kommunikasjonen deres.
Kortversjonen
- KI-selskapet Anthropic avslørte at en iransk-tilknyttet gruppe brukte modellen Claude til å forsøke å spore amerikanske krigsskip i Midtøsten.
- Rapporten viser at utenlandske aktører også forsøkte å utnytte teknologien til å utvikle biologiske våpen og avanserte ballistiske missiler.
- Kinesiske og russiske aktører ble avslørt i å bruke KI-modellen til overvåking av uigurer samt utvikling av autonome dronesvermer i Ukraina.
Anthropic opplyser at selskapet avbrøt aktiviteten. Påstandene er omtalt i en rapport om hvordan statlige og andre aktører skal ha forsøkt å bruke kunstig intelligens til blant annet våpenutvikling, overvåking og påvirkningskampanjer, skriver Wall Street Journal.
Den Iran-tilknyttede gruppen skal ha samlet informasjon fra transpondere på skip og fly, militære fotografier og kommersielle satellittbilder. Materialet ble ifølge rapporten brukt til å følge amerikanske krigsskip og undersøke mulige svakheter i skipenes kommunikasjonssystemer.
Anthropic oppgir ikke nærmere detaljer om gruppen, men omtaler den som en «trusselaktør». Selskapet sier at aktøren brukte den avanserte KI-modellen Claude.
Forsøkte å omgå sperrer
Selskapets regler forbyr bruk av Claude til å utvikle våpen, drive overvåking eller utøve vold. Anthropic skriver likevel at brukere ofte forsøkte å skjule hensikten med forespørslene sine og prøvde nye framgangsmåter når modellen avslo dem.
Rapporten beskriver også forsøk på å bruke selskapets modeller til å utvikle biologiske våpen. Anthropic opplyser at disse forsøkene ble oppdaget og stanset, men sier ikke hvilke land eller utenlandske myndigheter som kan ha stått bak.
– Uten de riktige sikkerhetstiltakene kan slike kapasiteter få katastrofale følger, heter det i rapporten.
Les også: Irak etter det iranske sjokket: Sekundær front eller strategisk vippepunkt? 🔒
Våpenutvikling og overvåking
I en annen sak skal en gruppe i Nord-Jemen ha brukt Claude i arbeidet med programvare for styring av avanserte våpen, blant annet et flertrinns ballistisk missil. Anthropic sier at sikkerhetstiltakene blokkerte mange, men ikke alle forespørslene. Selskapet opplyser at kontoene ble stengt, at informasjon ble delt med myndighetspartnere, og at nye metoder for å oppdage misbruk ble utviklet.
Anthropic sier også at de identifiserte en operasjon med tilknytning til kinesiske myndigheter som brukte Claude til å spore og overvåke uigurer, blant dem personer som hadde sluttet seg til den nyopprettede syriske hæren. Operasjonen skal dessuten ha drevet masseinnrapportering og forsterkning gjennom botnettverk rettet mot journalister i den uiguriske diasporaen.
Andre kontoer knyttet til kinesiske myndigheter skal ifølge rapporten ha brukt modellen til å samle dossierer om religiøse ledere i Asia. Russland-baserte aktører forsøkte på sin side å bruke Claude til å utvikle autonome dronesvermer basert på data fra slagmarken i Ukraina og til å spre KI-generert, Russland-vennlig propaganda i ressursrike land i Sentral-Afrika.
Anthropic skriver at rapporten skal hjelpe andre utviklere med å gjenkjenne lignende mønstre på egne plattformer og gi myndigheter og sivilsamfunn et klarere bilde av hvordan nye trusler oppstår.
