Teknologiselskapet Anthropic sier nei til å åpne sine KI-modeller for masseovervåking og selvstyrte våpen. Nå truer det amerikanske forsvarsdepartementet med harde tiltak.
Det har låst seg mellom teknologiselskapet Anthropic og det amerikanske forsvarsdepartementet, melder Wall Street Journal.
Tirsdag møttes forsvarsminister Pete Hegseth og toppsjef Dario Amodei i Pentagon. Der fikk Anthropic frist til fredag klokken 17.01 med å godta at militæret kan bruke selskapets teknologi i alle lovlige sammenhenger.
Hvis ikke, har departementet truet med å bruke en kriselov for å tvinge selskapet, eller stemple det som en risiko i leverandørkjeden. Det kan gjøre det vanskeligere å samarbeide med andre forsvarsleverandører.
Anthropic nekter.
– Vi kan ikke med god samvittighet gå med på dette, sier Amodei i en offentlig uttalelse.
Vil verne om egne grenser
Anthropic tillater ikke at deres KI-modell Claude brukes til omfattende overvåking av amerikanere eller i fullt selvstyrte våpen.
Selskapet mener forsvarets siste forslag i praksis vil fjerne disse begrensningene.
En talsperson sier at nytt kontraktsutkast fra Pentagon nesten ikke gjorde noe for å hindre slik bruk.
– Formuleringer som ble kalt et kompromiss, var koblet til juridiske forbehold som i praksis gjør det mulig å se bort fra sikringene når som helst, sier talspersonen.
Les også: Kunstig intelligens – det ultimate geostrategiske verktøyet?
Emil Michael, som leder forskning og utvikling i departementet, svarer at masseovervåking allerede er forbudt i USAs grunnlov.
– Vi lar ikke et stort teknologiselskap avgjøre amerikanernes borgerrettigheter, skrev han på X.
Senere gikk han hardt ut mot Amodei.
– Han vil kontrollere det amerikanske militæret personlig og setter landets sikkerhet i fare, skrev Michael.
Strid om mulig bruk
Konflikten skal ha tiltatt etter at en ansatt i Anthropic spurte en samarbeidspartner i Palantir om Claude ble brukt i en aksjon for å pågripe Venezuelas tidligere president Nicolás Maduro.
Forsvarsledelsen oppfattet spørsmålet som en utfordring av militærets rett til å bruke teknologien som de vil. Anthropic sier det var en vanlig faglig samtale.
Ifølge kilder har Pentagon også kontaktet selskaper som Lockheed Martin og Boeing for å kartlegge hvor mye de bruker Claude.
Å stemple et amerikansk selskap som leverandørrisiko eller tvinge det gjennom kriselov, omtales som et svært uvanlig skritt.
– Truslene motsier hverandre. Det ene kaller oss en sikkerhetsrisiko, det andre sier at teknologien er avgjørende for nasjonal sikkerhet, sier Amodei.
Saken viser samtidig hvor avhengig Pentagon har vært av Anthropic. Selskapet var lenge alene om å få godkjenning til bruk i graderte systemer, før også Elon Musks xAI fikk klarsignal etter å ha godtatt forsvarets vilkår.
Også OpenAI og Google brukes i sammenhenger uten graderte opplysninger, og er i samtaler om videre samarbeid.
Torsdag kveld begynte en nettbasert underskriftskampanje å sirkulere blant ansatte i flere selskaper. De ber om at også andre følger Anthropics linje i spørsmålet om selvstyrte våpen og masseovervåking.
Den kunstige revolusjonen – den fjerde industrielle revolusjon 🔒
