Anthropic opplyser at selskapet har stanset flere forsøk på å bruke KI-teknologien sin til forskning som kan bidra til utvikling av biologiske våpen.
Kortversjonen
- Anthropic har stanset flere forsøk på å bruke kunstig intelligens til mulig forskning på biologiske våpen.
- Brukere fra land med forbud mot tilgang, deriblant Russland, Kina og Iran, forsøkte å omgå sikkerhetskontrollene.
- Rapporten advarer om at avanserte KI-modeller krever strengere regulering for å forhindre potensielt misbruk.
I en rapport beskriver selskapet fem tilfeller der aktører ifølge Anthropic omgåtte kontroller og forsøkte å tilsløre formålet med forskningen for å unngå sikkerhetstiltak. Enkelte av brukerne befant seg i land der Anthropic forbyr tilgang til modellene sine, blant dem Russland, Kina og Iran, skriver Financial Times.
Anthropic understreker samtidig at selskapet ikke med sikkerhet kan fastslå at forskerne i eksemplene hadde til hensikt å gjøre skade. Informasjon som kan brukes til å utvikle biologiske våpen, kan også brukes i arbeid med blant annet vaksiner.
I ett av tilfellene skal en forsker fra en region som ikke støttes av selskapet, ha brukt flere uker på å planlegge forsøk med fugleinfluensa ved hjelp av Anthropics KI-modell Claude. Selskapet opplyser at sikkerhetsfiltrene begrenset arbeidet til de minst kapable modellene.
Anthropic sier at kontoene omtalt i rapporten er stengt. Selskapet har ikke oppgitt navnene på forskningsinstitusjonene eller hvilke land hendelsene fant sted i.
Les også: Covid og flokkmentalitet: Hvordan frykt for meningsavvik truer demokratiet
Selskapet sier at formålet med å offentliggjøre eksemplene er å få i gang en samtale i KI-bransjen og med myndigheter om framvoksende biologiske risikoer og hvordan de best kan motvirkes.
Bekymringen for KI i biologisk forskning har økt i takt med at modellene blir mer avanserte. Ledere i KI-selskaper og forskere innen biosikkerhet mener i økende grad at teknologien må sikres og reguleres. Eksperter frykter at terrorgrupper, stater eller enkeltpersoner kan bruke KI til å utvikle biologiske våpen, skape virus eller spre eksisterende skadelige patogener.
Samtidig peker kilden på at det fortsatt kan være betydelige hindringer mellom et teoretisk biovåpen og faktisk produksjon, blant annet praktisk gjennomføringsevne og nødvendige ressurser.
Rapporten omtaler også andre former for misbruk, blant annet nettverk av falske datingapper brukt til svindel og overvåkingssystemer som skulle identifisere og overvåke dissidenter.
Anthropic gjentar dessuten påstanden om at sju laboratorier i Kina, blant dem Moonshot og DeepSeek, forsøkte å kopiere selskapets teknologi gjennom såkalt destillering. Selskapet sier det har registrert stadig mer sofistikerte metoder for å omgå forsvarsmekanismene og hente ut kapasitet fra de mest avanserte amerikanske modellene.
National Security Strategy 2025: USA i møte med en splittet verden🔒
