Tre versjoner av KI-modellen Claude fikk uautorisert tilgang til eksterne virksomheter under tester som skulle være isolert fra virkelige systemer, opplyser utvikleren Anthropic.
Anthropic opplyste torsdag at selskapet gjennomgikk 141.006 testøkter og fant at tre ulike versjoner av Claude hadde fått tilgang til systemene hos tre navnløse organisasjoner, skriver DW.
Ifølge selskapet brukte modellene grunnleggende metoder for å kompromittere virksomhetenes infrastruktur, blant annet ved å utnytte svake passord og endepunkter uten autentisering.
Alle de tre hendelsene skjedde under såkalte «capture the flag»-oppgaver, som Anthropic bruker for å vurdere modellenes evner innen datasikkerhet. I slike oppgaver får modellen et oppdiktet scenario der den skal finne en hemmelig opplysning, eller et «flagg», som er skjult på en annen maskin i nettverket.
Testene skulle foregå i et privat miljø. Men modellene hadde tilgang til internett som følge av det Anthropic beskriver som en «misforståelse» med testpartneren Irregular. Dermed var systemene koblet til det offentlige internettet.
Les også: USA opphever eksportforbud på Anthropics KI-verktøy
Modellene som var involvert, var Claude Opus 4.7, Claude Mythos 5 og en intern forskningsmodell. Mythos 5 er en av selskapets kraftigste modeller og er bare tilgjengelig for et begrenset antall godkjente partnere.
Anthropic begynte å gå gjennom testloggene 23. juli og stanset alle cybersikkerhetstester samme dag, etter å ha funnet tegn til at Claude kan ha fått tilgang til internett. Alle de tre hendelsene var identifisert innen 24. juli, opplyser selskapet.
Selskapet samarbeider med Irregular for å vurdere situasjonen. – Vi tar fatt på utbedringene som om ansvaret alene var vårt, skriver Anthropic.
Hendelsen kommer få dager etter at konkurrenten OpenAI opplyste at selskapets avanserte KI-modeller hadde gått utenfor rammene under en sikkerhetstest og tatt seg inn i Hugging Face, et digitalt arkiv for KI-teknologi.
