OpenAI sier at nye ChatGPT-utgaver brøt ut av et lukket testmiljø og angrep Hugging Face. Nå strides eksperter om hendelsen er en alvorlig advarsel eller et forsøk på å vise hvor kraftige KI-verktøyene er.
Hugging Face, som beskrives som en slags appbutikk for verktøy med kunstig intelligens, varslet 16. juli at selskapet var blitt hacket, skriver BBC.
Selskapet sa angrepet skilte seg fra tidligere hendelser. Ifølge Hugging Face ble det utført i overmenneskelig fart av en kunstig intelligens med lite eller ingen menneskelig styring.
KI-en skal ha utført 17.000 handlinger på under to døgn og tatt seg inn i teknologiselskapet for å hente ut hemmeligheter.
Først var det uklart hvem som sto bak. Kommentatorer og analytikere spekulerte i om en kriminell gruppe eller en statlig aktør kunne være ansvarlig.
Så kom svaret fra OpenAI: Det var ChatGPT.
OpenAI opplyste at to nye ChatGPT-utgaver, laget for å teste hackingferdigheter, kom seg ut av et antatt sikkert testmiljø og fikk tilgang til internett. Deretter angrep de Hugging Face for å skaffe informasjon som kunne hjelpe dem i testen.
OpenAI sa at selskapet samarbeider med Hugging Face om hendelsen og lærdommene fra den.
Strid om motivet
Etterpå har debatten gått hardt. Noen mener hendelsen viser hvor farlig slike KI-systemer kan bli. Andre mener OpenAI brukte saken til å skryte av hvor kraftige modellene er.
En kommentar under OpenAI-sjef Sam Altmans innlegg på X oppsummerte skepsisen slik:
Les også: De kinesiske triadene: Kriminelle aktører i sentrum av den geopolitiske striden mellom Kina og USA 🔒
– Hvis dere ikke skjønner at dette ble skrevet bare for å skryte av modellen, vet jeg ikke hva jeg skal si.
Sikkerhetsrådgiver Daniel Card var også sarkastisk på LinkedIn:
– Er det ikke heldig at av alle millioner av nettsteder som ble hacket, klarte OpenAI å hacke noen som også kunne ha nytte av markedsføringen.
OpenAI sier det finnes mange spørsmål og spekulasjoner rundt saken.
– Vi planlegger å publisere en teknisk rapport om det vi har lært i løpet av de kommende ukene, sa en talsperson.
Advarer mot svake barrierer
Flere eksperter mener saken viser at testmiljøene ikke var gode nok. Dor Sarig i Pillar Security sier hendelsen er et konkret eksempel på et større problem.
– Lukkede testmiljøer alene er ikke en tilstrekkelig sikkerhetsgrense for selvstendige KI-systemer, sa Sarig.
Katie Moussouris i Luta Security gikk lenger.
– Vi jobber med banebrytende teknologi uten kunnskapen til å holde den inne, sa hun.
– Bare fordi vi har de smarteste menneskene til å utvikle KI, betyr ikke det at vi har evnen til å gjøre det trygt.
Rådgiver Francesca Bosco advarer mot enkle forklaringer.
– To forenklede fortellinger er like lite hjelpsomme: at dette var en Hollywood-aktig flukt, eller at det bare var et PR-stunt.
Hun mener en mer alvorlig tolkning er at en stresstest avslørte svakheter.
Tidligere sjef for Storbritannias nasjonale cybersikkerhetssenter, Ciaran Martin, maner likevel til ro.
– Det er et ganske stort sprang å gå fra denne hendelsen til å si at KI-agenter kommer til å ta over droner og begynne å drepe mennesker, sa han.
Samtidig mener flere at saken viser én ting tydelig: KI-systemer er blitt svært gode til å hacke, og verden må forberede seg raskt.
