EU vil trappe opp samtalene med USA om avanserte KI-modeller som kan brukes til digitale angrep. Bakgrunnen er bekymring rundt Anthropics nye Mythos-modell.
EU ønsker å styrke samtalene med amerikanske myndigheter om de mest avanserte KI-modellene, særlig modeller som kan brukes i digitale angrep.
Det sier en talsperson for EU-kommisjonen til CNBC.
Bekymringen har økt etter at Anthropic i april kunngjorde sin nye Mythos-modell. Modellen skal ha avanserte evner innen digital sikkerhet og digitale angrep.
Ifølge CNBC har Mythos skapt uro blant både myndigheter og selskaper, fordi slike modeller kan gjøre digitale angrep langt mer effektive.
USA vil balansere sikkerhet og innovasjon
Det hvite hus sier at amerikanske myndigheter samarbeider tett med KI-selskaper for å finne en balanse mellom utvikling og sikkerhet.
Samtidig ønsker USA å beholde forspranget på Kina i det globale KI-kappløpet.
Finansminister Scott Bessent sa torsdag at amerikanske myndigheter jobber «svært tett» med KI-selskapene.
– De har vært utmerkede partnere, og vi kommer til å finne en løsning som gir best mulig balanse, sa Bessent.
Han la til:
Les også: Anthropic: AI-modellen Claude Mythos fant over 10.000 alvorlige sikkerhetshull
– Vi vil sørge for at vi beholder ledelsen. Derfor jobber vi med den nøyaktige balansen mellom innovasjon og sikkerhet, og vi vil finne den beste løsningen.
EU har ikke fått tilgang
Anthropic har foreløpig gitt tidlig tilgang til Mythos til en utvalgt gruppe selskaper og organisasjoner gjennom et prosjekt kalt Project Glasswing.
Men EU, EUs KI-kontor og offentlige organisasjoner utenfor USA har ikke fått slik tilgang. Unntaket er Storbritannias AI Security Institute.
Ifølge CNBC fikk EU-kommisjonen beskjed fra Anthropic om at den først måtte be amerikanske myndigheter om tillatelse.
En kilde med kjennskap til samtalene sier at Det hvite hus ikke nødvendigvis er imot å dele Mythos med EU, men at amerikanske myndigheter er skeptiske til å dele modellen med ikke-amerikanske regjeringer generelt.
Anthropic varsler bredere tilgang
Thomas Regnier, talsperson for EU-kommisjonen, sier digital sikkerhet er en felles prioritet.
– Digital sikkerhet er en felles prioritet, og vi har blitt enige om å anerkjenne hverandres standarder på dette området, sa han.
Han la til at EU nå utvider de tekniske samtalene med Anthropic og andre selskaper som har meldt inn sine nyeste modeller til EUs KI-kontor.
Anthropic sier at modeller på Mythos-nivå må ha sterke sikkerhetstiltak før de kan slippes bredt.
Selskapet venter å gjøre slike modeller tilgjengelige for alle kunder i løpet av de kommende ukene.
Den kunstige revolusjonen – den fjerde industrielle revolusjon 🔒
