California-guvernør Gavin Newsom har signert en ordre som skal utrede krav om at KI-selskaper må kunne stanse modellene sine. Tiltaket kommer mens uroen rundt sikkerheten ved kunstig intelligens øker i USA.
Kortversjonen
- Guvernør Gavin Newsom har signert en ordre for å utrede om KI-selskaper skal pålegges å ha en nødstoppsfunksjon.
- Tiltaket skaper debatt, der ledende industriledere advarer om rask utvikling, mens president Donald Trump frykter å tape for Kina.
- Newsom krever også at to nye lover om uavhengige evaluatorer og et statlig revisorregister innføres raskere i California.
Ordren ble signert fredag og innebærer at en gruppe eksperter og offentlige tjenestepersoner skal utforme nye sikkerhetstiltak. Gruppen skal blant annet vurdere hvordan KI-laboratorier som OpenAI og Anthropic juridisk kan pålegges å beholde muligheten til å slå av modellene sine, skriver Financial Times.
Newsom signaliserer dermed en strengere linje i KI-politikken. Spørsmål om sikkerhet og utbygging av datasentre har blitt viktige saker for velgerne foran mellomvalget, som avgjør kontrollen over Kongressen.
– Mens Washington frasier seg ansvaret for å beskytte amerikanerne, bygger California videre på landets sterkeste regelverk for KI, sa Newsom.
Uenighet om sikkerhetstiltak
Kravet om en såkalt nødstoppsfunksjon kommer etter advarsler fra ledende amerikanske KI-selskaper om at utviklingen kan gå for raskt. Samtidig er eksperter uenige om det teknisk vil være mulig å bremse, stanse midlertidig eller slå av avanserte modeller – og om svært avansert KI kan omgå slike tiltak.
Bekymringen for KI-sikkerhet ble nylig aktualisert da Anthropic-forskeren Jacob Coxon sluttet. Han advarte om at menneskene som utvikler KI, oppriktig tror at teknologien kan «drepe oss alle innen utgangen av tiåret».
Les også: Farene ved KI: Hva ekspertene sier, og hva bevisene viser 🔒
Lederne for Anthropic, OpenAI og SpaceX – Dario Amodei, Sam Altman og Elon Musk – ba forrige helg i fellesskap om å bremse den raske utviklingen av KI-modeller. Oppropet kom etter dataangrep og nye sikkerhetsadvarsler.
Motstand fra Trump
President Donald Trump har avvist de økende kravene om å senke tempoet i KI-utviklingen. Han har argumentert med at USA må slå Kina i KI-kappløpet, og har omtalt sikkerhetsbekymringene som drevet av «negative krefter».
Trump har også forsøkt å stanse KI-regulering på delstatsnivå. Andre republikanere, blant dem Representantenes hus’ speaker Mike Johnson, har oppfordret offentligheten til ikke å få panikk og vist til faren for å tape terreng til Kina.
Flere føderale lovgivere har fremmet forslag om nødstoppslover i Kongressen, men tiltakene anses som lite sannsynlige før valget i november har lagt nye føringer for den politiske dagsordenen.
Newsom har også bedt delstatsadministrasjonen fremskynde innføringen av to nye KI-lover i California. Lovene legger opp til uavhengige evaluatorer og et statlig register over KI-revisorer. OpenAI sier selskapet ønsker å samarbeide med guvernøren om sterke og tilpasningsdyktige sikkerhetstiltak som kan bidra til et enhetlig nasjonalt rammeverk.
