En advarsel fra en forsker som slutter i Anthropic, har økt presset i Kongressen for å regulere stadig mer avanserte KI-modeller.
Kortversjonen
- En tidligere forsker i Anthropic advarer om ukontrollerbare KI-modeller, noe som øker presset på den amerikanske Kongressen.
- Flere politikere fremmer forslag om en ny føderal tilsynsmyndighet, nødstanser og et mulig forbud mot superintelligens.
- Tverrpolitiske forslag retter seg mot katastrofale risikoer, og utviklere kan bli pålagt å teste modellenes sikkerhet.
- Politiske uenigheter, tidsnød og en fastlåst Kongress gjør det imidlertid usikkert om nye lover vil bli vedtatt raskt.
WASHINGTON – Etter flere år med begrensede tiltak fremmer amerikanske politikere nå en rekke forslag for å håndtere risikoen ved kunstig intelligens. Bakgrunnen er blant annet en advarsel fra Jacob Coxon, en forsker som slutter i KI-selskapet Anthropic. Han har advart om at selskapet og konkurrentene utvikler systemer de ikke vil kunne kontrollere, skriver Wall Street Journal.
Ro Khanna, demokratisk representant fra California, tok onsdag til orde for en ny føderal tilsynsmyndighet for KI, etter modell av myndighetene som regulerer kjernekraft og luftfart. Han støttet også såkalte nødstanser som kan slå av KI-systemer dersom de opptrer farlig.
Demokratene vurderer dessuten å opprette en egen KI-komité i Representantenes hus dersom de får flertall etter mellomvalget, opplyser personer med kjennskap til planene til Wall Street Journal. Ted Lieu og Bill Foster skal ha diskutert muligheten med demokratenes mindretallsleder Hakeem Jeffries.
Vil teste modellene
Senator Bernie Sanders skriver at Kongressen ligger langt bak i arbeidet med å møte konsekvensene av den raskt utviklende og farlige teknologien. Han har invitert andre folkevalgte til en lukket orientering om KI-risiko neste uke. Sanders og andre progressive politikere arbeider for et forbud mot såkalt superintelligens, altså KI som er smartere enn de mest intelligente menneskene.
Også republikaneren Ted Cruz og demokraten Amy Klobuchar har uttrykt håp om fremdrift for et tverrpolitisk lovforslag. Klobuchars forslag skal rette seg mot katastrofale risikoer knyttet til atomvåpen eller biologiske trusler som KI kan muliggjøre. Utviklere vil etter planen måtte samarbeide med offentlige eksperter om å kontrollere og teste at modellene er sikre.
– Det er klart at vi må handle nå og ikke vente, sa Klobuchar. Cruz omtalte på sin side utviklingen som «skremmende saker» i et intervju med ABC.
Usikkert om lovene kommer
Flere andre forslag er også kommet denne uken. Den republikanske representanten Anna Paulina Luna har foreslått en ekstraordinær kongressamling om KI, mens senator Chris Van Hollen ber om en rask dialog med Kina om sikkerhetsregler og testregimer før samtaler mellom landene senere denne måneden.
Det er likevel lite som tyder på at en fastlåst Kongress raskt vil vedta de første føderale lovene som regulerer KI-modeller. Tidligere forsøk på å samordne KI-politikken gjennom arbeidsgrupper og komiteer har ikke ført til mer enn grunnleggende forslag og veikart. Politikerne er dessuten uenige om hvor strenge begrensningene bør være, og har begrenset tid før mellomvalget.
Teknologibransjen forsøker samtidig å påvirke regelverket. OpenAI sier selskapet vil samarbeide med Kongressen, mens Anthropic tidligere har sagt at selskapets arbeid med politikk og sikkerhet er oppriktig, og at KI-risikoen er reell. Andre selskaper har offentlig ønsket tilsyn velkommen, men har også advart mot regler de mener blir for byrdefulle.
Cruz og Det hvite hus’ KI-rådgiver David Sacks har stilt spørsmål ved om Coxon samarbeidet med organisasjoner som støtter liberale saker og advarer mot at KI kan ødelegge sivilisasjonen. Coxon har avvist dette og sagt at beslutningen om å slutte i Anthropic var hans egen.
