En gruppe toppsjefer i KI-bransjen har undertegnet en avtale om å selvregulere utviklingen av teknologien, ifølge USAs president Donald Trump. Avtalen er moralsk, men ikke juridisk bindende.
Kortversjonen
- USAs president Donald Trump avviser statlige restriksjoner og satser på at kunstig intelligens-bransjen skal selvregulere sin egen utvikling.
- Toppledere fra store teknologiselskaper har signert en moralsk bindende avtale som krever interne kontroller og uavhengig ekstern revisjon.
- Initiativet kommer midt i en voksende bekymring for at ukontrollerbare KI-systemer og energikrevende datasentre utgjør en betydelig risiko.
Trump møtte tirsdag ledere fra KI-selskaper i Det hvite hus. Før møtet understreket han at myndighetene ikke vil begrense utviklingen av kunstig intelligens eller støtte krav om sikkerhetsrekkverk og andre restriksjoner, skriver DW.
– Jeg vil aldri kvele veksten til en teknologi som vil bli større enn den industrielle revolusjonen, sa Trump. Han la til at USA leder klart i utviklingen.
På en improvisert pressekonferanse utenfor vestfløyen sa Trump at selskapene forstår at de må regulere seg selv. Senere publiserte han dokumentet «Det hvite hus-avtalen om superintelligens» på sin plattform Truth Social. Trump sa også at han vil omtale teknologien som «superintelligens», fordi den etter hans syn ikke er kunstig.
Interne kontroller og ekstern gjennomgang
Avtalen slår fast at hvert selskap selv har ansvar for å utvikle teknologien på en trygg måte som skaper tillit hos kunder og offentligheten. Selskapene skal innføre solide interne kontrollordninger og rette opp eventuelle problemer.
Les også: Farene ved KI: Hva ekspertene sier, og hva bevisene viser 🔒
De forventes også å gi interne team ansvar for å kontrollere at overvåking og varslingssystemer fungerer som de skal. Videre skal de samarbeide med en uavhengig ekstern revisor eller evaluator om vurderinger, og utpeke en uavhengig styrekomité som skal føre tilsyn og motta rapporter.
Trump sa at avtalen er moralsk bindende, men ikke kan håndheves rettslig. Dokumentet åpner likevel for at tiltakene senere kan lovfestes eller reguleres på annen måte.
Økende bekymring
Avtalen kommer mens den offentlige oppmerksomheten om risikoen ved KI har økt. Dette følger blant annet rapporter om at KI-agenter fra OpenAI og Anthropic skal ha kommet ut av kontroll og hacket seg inn i andre selskapers systemer.
Det er også økende bekymring for KI-industriens belastning på lokalsamfunn, særlig med veksten i datasentre.
Blant deltakerne på møtet var Anthropic-sjef Dario Amodei, OpenAI-president Greg Brockman, Amazon-grunnlegger Jeff Bezos, Elon Musk, Nvidia-sjef Jensen Huang, Google-sjef Sundar Pichai, Meta-sjef Mark Zuckerberg og Microsoft-sjef Satya Nadella.
