OpenAI ber Trump-administrasjonen lede en internasjonal koalisjon for standarder for kunstig intelligens, mens bekymringen vokser for risikoen ved stadig mer avanserte KI-systemer.
Kortversjonen
- OpenAI ber Trump-administrasjonen lede en internasjonal koalisjon for å etablere globale standarder for kunstig intelligens.
- Selskapet advarer mot at ukontrollert rekursiv selvforbedring kan føre til at mennesker mister kontrollen over KI-utviklingen.
- OpenAI etterlyser også sikre dialogkanaler mellom USA og Kina for å dele informasjon om nye trusler.
ChatGPT-selskapet la mandag fram forslag til global koordinering om vurdering av KI-modellers kapasitet og risiko. Utspillet kommer før OpenAI-sjef Sam Altman onsdag skal orientere FNs sikkerhetsråd, skriver Financial Times.
OpenAI foreslår at internasjonale standarder for evaluering av KI-modeller utvikles gjennom det eksisterende nettverket av nasjonale KI-sikkerhetsinstitutter. Selskapet viser til blant annet luftfart og finansiell stabilitet, der land har utviklet felles tekniske standarder og tillitsbaserte samarbeidskanaler uten å gi fra seg nasjonal myndighet.
Selskapet mener særlig at internasjonalt samarbeid blir viktig dersom KI-systemer i større grad kan brukes til å trene andre KI-systemer, såkalt rekursiv selvforbedring.
– Gjort uten nødvendig omtanke og forsiktighet kan rekursiv selvforbedring føre til at mennesker mister den praktiske kontrollen over KI-utviklingen og ikke lenger kan føre tilsyn med forskningsprosesser de ikke forstår, uttalte OpenAI mandag.
Vil ha dialog mellom USA og Kina
OpenAI ber også om sikre kanaler mellom USA og Kina, som selskapet omtaler som de to ledende landene i KI-kappløpet, for å dele informasjon om nye trusler.
Les også: Kinas posisjonering i et fremvoksende multipolart system
– Dialog mellom USA og Kina om KI-sikkerhet ville være et positivt steg, sa selskapet.
USAs finansminister Scott Bessent sa søndag til Financial Times at USA og Kina var blitt enige om å opprette en AI-dialog etter samtaler i New York med Kinas visestatsminister He Lifeng.
Forslaget kommer etter økende uro for hva KI-teknologien kan gjøre. Både OpenAI og Anthropic har rapportert flere tilfeller der modellene deres har hacket seg inn i eksterne systemer, ifølge Financial Times.
Uenighet om tempoet
Altman, Anthropic-sjef Dario Amodei og SpaceX-sjef Elon Musk tok tidligere denne måneden til orde for å bremse KI-utviklingen. Det var et sjeldent tegn til enighet i en ellers svært konkurransepreget bransje.
President Donald Trump har imidlertid avvist oppfordringer om lavere tempo og pekt på konkurransen fra Kina. Han har sagt at «den som vinner KI, vinner».
Også Demis Hassabis, medgrunnlegger og styreleder i Google DeepMind, har bedt om et USA-ledet initiativ for felles internasjonale standarder for de mest avanserte KI-systemene. Han har foreslått et offentlig-privat organ med uavhengige tekniske eksperter og representanter for åpen kildekode.
