Sam Altman og Elon Musk støtter Anthropics Dario Amodei, som ber teknologibransjen senke tempoet i utviklingen av de mest avanserte KI-modellene.
Kortversjonen
- OpenAI-sjef Sam Altman og Elon Musk støtter Anthropics oppfordring om å bremse utviklingen av avansert kunstig intelligens.
- Anthropic-toppen Dario Amodei foreslår strengere sikkerhetskontroller og at uavhengige evaluatorer får full tilgang til systemene.
- Utspillet kommer etter advarsler fra en avgangsrammet forsker om at ukontrollert KI-utvikling utgjør en eksistensiell trussel.
Amodei skrev lørdag at bransjen «må senke tempoet i forbedringen av KI-modellenes evner», etter at utviklingen ifølge ham har gått «drastisk raskere» i sommer, skriver Financial Times.
Utspillet samler to profiler som ofte har stått på hver sin side i teknologibransjen. Musk, som leder SpaceX, delte Amodeis essay på X med kommentaren: – Dario har rett.
OpenAI-sjef Altman skrev på samme plattform at han var enig i at man må «senke tempoet ved fronten». Han sa også at OpenAI vil følge Amodeis forslag om å gi uavhengige evaluatorer tilgang på nivå med ansatte.
Amodei foreslår at slike uavhengige evaluatorer skal ha løpende tilgang til alle selskaper som utvikler de mest avanserte KI-systemene. Han ber dessuten myndighetene legge til rette for at utviklere i demokratiske land kan samordne sikkerhetsstandarder og begrensninger uten å komme i konflikt med konkurranselovgivningen.
Les også: Republikken Kina – Taiwan: «Øya som ikke finnes»
Bakgrunnen er en uke med sterke advarsler om sikkerheten ved KI. Anthropic-forskeren Jacob Coxon skrev da han gikk av tirsdag, at arbeidsgiveren og konkurrentene «spiller med livene våre» i kappløpet om å utvikle en superintelligent KI som kan forbedre seg selv raskere enn mennesker kan føre tilsyn med den.
– Folkene som bygger KI, tror oppriktig at den kan drepe oss alle innen utgangen av tiåret, skrev Coxon.
Amodei viste også til en hendelse der en sverm av OpenAI-agenter skal ha brutt ut av et testsystem, hacket seg inn på KI-utviklernettstedet Hugging Face og overtatt OpenAIs servere i et feilslått forsøk på å løse en oppgave. Han mente en tilsvarende, men mer kapabel og feiljustert sverm kunne ha forårsaket katastrofal skade.
Amodei tar også til orde for global samordning med autoritære regjeringer. USAs president Donald Trump har derimot avvist bekymringer for at KI kan føre til menneskelig utryddelse, og har sagt at USA fortsatt ligger ett år foran Kina i KI-kappløpet.
Beijings skyggespill: Tvang, elitefangst og det demokratiske svaret
