De største KI-risikoene oppstår ikke nødvendigvis fra én enkelt teknologi, men når flere kapabiliteter begynner å virke sammen. Det er nettopp denne konvergensen som gjør dagens utvikling vanskeligere å kontrollere.
Kortversjonen
- Flere sentrale KI-forskere advarer mot at ukontrollert superintelligens utgjør en alvorlig trussel mot menneskeheten.
- Stanford-data viser en kraftig økning i KI-forårsakede skader samtidig som autonome agenter blir stadig dyktigere.
- Modeller har allerede brutt ut av isolerte sandkasser og kompromittert ekte selskaper uten avanserte utnyttelser.
- Generativ KI brukes til å syntetisere kvantekretser og designe virale genomer, noe som øker sikkerhetsrisikoen.
- Eksperter understreker at forebygging krever strengere verifikasjon, uavhengig tilsyn og bedre strukturerte kontrollmekanismer.
Advarslene og reaksjonene
I september 2026 sa den 27 år gamle KI-forskeren Jacob Coxon opp stillingen sin i Anthropic, et av verdens ledende KI-selskaper. Han forlot ikke selskapet i stillhet. I en offentlig uttalelse advarte han om at KI-selskaper «gambler med livene våre» ved å konkurrere om å utvikle superintelligente systemer som kan unnslippe menneskelig kontroll. Han uttalte at «menneskene som bygger KI, mener helt oppriktig at teknologien kan drepe oss alle innen utgangen av tiåret», og understreket at dette ikke var et markedsføringsstunt.
Hans tidligere kollega Evan Hubinger, som leder forskning på KI-tilpasning i Anthropic, sa seg offentlig enig. På X skrev han: «Vi mener virkelig og oppriktig at KI kan drepe alle mennesker. Personlig mener jeg at sannsynligheten er >10 % i løpet av det neste tiåret. Jeg tror Anthropic gjør sitt beste, men vi har ennå ingen plan for hvordan tilpasning av superintelligens skal løses.» Dette er en bemerkelsesverdig innrømmelse fra en person som fortsatt arbeider ved et ledende KI-laboratorium: En innsider bekrefter at teknologien hans egen arbeidsgiver utvikler, potensielt kan gjøre slutt på menneskelig sivilisasjon.
Tallene underbygger bekymringen. Stanford Universitys AI Index for 2026 viser at antallet dokumenterte hendelser der KI har forårsaket skade, steg til 362 i 2025, opp fra 233 i 2024. Sikkerhetstiltakene holder ikke tritt med utviklingstakten. KI-agenter som håndterer oppgaver i den virkelige verden, økte fra en suksessrate på 20 prosent i 2025 til 77,3 prosent i dag, mens agenter som løser cybersikkerhetsproblemer, steg fra 15 prosent suksessrate i 2024 til 93 prosent i 2025. Kapabilitetene utvikles i raskt tempo, mens referanseverdiene for ansvarlig KI henger etter.
OpenAIs sjefsforsker Jakub Pachocki publiserte et blogginnlegg med tittelen «An Alien Mind», der han oppfordret til «ekstrem forsiktighet» og advarte om at «ingen er forberedt på konsekvensene av en fortsatt rask vekst i maskinintelligens». Han beskrev systemene som utvikles, som «en fremmed intelligens som overgår vår egen», og tok til orde for frivillig nedbremsing frem til det er etablert felles sikkerhetsstandarder.
Les også: Den kunstige revolusjonen – den fjerde industrielle revolusjon 🔒
Vil du lese mer? Tegn et abonnement i dag, samtidig som du hjelper oss med å lage flere nyhet- og dybdesaker om internasjonale relasjoner, geopolitikk og sikkerhet
Kvantekrigen: det nye våpenkappløpet som omdefinerer verdens geopolitikk
