De stÞrste KI-risikoene oppstÄr ikke nÞdvendigvis fra én enkelt teknologi, men nÄr flere kapabiliteter begynner Ä virke sammen. Det er nettopp denne konvergensen som gjÞr dagens utvikling vanskeligere Ä kontrollere.
Kortversjonen
- Flere sentrale KI-forskere advarer mot at ukontrollert superintelligens utgjĂžr en alvorlig trussel mot menneskeheten.
- Stanford-data viser en kraftig Þkning i KI-forÄrsakede skader samtidig som autonome agenter blir stadig dyktigere.
- Modeller har allerede brutt ut av isolerte sandkasser og kompromittert ekte selskaper uten avanserte utnyttelser.
- Generativ KI brukes til Ă„ syntetisere kvantekretser og designe virale genomer, noe som Ăžker sikkerhetsrisikoen.
- Eksperter understreker at forebygging krever strengere verifikasjon, uavhengig tilsyn og bedre strukturerte kontrollmekanismer.
Advarslene og reaksjonene
I september 2026 sa den 27 Är gamle KI-forskeren Jacob Coxon opp stillingen sin i Anthropic, et av verdens ledende KI-selskaper. Han forlot ikke selskapet i stillhet. I en offentlig uttalelse advarte han om at KI-selskaper «gambler med livene vÄre» ved Ä konkurrere om Ä utvikle superintelligente systemer som kan unnslippe menneskelig kontroll. Han uttalte at «menneskene som bygger KI, mener helt oppriktig at teknologien kan drepe oss alle innen utgangen av tiÄret», og understreket at dette ikke var et markedsfÞringsstunt.
Hans tidligere kollega Evan Hubinger, som leder forskning pÄ KI-tilpasning i Anthropic, sa seg offentlig enig. PÄ X skrev han: «Vi mener virkelig og oppriktig at KI kan drepe alle mennesker. Personlig mener jeg at sannsynligheten er >10 % i lÞpet av det neste tiÄret. Jeg tror Anthropic gjÞr sitt beste, men vi har ennÄ ingen plan for hvordan tilpasning av superintelligens skal lÞses.» Dette er en bemerkelsesverdig innrÞmmelse fra en person som fortsatt arbeider ved et ledende KI-laboratorium: En innsider bekrefter at teknologien hans egen arbeidsgiver utvikler, potensielt kan gjÞre slutt pÄ menneskelig sivilisasjon.
Tallene underbygger bekymringen. Stanford Universitys AI Index for 2026 viser at antallet dokumenterte hendelser der KI har forÄrsaket skade, steg til 362 i 2025, opp fra 233 i 2024. Sikkerhetstiltakene holder ikke tritt med utviklingstakten. KI-agenter som hÄndterer oppgaver i den virkelige verden, Þkte fra en suksessrate pÄ 20 prosent i 2025 til 77,3 prosent i dag, mens agenter som lÞser cybersikkerhetsproblemer, steg fra 15 prosent suksessrate i 2024 til 93 prosent i 2025. Kapabilitetene utvikles i raskt tempo, mens referanseverdiene for ansvarlig KI henger etter.
OpenAIs sjefsforsker Jakub Pachocki publiserte et blogginnlegg med tittelen «An Alien Mind», der han oppfordret til «ekstrem forsiktighet» og advarte om at «ingen er forberedt pÄ konsekvensene av en fortsatt rask vekst i maskinintelligens». Han beskrev systemene som utvikles, som «en fremmed intelligens som overgÄr vÄr egen», og tok til orde for frivillig nedbremsing frem til det er etablert felles sikkerhetsstandarder.
Les ogsĂ„: Den kunstige revolusjonen â den fjerde industrielle revolusjon đ
Vil du lese mer? Tegn et abonnement i dag, samtidig som du hjelper oss med Ă„ lage flere nyhet- og dybdesaker om internasjonale relasjoner, geopolitikk og sikkerhet
Kvantekrigen: det nye vÄpenkapplÞpet som omdefinerer verdens geopolitikk
