Selskapet bak KI-modellen Claude mener KI-agenter kan være måneder unna å kunne spre seg selv mellom vanlige, internettkoblede enheter i hjem og bedrifter.
Kortversjonen
- Anthropic advarer om at autonome kunstige intelligenser snart kan få evnen til å spre seg selv som dataormer.
- Slike selvreplikerende systemer utgjør en trussel mot dårlig sikret forbrukerelektronikk og smarthusutstyr i hjem og bedrifter.
- Selskapet understreker at teknologien ikke er fullt utviklet ennå, men ber om bedre sikring før den tid kommer.
Anthropic advarer om at slike «KI-ormer» på sikt kan overta smarthusutstyr som ovner og TV-er og danne nettverk av KI-agenter som kan bli vanskelige å kontrollere, skriver Financial Times.
I et forskningsinnlegg skriver det San Francisco-baserte selskapet at KI-modeller, dersom utviklingen fortsetter i dagens tempo, kan få evnen til å spre seg på internett på samme måte som dataormer. Slike programmer kan kopiere seg selv og spre seg fra én enhet til en annen uten menneskelig inngripen.
– Vi ser tegn til liv for KI-ormer, skriver Anthropic. Selskapet sammenligner den foreløpig langsomme spredningen over usikre enheter med «digitalt slimsopp».
Advarselen gjelder særlig tingenes internett, altså nettverkstilkoblede produkter som styrer blant annet lys, stikkontakter, termostater og sikkerhetssystemer. Slike enheter har lenge hatt svak sikkerhet, ifølge Anthropic, blant annet fordi de er billig produsert, brukes til ulovlig TV-strømming eller fordi selskapene som utviklet dem, er gått konkurs.
Det gjør utstyret til et attraktivt mål for hackere, som allerede bruker KIs evne til å skrive kode for å gjøre angrep raskere og mer målrettede. Dataormer har lenge vært en effektiv metode for å spre skadevare raskt i store nettverk.
Les også: Utholdenhet som våpen: hvordan Iran former moderne krigføring
KI-drevne ormer vil ifølge Anthropic kunne kombinere denne evnen til å spre seg selv med KI-modellenes mer avanserte ferdigheter. Selskapet tror det vil komme en framtid med agenter på mange typer maskinvare, også enheter som ikke er under menneskelig kontroll.
– Selv om enheter i tingenes internett har vært sårbare lenge, kan lette agenter være langt mer villige enn menneskelige angripere til å legge ned arbeidet som kreves for å kompromittere store deler av verdens datakraft i tingenes internett, skriver Anthropic.
I starten kan slike KI-ormer spre seg sakte, over flere dager, sammenlignet med slimsopp eller en sverm av bananfluer, ifølge selskapet. Spredningen kan imidlertid øke i takt med at forbrukerelektronikk blir kraftigere og modellene mer effektive.
Anthropic understreker at det ennå ikke finnes en fullt utviklet, ukontrollerbar selvreplikerende KI-agent. Men agentene blir stadig bedre til å gjennomføre de enkelte leddene som kreves for å kopiere og spre seg, skriver selskapet. Derfor bør systemene sikres bedre, samtidig som man må forberede seg på at slike aktører kan bli værende.
