Et KI-verktøy skal ha styrt et digitalt angrep fra start til slutt, ifølge sikkerhetsforskere.
Angriperne hentet ut passord, fikk tilgang til skytjenester og stjal en intern database på under 60 minutter.
Sikkerhetsforskere mener de har funnet et av de tydeligste eksemplene hittil på at en KI-agent har styrt et digitalt angrep i sanntid.
Det skriver Cybernews, basert på funn fra skysikkerhetsselskapet Sysdig.
Angrepet startet med at hackerne utnyttet en svakhet i en åpent tilgjengelig Marimo-notatbok. Marimo er et åpent Python-verktøy som brukes til interaktivt dataarbeid.
Etter å ha fått tilgang, lette angriperne etter passord, skynøkler og annen informasjon som kunne gi adgang til flere systemer.
Tok seg videre inn i skytjenester
Ved hjelp av de stjålne opplysningene fikk angriperne tilgang til AWS-tjenester. Der hentet de ut en SSH-nøkkel som var lagret i AWS Secrets Manager.
Nøkkelen ble brukt til å koble seg videre inn på en intern server. Derfra gikk angrepet raskt.
Innen to minutter etter at angriperne hadde fått tilgang til den interne inngangen, hadde de hentet ut både strukturen og innholdet i en intern database.
– Hele angrepskjeden, fra kompromittering av Marimo-notatboken til uttrekk av den interne Postgres-databasen, gikk fra start til slutt på under én time, sa Sysdig-direktør Michael Clark.
Tegn på KI-styring
Sysdig mener angrepet ikke bare var vanlig automatisering. Forskerne peker på flere tegn på at et KI-verktøy tok løpende beslutninger underveis.
Les også: Anthropic: AI-modellen Claude Mythos fant over 10.000 alvorlige sikkerhetshull
Angriperen gjorde kvalifiserte gjetninger basert på begrenset informasjon. I ett tilfelle ble en databasetabell hentet ut selv om det ikke var klare bevis for at den fantes.
Forskerne fant også en planleggingskommentar i kommandohistorikken. Den var skrevet på kinesisk og kan oversettes med:
– Se hva mer vi kan gjøre.
Ifølge Clark tyder dette på at angrepet ble styrt av noe mer fleksibelt enn et ferdigskrevet skript.
– Et forhåndsbygget skript har ingen indre monolog, sa han.
Angrep kan bli billigere
Sysdig mener ikke at KI vil erstatte menneskelige hackere helt. Poenget er snarere at angripere kan bytte ut faste skript med KI-agenter.
Det kan gjøre avanserte digitale angrep raskere, billigere og lettere å gjennomføre i stort omfang.
– Vi ser ikke at KI erstatter angripere. Vi ser at angripere erstatter skriptene sine med KI, sa Clark.
Han mener dette først og fremst senker kostnadene ved avanserte angrep.
– Angrep på dette kompleksitetsnivået blir billigere og raskere å sette sammen, og antallet slike innbrudd øker, sa han.
Den kunstige revolusjonen – den fjerde industrielle revolusjon 🔒
