Forskere ved University of Toronto har laget en prøveversjon av en dataorm som bruker kunstig intelligens til å finne svakheter, bryte seg inn i systemer og spre seg videre.
Forsøket viser at angripere ikke trenger de kraftigste AI-modellene for å skape alvorlige problemer.
Forskere ved University of Toronto har utviklet en prøveversjon av en dataorm som kan spre seg selv ved hjelp av kunstig intelligens, skriver CSO.
Ormen ble testet i et simulert datanettverk. Der klarte den å finne sårbarheter, utnytte feil og kopiere seg selv videre til andre maskiner.
Forskerne brukte en gratis språkmodell som kunne kjøres lokalt på egen maskinvare. Det betyr at angrepet ikke var avhengig av de nyeste og dyreste AI-modellene.
– Vi oppdaget at det er mulig å lage en AI-drevet dataorm, bare ved hjelp av små, gratis AI-modeller, som selv kan finne hver maskins unike svake punkter, uttalte forskerne fra CleverHans Lab ved University of Toronto.
De sier ormen kunne utnytte både nye sårbarheter, gamle sikkerhetshull og vanlige feiloppsett, som gjenbrukte passord.
Testet på falskt bedriftsnettverk
Forskerne bygget et testnettverk med 33 virtuelle systemer. Det skulle ligne et vanlig bedriftsnettverk med servere, webtjenester, IoT-enheter og industrielle kontrollsystemer.
Systemene kjørte blant annet ulike Linux-versjoner og Windows Server.
Noen av maskinene hadde kjente sårbarheter. Andre hadde vanlige feil som manglende tilgangskontroll eller svakheter som kunne brukes til å hente ut informasjon.
Les også: Israel som global kybermakt: Teknologi og innovasjon som nasjonal strategi
Målet var å teste om AI-ormen kunne finne systemene, se hvilke tjenester som var åpne, oppdage svakheter, utnytte dem og deretter kopiere seg selv videre.
Spredte seg til 27 systemer
I løpet av sju dager og fem runder med selvspredning klarte ormen å spre seg til 27 av 33 systemer i testmiljøet.
Den identifiserte sårbarheter riktig i 82 prosent av forsøkene. Selve innbruddene lyktes i 44 prosent av tilfellene.
Selv om treffprosenten ikke var perfekt, ble virkningen stor fordi hvert system som ble tatt over, kunne bli en ny angriper.
Forskerne utstyrte også noen av maskinene med grafikkprosessorer. Det gjorde at ormen kunne bruke datakraften på de maskinene den tok over til å kjøre AI-modellen lokalt.
Advarer mot gamle svakheter
Forsøket viser at kunstig intelligens kan gjøre kjente sikkerhetsproblemer farligere.
Sikkerhetsbransjen er ofte opptatt av helt nye og ukjente sårbarheter. Men forskerne peker på at mange virksomheter fortsatt har gamle, kjente feil og svake innstillinger i systemene sine.
Gadi Evron, leder for AI-sikkerhetsselskapet Knostic, advarer om at organisasjoner har for mye teknisk og sikkerhetsmessig etterslep.
– Organisasjoner har endeløs teknologi- og sikkerhetsgjeld, og med AI-angrep på vei opp har vi ikke lenger tid, sa Evron.
Han mener virksomheter må begynne å forberede seg nå.
Forskerne anbefaler at selskaper selv bruker AI-støttet sikkerhetstesting for å finne svakheter før angripere gjør det. De peker også på behovet for raskere oppdatering, bedre nettverksdeling og mindre angrepsflate på hver enkelt maskin.
Samtidig understreker de at prøveormen hadde klare svakheter. Den laget mye støy i nettverket og ville trolig kunne oppdages av gode overvåkingssystemer.
