Kinesiske militærforskere har brukt resultater fra KI-modeller utviklet av OpenAI og Anthropic til å lære opp egne systemer for forsvarsformål, ifølge en Reuters-gjennomgang av over 80 kinesiske forskningsartikler og patenter.
Dokumentene gir ifølge Reuters innblikk i hvordan institusjoner med tilknytning til Folkets frigjøringshær og andre militære miljøer bruker amerikanske modeller for å utvikle mindre, spesialiserte systemer som kan kjøres lokalt, skriver Defense News.
Metoden kalles modell-destillasjon. Den går ut på at resultatene fra en kraftig modell brukes til å trene opp en mindre modell for bestemte oppgaver. Slike modeller krever langt mindre datakraft enn det som trengs for å utvikle de mest avanserte KI-systemene fra bunnen av.
Reuters’ gjennomgang, som også bygger på materiale samlet inn av den Washington-baserte Jamestown Foundation, viser at metoden er utbredt blant forskere med militær tilknytning. Dokumentene tyder på at forsvarsinstitusjonene ser amerikanske KI-modeller både som en kilde til teknisk innsikt og som en mulighet til å redusere avstanden til amerikanske konkurrenter.
– Disse artiklene viser at militærtilknyttede kinesiske forskere forsøker å overføre den kostbare, proprietære resonneringen fra vestlige modeller til mindre systemer de kan kontrollere og bruke lokalt, sier Sunny Cheung, forsker ved Jamestown Foundation, til Reuters.
Et eksempel er en artikkel publisert i fjor av forskere ved PLA-enhet 96941, en militær etterretnings- og cyberkrigføringsenhet i Beijing. Forskerne beskrev hvordan de brukte OpenAIs GPT-3.5 til å oppsummere sensitiv militær programkode. Oppsummeringene ble deretter brukt til å trene en kinesisk modell som kunne kjøres utelukkende i militære nettverk.
Les også: Etter nederlaget mot Israel – ny doktrine for Hizbollahs cyberkrigføring? 🔒
Andre studier omhandler blant annet overvåking av innhold i sosiale medier og militær bruk. Forskere ved North University of China, som har nære bånd til landets våpenindustri, brukte Anthropic-modellen Claude 3 Haiku til å lage syntetiske treningsdata for en tekstklassifiseringsmodell for innholdsmoderering.
En artikkel fra 2024, skrevet av forskere ved Folkets frigjøringshærs nasjonale universitet for forsvarsteknologi, beskriver hvordan en bildebehandlingsmodell ble gjort mindre for bruk på droner. Målet var at dronene skulle kunne analysere direkte video og støtte navigasjon og målutvelgelse også når kommunikasjonen er brutt. En annen studie omtalte målgjenkjenning på taktisk utstyr under simulerte maritime operasjoner med droner, skip og ubemannede ubåter.
USA har anklaget enkelte kinesiske aktører for å bruke destillasjon til å hente ut egenskaper fra amerikanske modeller, noe som ifølge amerikanske myndigheter kan undergrave eksportkontroll og krenke immaterielle rettigheter. Kina avviser anklagene og mener Washington driver med KI-«hegemoni».
Anthropic opplyser at selskapet ikke tilbyr kommersiell tilgang til Claude i Kina eller til selskaper kontrollert av Beijing. Selskapet advarer også om at destillerte modeller kan miste de opprinnelige modellenes sikkerhetsmekanismer. Eksperter understreker samtidig at mindre modeller bare overtar utvalgte egenskaper og ikke kan kopiere den brede kapasiteten til de mest avanserte systemene fullt ut.
Kinas militærmakt: mellom globale ambisjoner og strukturelle begrensninger 🔒
