Kinas departement for statssikkerhet advarer om at kunstig intelligens kan true landets politiske og sosiale sikkerhet, blant annet gjennom påvirkningsoperasjoner, dataangrep og lekkasje av sensitiv informasjon.
Kortversjonen
- Kinas departement for statssikkerhet advarer om at kunstig intelligens utgjør en alvorlig trussel mot landets politiske sikkerhet.
- Myndighetene frykter at fiendtlige krefter vil bruke generativ teknologi til kognitiv krigføring og storskalapåvirkning.
- Bekymringen for digitale sårbarheter ventes å bli et sentralt tema under det kommende toppmøtet mellom USA og Kina.
Uttalelsen søndag er departementets første offentlige uttalelse om KI. Sikkerhetsminister Chen Yixin sa at generativ KI kan brukes til å spre politiske rykter og skadelig informasjon i stor skala, skriver Financial Times.
– Fiendtlige krefter og personer med onde hensikter misbruker generativ KI, som falsk lyd og video, KI-generert tekst og bilder og «intelligente trollhærer», for billig og i stor skala å fabrikere politiske rykter, spre skadelig informasjon og egge til splittelse, sa Chen.
Han sa videre at dette utgjør et angrep på opinionen og kognitiv krigføring mot Kina, og at det direkte truer landets politiske, institusjonelle og ideologiske sikkerhet.
Utvider den offentlige KI-debatten
Departementet pekte også på risiko for Kinas cyberforsvar, sensitive data og militære apparat. Uttalelsen signaliserer økende bekymring i Beijing for at den raske teknologiske utviklingen kan utnyttes mot landet.
Den offentlige diskusjonen om KI-sikkerhet i Kina har vanligvis vært ledet av landets nettregulator og i hovedsak dreid seg om regulering og tekniske spørsmål. Uttalelsen fra statssikkerhetsdepartementet innebærer dermed en betydelig utvidelse av myndighetenes offentlige debatt om temaet.
Les også: Kunstig intelligens er ikke en strategi
Chen advarte dessuten om at kinesiske selskaper kan lekke «sensitiv informasjon» ved å bruke utenlandske KI-verktøy. Advarselen kan varsle strengere begrensninger på bruk av utenlandske KI-modeller i følsomme sektorer.
Statsforetak og selskaper innen blant annet finans og helse har allerede begrensninger på bruk av utenlandsk teknologi, selv om håndhevingen varierer.
KI på agendaen mellom Kina og USA
Flere reguleringsmyndigheter, diplomater og akademikere som arbeider med teknologipolitikk og KI-styring, sier at Beijing er blitt mer bekymret for digitale sårbarheter. Bakgrunnen er blant annet framskritt hos Anthropic og OpenAI, der nye modeller har vist avanserte evner innen hacking.
Ifølge diplomatene og akademikerne har kinesiske tjenestepersoner de siste ukene også tatt opp KI-sikkerhet med amerikanske motparter og selskaper. I samtalene har de advart mot at Washington kan forby kinesiske modeller med åpen kildekode.
President Xi Jinping og USAs president Donald Trump skal møtes i USA senere denne måneden. KI-sikkerhet ventes å stå høyt på agendaen, ifølge kilden.
Den kinesiske uttalelsen inneholdt ikke advarsler om at KI kan føre til menneskehetens undergang, og ba heller ikke kinesiske selskaper om å bremse utviklingsarbeidet.
