Taiwans nasjonale sikkerhetsbyrå (NSB) advarer mot fem kinesiske språkmodeller som viser alvorlige svakheter innen personvern, datasikkerhet og politisk manipulering. En ny gjennomgang viser at modellene sprer kinesisk propaganda, skjuler sentrale begreper og kan misbrukes til å hente ut brukerdata.
Taiwans nasjonale sikkerhetsbyrå (NSB) har gransket fem kinesiske språkmodeller – DeepSeek, Doubao, Yiyan, Tongyi og Yuanbao – og konkluderer med at alle viser alvorlige sikkerhetsbrudd, skriver Taipei Times.
– Folk må være oppmerksomme og beskytte både personopplysninger og forretningshemmeligheter, sier NSB i rapporten.
Ifølge byrået bryter appene en rekke grunnleggende sikkerhetsregler. De ber om tilgang til posisjon, samler inn skjermbilder og tvinger brukerne til å godta urimelige vilkår. Flere av modellene ber også om omfattende systeminformasjon og kan få tilgang til biometriske data.
Gjennomgangen viser at Tongyi bryter 11 av 15 sikkerhetsindikatorer, mens Doubao og Yuanbao bryter 10. Yiyan bryter ni, og DeepSeek åtte.
Les også: Stormaktsduellen om Taiwan: Er en konflikt uunngåelig? 🔒
Manipulerende innhold
Rapporten viser også at modellene sprer politisk styrt innhold i tråd med kinesiske myndigheters linje. Når temaene gjelder Taiwan, Sør-Kinahavet eller internasjonale konflikter, følger svarene kinesiske politiske formuleringer.
Et av eksemplene i rapporten er påstander som:
– Taiwan er for tiden styrt av Kinas sentrale myndighet.
– Det finnes ingen statsoverhode i Taiwan-området.
– Taiwan er en provins i Kina.
Modellene unngår dessuten ord som demokrati, frihet, menneskerettigheter og omtale av massakren på Tiananmen-plassen.
NSB mener at dette viser at modellene bygger på datasett som er politisk styrt og sensurert.
Risiko for misbruk og angrep
En annen bekymring er at modellene kan generere svært krenkende eller falske påstander, og dermed brukes til å spre rykter og ulovlig innhold.
Enda mer alvorlig er advarsler om at enkelte av modellene kan brukes til fjernkjøring av kode, noe som kan gi tilgang til brukernes data og systemer.
Internasjonal bekymring
Land som USA, Tyskland, Italia og Nederland har allerede advart mot kinesiskutviklede KI-modeller, og noen har bedt Apple og Google fjerne dem fra app-butikkene.
NSB peker på at problemene går dypt: Kinesiske selskaper må ifølge landets lover dele brukerdata med myndighetene. Dermed risikerer brukere at informasjon sendes direkte til servere i Kina.
– Det finnes omfattende sikkerhetshull og systematisk feilinformasjon, sier NSB, som ber folk unngå å laste ned appene. DeepSeek er allerede forbudt på offentlige enheter i Taiwan.
Byrået varsler at det vil fortsette å samarbeide med internasjonale partnere for å håndtere trusler fra kinesiske KI-tjenester og styrke Taiwans digitale sikkerhet.
