Kinesiske KI-programmer kan sende sensitive data til Beijing og utgjør en alvorlig sikkerhetsrisiko for demokratier, ifølge en ny rapport. Nå oppfordres Taiwan og allierte land til å forby slik teknologi og bli enige om felles spilleregler.
Kunstig intelligens utviklet med kinesisk finansiering kan brukes til å hente inn og videreformidle informasjon til kinesiske myndigheter, hevder en ny rapport fra Democracy, Society and Emerging Technology Research Institute. Rapporten ble lagt fram i Taipei onsdag.
Instituttet mener Taiwan og andre demokratier bør forby kinesiskfinansierte KI-modeller og etablere et felles system som hindrer at brukerdata sendes til Kina. Målet er å sikre samordnede regler og felles praksis, melder Taipei Times.
Sterk statlig innblanding
Leder for instituttets program for demokratisk styring, Huang Kai-shen, sier kinesisk KI i stor grad er rettet mot informasjonskontroll, styringsmodeller utviklet i Beijing og kommersiell utnyttelse av teknologien.
– Det høye nivået av statlig innblanding i kinesiske selskaper utgjør en betydelig og uunngåelig risiko for nasjonal sikkerhet for land som tar i bruk programvare utviklet der, sa Huang.
Han forklarte at Kina først utviklet og testet KI-løsninger for sitt eget marked, før eksporten skjøt fart i fjor.
Manglende rettsvern
Nestleder i programmet, Lai You-hao, mener Kinas satsing på globale markeder for KI viser et forsøk på å hente informasjon fra andre land.
– Det finnes ingen reelle juridiske eller rettslige garantier som beskytter brukere mot inngripende praksis fra kinesisk KI, sa Lai.
Les også: Den kunstige revolusjonen – den fjerde industrielle revolusjon 🔒
Han pekte på at KI-systemer kan trekke slutninger langt utover det brukeren selv oppgir. Som eksempel viste han til at et program kan utlede at en kvinne er gravid bare fordi hun søker etter uparfymert såpe.
Ifølge Lai kan informasjon ende opp i Kina ved at data lagres på servere der, deles som bedriftsfiler, eller fordi myndighetene krever innsyn.
Menneskerettigheter og beredskap
Liu I-chen fra menneskerettighetsorganisasjonen Article 19 advarte om at bruk av kinesiskutviklet KI kan undergrave grunnleggende rettigheter.
– Det er en reell fare for misbruk, sa hun.
Taiwans digitale sikkerhetsmyndigheter har allerede strammet inn. Ifølge Chou Chih-ho i landets cybersikkerhetsadministrasjon har det siden 2001 vært et generelt forbud mot at offentlige ansatte bruker kinesisk programvare, tjenester og maskinvare.
Professor Tu Yu-yin ved Tamkang-universitetet mener likevel at tekniske tiltak ikke er nok.
– Folk må være bevisste på hva de gjør på datamaskinene sine, sa hun, og etterlyste et uavhengig organ med ansvar for å beskytte personopplysninger.
