Kinesiske KI-chatboter anbefalte produkter som ikke finnes. Nå advarer eksperter mot skjult reklame og manipulert innhold.
Brukere i Kina fikk nylig anbefalt et «smart» armbånd som ikke eksisterer da de spurte KI-chatboter om kjøpstips. Avsløringen kommer etter en gransking fra statlig TV, skriver The Strait Times.
Det oppdiktede armbåndet «Apollo 9» ble beskrevet med egenskaper som ikke gir mening. Likevel dukket det opp som anbefaling i flere KI-tjenester.
– Manipulering av anbefalinger har alltid vært et problem, fordi søkeresultater påvirker hva folk velger å kjøpe, sier Qing Xiao, doktorgradsstudent innen kunstig intelligens.
Skjult reklame i svarene
Ifølge kinesisk statlig TV ble teksten om armbåndet lagt ut med vilje for å påvirke hva KI-systemene foreslår.
Metoden kalles «dataforgiftning», der falsk eller villedende informasjon spres for å styre svarene brukerne får. Resultatet er at folk i praksis får reklame uten å vite det.
– Særlig på smale temaer, der KI har lite informasjon, er det lett å påvirke hva som dukker opp, sier Xiao.
Avsløringen ble vist under det årlige TV-programmet «315 Gala», som tar opp saker om forbrukerrettigheter i Kina.
Vanskelig å skille sant fra usant
Selv etter at saken ble kjent, fortsatte noen chatboter å anbefale det falske produktet en stund. Det tyder på at systemene ikke raskt klarer å skille mellom riktig og feil informasjon.
Samtidig vokser en bransje som jobber med å få innhold til å dukke opp i KI-svar. Dette gjøres ved å lage store mengder tekst som KI lett plukker opp.
Les også: Studie: Kunstig intelligens foretrekker bitcoin fremfor tradisjonelle penger
I noen tilfeller har selskaper betalt for slike tjenester for å komme øverst i anbefalinger.
– I motsetning til vanlig reklame, framstår dette som nøytrale svar, sier professor Xie Yongjiang.
– Det gjør at brukerne ikke forstår at de blir påvirket.
Tillit under press
Eksperter mener det trengs strengere regler og bedre kontroll for å hindre spredning av falsk informasjon.
Samtidig sier forsker Manoj Harjani at problemet ikke bare handler om hvor mye KI brukes, men også hvilke regler som finnes.
Flere brukere har blitt mer skeptiske etter avsløringen. Likevel fortsetter mange å bruke KI som et hjelpemiddel.
Lily Li (45) fra Beijing bruker fortsatt slike tjenester i jobben sin, men dobbeltsjekker informasjonen.
– KI er et verktøy som kan brukes på både gode og dårlige måter, sier hun.
– Andre vil også prøve å tjene penger på det på ulike måter.
Den kunstige revolusjonen – den fjerde industrielle revolusjon 🔒
