Politiet mistenker at 17-åringen laget og forsøkte å selge falske nakenbilder av mindreårige jenter ved hjelp av kunstig intelligens.
Politiet i Valencia-området i Spania etterforsker en 17 år gammel gutt som skal ha brukt kunstig intelligens til å lage falske nakenbilder av sine kvinnelige skolekamerater. Ifølge The Guardian oppdaget politiet aktiviteten etter at en jente meldte fra om en falsk konto i hennes navn.
Etterforsket for å ha forfalsket og solgt bilder av mindreårige
Etterforskningen begynte i desember i fjor da en jente rapporterte at en konto på sosiale medier brukte navnet hennes og inneholdt en AI-generert video. Flere bilder av mindreårige jenter dukket opp på kontoen.
– Bildene var blitt manipulert slik at personene fremsto som helt nakne, sa Guardia Civil i en uttalelse.
Jenta meldte fra om en ny konto, og politiet oppdaget også andre kontoer og en nettside som reklamerte for bildene. Til sammen kom 15 andre jenter med lignende meldinger. Mistanken falt da på en av jentenes egne klassekamerater.
Les også: Kunstig intelligens og kvinner i fokus under Nato-toppmøtet
Sporene ledet til skolekameratens hjem
Etterforskningen tok fart da politiet begynte å kontakte nettsider og selskaper som tilbyr KI-bildemanipulering.
– Etterforskere hentet ut informasjon om brukere og IP-adresser fra plattformene, og sporene ledet dem til hjemmet til en skolekamerat av en av jentene, uttalte Guardia Civil.
E-postadressene brukt til å opprette kontoene var knyttet til samme person. Gutten er nå under etterforskning for å ha fordervet mindreårige. En ungdomsdomstol i Valencia behandler saken.
Tidligere dom mot gruppe tenåringer
Dette er ikke første gang slike saker ryster Spania. I fjor ble 15 tenåringsgutter i Extremadura dømt til ett års prøvetid for å ha laget KI-genererte nakenbilder av sine kvinnelige medelever. Bildene ble delt i WhatsApp-grupper.
De dømte ble også pålagt å delta i undervisning om likestilling og ansvarlig bruk av teknologi.
– Det er bevist at de brukte kunstig intelligens til å sette jentenes ansikter, hentet fra sosiale medier, på bilder av nakne kvinnekropper, sa retten i en uttalelse.
Rop om bedre seksualundervisning
Organisasjonen Malvaluna, som representerte jentenes familier, sa at saken hadde større betydning enn enkeltpersoners skyld.
– Dette bør få oss til å tenke over behovet for å lære unge om likestilling mellom kjønnene, sa de til nettavisen ElDiario.es.
De la til at god seksualundervisning er avgjørende for å hindre at barn lærer om sex gjennom porno, som «fører til mer sexisme og vold».
Spanske myndigheter jobber nå med et lovforslag som skal gjøre det straffbart å bruke KI til å lage seksuelt innhold uten samtykke, og å kontakte mindreårige med seksuelle hensikter på nettet.
Taiwanere stoler mer på kunstig intelligens enn på mennesker
