En 17-åring fra New Jersey går til søksmål mot selskapet bak et AI-verktøy som lager falske nakenbilder av mindreårige og voksne uten samtykke.
En tenåringsjente fra New Jersey har saksøkt selskapet AI/Robotics Venture Strategy 3 Ltd., utvikleren av programmet ClothOff, for å ha muliggjort spredning av manipulerte nakenbilder laget med kunstig intelligens. Bildet av henne ble angivelig hentet fra sosiale medier og forvandlet til et falskt nakenbilde av en medelev, skriver Wall Street Journal.
Søksmålet, som er reist av en jusprofessor fra Yale sammen med studenter og en advokat, beskrives som et forsøk på å konfrontere en ny type digital overgrepstrussel mot unge.
Skolen ble tidlig rammet
Vestfield High School i New Jersey var en av de første skolene som oppdaget problemet. Allerede for to år siden ble flere jenter utsatt for at en gutt brukte bilder fra sosiale medier til å lage AI-genererte nakenbilder, som deretter ble delt i chatte-grupper.
– Hun lever i konstant frykt for at bildene fortsatt finnes på nettet, heter det i klagen.
Ifølge søksmålet viser jentenes ekte ansikter tydelig på de manipulerte bildene, og handlingen omtales som produksjon av overgrepsmateriale mot barn.
Les også: Kina satser på praktisk kunstig intelligens – USA jager drømmen om «supermaskiner»
Ber retten stanse nettstedet
Den 17 år gamle jenta ber retten pålegge ClothOff å slette alle bilder av barn og voksne som ikke har gitt samtykke, og forby bruk av slike bilder i videre AI-trening. Hun krever også at nettstedet fjernes helt fra nettet.
Selskapet bak ClothOff er registrert på De britiske Jomfruøyer og antas å bli drevet fra Belarus, ifølge gruppen fra Yale. På sine nettsider hevder utvikleren at det er «umulig» å behandle bilder av mindreårige og at forsøk på det fører til utestengelse.
– Å bruke kunstig intelligens til å lage «deepnude»-bilder reiser alvorlige etiske spørsmål, skriver selskapet, og oppfordrer brukere til «ansvar og respekt for privatliv».
Et lovtomt rom
USA har nylig innført Take It Down Act, en føderal lov som gjør det straffbart å publisere intime bilder uten samtykke – enten de er ekte eller AI-lagde – og som krever at nettsteder fjerner slikt materiale innen 48 timer etter varsel.
Til tross for lovverket sprer lenker til ClothOff seg fortsatt på mørke nettfora. Flere omtaler verktøyet som en metode for å lage og vise barnepornografisk innhold, ifølge Wall Street Journal.
Kamp mot digitale overgrep
San Franciscos byadvokat David Chiu saksøkte i fjor eierne av de 16 mest besøkte «deepfake-pornonettstedene», inkludert ClothOff.
– Vi vil ikke stoppe før alle eierne blir holdt ansvarlige, sa Chiu, og opplyste at søksmålet allerede har ført til at nesten et dusin slike nettsteder er stengt.
