Indonesiske myndigheter har midlertidig blokkert tilgang til KI-verktøyet Grok, som er knyttet til plattformen X. Årsaken er bekymring for spredning av pornofilmer laget med kunstig intelligens uten samtykke, inkludert materiale som kan ramme barn.
Indonesias departement for kommunikasjon og digitale saker har midlertidig stanset tilgangen til Grok, en KI-basert samtaletjeneste tilgjengelig via X. Myndighetene mener verktøyet har blitt misbrukt til å lage og spre falske pornofilmer, også kjent som deepfake-porno, melder Jakarta Globe.
Avgjørelsen ble tatt som et forebyggende tiltak for å beskytte kvinner, barn og allmennheten mot overgrep i det digitale rom, opplyste digitalminister Meutya Hafid lørdag.
– Regjeringen ser på pornofilmer laget uten samtykke som et alvorlig brudd på menneskerettigheter, verdighet og borgernes sikkerhet på nettet, sa hun i en uttalelse.
Krever svar fra X
I tillegg til å blokkere tilgangen har departementet kalt inn representanter for X til møte. Myndighetene vil ha en forklaring på hvordan Grok påvirker brukersikkerheten, og hvilke tiltak som finnes for å hindre misbruk.
– For å beskytte kvinner, barn og samfunnet mot risikoen ved falskt pornografisk innhold laget med KI, har regjeringen handlet bestemt ved å stanse tilgangen til Grok midlertidig, sa Hafid videre.
Hun advarte om at slike pornofilmer kan føre til alvorlige konsekvenser, blant annet ødelagt omdømme, psykiske belastninger og trusler mot personlig sikkerhet.
Viser til gjeldende lovverk
Departementet opplyser at stansen er gjort med hjemmel i et regelverk fra 2020 som gjelder private digitale plattformer. Reglene pålegger selskapene å sørge for at deres tjenester ikke brukes til å spre innhold som er forbudt etter indonesisk lov.
Tilgangen til Grok vil forbli stengt mens myndighetene vurderer forklaringene og eventuelle tiltak fra X. En eventuell gjenåpning avhenger av om plattformen kan dokumentere at brukerne blir bedre beskyttet.
Les også: Indonesias langvarige kamp mot islamismen 🔒
Trusler om straff
Seniorrådgiver Alexander Sabar i departementet understreket at både KI-selskaper og enkeltpersoner som lager eller sprer ulovlig innhold, kan bli straffet.
– Etter den nye straffeloven kan produksjon og spredning av pornografisk materiale gi fengselsstraff på inntil ti år, i tillegg til bøter, sa han.
Han oppfordret også ofre for deepfake-misbruk til å anmelde sakene til politiet.
Saken har allerede fått reaksjoner i offentligheten. Ledelsen i den populære jentegruppen JKT48 har advart om at de vil gå rettens vei mot alle som bruker Grok til å lage falske nakenbilder av medlemmene.
X, som eies av Elon Musks KI-selskap xAI, har tidligere lovet å slå ned på ulovlig innhold, blant annet ved å fjerne materiale, stenge kontoer og samarbeide med myndigheter.
Indonesia er et av X’ største markeder, med rundt 22,9 millioner brukere, ifølge tall fra analyseselskapet Statista.
Indonesias nye president: Generalen med en mørk fortid og autoritære trekk 🔒
