Kunstig intelligens misbruges til at skabe overgrebsmateriale
Børn bliver dagligt ofre for en voksende digital svinestreg. Pornografiske deep-fake-videoer – hvor billeder af mindreårige manipuleres til seksuelt materiale ved hjælp af kunstig intelligens – spredes i reklamer på Metas sociale medier-platforme, viser en undersøgelse fra DR.
Billederne manipuleres uden tilladelse. Børnenes ansigter sættes ind i seksuelt eksplicitte scenarier, helt uden deres eller deres forældres viden. Og værre endnu: de falske videoer bruges som direkte marketingmateriale for såkaldte ‘nudify-apps’, der gør det muligt for hvem som helst at omdanne normale fotografier til pornografi.
Et dansk barn er blandt ofrene. Det viser DR’s dokumentation, som er udført sammen med organisationen Red Barnet.
Fire børn blev fundet på Meta-platforme
DR og Red Barnet har undersøgt i alt ni mistænkte annoncer på Metas platforme. I fire tilfælde fandt man billeder af børn, der var blevet ændret til seksuelle AI-videoer. Én video viser det danske barn, en anden et australsk barn.
I annoncerne vises først et normalt foto af barnet. Derefter transformeres billedet til en AI-genereret video, hvor barnet fremstilles i direkte seksuelle situationer.
Red Barnet har anmeldt alle fire videoer til dansk politiet for overtrædelse af straffelovens bestemmelser om ulovligt overgrebsmateriale. Men organisationen vurderer, at de fire eksempler kun er toppen af isbjerget.
»Det er dybt krænkende«
»Det er dybt realistisk, og det er dybt krænkende,« siger Pernille Spitz, chef for beskyttelse mod overgreb hos Red Barnet, til DR.
Problemet ligger ikke bare i det manipulerede materiale selv, men i måden det distribueres på. Ved at bruge de falske videoer som reklame for nudify-apps når det ud til millioner af mennesker – og trækker nye brugere til platformene, der skabes til præcis dette formål.
Det rejser vigtige spørgsmål om Metas ansvar for at fjerne sådant indhold hurtigere, og om teknologi-virksomhederne har kontrollen med, hvad der sælges gennem deres annoncer. Børnebeskyttelse på tværs af landegrænser er kompliceret, men når danske børn kan blive seksualiserede uden deres vidende, handler det ikke om lovgivning alene – det handler om platformenes moralske ansvar.