Efter deepfake-dokumentar: Institut for Menneskerettigheder anbefaler særskilt lovgivning mod deling af AI-genereret porno

Institut for Menneskerettigheder anbefaler ny lovgivning mod deling af AI-genereret seksuelt materiale for at styrke ofrenes beskyttelse. Det er afgørende, at der handles hurtigt med en ny lov, der kan stoppe ulovlig deling og sikre, at både gerningspersoner og digitale platforme holdes ansvarlige for deres handlinger

I kølvandet på dokumentaren Død over deepfake-porno, som Arkaden har dækket indgående, kommer Institut for Menneskerettigheder med nye anbefalinger om en særskilt bestemmelse i straffeloven. De ønsker at kriminalisere deling af AI-genereret og manipuleret seksuelt materiale på digitale platforme, hvilket er et stigende problem, der primært rammer kvinder.

Manipuleret seksuelt materiale, der også er kendt som deepfake-porno, er eksploderet i udbredelse. Ifølge AI Sensity var der i 2023 hele 21.019 videoer med manipuleret seksuelt indhold online, hvilket er en stigning på 464 procent siden året før. Materialet fremstiller ofte kvinder uden deres samtykke, og hele 99 procent af det ulovlige materiale omhandler kvinder. 

Arkaden.dk har talt med Marya Akhtar, der er juridisk chef for Institut for Menneskerettigheder, om instituttets anbefalinger og hendes syn på nødvendigheden af at intensivere den juridiske indsats mod deepfake-porno.

Ifølge Institut for Menneskerettigheder bør beskyttelsen mod deling af manipuleret seksuelt materiale styrkes og politiet bør intensivere indsatsen for at retsforfølge både de personer, der deler materialet, og de platforme, der er medansvarlige for delingen. 

– Der er behov for to ting helt konkret. Først kigger vi mod Folketinget og lovgivningen. AI-genereret porno er det grelleste eksempel på manipuleret indhold, der bliver delt lynhurtigt på internettet. Derfor er det vigtigt, at platformene kan stilles til ansvar – men det kan de kun, hvis lovgivningen er på plads. Platformene har allerede et ansvar, men beskyttelsen mod den ulovlige deling skal styrkes, forklarer Marya Akhtar til Arkaden.dk og fortsætter:

Artiklen fortsætter efter annoncen

Reklame for Arkaden+

– Vi må også se på politiets rolle: Har politiet de nødvendige redskaber og ressourcer til at håndtere denne opgave? Teknologien skal følge med, så politiet er bedre rustet til at løse opgaven, for her er vi jo nærmest allerede bagud fra starten. Det er dog vigtigt at pointere, at det ikke handler om at stoppe teknologien, men at regulere den.

Både efterforskningen og retsforfølgningen skal ifølge Institut for Menneskerettigheder styrkes, både mod de personer, der deler det ulovlige indhold, og de digitale platforme, som ikke fjerner materialet efter et påbud.

Selvom sager om deling af seksuelt manipuleret materiale kan straffes under eksisterende lovgivning mod blufærdighedskrænkelse og ærekrænkelser, vurderer Institut for Menneskerettigheder, at en særskilt bestemmelse i straffeloven vil skabe bedre beskyttelse. Det er også i tråd med et direktiv fra Europa-Parlamentet, som pålægger stater at kriminalisere deling af kunstigt producerede eller manipulerede billeder og videoer. På grund af Danmarks retsforbehold er vi dog ikke bundet af direktivet, men Institut for Menneskerettigheder opfordrer til at indføre lignende lovgivning.

– Retsforbeholdet forhindrer ikke Danmark i at få de samme muligheder, som man på europæisk niveau har vurderet som en løsning. Selvom Danmark ikke er underlagt den fælles EU-lovgivning på dette område, kan vi selv vælge at indføre tilsvarende lovgivning gennem vores egne lovgivere, forklarer Marya Akhtar.

Derudover understreger Institut for Menneskerettigheder at de digitale platformes medansvar er afgørende for at sikre hurtig fjernelse af ulovligt indhold. På nuværende tidspunkt er de digitale platforme ikke ansvarlige for det ulovlige indhold, men kommer der et påbud fra de nationale myndigheder, har platformene et ansvar for at reagere på påbuddet om at fjerne ulovligt indhold. Efterlever de ikke dette, kan de blive gjort medansvarlige ifølge de strafferetlige regler. 

– Deepfake-porno krænker vores rettigheder, og det er vigtigt, at vores lovgivere er opmærksomme på dette, afslutter Marya Akhtar.

Den stigende opmærksomhed på deepfake-problematikken, både fra dokumentaren og Institut for Menneskerettigheder, kan forhåbentlig føre til en politisk debat om, hvordan vi bedst beskytter borgernes rettigheder i en digital tidsalder. 

En særskilt lovgivning mod deling af AI-genereret og manipuleret seksuelt materiale vil ikke blot sikre ofrene bedre beskyttelse, men også gøre det muligt at retsforfølge krænkerne og de platforme, der undlader at reagere.

Arkaden.dk vil fortsat følge udviklingen og dække de kommende skridt i denne vigtige sag – og har du endnu ikke set dokumentaren, Død over deepfake-porno, kan du finde den her.

Lau Mellemgaard Eskildsen

Chefredaktør

---

Lau er uddannet skolelærer med speciale i kulturfag og har altid haft en forkærlighed for stærke fortællinger – både i spil og på film. Oblivion og Fallout 3 blev startskuddet på en livslang interesse for action-rollespil, og siden da har dystopiske universer og eksistentialistiske narrativer haft en særlig plads hos ham. Han elsker at nørde rundt i både spil- og filmverdenens store spørgsmål og små detaljer