Pornhub och Reddit förbjuder AI-genererad deepfake-porr, säger att det är utan samtycke

Uppdatering: Reddit har anslutit sig till Pornhub och Twitter för att förbjuda AI-genererade ”deepfake”-videor. Subredditen tillägnad klippen har stängts av moderatorer, med hänvisning till brott mot Reddits innehållspolicy (“särskilt vår policy mot ofrivillig pornografi”).

Pornhub och Reddit förbjuder AI-genererad deepfake-porr, säger att det är utan samtycke

AI-genererade porrfilmer, som ersätter artisters ansikten med kändisar, kommer inte att ha något hem på Pornhub. Vuxenvideojätten har meddelat att ”deepfakes” kommer att förbjudas på dess plattform, vilket gör det klart att sajten anser att sådana filmer är utan samtycke.

I ett uttalande till Moderkort, Pornhub sa att de klassade deepfakes i samma kategori som hämndporr:

”Vi tolererar inget innehåll utan samtycke på webbplatsen och vi tar bort allt nämnda innehåll så snart vi blir medvetna om det. Innehåll utan samtycke bryter direkt mot våra användarvillkor [terms of service] och består av innehåll som hämndporr, deepfakes eller något som publiceras utan en persons medgivande eller tillåtelse.”

Ställningen återspeglas av Twitter, som har sagt att det kommer att stänga av kontona för de som ursprungligen publicerade deepfakes-innehåll. GIF-plattformen Gfycat och chattsajten Discord har också kommit ut mot de AI-genererade klippen, och Reddits r/deepfakes subreddit har också stängts.

Vad är deepfakes?

I ett nötskal, deepfakes är videor som använder sig av maskininlärning för att sy en persons ansikte på en annan persons kropp.

Området bildigenkänning och digital manipulation har kommit med stormsteg under de senaste åren och har nu hamnat i en punkt där tidigare komplexa verktyg har blivit lättillgängliga för allmänheten. Googles Culture-app skapade till exempel rubriker nyligen genom att låta användare matcha sitt ansikte med ett konstverk. Förra året körde artisten Mario Klingemann ett jämförbart experiment med maskininlärning, och påtvingade den franska sångerskan Françoise Hardy rösten och ansiktsrörelserna från Trump-rådgivaren Kellyanne Conway.

Deepfakes är biprodukterna av innovationer som dessa. Ibland kan de vara ofarliga och fåniga, som den senaste tidens popularitet att påtvinga Nicholas Cages ansikte på olika filmer. De pornografiska djupförfalskningarna, å andra sidan, är ett djupt oroande exempel på hur den här tekniken kan användas för att adjungera en persons bild och försätta dem i positioner som de inte på något sätt har samtyckt till.

Pornhubs offentliga fördömande av deepfakes kommer att understryka den etiska beklagligheten i att sätta en skådespelerskas ansikte på en porrstjärnas kropp – utan någon av dessa människors önskemål – men räcker det? Tandkrämen är ute ur tuben; Tillgängligheten av deepfake-skapande verktyg gör det svårt att stoppa videorna från att göras helt och hållet. Plattformar kan och bör slå ner på deepfakes, men videorna är utan tvekan bara början på en mycket bredare diskussion kring sanningen i bilder i en värld där ansikten på ett övertygande sätt kan bytas ut.

Vad innebär det att sända en persons ansikte i en värld där bilder så lätt kan manipuleras, där någons ord kan komma ur en annans mun, eller där en persons identitet kan föras in i en sexuell handling mot deras vilja?

Lämna en kommentar

Din e-postadress kommer inte publiceras. Obligatoriska fält är märkta *