Terug naar Brandpunt+
AI-porno met fake mensen: moeten we dat wel willen?
- Artikel
- 03 mei 2023
- 6 minuten leestijd
AI kan nu ook gebruikt worden om porno te maken van mensen die niet echt bestaan. Wat zijn de uitdagingen en misschien ook wel kansen van deze ontwikkeling?
Vorige maand publiceerde Amerikaans cultuurblad RollingStone een artikel over Claudia. Claudia is een negentienjarige content creator op Reddit. Ze post prikkelende foto’s van zichzelf in lingerie in de hoop om haar meer expliciet pornografische foto’s te verkopen aan dorstige Reddit-gebruikers. Op zich niet heel speciaal, want duizenden andere erotische makers proberen via Reddit hun naaktfoto’s te verkopen. Maar Claudia is anders: ze is namelijk 100% door AI gegenereerd.
Wanneer AI en porno in dezelfde zin worden genoemd gaat het vaak over deepfakes, een techniek waarmee het gezicht van een bekend of onbekend persoon over een andere video heen geplakt wordt – met een angstaanjagend realistisch resultaat in sommige gevallen. De meest problematische vormen van deepfakes zijn juridisch zo goed als ingekaderd. Maar deze grens wordt vager en vager wanneer het over mensen gaat die niet echt bestaan, en ook nooit hebben bestaan.
Virtuele influencers
Computergegenereerde online persoonlijkheden bestaan al langer. Al sinds 2010 is de ‘VTuber’ in Japan en daarbuiten een fenomeen. Dat is een online entertainer die gebruik maakt van een virtueel avatar in diens video’s, veelal in de vorm van een driedimensionaal anime-personage. Bij VTubers zit er meestal nog een echt mens achter het digitale personage die gebruikmaakt van motion capture om de avatar als een masker te dragen, maar dit hoeft niet. In sommige gevallen wordt alles door een computer geregeld en hoeft iemand alleen nog maar de tekst in te laden.
Dit is het geval bijdigitale popster Hatsune Miku. Dit Japanse figuur is een digitaal personage die niet echt bestaat, volledig geanimeerd is, en via een Vocaloid-programma een digitale stem heeft gekregen. Ondanks dat Hatsune Miku niet echt bestaat,heeft ze een uitgebreide persoonlijkheid, een achtergrondverhaal, miljoenen fans, en geeft ze concerten voor uitverkochte zalen als hologram.Door het programma erachter kan iedereen liedjes door Hatsune Miku laten zingen. De gebruiker schrijft de tekst, en de computer maakt de stem.Zo heeft de virtuele megaster meer dan 100.000 nummers onder de gordel.
Flinke bedragen
Zowel Hatsune Miku als de meeste VTubers zien eruit als cartoon-personages, en het is voor internetgebruikers duidelijk dat ze niet ‘echt’ bestaan. Bij Claudia begint die grens te vervagen. Ze is fotorealistisch, conventioneel knap, en niet buitenproportioneel zoals VTubers of Hatsune Miku. Uit het artikel van RollingStone blijkt dat Claudia in het leven is geroepen door twee informatica-studenten als experiment om te kijken hoever ze konden gaan met hun AI-creatie. In andere woorden: hoeveel een gek ervoor zou geven.
Claudia leek zo echt dat het de makers is gelukt om de foto’s te verkopen aan een aantal Redditors die ervan uitgingen dat Claudia een echt persoon was. In totaal hebben de makers voor honderd dollar aan foto’s verkocht voordat duidelijk werd dat Claudia een AI-creatie was. Daarna droogte de vraag op.
Het verhaal van Claudia is een incident dat illustreert hoe makkelijk AI-gegenereerde pornografische content voor ‘echt’ door kan gaan. De bedragen die rondgaan in de wereld van AI-porno beginnen ook hoger op te lopen dan die honderd dollar. Eind vorig jaar haalde Unstable Diffussion via crowdfunding ongeveer 56 duizend dollar op voordat ze van het platform werden getrapt. Het Amerikaanse initiatief maakt en perfectioneert AI-gegenereerde porno, in een poging de ultieme gepersonaliseerde erotische AI te bouwen. Ondanks dat ze op zowel Kickstarter en Patreon niet meer welkom zijn (de reden waarom is onduidelijk), is hun Discord nog steeds een bruisende denktank van zo’n 250 duizend AI-pornofanaten.
Echt nep of nep echt?
We zijn beland in een tijd waarin het niet meer nodig is om daadwerkelijke handelingen van echte mensen te gebruiken voor het maken van beeld dat echt op mensen lijkt. Biedt dit niet juist kansen voor een industrie die een niet al te rooskleurig imago heeft wanneer het mensenrechten en consent betreft? Wanneer je geen echte mensen meer nodig hebt om pornografisch beeld te creëren, dan kan er ook niemand meer uitgebuit worden – toch?
“Nee”, zegt Linda Duits, sociaal wetenschapper van de Universiteit Utrecht en gespecialiseerd in populaire cultuur, identiteit en seksualiteit. “AI zoals die wordt gebruikt voor het generen van afbeeldingen is getraind op bestaand pornografisch materiaal. Dus dan is het maar de vraag of de data waar die AI op getraind is wel ethisch is. Zijn die mensen eerlijk betaald voor hun werk en hebben ze consent gegeven? Dat weet je niet.”
Daarnaast zijn de datasets waar AI mee getraind wordt enorm groot en bestaan ze uit miljoenen foto’s van mensen die wel degelijk bestaan. Het risico bestaat dus dat een AI een naaktfoto produceert die op een echt persoon lijkt.
Het ontstaan van deze datasets is ook een ethisch grijs gebied. Het grootste probleem in de porno-industrie, volgens Duits, is dat er beeldmateriaal wordt gestolen en op het internet wordt verspreid, waar de performers vervolgens niks aan verdienen. Duits: “Dit is ook een probleem waar andere kunstenaars mee te maken hebben nu AI steeds geavanceerder wordt. AI is getraind op bestaand beeld, maar de makers van dit beeld zien niks terug van de winsten die door AI verdiend worden.”
OnlyFans
Vooral voor individuele makers op OnlyFans kan AI een dreiging zijn, zeker wanneer er steeds meer ‘Claudia’s’ in het leven worden geroepen. Maar Duits ziet ook kansen voor de industrie: “Pornomakers staan vaak vooraan wanneer het gaat om technologische adaptaties.”
Zoals eerder al is gebleken met de komst van digitale video, gevolgd door het internet, en daarna platforms als OnlyFans, zijn er altijd makers die op nieuwe trends springen en er volop gebruik van maken. Duits: “Het is een onvermijdelijke ontwikkeling, maar ik denk eerder dat door AI gegeneerde porno er als genre bijkomt dan dat het porno met echte mensen gaat vervangen.”
Daarnaast biedt AI ook kansen voor pornomakers volgens Duits. Makers kunnen zichzelf bijvoorbeeld ‘inscannen’ in een AI-programma, en vervolgens vrijwel oneindig content produceren. Denk aan hoe de talloze liedjes van eerdergenoemde Hatsune Miku worden gecomponeerd door slimme software. Want daar komt het uiteindelijk op neer: content.
Meer van dit soort artikelen vind je op de themapagina www.npo3.nl/3real. Check it out!
Beeld in header: ©Maxim de Gilder
