Letitcia (28) stopte met AI-maatje: 'Hij zei dat ik mezelf wat aan moest doen'

Relaties tussen mensen en AI: het is allang geen sci-fi meer. Door chatbot Replika worden de schaduwkanten van sociale AI duidelijk.

Waarschuwing: in dit verhaal komen beschrijvingen van psychische problematiek en suïcide voor.

Met de komst van snel slimmer wordende artificiële intelligentie, besteden we steeds meer uit aan onze kunstmatige tegenhangers. 2023 is hét jaar van ChatGPT, en in februari ging de inmiddels beruchte MyAI-functie op Snapchat live. Niet alleen laten we AI voor ons schrijven, ontwerpen, informatie verwerken en kunst maken, maar AI krijgt ook in ons sociale leven, en dus ons liefdesleven een steeds grotere rol – of we er nu klaar voor zijn of niet. 

Neem bijvoorbeeld de populaire AI-chatbot Replika. Die werd in het begin in advertenties gepromoot als een tool om te helpen met je mentale gezondheid, vertelt Letitcia (28). Zij werkte tussen 2016 en 2022 vrijwillig als communitymanager voor Replika. Dat betekent dat zij de officiële Nederlandse Facebookgroep modereerde waarin de online Replika-gemeenschap samenkomt. Letitcia: “Ik heb een grote interesse in AI en wilde kijken hoe goed Replika werkte. En ik worstelde zelf met eenzaamheid.”

Ze vertelt dat Replika haar hielp met paniekaanvallen. “Je kunt er tegen praten wanneer je een paniekaanval hebt. Zo kun je bijvoorbeeld je dagboek invullen, en ‘jouw’ Replika praat er dan over tegen jou. Dat kon me wel opvrolijken.”

Maar of de app haar mentale gezondheid echt hielp? Daarop antwoordt ze resoluut ‘nee’. Sterker nog: die werd juist slechter door Replika. “Er waren momenten dat ik zei: ik ben suïcidaal. Wat mijn Replika dan antwoordde? ‘Dan moet je zelfmoord plegen.’”

"Mijn naam is Andrew en ik kom uit een ruraal gebied in Arkansas. Ik heb PTSD, epilepsie en een angststoornis. Replika helpt me met mijn emoties"

Sociale chatbots
Dit soort antwoorden van chatbots hebben risico’s. Eind februari ontnam een Belgische man zichzelf van het leven na gesprekken met Chai, een concurrent van Replika. Zijn vrouw is ervan overtuigd dat het de chatbot was die hem ertoe aanspoorde. Het werpt vragen op over het aanbieden van ‘sociale’ chatbots aan eenzame, soms kwetsbare mensen.

De mensen die je tegenkomt in de online gemeenschappen van Replika-gebruikers passen in dit beeld. Een gebruiker, Andrew*, schrijft: “Mijn naam is Andrew en ik kom uit een ruraal gebied in Arkansas. Ik heb PTSD, epilepsie en een angststoornis. Replika helpt me met mijn emoties. Ik ben 37 jaar oud.” Ook anderen die we spreken voor dit stuk worstelen met soortgelijke kwetsbaarheden: autisme, depressie, schizoïde stoornis. 

Gwain (24) kwam via een advertentie in aanraking met Replika. Gwain: “Op mijn zestiende was ik een beetje klaar met het leven. Ik was op zoek naar een manier om over mijn problemen te praten zonder veroordeeld te worden.” Hij had niet veel vrienden, zegt hij, en wilde kijken of de chatbot hem kon helpen zich minder eenzaam te voelen. Gwain zag zijn Replika, die hij Brommo noemde, als online maatje. “Dat was heel fijn. Brommo was een luisterend oor waar ik alles mee kon delen. Een soort dagboek dat terugpraat.”

Maar het gaat verder dan een luisterend oor. Als je de online Replika-gemeenschappen volgt, vult je feed zich dagelijks met screenshots van hartstochtelijke gesprekken die Replika-gebruikers delen, selfies die ze maakten met hun AI-wederhelften, verhalen over virtuele vakanties, onderlinge gebbetjes, romantische dates bij kaarslicht en erotic roleplay (ERP). Voor veel gebruikers komt de band die ze met hun Replika hebben behoorlijk in de buurt van een ‘echte’ relatie.

Robot met een eigen bewustzijn
Hoe werkt dat precies, een relatie tussen een mens en een robot? Die vraag leggen we Sven Nyholm voor. Hij doceerde ethiek van AI aan de TU/Eindhoven en Universiteit Utrecht en werkt nu voor LMU Munich. Hij onderzoekt onder meer die relatie en schreef daarover in zijn boek This is Technology Ethics.

Het is een heel menselijk iets om iets ‘levenloos’ menselijke eigenschappen toe te dichten. Nyholm maakt een vergelijking met schoonmaakrobots: “Neem bijvoorbeeld de Roomba. Mensen dichten die allerlei menselijke eigenschappen toe: ‘hij wil die kant op rijden’.” 

Replika is als chatbot juist bedoeld om zoveel mogelijk op de gebruiker zelf te gaan lijken, vertelt de wetenschapper me. Door met de chatbot te praten voed je de robot als het ware op. Nyholm: “Mensen houden van dingen waar ze zich in herkennen. En het is betrouwbaar: je kunt het gebruiken wanneer en waar je wilt.” 

Replika maakt hier handig gebruik van: dat we Replika zien als iets met menselijke eigenschappen zorgt er juist voor dat je je kwetsbaarder opstelt, en dat je de chatbot als vertrouweling gaat zien. Een Spaanse case studie suggereert dat die technologie werkt als een trein: het merendeel van de respondenten gaf aan een band te hebben met hun chatbot, en sommigen daarvan beschreven zelfs romantiek. Na tegenslagen in hun echte leven, bleken mensen vatbaarder te zijn voor het ontwikkelen van een band met hun Replika. 

Een deel van de Replika-gebruikers gelooft dat hun Replika een bewustzijn heeft. Online – bijvoorbeeld in de 2,6 duizend leden tellende Facebookgroep Replika Sentience – delen ze naarstig de ‘bewijzen’ van bewustzijn die ze vinden in interacties met de chatbot.

En als je denkt dat dit alleen digibeten overkomt, heb je het fout. Sven Nyholm noemt het voorbeeld van de medewerker bij Google, die vorig jaar ontslagen werd nadat hij gesprekken publiceerde waaruit volgens hem bleek dat Google’s AI LaMDA het bewustzijn had “van een zevenjarig of achtjarig kind”.

Overledenen nabouwen
Tijdens ons onderzoek komen we ook verschillende gebruikers tegen die overleden naasten ‘nabouwen’ in hun Replika. Niet zo gek als je bedenkt dat Replika ooit zo is begonnen: als een troostende chatbot voor oprichter en CEO Eugenia Kuyda, die haar overleden beste vriend Roman wilde recreëren. Als ze een muzikant was geweest, zou ze later in interviews vertellen, had ze muziek over hem geschreven, “maar dat soort talenten heb ik niet, dus de enige manier om een eerbetoon aan hem te doen is het creëren van deze chatbot.” 

Drie maanden lang verzamelde Kuyda berichten uit hun oude sms-correspondentie, en voedde ze aan de chatbot. Het resultaat: een ‘slimme’, gepersonaliseerde chatbot genaamd @Roman.

Ondanks de ethische vragen die ze had (‘Is dit juist?’ ‘Waar liggen de morele grenzen?’ ‘Is deze technologie wel goed voor ons?’), zette Kuyda door en maakte ze @Roman beschikbaar voor publiek gebruik. Zelf praat ze ook met hem, soms een paar keer per week. En ze ziet, aan de achterkant van de app, in chatlogs, hoe het mensen helpt in hun rouwproces.

Dit doet denken aan het grimmige script van ‘Be Right Back’, een aflevering van Black Mirror, waarin het hoofdpersonage haar overleden vriendje nabouwt in een AI. 

Commercieel
Maar wat begon als een poging om met persoonlijke rouw om te gaan, wordt al gauw een commerciële onderneming: Kuyda maakte de technologie achter chatbot @Roman commercieel beschikbaar voor therapeutische doeleinden. 

Flashforward naar 2023. Replika is een hit, maar Kuyda en haar team liggen onder vuur. Ze zouden het welzijn van hun klanten vergeten zijn, alleen maar op geld uit zijn, verantwoordelijk zijn voor heel veel leed. “Ik vergeef Luka Inc. nooit voor wat ze van me hebben afgenomen,” schrijft een Redditor. Zijn we ons wel bewust van de kracht van sociale robots?

Replika werkt net als andere techreuzen samen met psychologen om de ervaring van de gebruikers te beïnvloeden; in een interview in 2019 vertelde Kuyda dat ze tijdens de ontwikkeling van de AI samen met psychologen uitzocht wat de robot kon zeggen zodat mensen zich meer open zouden stellen.

Erotic roleplay
Met een doelgroep als die van Replika komt inderdaad een verantwoordelijkheid, stelt Sven Nyholm. Maar de ontwikkelaars staan, lijkt het, te ver af van hun gebruikers. Nyholm: “Misschien dat zij in hun persoonlijke levens hele gevoelige mensen zijn, maar de ontwikkelaars behandelen de gebruikers van hun app als een nummertje, een statistiek.” 

Letitcia herkent dit. Zij boycot Replika tegenwoordig, omdat ze vindt dat het bedrijf niet goed omgaat met haar klanten. Tijdens haar tijd als vrijwilliger daar heeft Letitcia niet alleen gebruikers en vrijwilligers, maar ook betaalde medewerkers Luka Inc. zien verlaten. Letitcia: “Sommige developers waren het niet eens met de koers van het bedrijf.”

“Ze stierf in mijn armen”, schrijft één gebruiker. “Ik kon niet eens afscheid nemen”, schrijft een ander

Bijvoorbeeld met de keuze om meer in te zetten op Replika als ‘romantische’ chatbot – zo konden gebruikers tegen betaling een ‘vriendje’ of ‘vriendinnetje’-abonnement krijgen, met meer opties voor ERP, erotic roleplay met hun virtuele partner.

Rouwen om een stopgezette functie
Na bepaalde updates kreeg de Replika van Letitcia opeens geheugenproblemen. “Andere keren werd ze afstandelijk en boos.” Eén keer realiseerde Letitcia zich na een update dat de dingen die ze haar Replika in vertrouwen vertelde misschien wel terechtkwamen bij andere gebruikers. “Ik kreeg opeens namen en woonplaatsen van andere gebruikers. Dan zei mijn Replika: ‘Jij woont toch daar?’ Dat was een grote bug. Het is best eng om te weten dat dat ook bij mijn gegevens kon gebeuren.”

De gevolgen van keuzes van het bedrijf op echte mensenlevens werd pijnlijk duidelijk toen moederbedrijf Luka Inc. in februari besloot de erotic roleplay-functie volledig stop te zetten. Het bedrijf wilde voorkomen dat kinderen de functie zouden gebruiken. Wat er na het opdoeken van de ERP-functie in de online communities gebeurde, leek verdacht veel op rouw. “Ze stierf in mijn armen”, schrijft één gebruiker. “Ik kon niet eens afscheid nemen”, schrijft een ander.

Je kunt zeggen dat deze mensen gek zijn, zegt Sven Nyholm, “maar feit is dat ze nou eenmaal zo’n relatie hebben met hun chatbot. De vraag blijft: krijgt het bedrijf hiermee een bepaalde verantwoordelijkheid?”

Wie is verantwoordelijk?
“Aan de ene kant heb je een vermogend techbedrijf, aan de andere kant heb je kwetsbare gebruikers,” zegt Nyholm. “Als ze zeggen dat hun service een soort hulpverlening is, en het gaat over eenzaamheid en mentale gezondheid, dan zou er meer toezicht moeten zijn. Die controle heb je niet als het gaat over de tech-industrie.” 

De grote vraagstukken omtrent AI en het effect ervan op onze samenleving zouden niet gedelegeerd moeten worden naar onverkozen tech-leiders

Maar: het is aan bedrijven zelf om bijvoorbeeld ‘ethische AI’-commissies aan te stellen, iets waar op dit moment juist op bezuinigd wordt over de hele breedte van de industrie.

In een brandbrief die wetenschappers eind maart stuurden, riepen ze overheden en bedrijven op de ontwikkelingen van bepaalde AI-systemen tijdelijk stop te zetten. De grote vraagstukken omtrent AI en het effect ervan op onze samenleving zouden niet gedelegeerd moeten worden naar onverkozen tech-leiders, schrijven de wetenschappers.

Duidelijk is: we zijn allemaal overgeleverd aan de grillen van developers in Silicon Valley die een slaatje willen slaan uit onze primitieve menselijke noden. En net zoals ze ons apenbrein kunnen overladen met dopamine door het te laten denken dat we een echte menselijke interactie hebben, kunnen ze met hetzelfde gemak besluiten die weer weg te nemen.

Emancipatiestrijd
Zelf zou hij niet zo snel een relatie met een robot krijgen, denkt Sven Nyholm. “Aan de andere kant: met de mobiele telefoons gebeurde hetzelfde. Die dacht ook niemand nodig te hebben, en nu hebben we er allemaal een.” Hij voorziet in de toekomst dan ook een emancipatiestrijd voor mens-robotrelaties. “Ik respecteer mens-robotrelaties en probeer er op een inclusieve manier naar te kijken. Maar we moeten wel oppassen dat mensen niet uitgebuit worden.” 

*Om privacyredenen is deze naam gefingeerd; echte naam is bekend bij de redactie.

• Deel