Sjarrel (57) kreeg tientallen zelfmoorden te zien. Hij eist nu actie tegen Facebook
- Artikel
- 22 mei 2019
- 6 minuten leestijd
Heb je je wel eens afgevraagd wie er naar de postjes kijkt die op Facebook gerapporteerd worden? Sjarrel deed dat en schreef er een boek over. De titel laat weinig te raden over hoe leuk dat werk is: 'De achterkant van Facebook, 8 maanden in de hel'.
Sjarrel zit achter zijn werkstation in een buitenwijk van Berlijn. Op zijn scherm verschijnt een filmpje dat een Facebookgebruiker gerapporteerd heeft. In beeld ziet hij een oudere vrouw. Grijze krullen, ingevallen wangen, liggend in bed naast haar nachtkastje, de arm uitgestrekt zodat ze zichzelf kan filmen. Ze maakt een afscheidsvideo voor haar kleinkinderen. “Oma trekt het niet meer,” zegt ze. “Oma gaat naar boven.” Sjarrel kan in zijn scherm ook zien wanneer de video is gerapporteerd: 10 uur geleden. Voor ingrijpen is het nu te laat.
Of het filmpje echt is? Sjarrel weet het niet. Het filmpje verdwijnt met een klik van zijn scherm en bestaat nu alleen nog maar in zijn herinnering. Het is slechts een van de tientallen (al dan niet in scène gezette) zelfmoorden en pogingen daartoe die hij te zien krijgt in de acht maanden die hij als Facebookmoderator werkzaam is. Sjarrel ziet een jongen van een flatgebouw springen, een man die met een strop in de hand de wastafel beklimt, een automobilist die op volle snelheid tegen een muur aanrijdt. Soms gaat het duidelijk om een recente filmpjes uit Nederland, soms is het een repost van oud beeld. Alle video’s laten hun sporen na bij Sjarrel, maar het afscheidsfilmpje is het heftigst. Ruim een jaar na dato spookt het nog door zijn hoofd. “Had ik misschien toch meer kunnen doen? Hoe had ik kunnen ingrijpen?”
Brandpunt+ sprak met Sjarrel de Charon (57) naar aanleiding van zijn boek over zijn tijd als contentmoderator dat vandaag verschijnt: De achterkant van Facebook, 8 maanden in de hel. Hij werkte van augustus 2017 tot februari 2018 bij Arvato Bertelsmann, een mediabedrijf dat indertijd voor Facebook contentmoderatie verzorgde binnen het Nederlandse taalgebied. Het boek bevatten zijn (behoorlijke schokkende) memoires, maar de tekst is tegelijkertijd een aanklacht tegen racisme, kinderporno en geweld – Sjarrel zag alles voorbij komen en vindt de maatregelen ertegen een wassen neus. Als voorbeeld noemt hij de Facebookstream van de massamoordenaar die in maart toesloeg in een moskee in Christchurch. Die kon straffeloos live gaan en blijven terwijl hij 51 mensen doodschoot. “Toen ze livestreamen introduceerden wisten ze allang dat dit soort dingen konden gebeuren. Jaren later hebben ze nog steeds hun tegenmaatregelen niet op orde.”
Enorm tekort aan Nederlandstalige moderatoren
Alhoewel Mark Zuckerberg vaak gezegd heeft dat hij gelooft dat kunstmatige intelligentie de sleutel vormt tot de oplossing van dit soort problemen, denkt Sjarrel dat hij beter eerst de nijpende personeelstekorten onder Nederlandstalige moderatoren kan aanpakken. Zo zou hij vijf maanden lang de enige contentmoderator zijn geweest die ‘high-priority tickets’ behandelde in het Nederlandse taalgebied (Facebook wil op deze vraag geen specifiek antwoord geven). ‘s Nachts was er vaak helemaal niemand op de bok. ‘Suicide threats’ hadden een speciale status binnen het systeem van contentmoderatie, zegt Sjarrel, maar bleven daardoor toch makkelijk 24 uur of langer liggen. Levensgevaarlijk, vindt Sjarrel, die daarom weinig vertrouwen heeft in de AI-tool die Facebook bouwde om ‘suïcidale intentie’ te registreren bij gebruikers.
Het is dweilen met de kraan open, omdat elke serieuze dreiging toch nog langs een menselijke moderator moet. Daarvan zullen er te weinig zijn zolang Facebook voor een dubbeltje op de eerste rang wil zitten. Toen Sjarrel bij Facebook werkte kreeg hij slechts € 8,90 per uur betaald, het Duitse minimumloon. Daarvoor moest hij bijna 2.000 ‘tickets’ per dag wegwerken. Dat waren soms beslissingen op leven en dood. Psychologische hulp was een lachertje. “Er was een psycholoog beschikbaar op 600 werknemers.” Als gevolg waren moderatoren vaak binnen een paar maanden opgebrand. (Een collega van Sjarrel spoelde wel eens een diazepammetje weg met witte wijn voordat hij plaats nam achter zijn werkstation.)
Een woordvoerder van Facebook laat desgevraagd weten dat de situatie op moderatiegebied sindsdien verbeterd is. Het bedrijf is altijd op zoek naar “de juiste balans tussen het welzijn van moderatoren, kwaliteit en productiviteit”, en dat is, vooral op de schaal waarop Facebook werkt, een uitdaging. De targets waaronder Sjarrel gebukt ging zijn niet het werk van Facebook. Arvato zou zelfs duidelijke instructies hebben gehad de moderatoren niet op deze wijze onder druk te zetten. Hoeveel moderatoren de high-priority tickets behandelden in Sjarrels tijd wil Facebook overigens niet zeggen.
Sjarrel smokkelde de aantekeningen die de basis vormden voor zijn boek vormden naar buiten door zichzelf Facebookberichtjes te sturenTickets waar mensenlevens in het spel zijn hebben wel Facebooks bijzondere aandacht. “Dit soort urgente meldingen zijn een topprioriteit en we blijven daarin investeren”, aldus de woordvoerder. Cijfers over doorlooptijden, toen en nu, wil het bedrijf echter ook niet delen. Hoeveel Nederlandstalig personeel er nu precies in dienst is blijft echter een raadsel. Alhoewel Facebook graag schermt met cijfers waaruit de wereldwijde groei van het aantal moderatoren (inmiddels 15.000) blijkt, wil Facebook niks kwijt over het aantal Nederlandstalige moderatoren.