Terug naar BOOS
Mensenrechten in de Stembus - Big Data
- Artikel
- 18 nov 2023
- 10 minuten leestijd
Op 22 november zijn de Tweede Kamerverkiezingen. Inmiddels hebben alle partijen hun standpunten gebundeld in een verkiezingsprogramma: dikke bundels van tientallen pagina’s vol politiek jargon. Tijd om de hoofdzaken van de bijzaken te scheiden. Welke partij lapt fundamentele rechten aan haar laars? En welke partij dweept met mooie woorden over ‘nieuw beleid’, terwijl het in werkelijkheid gaat over ‘oude’ mensenrechten waar ieder mens ter wereld allang een beroep op mag doen?
De komende weken toetsen wij met behulp van experts de verkiezingsprogramma’s van de acht grootste partijen (in de Ipsos-peiling van 1 november: VVD, NSC, GL-PvdA, PVV, BBB, D66, PvdD en SP) aan de algemene morele en juridische standaard die alle 193 lidstaten van de Verenigde Naties hebben ondertekend: de Universele Verklaring van de Rechten van de Mens (UVRM). Dit is het zesde en laatste thema uit de reeks: Big Data. We lopen de verkiezingsprogramma’s van de partijen langs samen met mensenrechtenorganisatie Amnesty International.
Online rechten
Gelijke behandeling, het verbod op discriminatie en de vrijheid van meningsuiting en demonstratie zijn niet voor niets universele mensenrechten. Ze moeten overal en door iedereen gerespecteerd en beschermd worden - en dus ook online.
Maar dat is niet zo vanzelfsprekend als het klinkt. ‘De overheid lijdt aan een onstilbare datahonger die grote risico’s heeft voor de mensenrechten’, zegt Amnesty. Zo verzamelt de politie bijvoorbeeld gegevens van vreedzame demonstranten, zonder dat zij hier toestemming voor geven of zelfs van op de hoogte zijn. Daarmee komt het recht op betoging in het geding.
Daarnaast ziet de mensenrechtenorganisatie telkens nieuwe discriminerende algoritmes opduiken. ‘Op dit moment kan een nieuw algoritmeschandaal zoals het toeslagenschandaal niet voorkomen worden,’ zegt Amnesty. Dat zou komen omdat er geen verbod is op het gebruik van data over nationaliteit en etniciteit en andere afkomst gerelateerde data in risicoprofielen van overheden. Zo gebruikte gemeente Rotterdam bijvoorbeeld een door discriminatie beïnvloed algoritme om het risico in te schatten dat een persoon bijstandsfraude pleegt. Ook is de algoritmetoezichthouder nog niet in staat om de overheid hierop te controleren.
Om dat verbod toch te realiseren en de digitale veiligheid van burgers te beschermen, riep een groep organisaties, waaronder Amnesty en Bits of Freedom (een stichting die opkomt voor digitale burgerrechten), het digitale stembusakkoord in het leven. Op 4 november 2023 werd het akkoord ondertekend door GL/PvdA, SP, CU, BIJ1, D66, Piratenpartij, Volt en DENK (NSC steunt het akkoord). De ondertekenaars beloven zich in te spannen om mensenrechten te beschermen in tijden van technologische vooruitgang.
Volgens de peilingen behalen de ondertekenaars van het akkoord na de verkiezingen een meerderheid in de Tweede Kamer. De kans is dus aanwezig dat er een verbod komt op ethnisch profileren door algoritmes, en op het gebruik van nationaliteit of afkomst gerelateerde data om risicoprofielen op te stellen. Ook zou het opslaan van gegevens zonder toestemming kunnen worden ingeperkt. Maar niet alle partijen tekenen daarvoor.
VVD
Bij de VVD staat veiligheid hoog in het vaandel, maar die veiligheid lijkt op een aantal punten in het programma het recht op privacy te verdrukken. Zo wil de partij, die het digitale stembusakkoord niet heeft ondertekend, de digitale slagkracht van de inlichtingendiensten versterken, zodat zij ‘sneller en makkelijker de informatie krijgen die zij nodig hebben om onze nationale veiligheid te beschermen tegen cyberaanvallen en andere (digitale) dreigingen.’ Dat kan gevolgen hebben voor de vrijheid van meningsuiting, zegt Amnesty. Als de overheid met je meekijkt op het internet, kan dat burgers ontmoedigen om vrij te zeggen wat zij denken.
Daarnaast wil de VVD informatiedeling in het kader van veiligheid verbeteren. Als privacywetgeving in de weg staat, schrijft de partij, ‘moeten we dat oplossen.’ Hier wordt expliciet het recht op privacy aan de kant geschoven. Er is meer data van kwetsbare mensen voorradig, omdat zij meer gebruik maken van sociale voorzieningen van de overheid. Zij komen dus ook eerder voor in de risicoprofielen die worden gemaakt om fraude tegen te gaan. ‘De VVD lijkt hier niets geleerd te hebben van het toeslagenschandaal,’ zegt Amnesty.
Het gekke is dat de VVD een paar pagina’s later juist schrijft dat burgers meer eigen regie moeten krijgen over data, en benadrukt dat algoritmes moeten worden gecontroleerd op transparantie, discriminatie en willekeur. Amnesty: ‘Dat is op zichzelf goed, maar valt lastig te rijmen met andere punten in het programma.’
NSC
NSC steunt het digitale stembusakkoord, waarin staat dat er een verbod komt op het gebruik van data over nationaliteit of etniciteit en andere afkomst gerelateerde data in risicoprofielen van de overheid. Ook noemt de partij in haar verkiezingsprogramma dat algoritmen ten behoeve van handhaving geregistreerd moeten worden, wat in lijn is met het akkoord.
NSC zet zich in voor transparantie en zeggenschap. Zo wil de partij dat persoonsgegevens van burgers slechts eenmaal worden opgeslagen in een database van de overheid, en nergens anders. Als een entiteit de gegevens wil opvragen, dan moeten burgers dat kunnen zien en daar eventueel een klacht over kunnen indienen. Een punt dat het recht op privacy duidelijk verbetert, vindt Amnesty. ‘Op dit moment hebben mensen vaak geen idee waar hun data allemaal is opgeslagen’.
Opmerkelijk is dat NSC wel wil dat het mogelijk moet zijn om informatie te delen in geval van criminaliteit en overlast. ‘Gek’, vindt Amnesty, ‘De partij ziet dus het gevaar van dataverzameling en datadeling, maar pleit tegelijkertijd voor informatiedeling. Bovendien blijft onduidelijk wat er precies wordt bedoeld met ‘overlast’.’
GL-PvdA
GL-PvdA trekt een duidelijke lijn in haar verkiezingsprogramma: alle overheidsinstanties moeten stoppen met het gebruik van risicoprofielen en algoritmes die fraude, criminaliteit of ongewenst gedrag ‘voorspellen’. Dit strookt met het stembusakkoord dat de partij heeft getekend en beschermt anti-discriminatie rechten.
Het Wetsvoorstel gegevensverwerking moet in de ogen van GL-PvdA aangepast worden om het recht op privacy te waarborgen. Informatie uitwisselen mag alleen nog onder strikt toezicht plaatsvinden. Massasurveillance wordt uitgesloten en riskante AI-systemen, zoals systemen die in de publieke ruimte live gezichten of emoties kunnen herkennen, worden verboden. Ook pleit de partij voor ‘toezichthouders met tanden’, die moeten waken over de privacy van burgers - in lijn met het stembusakkoord.
De partij spreekt zich ook expliciet uit over het recht om te demonstreren en het inperken van digitale surveillance op demonstranten en hun naasten. ‘Een goed punt,’ zegt Amnesty. ‘GL-PvdA is voor uiterste terughoudendheid met digitale surveillance richting demonstranten en hun familie.’
PVV
De PVV schrijft in haar programma niets over data, tech en het beschermen van mensenrechten online. ‘Kwalijk,’ zegt Amnesty, ‘Want een vrije samenleving begint bij het respecteren van mensenrechten.’
BBB
Het programma van de BBB mist stevige waarborgen tegen discriminatie door algoritmen, valt Amnesty op. Nergens staan duidelijke plannen om de surveillance van vreedzame demonstranten door de politie tegen te gaan. ‘Jammer, want de partij heeft ook het stembusakkoord niet ondertekend.’
De partij van Caroline van der Plas schrijft wel dat de privacy van burgers bij het gebruik van persoonlijke informatie ‘te allen tijde gewaarborgd’ dient te worden. ‘Het is en blijft altijd een vrije keuze van onze burgers om haar/zijn persoonlijke gegevens ter beschikking te stellen of niet.’ Het zijn bemoedigende woorden, maar de realiteit is dat het op dit moment juist géén vrije keuze is om persoonlijke gegevens ter beschikking te stellen. ‘De overheid monitort de bevolking volop en de politie heeft databanken vol met gegevens die onvrijwillig zijn afgestaan,’ zegt Amnesty. Zonder concrete plannen zijn het dus loze woorden.
De partij erkent wel dat AI ‘ontzettend veel kansen, maar ook risico’s’ biedt. ‘Transparantie staat bij deze dan ook altijd voorop’. Amnesty: ‘Transparantie ten aanzien van het gebruik van AI is een goed begin. Alleen zijn de gevaren van AI voor de mensenrechten groter dan dat je met transparantie kan voorkomen.’
D66
Aan elke passage die D66 wijdt aan techniek en data, voegt de partij steevast de bijzin ‘met inachtneming van privacy’ toe. Het staat symbool voor de inhoud van de rest van het programma; D66, ondertekenaar van het akkoord, houdt zich volgens Amnesty keurig aan de mensenrechten. Zo schrijft de partij expliciet over het stoppen van etnisch profileren en het gebruik van discriminatoire risicoprofielen. Nieuwe algoritmen moeten streng worden gecontroleerd met een verplichte mensenrechtentoets.
Ook benadrukt de partij het belang van demonstratierecht, en pleit ze voor transparantie door de politie als het gaat over de manier waarop die omgaat met gegevens van demonstranten. ‘Een goede zaak,’ zegt Amnesty. ‘De politie is nu totaal niet transparant over de data die zij verzamelen tijdens de surveillance van protestacties.’
Daarnaast maakt D66 zich hard voor privacy en transparantie. De partij wil het algoritmeregister aanvullen, waarin alle algoritmes worden opgenomen die de overheid gebruikt. Ook wil ze de ‘datahonger’ van de overheid stevig inperken en toezichthouders aanstellen die ‘voldoende middelen’ krijgen om hun werk te doen.
PvdD
De PvdD houdt zich aan het akkoord dat ook zij hebben ondertekend. De partij stelt een wettelijk verbod op het gebruik van etniciteit en nationaliteit als indicator voor risicoprofielen om actief discriminatie tegen te gaan en wil ook af van preventief fouilleren.
Daarnaast kaart de PvdD het gevaar aan van ID-controles voor demonstratierecht, het recht op privacy en het recht op gegevensbescherming. ‘Surveillance van vreedzame demonstranten stopt’, concludeert de partij.
De partij van Esther Ouwehand stelt ook specifieke regels op om de datahonger van de overheid aan banden te leggen, zo wil ze dat een rechter toetst wanneer instanties informatie mogen opvragen, zoeken of uitwisselen. Zelflerende systemen waar geen menselijke inmenging aan te pas komt, worden aan streng ethisch en privacytoezicht onderworpen. Bovendien mogen opsporing- en veiligheidsdiensten voortaan niet meer ‘rondsnuffelen in digitale apparaten zonder dat daar een zwaarwichtige, door de rechter getoetste reden voor is’. Want, schrijft de partij tot tevredenheid van Amnesty: ‘Veiligheid bereik je niet met het schenden van grondrechten’.
SP
De SP heeft het stembusakkoord weliswaar ondertekend, maar in het partijprogramma wordt niet verduidelijkt hoe ze zich wil inspannen. De partij zegt de inzet van algoritmen en kunstmatige intelligentie om fraude op te sporen niet langer te willen toestaan ‘als mensenrechten niet gewaarborgd kunnen worden’. Op zich goed, zegt Amnesty, ‘Maar het is wel wat vaag. Hebben ze het over een verbod? Hoe wordt dat dan gewaarborgd?’
Verder willen de socialisten de Autoriteit Persoonsgegevens versterken, in lijn met het getekende akkoord. Het waarborgen van het demonstratierecht wordt wel genoemd in het programma, maar de partij heeft geen punten opgenomen om surveillance van protestacties tegen te gaan. Amnesty: ‘Die staan wel in het stembusakkoord dat de SP heeft ondertekend, dus dat stemt hoopvol.’
In aanloop naar de verkiezingen toetsen wij de partijprogramma’s van de grootste acht partijen aan de Universele Verklaring van de Rechten van de Mens (UVRM). Houd onze website, Instagram of YouTube-community-pagina in de gaten. Lees ook de artikelen over asiel, wonen, klimaat, armoede en gelijkwaardigheid.
Meer over de verkiezingen? Check npo3.nl/stemmen