03 May 2021

Impact Centre Erasmus: volgende toeslagenaffaire onvermijdelijk

Overheden en bedrijven hebben de kernboodschap van de ‘toeslagenaffaire’ niet begrepen. Organisaties nemen geen maatregelen die voorkomen dat data zonder ethisch toezicht aan elkaar gekoppeld worden. Wanneer managers niet snel worden bijgeschoold in hoe algoritmes werken, is het volgende schandaal slechts een kwestie van tijd.

Deze harde conclusie volgt uit de nieuwste enquête van het Impact Centre Erasmus onder enkele honderden MVO-managers. Het is hun vak om het maatschappelijk verantwoord ondernemen in organisaties vorm te geven. De enquête staat gepubliceerd in de P+ Special van deze week: ‘Verpletterd door algoritmes

Directeur Jacqueline Scheidsbach van het Impact Centre Erasmus zegt: “Je ziet dat de discussie over toeslagenaffaire nu vooral gaat over de relatie tussen de regering en het parlement. Wie heeft wel of niet op welk moment gelogen? Het gesprek zou moeten gaan over de vraag: hoe voorkomen we dat er nog eens databestanden aan elkaar worden gekoppeld, zonder enig toezicht of mogelijkheid om tijdig in te grijpen? De belangrijkste les van de ‘toeslagenaffaire’ is: algoritmes kunnen mensen verpletteren. Hoe gaan we dat in de toekomst voorkomen?”

Uit de enquête onder het MVO Expertpanel blijkt dat bij overheden en bedrijven geen beleid is om fout datagebruik te voorkomen. Omgerekend hebben slechts 25 van de 100 organisaties een visie op ethisch datamanagement. Slechts 19 procent van de organisaties waar de ondervraagden bij werken betrekt MVO-professionals bij keuzes over data. Van de respondenten zelf ziet slechts 43 procent de manier waarop de eigen organisatie data verzamelt, verwerkt en gebruikt als belangrijk onderdeel van hun werk.

Scheidsbach: “Het is niet zo moeilijk om te voorspellen waar het straks weer fout kan gaan. Dat kan gebeuren wanneer een gemeente gegevens over de sociaal-economische status (SES) van burgers koppelt met data over laaggeletterdheid, en daarna specifieke groepen in de bevolking veel vaker dan anderen controleert. Denk aan een toepassing in geval van opsporing van uitkeringsfraude of verdenking van criminaliteit. Voor data analyse wordt vaak ook oud onderzoeksmateriaal gebruikt. Terwijl tijden veranderen en vrouwen bijvoorbeeld langzaam andere posities in de maatschappij verwerven en er gestaag empirisch onderzoek komt naar het verschil tussen mannen en vrouwen. Zou je de zoekopdrachten door algoritmes of data voor innovatie nog kunnen voeden met cijfers uit de tijd dat bijvoorbeeld vrouwen nog niet eens onderwerp van onderzoek waren? De blanke man tussen circa 40 en 55 moet nu niet meer maatgevend zijn voor besluitvorming op basis van data.  Dat kan discriminatie en niet effectieve innovaties in de hand werken. Er lijkt geen enkele rem te zijn op het gebruik van verouderde gegevens.”

In de enquête komen praktische vragen aan de orde als: moeten MVO-managers een rol krijgen in het vooraf en achteraf toetsen van gebruikte algoritmes? Zou het niet verstandig zijn om een ethische toetsing in te voeren nog voordat de computers beginnen te stampen en er mogelijk weer ongelukken gebeuren?

Een belangrijke uitslag uit de enquête onder het MVO Expertpanel is dan ook dat MVO-managers heel snel bijgeschoold moeten worden, zodat ze ‘techneuten’ ethisch inhoudelijke vragen kunnen stellen. Dat dit nog niet is gebeurd, heeft ook met de complexiteit van de technologie te maken. Een van de respondenten schreef zelfs: ‘Ethisch datamanagement is MVO voor gevorderden’.

Scheidsbach concludeert: “De MVO-professional loopt nu achter op de technologische ontwikkelingen. Dat kan niet, want datamanagement heeft alles te maken met maatschappelijke vraagstukken zoals toegankelijkheid, kansen en ongelijkheid, milieu, sociale cohesie en gezondheid. Ethisch datamanagement wordt nog onvoldoende als een MVO-issue gezien, terwijl de relevantie en de impact ervan toeneemt. Binnen organisaties wordt ethisch datamanagement nog onvoldoende gekoppeld aan maatschappelijk verantwoord ondernemen. Het moet nog als kompas aan de gereedschapskist van de MVO-manager worden toegevoegd en verankerd in de datavisie van de organisatie. In de toekomst zal het belang van een MVO-check op het vergaren en koppelen van data nog verder toenemen.”

Lees de P+ Special ‘Verpletterd door algoritmes’ met alle cijfers en analyses uit deze enquête onder het MVO Expertpanel over het koppelen en gebruiken van data.