Praktijkvoorbeeld: overheid en algoritmen
In Amsterdam wordt een innovatief algoritme gebruikt in de strijd tegen armoede. Dit algoritme maakt deel uit van de 'Amsterdamse aanpak vroegsignalering' en helpt bij het vroegtijdig identificeren van burgers die in financiële problemen dreigen te raken. De gemeente ontvangt meldingen van instanties zoals zorgverzekeraars en woningcorporaties over klanten met betalingsachterstanden. Deze informatie wordt aangevuld met gegevens die de gemeente al heeft, zoals uitkeringsstatus of betrokkenheid bij de afdeling Werk, Participatie en Inkomen. Vervolgens wordt deze informatie automatisch verwerkt en doorgestuurd naar een hulpverlener. Deze hulpverlener neemt binnen twee weken contact op met de betreffende burger om ondersteuning te bieden en indien nodig verdere afspraken te maken. Dit systeem toont hoe de inzet van technologie, in dit geval een algoritme, kan bijdragen aan effectievere maatschappelijke ondersteuning en preventie van serieuze problemen zoals schulden en huisuitzettingen.
Voordelen van het gebruik van algoritmen
Algoritmen kunnen grote hoeveelheden informatie snel verwerken en complexe berekeningen uitvoeren. Dit maakt het mogelijk voor overheden om taken efficiënter uit te voeren en beter geïnformeerde beslissingen te nemen. Zo kunnen gemeenten, bijvoorbeeld, verkeersstromen beter beheren of gerichter werken aan misdaadpreventie met behulp van voorspellende algoritmen.
De risico’s van algoritmen
Er zijn ook risico's verbonden aan het gebruik van algoritmen. Een van de grootste zorgen is discriminatie. Omdat algoritmen afhankelijk zijn van de data die ze krijgen, kunnen ze bestaande vooroordelen versterken of connecties leggen die onaanvaardbaar zijn in onze maatschappij. Dit werd duidelijk in de toeslagenaffaire, waarbij mensen met een dubbele nationaliteit onterecht als fraudeurs werden gezien. Een ander risico betreft privacy: algoritmen kunnen gedetailleerde persoonlijke informatie verzamelen en analyseren, wat de privacy van individuen kan schaden. Ook zijn algoritmen niet altijd transparant in hoe ze tot bepaalde besluiten komen, wat het moeilijk maakt om ze te controleren of te begrijpen. Een ander probleem met algoritmen is dat ze soms niet goed kunnen inspelen op unieke, individuele situaties. Dit komt omdat ze werken volgens algemene regels en patronen, en minder geschikt zijn voor gevallen die afwijken van het gemiddelde of standaard.
De toeslagenaffaire
Tussen 2005 en 2019 maakte de Belastingdienst serieuze fouten met de kinderopvangtoeslag, waarbij sommige ouders onterecht te horen kregen dat ze duizenden euro's moesten terugbetalen, ondanks dat ze recht hadden op deze toeslag. In deze zaak werd een algoritme gebruikt door de Belastingdienst om fraude in de kinderopvangtoeslag op te sporen. Dit algoritme merkte onterecht op dat ouders met een dubbele nationaliteit een hoger risico zouden hebben met betrekking tot fraude. Deze fouten leidden tot geldproblemen voor veel gezinnen, met gevolgen voor hun kinderen en jongeren. Deze jongeren ervaarden niet alleen financiële stress thuis, maar kregen ook niet of minder de mogelijkheid om te sporten, vakantie te vieren of te studeren. De overheid werd in 2018 aangesproken op deze fouten en is sinds 2020 actief bezig met het compenseren van de getroffen gezinnen.
Conclusie
Algoritmen bieden zowel voor- als nadelen. Het is aan de overheid om goed om te gaan met algoritmen, en deze zo in te stellen dat de kans op onterechte discriminatie of een andere vorm van onrecht zo laag mogelijk blijft. Niet te vergeten is dat algoritmen ook erg handig kunnen zijn, wat te zien is door het aantal wat in gebruik is bij verschillende gemeenten. Bent u benieuwd geworden welke algoritmen in werking zijn in Nederland en hoe deze worden gebruikt? Ga naar het Algoritmeregister van de Nederlandse overheid en bekijk of uw eigen gemeente ook gebruik maakt van deze technologie!
Bronnen
- https://www.digitaleoverheid.nl
- https://www.rtlnieuws.nl
- https://www.nationaleombudsman.nl
- https://www.rug.nl
- https://www.nji.nl
