Onderzoek onthult uitdagingen bij AI-toepassingen in de rijksoverheid

Kunstmatige intelligentie (AI) wint snel aan terrein in verschillende sectoren, waaronder de overheid. De Algemene Rekenkamer heeft recent een onderzoek uitgevoerd bij 70 overheidsorganisaties om inzicht te krijgen in het gebruik van AI binnen de rijksoverheid. Hieruit blijkt dat de overheid vaak niet goed op de hoogte is of de door hen gebruikte AI-systemen naar behoren functioneren en welke risico's hieraan verbonden zijn.

AI-systemen bieden veel mogelijkheden om interne processen efficiënter te maken, kosten te besparen en de dienstverlening aan burgers en bedrijven te verbeteren. Bijvoorbeeld door het automatisch verwerken en analyseren van grote datasets, het anonimiseren van documenten en het ondersteunen van besluitvormingsprocessen.

Gebruik van AI binnen overheidsorganisaties

Het onderzoek toont aan dat het gebruik van AI binnen de rijksoverheid nog beperkt is. Van de 70 onderzochte organisaties hebben ze in totaal 433 AI-systemen gerapporteerd, waarvan het merendeel zich nog in de experimentele fase bevindt. Zo zijn er 167 systemen die nog in ontwikkeling zijn, en geeft 88% van de organisaties aan dat ze niet meer dan drie AI-systemen gebruiken. Slechts 5% van deze systemen is terug te vinden in het openbare algoritmeregister, wat duidt op een beperkte transparantie over het AI-gebruik.

De politie en het UWV zijn de organisaties die het meest actief zijn met AI, met respectievelijk 23 en 10 systemen in gebruik. Deze toepassingen zijn divers, maar veel ervan richten zich op het efficiënter maken van interne processen zonder directe impact op burgers en bedrijven. Voorbeelden zijn systemen die grote hoeveelheden informatie kunnen doorzoeken en verwerken om processen te optimaliseren, gesprekken automatisch omzetten naar tekst en documenten anonimiseren. Deze toepassingen kunnen tijd en geld besparen en de efficiëntie binnen overheidsdiensten verhogen.

Lees meer...

Lees ook:
Als AI zelf gaat hacken: wie draagt dan de verantwoordelijkheid?

Prestaties van AI-systemen

Uit het onderzoek blijkt dat veel overheidsorganisaties geen volledig inzicht hebben in de prestaties van hun AI-systemen. Bij 35% van de momenteel gebruikte AI-systemen is het onbekend of ze aan de verwachtingen voldoen. Dit kan komen doordat vooraf gestelde doelen of evaluatiecriteria ontbreken. Zonder duidelijke meetpunten is het moeilijk te bepalen of een AI-systeem effectief bijdraagt aan de doelstellingen van de organisatie.

Opvallend is dat bij de AI-systemen die zijn stopgezet, een aanzienlijk deel volgens de organisaties goed functioneerde. Van de 141 beëindigde AI-systemen gaf 58% aan dat deze systemen naar verwachting of zelfs beter presteerden. Toch zijn deze systemen stopgezet, vaak door een gebrek aan capaciteit om ze verder te ontwikkelen of te implementeren.

Risicobeoordeling binnen de overheid

Het inzetten van kunstmatige intelligentie binnen de rijksoverheid biedt veel kansen, maar brengt ook verschillende risico's met zich mee. Deze risico's variëren per AI-systeem en zijn afhankelijk van de toepassing en de mogelijke impact op burgers en bedrijven. Zo heeft een AI-systeem dat toeslagen beheert voor kwetsbare huishoudens een hoger risicoprofiel dan een systeem dat interne documenten samenvat voor ambtenaren.

Volgens de nieuwe Europese AI-verordening moeten alle AI-systemen worden beoordeeld op hun risico's. Systemen met onaanvaardbare risico's moeten worden stopgezet, terwijl hoogrisicosystemen aan extra voorwaarden moeten voldoen om negatieve gevolgen te voorkomen. Uit het onderzoek blijkt echter dat overheidsorganisaties de meeste van hun AI-systemen als 'minimaal risico' classificeren. Dit betekent niet dat deze systemen volledig risicovrij zijn. Er kunnen nog steeds uitdagingen zijn op het gebied van privacy, informatiebeveiliging of mogelijke negatieve impact op burgers door bijvoorbeeld oneerlijke vooroordelen in de algoritmen.

Er lijkt een neiging te bestaan om de risico's laag in te schatten, mogelijk omdat systemen met een minimale risicoclassificatie niet aan strenge eisen hoeven te voldoen. Dit kan ertoe leiden dat belangrijke risico's over het hoofd worden gezien en niet adequaat worden beheerd. Ewout Irrgang van de Algemene Rekenkamer benadrukt het belang van toezicht en controle op deze risicobeoordelingen.