Automatische systemen en zelflerende algoritmen rukken steeds verder op in de samenleving. De toepassing ervan is niet onomstreden: er is een groot aantal initiatieven, die ten doel hebben de rol van deze systemen in goede banen te leiden. Het toepassen van AI door toezichthouders heeft veel politieke en maatschappelijke aandacht: zo is tegen het gebruik van Syri, het systeem om fraude in de sociale zekerheid op te sporen, succesvol een rechtszaak aangespannen, en de effectiviteit van het systeem wordt betwist. Ook in de toeslagenfraudeaffaire zijn er al vragen opgekomen over het gebruik van data en de discriminerende werking van de algoritmes. Al snel wordt daarmee vergeten dat het gebruik van algoritmes kansen biedt om het werk van toezichthouders te verbeteren.

De afgelopen jaren heeft artificial intelligence (AI) een vlucht genomen door de combinatie van snelle technische ontwikkelingen en de beschikbaarheid van grote hoeveelheden digitale data. AI biedt nieuwe kansen voor het uitvoeren van toezicht. Daartegenover staat dat de inzet van deze technologie voor het optimaliseren van goed beschreven processen, onbedoelde en onverwachte gevolgen kan hebben.

In dit essay beantwoorden de auteurs de vraag: Is het mogelijk om artificial intelligence op een verantwoorde manier te gebruiken bij het uitvoeren van toezicht, rekening houdend met de onverwachte gevolgen die het toepassen van nieuwe technologie kan hebben?

Het begrip AI vatten wij breed op: het gaat om informatietechnologie die in meer of mindere mate zelfstandig beslissingen neemt of handelingen uitvoert. Gemeenschappelijk kenmerk van AI-systemen is dat zij een zekere autonomie hebben, maar altijd binnen de kaders van een organisatie werken en daarbij samenwerken met mensen.

Lees verder: