De snelle ontwikkeling van artificiële intelligentie (AI) stelt AFM en DNB voor uitdagingen in het toezicht. De toezichthouders publiceren nu een rapport met uitgangs- en aandachtspunten voor het vormgeven van het toezicht op AI. AFM en DNB gaan hierover graag de dialoog aan met de sector.

Gebruik AI bij financiële instellingen zal verder toenemen

Nederlandse financiële instellingen passen AI al langere tijd toe en experimenteren met meer geavanceerde AI-modellen, wat doet vermoeden dat het gebruik van AI in de komende jaren verder toeneemt. AI wordt bijvoorbeeld ingezet voor fraudepreventie en -detectie, het tegengaan van witwassen en terrorismefinanciering en cybercriminaliteit, kredietbeoordelingen en identiteitsverificatie. Ook helpt AI medewerkers om efficiënter te werken. Veel instellingen geven aan voorlopig terughoudend te zijn met het gebruik van generatieve AI, al zien ze wel de potentie. Sommige zetten het langzaamaan in voor ondersteunende processen.

AI brengt naast kansen ook risico’s met zich mee

AI kan leiden tot betere en snellere dienstverlening voor klanten en meer gepersonaliseerde producten, door slimmer gebruik te maken van data. AI biedt financiële instellingen kansen om inkomsten te verhogen, door nieuwe klantengroepen aan te boren, cross-selling mogelijkheden te vergroten en prijzen te optimaliseren. Achter de schermen kan AI leiden tot efficiëntere processen, wat de kosten voor instellingen kan verlagen.

Tegelijkertijd zijn er risico’s, onder andere op het gebied van datakwaliteit, gegevensbescherming, uitlegbaarheid, incorrecte resultaten, discriminatie en uitsluiting, en een hogere mate van afhankelijkheid van enkele grote partijen. Deze risico’s kunnen een impact hebben op financiële instellingen en hun klanten en bevinden zich daarmee ook in het toezichtdomein van de AFM en DNB.

AI heeft gevolgen voor de manier waarop AFM en DNB toezichthouden

Van financiële instellingen mag verwacht worden dat zij AI verantwoord inzetten. Bestaande regelgeving geldt ook voor AI-toepassingen. AI heeft wel gevolgen voor de manier waarop de AFM en DNB toezichthouden. Om het gebruik van AI door instellingen te kunnen beoordelen zullen de AFM en DNB hun kennis op dit terrein moeten uitbreiden en in bepaalde gevallen toezichtmethoden en procedures moeten ontwikkelen of aanpassen.

De introductie van de AI-Verordening zal van financiële instellingen die AI toepassen extra aandacht vergen voor een goede bescherming van grondrechten. Voor zover AI wordt ingezet voor financiële dienstverlening, is uitgangspunt van de AI-Verordening dat bestaande financieel toezichthouders ook het toezicht op de regels van de verordening op zich nemen. In Nederland zijn dat de AFM en DNB. Zowel Europees als nationaal is brede coördinatie en samenwerking tussen toezichthouders op AI wenselijk, mede gezien de bijzondere risico’s van AI-systemen ten aanzien van grondrechten.

AFM en DNB gaan verder in gesprek met de sector

DNB en AFM blijven graag in dialoog met de sector over dit onderwerp. In het kader van dit rapport is al gesproken met verschillende banken, betaalinstellingen, verzekeraars en pensioenuitvoerders. Hieraan wordt later dit jaar een vervolg gegeven door met een symposium, gevolgd door één of meer ronde tafels.