Gebruik van Big Data/algoritmen – het risico bij ongelijke behandeling voor klanten van financiële ondernemingen en de rol van compliance
/In dit artikel bespreken de auteurs in hoeverre financiële ondernemingen klanten op basis van Big Data en algoritmen verschillend mogen behandelen en waarop financiële ondernemingen dan moeten letten. Hoewel dit artikel is toegespitst op financiële ondernemingen, zijn vergelijkbare principes ook van toepassing bij ondernemingen buiten de financiële sector.
Ongelijke behandeling vereist bijzondere aandacht van compliance officers, omdat het mensen diep kan krenken, zelfs indien volstrekt legaal en hoe goed bedoeld ook. Denk bijvoorbeeld aan het ouderenuur dat supermarkten instelden in verband met Corona, zodat ouderen ’s ochtends vroeg rustig hun boodschappen konden doen, voordat de winkel open zou gaan voor andere klanten. Dit viel niet in goede aarde bij de ouderenbond ANBO. Wij citeren Liane den Haan, directeur bestuurder van ANBO: ‘Deze actie van Albert Heijn is ongetwijfeld goed bedoeld, maar werkt volkomen averechts! Nog los van het onmogelijke tijdstip, zou de supermarkt moeten beseffen wat de consequenties van deze actie zijn. Oudere mensen worden gestigmatiseerd en enorm beperkt in hun vrijheid. Waarom zouden we dit willen?’ Andersom verwachten klanten dat met hun persoonlijke omstandigheden rekening wordt gehouden en zou een financiële onderneming niet overleven, als deze elke klant precies hetzelfde behandelt. Een verzekeraar blijft niet lang bestaan, als deze een notoire brokkenpiloot dezelfde premie rekent voor een autoverzekering, als een klant die al 20 jaar geen aanrijding heeft veroorzaakt. Een bank kan beter een hypotheek verstrekken aan een klant met een hoog inkomen, dan aan een klant die al jaren werkeloos is. Gerechtvaardigd onderscheid is dus goed en zelfs nodig, maar willekeur of onderscheid op onjuiste gronden, leidt tot bezwaren, reputatieschade en kan zelfs een overtreding van de wet inhouden en resulteren in claims. Het gebruik van Big Data en algoritmen drijft dit dilemma op de spits. Enerzijds is meer onderscheid mogelijk en daardoor wenselijk. Anderzijds, kent Big Data het risico op discriminatie en is het bij gebruik van Big Data nog moeilijker om te achterhalen en uit te leggen waarop het onderscheid is gebaseerd.
Lees verder:
Gebruik van Big Data/algoritmen – het risico bij ongelijke behandeling voor klanten van financiële ondernemingen en de rol van compliance door dr. E.J. van Praag & mr. T. Scholma in Tijdschrift voor Compliance