AFM en DNB schetsen uitgangspunten toezicht op AI

1. 9 april 2024
2. 0 reacties

In een dinsdag verschenen rapport schetsen AFM en DNB uitgangs- en aandachtspunten te voor het vormgeven van het toezicht op artificiële intelligentie (AI). De toezichthouders benadrukken dat het rapport geen pasklare antwoorden biedt. AFM en DNB zeggen ook graag in dialoog te blijven met de sector over dit onderwerp. In het kader van het rapport is al gesproken met verschillende banken, betaalinstellingen, verzekeraars en pensioenuitvoerders. Hieraan willen de toezichthouders een vervolg geven door later dit jaar een symposium te organiseren, gevolgd door één of meer ronde tafels.  

De hoofdboodschappen in het rapport: 

AI brengt naast substantiële kansen ook risico’s met zich mee. Enerzijds kan AI leiden tot betere dienstverlening voor klanten en meer gepersonaliseerde producten, en biedt het instellingen de kans om inkomsten te verhogen en kosten te verlagen. Anderzijds zijn er risico’s, onder andere op het gebied van datakwaliteit, gegevensbescherming, uitlegbaarheid, incorrecte resultaten, discriminatie en uitsluiting, en een hogere mate van afhankelijkheid van derde partijen.

Van financiële instellingen mag verwacht worden dat zij AI verantwoord inzetten. De doelstellingen van het toezicht en de normen waaraan instellingen moeten voldoen zijn onafhankelijk van de gehanteerde technologie. Ze gelden onverkort ook als AI wordt toegepast. Het gebruik van AI maakt onderdeel uit van bestaande processen en dienstverlening waar door de AFM en DNB toezicht op wordt gehouden op grond van geldende financiële wet en regelgeving.

AI heeft gevolgen voor de manier waarop de AFM en DNB toezicht houden. Om het gebruik van AI door instellingen te kunnen beoordelen zullen de AFM en DNB hun kennis op dit terrein moeten uitbreiden. Toezichtmethoden en procedures zullen in bepaalde gevallen ontwikkeld of aangepast moeten worden om rekening te houden met nieuwe technieken. Het toezicht zal zich onder meer richten op het risicobeheer rond de inzet van AI-toepassingen, de modaliteiten van die toepassingen en de uitkomsten.

Aanvullende eisen

Afhankelijk van de toepassing van AI kunnen aanvullende vereisten nodig zijn. Een bestaand voorbeeld hiervan zijn de regels die gelden voor algoritmische handel op de kapitaalmarkt. Op dit moment zijn dergelijke concretiseringen in wetgeving voor het verantwoord gebruik van AI beperkt. Naarmate het gebruik en het belang van AI voor de financiële sector toeneemt, dient het normenkader te worden verduidelijkt dan wel gespecificeerd. Bij voorkeur gebeurt dit
geharmoniseerd op Europees niveau, mede ten behoeve van toezichtconvergentie en het gelijke speelveld.

In wet en regelgeving moet een goede balans worden gevonden tussen enerzijds verantwoorde inzet van AI en anderzijds ruimte voor innovatie.

De Europese AI-verordening wijst AI-systemen, die gebruikt worden voor kredietwaardigheidstoetsen van natuurlijke personen en voor premiebepaling en risicobeoordeling voor levens- en ziektekostenverzekeringen, aan als hoog risico. Dit betekent dat nadere vereisten zullen gelden voor de ontwikkeling en het beheerst en verantwoord gebruik van deze AI-toepassingen. De vereisten sluiten grotendeels aan op bestaande regels voor risicobeheer en governance. Voor andere AI-toepassingen worden instellingen aangemoedigd om vrijwillig aan vereisten voor hoog risico AI-systemen te voldoen, onder meer door het volgen van Europese richtsnoeren voor betrouwbare AI. De AFM en DNB sluiten zich hierbij aan.

Goede bescherming van grondrechten

De AI-verordening zal van financiële instellingen die AI toepassen extra aandacht voor een goede bescherming van grondrechten vergen. Voor hoog risico toepassingen wordt het verplicht voor instellingen om een beoordeling te maken van het mogelijke effect op grondrechten van personen of groepen.

Voor zover AI wordt ingezet voor financiële dienstverlening, is uitgangspunt van de AI verordening dat bestaande financieel toezichthouders ook het toezicht op de regels van de verordening op zich nemen. In Nederland zijn dat de AFM en DNB. Zowel Europees als nationaal is brede coördinatie en samenwerking tussen toezichthouders op AI wenselijk, mede gezien de bijzondere risico’s van AI systemen ten aanzien van grondrechten.

Reactie toevoegen

Naam

E-mailadres

Reactie

Organisatie

Telefoonnummer

VVPVIP HypothekenVVP Innovatie PlatformVIP SchadeVVP Twitter

Toevoegen 

Meer over

• afm
• kunstmatige intelligentie
• AI

Abonnement aanvragen