AFM en DNB schetsen uitgangspunten toezicht op AI

AI kunstmatige intelligentie via Pixabay

In een dinsdag verschenen rapport schetsen AFM en DNB uitgangs- en aandachtspunten te voor het vormgeven van het toezicht op artificiële intelligentie (AI). De toezichthouders benadrukken dat het rapport geen pasklare antwoorden biedt. AFM en DNB zeggen ook graag in dialoog te blijven met de sector over dit onderwerp. In het kader van het rapport is al gesproken met verschillende banken, betaalinstellingen, verzekeraars en pensioenuitvoerders. Hieraan willen de toezichthouders een vervolg geven door later dit jaar een symposium te organiseren, gevolgd door één of meer ronde tafels.  

De hoofdboodschappen in het rapport: 

AI brengt naast substantiële kansen ook risico’s met zich mee. Enerzijds kan AI leiden tot betere dienstverlening voor klanten en meer gepersonaliseerde producten, en biedt het instellingen de kans om inkomsten te verhogen en kosten te verlagen. Anderzijds zijn er risico’s, onder andere op het gebied van datakwaliteit, gegevensbescherming, uitlegbaarheid, incorrecte resultaten, discriminatie en uitsluiting, en een hogere mate van afhankelijkheid van derde partijen.

Van financiële instellingen mag verwacht worden dat zij AI verantwoord inzetten. De doelstellingen van het toezicht en de normen waaraan instellingen moeten voldoen zijn onafhankelijk van de gehanteerde technologie. Ze gelden onverkort ook als AI wordt toegepast. Het gebruik van AI maakt onderdeel uit van bestaande processen en dienstverlening waar door de AFM en DNB toezicht op wordt gehouden op grond van geldende financiële wet en regelgeving.

AI heeft gevolgen voor de manier waarop de AFM en DNB toezicht houden. Om het gebruik van AI door instellingen te kunnen beoordelen zullen de AFM en DNB hun kennis op dit terrein moeten uitbreiden. Toezichtmethoden en procedures zullen in bepaalde gevallen ontwikkeld of aangepast moeten worden om rekening te houden met nieuwe technieken. Het toezicht zal zich onder meer richten op het risicobeheer rond de inzet van AI-toepassingen, de modaliteiten van die toepassingen en de uitkomsten.

Aanvullende eisen

Afhankelijk van de toepassing van AI kunnen aanvullende vereisten nodig zijn. Een bestaand voorbeeld hiervan zijn de regels die gelden voor algoritmische handel op de kapitaalmarkt. Op dit moment zijn dergelijke concretiseringen in wetgeving voor het verantwoord gebruik van AI beperkt. Naarmate het gebruik en het belang van AI voor de financiële sector toeneemt, dient het normenkader te worden verduidelijkt dan wel gespecificeerd. Bij voorkeur gebeurt dit
geharmoniseerd op Europees niveau, mede ten behoeve van toezichtconvergentie en het gelijke speelveld.

In wet en regelgeving moet een goede balans worden gevonden tussen enerzijds verantwoorde inzet van AI en anderzijds ruimte voor innovatie.

De Europese AI-verordening wijst AI-systemen, die gebruikt worden voor kredietwaardigheidstoetsen van natuurlijke personen en voor premiebepaling en risicobeoordeling voor levens- en ziektekostenverzekeringen, aan als hoog risico. Dit betekent dat nadere vereisten zullen gelden voor de ontwikkeling en het beheerst en verantwoord gebruik van deze AI-toepassingen. De vereisten sluiten grotendeels aan op bestaande regels voor risicobeheer en governance. Voor andere AI-toepassingen worden instellingen aangemoedigd om vrijwillig aan vereisten voor hoog risico AI-systemen te voldoen, onder meer door het volgen van Europese richtsnoeren voor betrouwbare AI. De AFM en DNB sluiten zich hierbij aan.

Goede bescherming van grondrechten

De AI-verordening zal van financiële instellingen die AI toepassen extra aandacht voor een goede bescherming van grondrechten vergen. Voor hoog risico toepassingen wordt het verplicht voor instellingen om een beoordeling te maken van het mogelijke effect op grondrechten van personen of groepen.

Voor zover AI wordt ingezet voor financiële dienstverlening, is uitgangspunt van de AI verordening dat bestaande financieel toezichthouders ook het toezicht op de regels van de verordening op zich nemen. In Nederland zijn dat de AFM en DNB. Zowel Europees als nationaal is brede coördinatie en samenwerking tussen toezichthouders op AI wenselijk, mede gezien de bijzondere risico’s van AI systemen ten aanzien van grondrechten.

Reactie toevoegen

 
Meer over
Nieuwe risico's door embedded finance

Nieuwe risico's door embedded finance

Embedded finance leidt tot nieuwe risico's, meent DNB op grond van een analyse waarin de toezichthouder de integratie van financiële producten in niet-financiële...

Ik ga op reis en neem mee… AI als oplossing voor de claimpieken

Ik ga op reis en neem mee… AI als oplossing voor de claimpieken

(Blog door Stephan de Jong, Director Technology & Digital Transformation bij IG&H) Door gebruik te maken van de mogelijkheden van GenAI kunnen verzekeringsmaatschappijen...

Onveranderde waarde in een veranderende wereld

Onveranderde waarde in een veranderende wereld

(Opinie Jan Berndsen, AFM, in VVP-special De Waarde van Advies) De toegevoegde waarde van een adviseur is onverminderd groot. Niet alleen omdat u producten kunt...

AFM: "Beter changemanagement beschermt consumenten tegen overkreditering"

AFM: "Beter changemanagement beschermt consumenten tegen overkreditering"

De AFM vraagt aandacht voor tien principes bij het verbeteren van changemanagement door verstrekkers van consumptief of hypothecair krediet. Naar aanleiding van...

VVP-special De Waarde van Advies: advieswaarde meer uitdragen

VVP-special De Waarde van Advies: advieswaarde meer uitdragen

De waarde van financieel advies is onmiskenbaar, maar het blijft belangrijk haar uit te dragen. Actieve provisietransparantie, schrijft Adfiz in de VVP-special De...

Sector kijkt met argusogen naar gegevensdrift AFM

Sector kijkt met argusogen naar gegevensdrift AFM

"Wij zijn niet overtuigd dat de AFM meer bevoegdheden nodig heeft om efficiënt en effectief gedragstoezicht te houden op verzekeraars." Zo reageert het Verbond...

De waarde van advies volgens ChatGPT

De waarde van advies volgens ChatGPT

(Uit VVP-special De Waarde van Advies 2024) Wat is de waarde van financieel advies? VVP vroeg het aan ChatGPT. Dit soort generatieve kunstmatige intelligentie...

Inschrijving Jongeren Innovatie Programma 2024 open

Inschrijving Jongeren Innovatie Programma 2024 open

Vanaf nu kan worden ingeschreven op het Jongeren Innovatie Programma (JIP) 2024 van het Verbond van Verzekeraars. Het JIP is er voor young professionals die werken...

De duurzame toekomst van verzekeren

De duurzame toekomst van verzekeren

(Onno Bloemers, First Day Advisory Group, in VVP 3-2024) Tien jaar geleden werd vernieuwing in de verzekeringswereld vooral aangejaagd door de schijnbaar onbegrensde...

Integreren van AI-software

Integreren van AI-software

(Uit Ken je vak!, VVP 3-2024) In dit derde deel van de serie AI in de Adviespraktijk beantwoorden we de vraag: hoe integreer je AI in een bestaand IT-landschap?...