Ethische AI-dilemma’s

Robot AI via Pixabay

(Kees van Montfort en Gert de Jong, Hogeschool van Amsterdam, in Katern Risicobeheer en Preventie, VVP 5-2023) AI is een uitstekende tool om financiële fraudedetectie en de beoordeling van credit risks te versnellen, zo bleek uit afstudeeropdrachten die studenten van de masteropleiding Applied AI aan de Hogeschool van Amsterdam afgelopen semester bij financiële instellingen hebben uitgevoerd. Maar we zien soms dat de beslissingen op basis van AI-systemen te rigoureus worden genomen.

Zo meldt onderzoeksprogramma Argos (1 mei 2023) dat volgens de DNB de vier grootste banken van Nederland in 2021 bijna vierduizend zakelijke rekeningen hebben opgezegd vanwege verdachte transacties, contact met veroordeelde criminelen of onverklaarbare omzetstijgingen. Dit zou soms ook onterecht zijn gebeurd. Het snijdt mensen en bedrijven vervolgens volledig af van het betalingsverkeer.

In NRC van 22 juni 2023 wordt een andere ‘uitglijder’ gemeld: DUO zou te eenkennig controles op uitwonende studenten uitvoeren. De toeslagenaffaire hebben we allemaal nog wel in het geheugen.

Waar de ene kant van AI nog kan zijn dat het snel en efficiënt heel behulpzaam kan zijn, blijkt de andere kant een systeem te zijn dat compromisloze en meedogenloze beslissingen kan nemen, die mensen te kort kunnen doen. Hoe kunnen we die behulpzame kant nu benutten en verder ontwikkelen en die meedogenloze kant vermijden of inperken?

‘Gaat het om efficiëntie en kostenbesparing of om klanten te helpen’

Oplossingen

De morele kant blijkt uit de manier waarop AI-systemen beslissingen nemen. Een algoritme is ontworpen om zaken ‘rationeel’ af te wegen. Er is geen ruimte om de menselijke maat in te brengen. Als mensen beslissingen nemen, geven ze anderen soms een tweede kans, of geven ze het voordeel van de twijfel. We kunnen verschillende afwegingen maken. AI-systemen kunnen dat niet. In de kern zijn hun beslissingen (als ze zo geprogrammeerd zijn): als A dan B. Mensen kunnen nog denken: als A, dan in deze situatie toch maar C. Het is juist die menselijke maat die onze samenleving menselijk maakt en houdt.

Die afweging maken we bij voorkeur vanuit de vragen wie nu gediend zijn met onze beslissingen en wat we ermee willen bereiken. In termen van de hiervoor genoemde voorbeelden: gaat het om efficiëntie en kostenbesparing of (ook) om klanten te helpen en de wereld veiliger te maken?

Rol

Een ander aspect is de vraag welke rol we AI geven in ons werk en besluitvorming. De mogelijkheden van ChatGPT laten zien welke mogelijkheden er zijn om het onderwijs te versterken. Er ligt een onmetelijke vraagbaak binnen handbereik die zeer snel en vaak ook nog adequaat reageert. Tegelijk liggen er tal van mogelijkheden klaar om te frauderen. Studenten schrijven hun essays, werkstukken en dergelijke niet meer zelf, maar laten dat doen.

We kunnen iets soortgelijks zeggen voor beslissingen rondom fraudedetectie en risicobeoordeling: varen we uitsluitend op het besluit van AI? Dat lijkt ons onethisch. Moreel verantwoorder is om te kijken wat AI ons levert als waardevolle input voor onze besluitvorming, maar dat we zelf kiezen en besluiten. Daarmee is ook helder waar de eindverantwoordelijkheid ligt: bij de menselijke beslissers. Het lijkt ons dat die daar ook hoort.

Gelet op de cruciale rol van vertrouwen in de financiële sector is de uitlegbaarheid van de uitkomsten en werking van AI-toepassingen cruciaal. Enerzijds moet een financiële dienstverlener weten op basis van welke criteria en scores het gebruikte AI-algoritme heeft geadviseerd om bijvoorbeeld een bedrijfskrediet toe te kennen of te weigeren. Met name de vraag is van belang of hierbij gebruik is gemaakt van ethisch-verantwoorde en praktisch-relevante uitgangspunten. Anderzijds dient het voor de kredietaanvrager duidelijk te zijn op welke door het AI-algoritme gebruikte criteria en scores het kredietadvies is gebaseerd.

Voor de geschetste ethische dilemma’s, die met het gebruik van AI gepaard kunnen gaan, zal er regelgeving moeten worden ontwikkeld door de overheid of de financiële sector. Het is onduidelijk in welke mate de overheid daartoe bereid is en of zij daarmee nu al niet te laat is.

Kees van Montfort en Gert de Jong zijn verbonden aan de Hogeschool van Amsterdam, Center for Financial Innovations.

Reactie toevoegen

 
Meer over
ChatGPT versus Enno Wiertsema

ChatGPT versus Enno Wiertsema

(Uit VVP 2-2024) Nieuw in VVP in 2024: de redactie legt een vraag voor aan ChatGPT en laat vervolgens een deskundige van vlees en bloed op het antwoord reageren....

Hoe operationaliseer je een getraind algoritme?

Hoe operationaliseer je een getraind algoritme?

(Dennie van den Biggelaar, Onesurance, in Ken je vak! VVP 2-2024) In dit tweede deel van de serie AI in de Adviespraktijk beantwoorden we de vraag: hoe operationaliseer...

AFM en DNB schetsen uitgangspunten toezicht op AI

AFM en DNB schetsen uitgangspunten toezicht op AI

In een dinsdag verschenen rapport schetsen AFM en DNB uitgangs- en aandachtspunten te voor het vormgeven van het toezicht op artificiële intelligentie (AI)....

AI: onbekend maakt onbemind in mkb

AI: onbekend maakt onbemind in mkb

Finance professionals in het mkb hebben weinig vertrouwen in kunstmatige intelligentie. Zo zegt een ruime meerderheid van 59 procent in onderzoek door Visma dat...

ChatGPT versus Kees Dullemond

ChatGPT versus Kees Dullemond

(Uit VVP-special Duurzaam Advies 2024) Nieuw in VVP in 2024: VVP legt een vraag voor aan ChatGPT en laat vervolgens een deskundige van vlees en bloed op het antwoord...

Deugden en purpose in de adviespraktijk

Deugden en purpose in de adviespraktijk

(Gert de Jong, Hogeschool van Amsterdam, in VVP-special Duurzaam Advies 2024) De Hogeschool van Amsterdam nodigt financieel adviseurs en hun beroepsverenigingen...

Kunstmatige intelligentie slim aanpakken

Kunstmatige intelligentie slim aanpakken

(Justin Schlee, ANVA, in katern Haal meer uit data in VVP 1-2024) Kunstmatige intelligentie is een interessante tool die het overwegen waard is, vooral als het...

Meeste aandacht naar de juiste klant

Meeste aandacht naar de juiste klant

(Uit katern Haal meer uit data in VVP 1-2024) “De manier waarop data gebruikt kan worden om bijvoorbeeld te kunnen voorspellen wat de royeringskans is van...

Katern Haal meer uit data in nieuwe VVP

Katern Haal meer uit data in nieuwe VVP

Pak kunstmatige intelligentie slim aan, stelt Justin Schlee (ANVA) in het katern Haal meer uit data in de dinsdag verschenen nieuwe VVP 1-2024. Schlee: "Mijn advies...

Nieuw in VVP: branchekenners in duel met ChatGPT

Nieuw in VVP: branchekenners in duel met ChatGPT

In de vandaag (dinsdag) verschenen VVP 1-2024 duelleert Richard Meinders (SVC Groep, lid VVP Ondernemerspanel) met ChatGPT over actieve provisietransparantie in...