Ethische AI-dilemma’s

1. 30 november 2023, door Kees Van Montfort En Gert De Jong
2. 0 reacties

Zo meldt onderzoeksprogramma Argos (1 mei 2023) dat volgens de DNB de vier grootste banken van Nederland in 2021 bijna vierduizend zakelijke rekeningen hebben opgezegd vanwege verdachte transacties, contact met veroordeelde criminelen of onverklaarbare omzetstijgingen. Dit zou soms ook onterecht zijn gebeurd. Het snijdt mensen en bedrijven vervolgens volledig af van het betalingsverkeer.

In NRC van 22 juni 2023 wordt een andere ‘uitglijder’ gemeld: DUO zou te eenkennig controles op uitwonende studenten uitvoeren. De toeslagenaffaire hebben we allemaal nog wel in het geheugen.

Waar de ene kant van AI nog kan zijn dat het snel en efficiënt heel behulpzaam kan zijn, blijkt de andere kant een systeem te zijn dat compromisloze en meedogenloze beslissingen kan nemen, die mensen te kort kunnen doen. Hoe kunnen we die behulpzame kant nu benutten en verder ontwikkelen en die meedogenloze kant vermijden of inperken?

Oplossingen

De morele kant blijkt uit de manier waarop AI-systemen beslissingen nemen. Een algoritme is ontworpen om zaken ‘rationeel’ af te wegen. Er is geen ruimte om de menselijke maat in te brengen. Als mensen beslissingen nemen, geven ze anderen soms een tweede kans, of geven ze het voordeel van de twijfel. We kunnen verschillende afwegingen maken. AI-systemen kunnen dat niet. In de kern zijn hun beslissingen (als ze zo geprogrammeerd zijn): als A dan B. Mensen kunnen nog denken: als A, dan in deze situatie toch maar C. Het is juist die menselijke maat die onze samenleving menselijk maakt en houdt.

Die afweging maken we bij voorkeur vanuit de vragen wie nu gediend zijn met onze beslissingen en wat we ermee willen bereiken. In termen van de hiervoor genoemde voorbeelden: gaat het om efficiëntie en kostenbesparing of (ook) om klanten te helpen en de wereld veiliger te maken?

Rol

Een ander aspect is de vraag welke rol we AI geven in ons werk en besluitvorming. De mogelijkheden van ChatGPT laten zien welke mogelijkheden er zijn om het onderwijs te versterken. Er ligt een onmetelijke vraagbaak binnen handbereik die zeer snel en vaak ook nog adequaat reageert. Tegelijk liggen er tal van mogelijkheden klaar om te frauderen. Studenten schrijven hun essays, werkstukken en dergelijke niet meer zelf, maar laten dat doen.

We kunnen iets soortgelijks zeggen voor beslissingen rondom fraudedetectie en risicobeoordeling: varen we uitsluitend op het besluit van AI? Dat lijkt ons onethisch. Moreel verantwoorder is om te kijken wat AI ons levert als waardevolle input voor onze besluitvorming, maar dat we zelf kiezen en besluiten. Daarmee is ook helder waar de eindverantwoordelijkheid ligt: bij de menselijke beslissers. Het lijkt ons dat die daar ook hoort.

Gelet op de cruciale rol van vertrouwen in de financiële sector is de uitlegbaarheid van de uitkomsten en werking van AI-toepassingen cruciaal. Enerzijds moet een financiële dienstverlener weten op basis van welke criteria en scores het gebruikte AI-algoritme heeft geadviseerd om bijvoorbeeld een bedrijfskrediet toe te kennen of te weigeren. Met name de vraag is van belang of hierbij gebruik is gemaakt van ethisch-verantwoorde en praktisch-relevante uitgangspunten. Anderzijds dient het voor de kredietaanvrager duidelijk te zijn op welke door het AI-algoritme gebruikte criteria en scores het kredietadvies is gebaseerd.

Voor de geschetste ethische dilemma’s, die met het gebruik van AI gepaard kunnen gaan, zal er regelgeving moeten worden ontwikkeld door de overheid of de financiële sector. Het is onduidelijk in welke mate de overheid daartoe bereid is en of zij daarmee nu al niet te laat is.

Kees van Montfort en Gert de Jong zijn verbonden aan de Hogeschool van Amsterdam, Center for Financial Innovations.

Reactie toevoegen

Naam

E-mailadres

Reactie

Organisatie

Telefoonnummer

VVPVIP HypothekenVVP Innovatie PlatformVIP SchadeVVP Twitter

Toevoegen 

Meer over

• kunstmatige intelligentie
• risicobeheer
• Digitale Innovatie