Ethische AI blijft mensenwerk

1. 15 november 2024, door Robert Enters
2. 0 reacties

Sterker nog, voor de nodige functies binnen de financiële sector is AI zelfs zo ongeveer een vereiste. Men kan eigenlijk niet meer zonder. Tegelijkertijd is de belangrijkste asset van de financiële sector vertrouwen. En dat kan met verkeerde inzet van AI flinke deuken oplopen. De missers zijn legio. Kortom, enige voorzichtigheid is op z’n plaats.

Models do not kill people

Een belangrijke overweging bij de ethische inzet van AI-modellen is dat, in de meeste gevallen, de modellen zelf niet per se het probleem zijn. Natuurlijk moeten ze robuust zijn, degelijk en niet te veel verkeerde uitkomsten genereren om bruikbaar te zijn. Toch zitten de echte misstappen met AI in het algemeen vooral in het verkeerde gebruik van de modellen. Of modellen die voor een bepaald doel gebouwd zijn, worden voor andere doelen gebruikt.

Daarom is het onvoldoende om alleen het model zelf te beoordelen, maar moet bij de overweging of de inzet van een AI model ethisch verantwoord is, ook scherp naar de context daaromheen gekeken worden. Wat gebeurt er met de uitkomsten? Wie ziet daarop toe? Zijn de mensen die met de uitkomsten moeten werken getraind om er juist mee om te gaan?

Net mensen

Net als mensen maken AI-modellen ook fouten. Sommige mensen denken dat alles wat met computers te maken heeft altijd zwart/wit is. Met AI is dat niet zo. Als je het plat slaat, zijn AI-modellen gewoon geavanceerde statistiek. En dat betekent kansberekening. Dus er is altijd de kans dat een model GEEN gelijk heeft. Daar moet een gebruiker altijd rekening mee houden.

Ook zijn de modellen en de onderliggende aannames ooit door een mens bepaald en geprogrammeerd. AI-modellen nemen de onderliggende voor- en waardeoordelen van hun programmeurs mee. En dat geldt ook voor de keuzes van de opdrachtgevers of van de gegevens die gebruikt zijn om het model te trainen. Sterker nog, in de nodige gevallen worden deze door de AI-modellen zelfs uitvergroot. Dit kan bij zelflerende modellen door de tijd zelfs verder versterkt worden.

Zeker in de huidige fase van AI staan de ontwikkelingen eigenlijk nog in de kinderschoenen. En net als bij kinderen, is enige supervisie verstandig. Zeker de meer ingewikkelde vormen van AI die zelflerend zijn, hebben additionele sturing nodig om bruikbaar te zijn en te blijven. Soms leren modellen de verkeerde dingen, of zijn ze nog onvoldoende getraind. Zo bleek een model om tumoren te ontdekken, getraind met röntgenfoto’s uit academische ziekenhuizen, niet goed te werken op ‘gewone’ röntgenfoto’s met wat mindere kwaliteit. Dus, net zoals we de ontwikkeling van kinderen volgen via het consultatiebureau, is het volgen van het gebruik van AI-modellen verstandig te doen vanuit een soort ‘Ethisch AI-bureau’.

Moreel kompas ‘not included’

AI-modellen hebben van zichzelf nog geen moreel kompas. Pogingen om een moreel kompas in AI-modellen te verwerken zijn tot nog toe weinig succesvol, of hebben zelfs negatieve gevolgen gehad. Denk aan het geforceerd divers maken van antwoorden, waarmee beelden van Vikingen met Aziatische gezichten gemaakt werden. Voor een goede ethische afweging is menselijk toezicht en inzicht nodig. En dat betekent ook dat dit toezicht nodig is gedurende de volledige periode van inzet van de AI-modellen. Het blijft niet bij een eenmalig vinkje dat een model en het gebruik goed zijn.

Ook al lijken AI-modellen soms menselijk, ook al lijken ze te kunnen denken - ze zijn het (voorlopig) niet. Daarom is menselijke invloed nodig om AI-modellen met een menselijke maat en met menselijke waarden in te zetten. Voorlopig is de mens nog niet overbodig. Eerder juist hard nodig.

Robert Enters is partner van First Day Advisory Group. Momenteel richt hij zich met name op (ethische) AI-strategie en de bijbehorende governance, vanuit de overtuiging dat hier momenteel veel uitdagingen liggen.

Reactie toevoegen

Naam

E-mailadres

Reactie

Organisatie

Telefoonnummer

VVPVIP HypothekenVVP Innovatie PlatformVIP SchadeVVP Twitter

Toevoegen 

Meer over

• First Day Advisory Group
• VVP-special
• AI
• Robert Enters
• business innovation