Kracht en gevaar van algoritmes

Maria Genova 2023

(Maria Genova in VVP-special Digitale Innovatie 2023) Kunstmatige intelligentie wordt tegenwoordig in steeds meer sectoren ingezet. Het levert prachtige resultaten op, maar algoritmes blijken niet altijd onpartijdig. En is informatie wel juist?

Amazon wilde een systeem ontwikkelen dat een groot aantal cv’s analyseert en de juiste kandidaten selecteert. De onderzoekers wisten echter niet dat de meeste cv’s van mannelijke kandidaten waren. Mannen werden door het programma hoger gerangschikt dan vrouwen op basis van hoe dat vroeger was. Voor bepaalde functies begon het systeem kandidaten zonder de vereiste vaardigheden of ervaring aan te bevelen, alleen maar omdat ze geen vrouw waren. Toen Amazon dat ontdekte, werd de seksistische robot op non-actief gezet.

Voorspellende algoritmes worden al jaren gebruikt, bijvoorbeeld voor opsporing, maar ook om te voorspellen of een leerling voortijdig van school gaat. Voorspellende algoritmes zoeken verbanden in grote bergen data. Soms kunnen ze zelf beslissingen nemen. Op basis van data kun je bijvoorbeeld voorspellen wanneer welke lamp gaat uitvallen in de straatverlichting en welke prullenbak vol raakt. Bij banken is het handig als je weet aan welke transacties een luchtje zit, maar een mens kan moeilijk tientallen miljoenen transacties per dag bestuderen. Dat wordt dus automatisch gedaan door algoritmes. Bij boeren verwacht je het minder, maar sommige melkveehouders noemen algoritmes hun rechterhand. Sensoren registreren afwijkingen in loop- en liggedrag van koeien, waardoor de boer veel sneller een zieke koe ontdekt.

Engels met een gek accent

Als een algoritme iets fout aanleert, heb je wel een probleem. Zo bleek de Schotse Wikipedia grotendeels geschreven door iemand die geen Schots kent. De tienduizenden fout geschreven artikelen waren het werk van een Amerikaan die de officieel erkende Schotse taal aanzag voor ‘Engels met een gek accent’ en zich uitleefde in een soort brabbeltaaltje. Veel taalalgoritmes gebruiken Wikipedia om talen te herkennen en te vertalen. Het ‘Schots’ van een Amerikaan die tikt in een gek accent, wordt op basis van honderdduizenden artikelen gezien als echt Schots.

De Autoriteit Persoonsgegevens waarschuwt dat de overheid transparanter moet zijn over hoe algoritmes omgaan met gegevens, welke gegevens ze gebruiken en hoe besluiten tot stand komen. Dat is niet voor niets, want er is al behoorlijk wat misgegaan. Het meest bekende voorbeeld in Nederland is de toeslagenaffaire bij de Belastingdienst. Omdat de algoritmes zo partijdig en discriminerend waren, werden heel veel mensen ten onrechte als fraudeur bestempeld. Sommigen kwamen zo diep in de problemen dat ze alles kwijtraakten: van huis tot baan.

In het Verenigd Koninkrijk veroorzaakte een algoritme een examencrisis. Het algoritme moest door corona belangrijke examens vervangen en baseerde zich deels op de locatie in plaats van op de prestaties van leerlingen. De bekendmaking van de resultaten die belangrijk zijn voor toelating tot universiteiten, leidde tot straatprotesten. Het systeem bleek strenger te zijn voor armere leerlingen.

ChatGPT

Gewone burgers waren tot voor kort helemaal niet geïnteresseerd in algoritmes, tot ChatGPT vanuit het niets hip werd. In no time maakten miljoenen mensen een account aan. Ik ook, omdat ik werkelijk benieuwd was of je intelligente gesprekken met een chatbot kon voeren. Zelf was ik niet verder gekomen dan de klantenservice chatbots van veel bedrijven, waar ik me vooral dood aan ergerde. Zelfs op de simpelste vragen wisten ze soms geen goed antwoord te geven en als je om een medewerker vroeg, kwam je soms in een ‘loop’ terecht.

ChatGPT was een verademing, want hij/zij voert echt een gesprek met je en dat gesprek loopt niet vast. Je krijgt op werkelijk elke vraag een antwoord. Het enige vervelende is dat je niet direct kunt checken of het antwoord klopt. Dan moet je zelf op zoek naar betrouwbare bronnen. Waar zo’n chatbot wel onwijs goed in is, is lange stukken samenvatten of zelfs volledige artikelen of opstellen voor je schrijven. Dat hebben leerlingen en studenten binnen no time ontdekt en op scholen brak paniek uit. Logisch, want wat doe je als iedereen zijn huiswerk door artificial intelligence laat maken? Dat vraagt zowat om een hervorming van het onderwijs.

Mogelijkheden en dreigingen

Voor een nieuw boek verdiep ik me in de mogelijkheden en de dreigingen van AI. Ik lees veel doemscenario’s, maar wat ik ook op fora lees zijn berichten zoals: “De afgelopen paar maanden ben ik vastgelopen tijdens mijn studie. Ik kwam maar niet door de theorie heen. De stof waar ik tijdens onze moduulopdrachten mee moest werken was gortdroog, en in welk boek ik ook zocht naar meer informatie over bepaalde methodieken, geen van hen heeft me verder vooruit kunnen helpen. Tot ik vorige week ChatGPT ontdekte en een paar simpele vragen over dit onderwerp stelde, met de specifieke opdracht om het me uit te leggen alsof ik een kind van tien jaar oud was. En wat bleek? Waar boeken me maandenlang hebben opgezadeld met extra vraagtekens, wist deze AI mijn probleem in een paar seconden op te lossen. Ik begreep het echt! Heb ik minder geleerd? Integendeel. Voor mij heeft het inzetten van ChatGPT zo’n 80 procent overbodige ruis van de lijn gehaald, iets waar het huidige onderwijssysteem ons graag mee opzadelt. Ik leer sinds kort veel doelgerichter, stel duidelijkere vragen en ben onbewust nauwkeuriger geworden met het controleren van de informatie die ik krijg.”

Maria Genova: ‘ChatGPT is een verademing’

Heel positief dus. Maar gaat iedereen checken of de informatie die de chatbot geeft juist is? Of verschijnt er steeds meer overtuigend geschreven werk dat niet helemaal klopt en vervolgens als basis wordt gebruikt voor steeds meer overtuigend geschreven werk dat niet klopt? Kan iemand straks met zekerheid zeggen of dit artikel door mij is geschreven of door een chatbot en of het klopt? Kan iemand dat over vijf jaar nog steeds met zekerheid zeggen?

Maria Genova is journalist en schrijfster. Ze is een expert op het gebied van moeilijke digitale vraagstukken van deze tijd, zoals online privacy, fraude en gegevensbescherming.

Reactie toevoegen

 
Meer over
ING biedt adviseurs volledig digitaal proces met Hypotheekstart

ING biedt adviseurs volledig digitaal proces met Hypotheekstart

ING biedt adviseurs vanaf eind juni een volledig digitaal proces met Hypotheekstart. Turhan Özgüner, directeur Verkoop en Beheer bij ING Intermediair:...

Win tijd met AI en Machine Learning

Win tijd met AI en Machine Learning

(Partner in kennis Inpact in katern Haal meer uit data in VVP 1-2024) Dagelijks worden enorme hoeveelheden data gecreëerd. In de verzekeringsbranche is dat...

Wat geen kunstmatige intelligentie is, wordt waardevol

Wat geen kunstmatige intelligentie is, wordt waardevol

(Verslag VIP Congres 2023 in VVP 4, 2023) De veertig leden van de contactgroep automatisering (cga) toonden hun meest recente innovaties op het tweede vip-congres...

Innovatie is vooral kansen creëren

Innovatie is vooral kansen creëren

(Harold Mahadew, Verbond van Verzekeraars, in VVP-special Digitale Innovatie 2023) De (Europese) wet-en regelgeving beweegt naar meer ruimte voor individuele innovatie...

De toekomst is nu

De toekomst is nu

(Jeroen Oversteegen, Nationale Hypotheekbond, in VVP-special Digitale Innovatie 2023) In de steeds veranderende wereld van de hypotheek-en verzekeringsbranche...

Break the internet

Break the internet

(Kees Haverkamp, innovator, in VVP-special Digitale Innovatie 2023) Een opmerkelijk Canadees politiebericht uit begin jaren ‘90 deed verslag van een hacker...

Menselijke interactie blijft belangrijk

Menselijke interactie blijft belangrijk

(Edgar Hollander, De Hypotheker Nieuw-Vennep, in VVP-special Digitale Innovatie 2023) Digitalisering biedt ontegenzeglijk voordelen, zoals meer adviestijd. Belangrijk...

Benut de kracht van AI

Benut de kracht van AI

(Arno Groot Koerkamp, Finly, in VVP-special Digitale Innovatie 2023) De opkomst van denkende machines ter ondersteuning van adviseurs is momenteel een onderwerp...

Meer hybride vormen van advisering

Meer hybride vormen van advisering

(Bart Janknegt, voorzitter hoofddirectie VvAA Groep, in VVP-special Digitale Innovatie) Door inzet van een digitale collega hebben de adviseurs meer tijd (plus...

Het advieskantoor als sleutel tot verduurzaming

Het advieskantoor als sleutel tot verduurzaming

(Partner in kennis BOX duurzaam in VVP-special Digitale Innovatie 2023) Verduurzaming en energiebesparing gaan over de woning en over geld, dus is de hypotheekadviseur...