Kracht en gevaar van algoritmes

1. 15 mei 2023, door Maria Genova
2. 0 reacties

Amazon wilde een systeem ontwikkelen dat een groot aantal cv’s analyseert en de juiste kandidaten selecteert. De onderzoekers wisten echter niet dat de meeste cv’s van mannelijke kandidaten waren. Mannen werden door het programma hoger gerangschikt dan vrouwen op basis van hoe dat vroeger was. Voor bepaalde functies begon het systeem kandidaten zonder de vereiste vaardigheden of ervaring aan te bevelen, alleen maar omdat ze geen vrouw waren. Toen Amazon dat ontdekte, werd de seksistische robot op non-actief gezet.

Voorspellende algoritmes worden al jaren gebruikt, bijvoorbeeld voor opsporing, maar ook om te voorspellen of een leerling voortijdig van school gaat. Voorspellende algoritmes zoeken verbanden in grote bergen data. Soms kunnen ze zelf beslissingen nemen. Op basis van data kun je bijvoorbeeld voorspellen wanneer welke lamp gaat uitvallen in de straatverlichting en welke prullenbak vol raakt. Bij banken is het handig als je weet aan welke transacties een luchtje zit, maar een mens kan moeilijk tientallen miljoenen transacties per dag bestuderen. Dat wordt dus automatisch gedaan door algoritmes. Bij boeren verwacht je het minder, maar sommige melkveehouders noemen algoritmes hun rechterhand. Sensoren registreren afwijkingen in loop- en liggedrag van koeien, waardoor de boer veel sneller een zieke koe ontdekt.

Engels met een gek accent

Als een algoritme iets fout aanleert, heb je wel een probleem. Zo bleek de Schotse Wikipedia grotendeels geschreven door iemand die geen Schots kent. De tienduizenden fout geschreven artikelen waren het werk van een Amerikaan die de officieel erkende Schotse taal aanzag voor ‘Engels met een gek accent’ en zich uitleefde in een soort brabbeltaaltje. Veel taalalgoritmes gebruiken Wikipedia om talen te herkennen en te vertalen. Het ‘Schots’ van een Amerikaan die tikt in een gek accent, wordt op basis van honderdduizenden artikelen gezien als echt Schots.

De Autoriteit Persoonsgegevens waarschuwt dat de overheid transparanter moet zijn over hoe algoritmes omgaan met gegevens, welke gegevens ze gebruiken en hoe besluiten tot stand komen. Dat is niet voor niets, want er is al behoorlijk wat misgegaan. Het meest bekende voorbeeld in Nederland is de toeslagenaffaire bij de Belastingdienst. Omdat de algoritmes zo partijdig en discriminerend waren, werden heel veel mensen ten onrechte als fraudeur bestempeld. Sommigen kwamen zo diep in de problemen dat ze alles kwijtraakten: van huis tot baan.

In het Verenigd Koninkrijk veroorzaakte een algoritme een examencrisis. Het algoritme moest door corona belangrijke examens vervangen en baseerde zich deels op de locatie in plaats van op de prestaties van leerlingen. De bekendmaking van de resultaten die belangrijk zijn voor toelating tot universiteiten, leidde tot straatprotesten. Het systeem bleek strenger te zijn voor armere leerlingen.

ChatGTP

Gewone burgers waren tot voor kort helemaal niet geïnteresseerd in algoritmes, tot ChatGPT vanuit het niets hip werd. In no time maakten miljoenen mensen een account aan. Ik ook, omdat ik werkelijk benieuwd was of je intelligente gesprekken met een chatbot kon voeren. Zelf was ik niet verder gekomen dan de klantenservice chatbots van veel bedrijven, waar ik me vooral dood aan ergerde. Zelfs op de simpelste vragen wisten ze soms geen goed antwoord te geven en als je om een medewerker vroeg, kwam je soms in een ‘loop’ terecht.

ChatGPT was een verademing, want hij/zij voert echt een gesprek met je en dat gesprek loopt niet vast. Je krijgt op werkelijk elke vraag een antwoord. Het enige vervelende is dat je niet direct kunt checken of het antwoord klopt. Dan moet je zelf op zoek naar betrouwbare bronnen. Waar zo’n chatbot wel onwijs goed in is, is lange stukken samenvatten of zelfs volledige artikelen of opstellen voor je schrijven. Dat hebben leerlingen en studenten binnen no time ontdekt en op scholen brak paniek uit. Logisch, want wat doe je als iedereen zijn huiswerk door artificial intelligence laat maken? Dat vraagt zowat om een hervorming van het onderwijs.

Mogelijkheden en dreigingen

Voor een nieuw boek verdiep ik me in de mogelijkheden en de dreigingen van AI. Ik lees veel doemscenario’s, maar wat ik ook op fora lees zijn berichten zoals: “De afgelopen paar maanden ben ik vastgelopen tijdens mijn studie. Ik kwam maar niet door de theorie heen. De stof waar ik tijdens onze moduulopdrachten mee moest werken was gortdroog, en in welk boek ik ook zocht naar meer informatie over bepaalde methodieken, geen van hen heeft me verder vooruit kunnen helpen. Tot ik vorige week ChatGPT ontdekte en een paar simpele vragen over dit onderwerp stelde, met de specifieke opdracht om het me uit te leggen alsof ik een kind van tien jaar oud was. En wat bleek? Waar boeken me maandenlang hebben opgezadeld met extra vraagtekens, wist deze AI mijn probleem in een paar seconden op te lossen. Ik begreep het echt! Heb ik minder geleerd? Integendeel. Voor mij heeft het inzetten van ChatGPT zo’n 80 procent overbodige ruis van de lijn gehaald, iets waar het huidige onderwijssysteem ons graag mee opzadelt. Ik leer sinds kort veel doelgerichter, stel duidelijkere vragen en ben onbewust nauwkeuriger geworden met het controleren van de informatie die ik krijg.”

Heel positief dus. Maar gaat iedereen checken of de informatie die de chatbot geeft juist is? Of verschijnt er steeds meer overtuigend geschreven werk dat niet helemaal klopt en vervolgens als basis wordt gebruikt voor steeds meer overtuigend geschreven werk dat niet klopt? Kan iemand straks met zekerheid zeggen of dit artikel door mij is geschreven of door een chatbot en of het klopt? Kan iemand dat over vijf jaar nog steeds met zekerheid zeggen?

Maria Genova is journalist en schrijfster. Ze is een expert op het gebied van moeilijke digitale vraagstukken van deze tijd, zoals online privacy, fraude en gegevensbescherming.

Reactie toevoegen

Naam

E-mailadres

Reactie

Organisatie

Telefoonnummer

VVPVIP HypothekenVVP Innovatie PlatformVIP SchadeVVP Twitter

Toevoegen 

Meer over

• Maria Genova