Kracht en gevaar van algoritmes

Maria Genova 2023

(Maria Genova in Katern Cyber in VVP 2) Kunstmatige intelligentie wordt tegenwoordig in steeds meer sectoren ingezet. Het levert prachtige resultaten op, maar algoritmes blijken niet altijd onpartijdig. En is informatie wel juist?

Amazon wilde een systeem ontwikkelen dat een groot aantal cv’s analyseert en de juiste kandidaten selecteert. De onderzoekers wisten echter niet dat de meeste cv’s van mannelijke kandidaten waren. Mannen werden door het programma hoger gerangschikt dan vrouwen op basis van hoe dat vroeger was. Voor bepaalde functies begon het systeem kandidaten zonder de vereiste vaardigheden of ervaring aan te bevelen, alleen maar omdat ze geen vrouw waren. Toen Amazon dat ontdekte, werd de seksistische robot op non-actief gezet.

Voorspellende algoritmes worden al jaren gebruikt, bijvoorbeeld voor opsporing, maar ook om te voorspellen of een leerling voortijdig van school gaat. Voorspellende algoritmes zoeken verbanden in grote bergen data. Soms kunnen ze zelf beslissingen nemen. Op basis van data kun je bijvoorbeeld voorspellen wanneer welke lamp gaat uitvallen in de straatverlichting en welke prullenbak vol raakt. Bij banken is het handig als je weet aan welke transacties een luchtje zit, maar een mens kan moeilijk tientallen miljoenen transacties per dag bestuderen. Dat wordt dus automatisch gedaan door algoritmes. Bij boeren verwacht je het minder, maar sommige melkveehouders noemen algoritmes hun rechterhand. Sensoren registreren afwijkingen in loop- en liggedrag van koeien, waardoor de boer veel sneller een zieke koe ontdekt.

Engels met een gek accent

Als een algoritme iets fout aanleert, heb je wel een probleem. Zo bleek de Schotse Wikipedia grotendeels geschreven door iemand die geen Schots kent. De tienduizenden fout geschreven artikelen waren het werk van een Amerikaan die de officieel erkende Schotse taal aanzag voor ‘Engels met een gek accent’ en zich uitleefde in een soort brabbeltaaltje. Veel taalalgoritmes gebruiken Wikipedia om talen te herkennen en te vertalen. Het ‘Schots’ van een Amerikaan die tikt in een gek accent, wordt op basis van honderdduizenden artikelen gezien als echt Schots.

De Autoriteit Persoonsgegevens waarschuwt dat de overheid transparanter moet zijn over hoe algoritmes omgaan met gegevens, welke gegevens ze gebruiken en hoe besluiten tot stand komen. Dat is niet voor niets, want er is al behoorlijk wat misgegaan. Het meest bekende voorbeeld in Nederland is de toeslagenaffaire bij de Belastingdienst. Omdat de algoritmes zo partijdig en discriminerend waren, werden heel veel mensen ten onrechte als fraudeur bestempeld. Sommigen kwamen zo diep in de problemen dat ze alles kwijtraakten: van huis tot baan.

In het Verenigd Koninkrijk veroorzaakte een algoritme een examencrisis. Het algoritme moest door corona belangrijke examens vervangen en baseerde zich deels op de locatie in plaats van op de prestaties van leerlingen. De bekendmaking van de resultaten die belangrijk zijn voor toelating tot universiteiten, leidde tot straatprotesten. Het systeem bleek strenger te zijn voor armere leerlingen.

ChatGTP

Gewone burgers waren tot voor kort helemaal niet geïnteresseerd in algoritmes, tot ChatGPT vanuit het niets hip werd. In no time maakten miljoenen mensen een account aan. Ik ook, omdat ik werkelijk benieuwd was of je intelligente gesprekken met een chatbot kon voeren. Zelf was ik niet verder gekomen dan de klantenservice chatbots van veel bedrijven, waar ik me vooral dood aan ergerde. Zelfs op de simpelste vragen wisten ze soms geen goed antwoord te geven en als je om een medewerker vroeg, kwam je soms in een ‘loop’ terecht.

ChatGPT was een verademing, want hij/zij voert echt een gesprek met je en dat gesprek loopt niet vast. Je krijgt op werkelijk elke vraag een antwoord. Het enige vervelende is dat je niet direct kunt checken of het antwoord klopt. Dan moet je zelf op zoek naar betrouwbare bronnen. Waar zo’n chatbot wel onwijs goed in is, is lange stukken samenvatten of zelfs volledige artikelen of opstellen voor je schrijven. Dat hebben leerlingen en studenten binnen no time ontdekt en op scholen brak paniek uit. Logisch, want wat doe je als iedereen zijn huiswerk door artificial intelligence laat maken? Dat vraagt zowat om een hervorming van het onderwijs.

Mogelijkheden en dreigingen

Voor een nieuw boek verdiep ik me in de mogelijkheden en de dreigingen van AI. Ik lees veel doemscenario’s, maar wat ik ook op fora lees zijn berichten zoals: “De afgelopen paar maanden ben ik vastgelopen tijdens mijn studie. Ik kwam maar niet door de theorie heen. De stof waar ik tijdens onze moduulopdrachten mee moest werken was gortdroog, en in welk boek ik ook zocht naar meer informatie over bepaalde methodieken, geen van hen heeft me verder vooruit kunnen helpen. Tot ik vorige week ChatGPT ontdekte en een paar simpele vragen over dit onderwerp stelde, met de specifieke opdracht om het me uit te leggen alsof ik een kind van tien jaar oud was. En wat bleek? Waar boeken me maandenlang hebben opgezadeld met extra vraagtekens, wist deze AI mijn probleem in een paar seconden op te lossen. Ik begreep het echt! Heb ik minder geleerd? Integendeel. Voor mij heeft het inzetten van ChatGPT zo’n 80 procent overbodige ruis van de lijn gehaald, iets waar het huidige onderwijssysteem ons graag mee opzadelt. Ik leer sinds kort veel doelgerichter, stel duidelijkere vragen en ben onbewust nauwkeuriger geworden met het controleren van de informatie die ik krijg.”

Maria Genova: ‘ChatGPT is een verademing’

Heel positief dus. Maar gaat iedereen checken of de informatie die de chatbot geeft juist is? Of verschijnt er steeds meer overtuigend geschreven werk dat niet helemaal klopt en vervolgens als basis wordt gebruikt voor steeds meer overtuigend geschreven werk dat niet klopt? Kan iemand straks met zekerheid zeggen of dit artikel door mij is geschreven of door een chatbot en of het klopt? Kan iemand dat over vijf jaar nog steeds met zekerheid zeggen?

Maria Genova is journalist en schrijfster. Ze is een expert op het gebied van moeilijke digitale vraagstukken van deze tijd, zoals online privacy, fraude en gegevensbescherming.

Reactie toevoegen

 
Meer over
Kracht en gevaar van algoritmes

Kracht en gevaar van algoritmes

(Maria Genova in VVP-special Digitale Innovatie 2023) Kunstmatige intelligentie wordt tegenwoordig in steeds meer sectoren ingezet. Het levert prachtige resultaten...

Adviesalerts! Cyber

Adviesalerts! Cyber

(Redacteur Toon Berendsen in de rubriek Adviesalerts! in VVP 2)  De markt voor cyberverzekeringen is nog volop in ontwikkeling. Steeds duidelijker wordt dat...

Nog lang geen volwassen markt

Nog lang geen volwassen markt

(Marie-Louise de Smit en Maarten de Jonge van Aon en Ruud de Pont van Klap in Katern Cyber in VVP 2) Terwijl het risico van een cyberaanval elk jaar groter wordt,...

Slechts 5 procent Nederlanders verzekerd tegen schade door cybercriminaliteit

Slechts 5 procent Nederlanders verzekerd tegen schade door cybercriminaliteit

Iets meer dan de helft van alle Nederlanders wil zich beter beschermen tegen cybercriminaliteit, zo blijkt uit onderzoek van PanelWizard in opdracht van Nationale-Nederlanden...

Verbond gaat tanden zetten in klimaat, cyber en letselschade

Verbond gaat tanden zetten in klimaat, cyber en letselschade

“We ambiëren nog nadrukkelijker een actieve maatschappelijke voortrekkersrol en zullen onze tanden zetten in de thema’s klimaat, cyberveiligheid...

Tanden zetten in thema’s klimaat, cyber en letselschade

Tanden zetten in thema’s klimaat, cyber en letselschade

In een Tour d’Horizon met Verbondsdirecteur Richard Weurding bespreekt VVP in VVP 6 de belangrijkste uitdagingen voor de financiële sector. Wat er nu...

Perfect Day voorziet meer cyberaanvallen via ketenpartners

Perfect Day voorziet meer cyberaanvallen via ketenpartners

Phishing e-mails worden nog lastiger te onderscheiden en meer cyberaanvallen via ketenpartners. Dat zijn enkele van de trends die Perfect Day ziet op cybervlak....

Waar blijft de Bitcoin-polis?!

Waar blijft de Bitcoin-polis?!

(Uit Katern Cyber in VVP 5-2021) Cryptogeld rukt op. Maar waar blijft de Bitcoin-polis?! Of is zo’n verzekering misschien helemaal niet zo’n goed idee?...

Adviesalerts! Cyber

Adviesalerts! Cyber

(Uit Katern Cyber in VVP 5-2021) Welke ontwikkelingen zijn er bij cyberrisicomanagement en cyberverzekering? VVP praat u bij middels een aantal adviesalerts! Het...

Cyberverzekeraars stellen hogere eisen

Cyberverzekeraars stellen hogere eisen

(Uit Katern Cyber in VVP 5-2021) Welke trends zijn er bij cyberrisicomanagement en cyberverzekering? VVP vroeg het aan Aon en Klap. “Er zijn verzekeraars...