Kracht en gevaar van algoritmes

Maria Genova 2023

(Maria Genova in Katern Cyber in VVP 2) Kunstmatige intelligentie wordt tegenwoordig in steeds meer sectoren ingezet. Het levert prachtige resultaten op, maar algoritmes blijken niet altijd onpartijdig. En is informatie wel juist?

Amazon wilde een systeem ontwikkelen dat een groot aantal cv’s analyseert en de juiste kandidaten selecteert. De onderzoekers wisten echter niet dat de meeste cv’s van mannelijke kandidaten waren. Mannen werden door het programma hoger gerangschikt dan vrouwen op basis van hoe dat vroeger was. Voor bepaalde functies begon het systeem kandidaten zonder de vereiste vaardigheden of ervaring aan te bevelen, alleen maar omdat ze geen vrouw waren. Toen Amazon dat ontdekte, werd de seksistische robot op non-actief gezet.

Voorspellende algoritmes worden al jaren gebruikt, bijvoorbeeld voor opsporing, maar ook om te voorspellen of een leerling voortijdig van school gaat. Voorspellende algoritmes zoeken verbanden in grote bergen data. Soms kunnen ze zelf beslissingen nemen. Op basis van data kun je bijvoorbeeld voorspellen wanneer welke lamp gaat uitvallen in de straatverlichting en welke prullenbak vol raakt. Bij banken is het handig als je weet aan welke transacties een luchtje zit, maar een mens kan moeilijk tientallen miljoenen transacties per dag bestuderen. Dat wordt dus automatisch gedaan door algoritmes. Bij boeren verwacht je het minder, maar sommige melkveehouders noemen algoritmes hun rechterhand. Sensoren registreren afwijkingen in loop- en liggedrag van koeien, waardoor de boer veel sneller een zieke koe ontdekt.

Engels met een gek accent

Als een algoritme iets fout aanleert, heb je wel een probleem. Zo bleek de Schotse Wikipedia grotendeels geschreven door iemand die geen Schots kent. De tienduizenden fout geschreven artikelen waren het werk van een Amerikaan die de officieel erkende Schotse taal aanzag voor ‘Engels met een gek accent’ en zich uitleefde in een soort brabbeltaaltje. Veel taalalgoritmes gebruiken Wikipedia om talen te herkennen en te vertalen. Het ‘Schots’ van een Amerikaan die tikt in een gek accent, wordt op basis van honderdduizenden artikelen gezien als echt Schots.

De Autoriteit Persoonsgegevens waarschuwt dat de overheid transparanter moet zijn over hoe algoritmes omgaan met gegevens, welke gegevens ze gebruiken en hoe besluiten tot stand komen. Dat is niet voor niets, want er is al behoorlijk wat misgegaan. Het meest bekende voorbeeld in Nederland is de toeslagenaffaire bij de Belastingdienst. Omdat de algoritmes zo partijdig en discriminerend waren, werden heel veel mensen ten onrechte als fraudeur bestempeld. Sommigen kwamen zo diep in de problemen dat ze alles kwijtraakten: van huis tot baan.

In het Verenigd Koninkrijk veroorzaakte een algoritme een examencrisis. Het algoritme moest door corona belangrijke examens vervangen en baseerde zich deels op de locatie in plaats van op de prestaties van leerlingen. De bekendmaking van de resultaten die belangrijk zijn voor toelating tot universiteiten, leidde tot straatprotesten. Het systeem bleek strenger te zijn voor armere leerlingen.

ChatGTP

Gewone burgers waren tot voor kort helemaal niet geïnteresseerd in algoritmes, tot ChatGPT vanuit het niets hip werd. In no time maakten miljoenen mensen een account aan. Ik ook, omdat ik werkelijk benieuwd was of je intelligente gesprekken met een chatbot kon voeren. Zelf was ik niet verder gekomen dan de klantenservice chatbots van veel bedrijven, waar ik me vooral dood aan ergerde. Zelfs op de simpelste vragen wisten ze soms geen goed antwoord te geven en als je om een medewerker vroeg, kwam je soms in een ‘loop’ terecht.

ChatGPT was een verademing, want hij/zij voert echt een gesprek met je en dat gesprek loopt niet vast. Je krijgt op werkelijk elke vraag een antwoord. Het enige vervelende is dat je niet direct kunt checken of het antwoord klopt. Dan moet je zelf op zoek naar betrouwbare bronnen. Waar zo’n chatbot wel onwijs goed in is, is lange stukken samenvatten of zelfs volledige artikelen of opstellen voor je schrijven. Dat hebben leerlingen en studenten binnen no time ontdekt en op scholen brak paniek uit. Logisch, want wat doe je als iedereen zijn huiswerk door artificial intelligence laat maken? Dat vraagt zowat om een hervorming van het onderwijs.

Mogelijkheden en dreigingen

Voor een nieuw boek verdiep ik me in de mogelijkheden en de dreigingen van AI. Ik lees veel doemscenario’s, maar wat ik ook op fora lees zijn berichten zoals: “De afgelopen paar maanden ben ik vastgelopen tijdens mijn studie. Ik kwam maar niet door de theorie heen. De stof waar ik tijdens onze moduulopdrachten mee moest werken was gortdroog, en in welk boek ik ook zocht naar meer informatie over bepaalde methodieken, geen van hen heeft me verder vooruit kunnen helpen. Tot ik vorige week ChatGPT ontdekte en een paar simpele vragen over dit onderwerp stelde, met de specifieke opdracht om het me uit te leggen alsof ik een kind van tien jaar oud was. En wat bleek? Waar boeken me maandenlang hebben opgezadeld met extra vraagtekens, wist deze AI mijn probleem in een paar seconden op te lossen. Ik begreep het echt! Heb ik minder geleerd? Integendeel. Voor mij heeft het inzetten van ChatGPT zo’n 80 procent overbodige ruis van de lijn gehaald, iets waar het huidige onderwijssysteem ons graag mee opzadelt. Ik leer sinds kort veel doelgerichter, stel duidelijkere vragen en ben onbewust nauwkeuriger geworden met het controleren van de informatie die ik krijg.”

Maria Genova: ‘ChatGPT is een verademing’

Heel positief dus. Maar gaat iedereen checken of de informatie die de chatbot geeft juist is? Of verschijnt er steeds meer overtuigend geschreven werk dat niet helemaal klopt en vervolgens als basis wordt gebruikt voor steeds meer overtuigend geschreven werk dat niet klopt? Kan iemand straks met zekerheid zeggen of dit artikel door mij is geschreven of door een chatbot en of het klopt? Kan iemand dat over vijf jaar nog steeds met zekerheid zeggen?

Maria Genova is journalist en schrijfster. Ze is een expert op het gebied van moeilijke digitale vraagstukken van deze tijd, zoals online privacy, fraude en gegevensbescherming.

Reactie toevoegen

 
Meer over
Cybersecurity: een kwestie van basismaatregelen

Cybersecurity: een kwestie van basismaatregelen

(Door Liesbeth Holterman, Cyberveilig Nederland) Cybercriminaliteit is een wereldwijd verdienmodel geworden. Op het dark web kun je kant-en-klare programma’s...

Goede manieren om je organisatie te wapenen tegen hackers

Goede manieren om je organisatie te wapenen tegen hackers

(Door Maria Genova) Bedrijven kunnen op veel manieren gehackt worden en dat gebeurt ook dagelijks. Volgens hackers zijn er slechts twee soorten bedrijven: bedrijven...

“Cyber is een nieuw risico dat we samen moeten oppakken”

“Cyber is een nieuw risico dat we samen moeten oppakken”

(Kennisartikel Hienfeld VVP-special Cyber) Over een aantal jaren is een cyberpolis even ingeburgerd als een verzekering voor beroeps-en bestuurdersaansprakelijkheid,...

“Dit gebeurt mij niet”

“Dit gebeurt mij niet”

“Impact cyberrisico’s nog altijd onderschat”, “Informatiebeveiliging in de gehele keten nog onvoldoende beheerst”, “De kwaliteit...

Cybersecurity: een kwestie van gezond verstand en discipline

Cybersecurity: een kwestie van gezond verstand en discipline

Als je het over cybersecurity hebt, zijn begrippen als malware, phishing, ransomware en hacks doorgaans het eerste waar je aan denkt. Op zich logisch, want daarover...

Cyberalerts!

Cyberalerts!

De ontwikkelingen bij informatiebeveiliging en cybersecurity gaan snel. VVP zet een aantal trends op een rij: Cyberalerts! In deze VVP Special Cyber veel aandacht...

Cyberweerbaarheid vereist totaalaanpak

Cyberweerbaarheid vereist totaalaanpak

(Marie-Louise de Smit en Maarten van Wieren, cyberexperts Aon, in VVP-special Cyber) Bij alles wat wij communiceren richting de markt, maken wij duidelijk wat...

Aan de slag met cyberrisico advies

Aan de slag met cyberrisico advies

(Stappenplan door Adfiz) Koppen waarin gewag wordt gemaakt van een gehackt bedrijf, een universiteit die geconfronteerd wordt met ransomware of een ziekenhuis...

Turien & Co. opent Financial Lines Portaal

Turien & Co. opent Financial Lines Portaal

Turien & Co. heeft het Financial Lines Portaal geopend, een vergelijkingsmodule waarmee adviseurs de premies, acceptatiecriteria en voorwaarden van vier verschillende...

Onverschilligheid met wachtwoorden leidt tot slimme aanval

Onverschilligheid met wachtwoorden leidt tot slimme aanval

(door Chubb, Partner VVP) Sterke wachtwoorden zijn een cruciaal element in de beveiligingslinie van een organisatie. Maar helaas vinden de meeste mensen het erg...