Intelligente chatbots en gebrekkig inzicht belangrijkste algoritmerisico’s

AI 2 via Pixabay

Innovaties zoals intelligente chatbots en gebrekkig inzicht in bestaande algoritmes zijn op dit moment de belangrijkste algoritmerisico’s. Dit blijkt uit de eerste Rapportage Algoritmerisico’s Nederland, die de nieuwe directie Coördinatie Algoritmes van de Autoriteit Persoonsgegevens (AP) heeft gepubliceerd.

De rapportage geeft een eerste beeld van de risico’s en effecten van de inzet van algoritmes en artificiële intelligentie (AI) in Nederland. De rapportage leest: “Verantwoorde ontwikkeling en inzet van algoritmes die (groepen) personen kunnen raken is mogelijk. Het voorlopige eerste beeld is dat de Nederlandse samenleving stappen moet (blijven) zetten om grip te krijgen op algoritmes. Waar structurele en bindende kaders ontbreken, is het aan organisaties binnen overheid en bedrijfsleven zelf om een passende aanpak te bepalen. Initiatieven zoals registers, productstandaardisatie, beoordelingskaders en audittechnieken bevinden zich vaak nog in de pilotfase. Een inhaalslag in het opbouwen van de beheersing van risicovolle ‘traditionele’ algoritmes is nodig, maar de komst van geavanceerde en complexe algoritmes maakt die uitdaging extra groot. Zo lang er nog onvoldoende risicobeheersing is, doen organisaties er daarom verstandig aan terughoudend te zijn met de inzet van algoritmes.

“Organisaties die koplopers zijn bij de ontwikkeling en inzet van algoritmes moeten zich extra bewust zijn van de inspanning die van hen wordt gevraagd om publieke waarden en grondrechten te waarborgen. Nederland staat zeker niet alleen in deze situatie - internationale samenwerking is cruciaal. De AI-verordening is belangrijk, maar gaat tegelijkertijd geen panacee zijn voor de huidige uitdagingen. Nadelige gevolgen van bestaande algoritmes bevinden zich vaak onder de radar, risico’s van nieuwe technologieën staan direct in de spotlights. Praktijkvoorbeelden laten zien dat maatschappelijk significante organisaties de inzet van algoritmes in hun kernprocessen soms zien als een uitvoeringskwestie en interne keuze, waarover zij voor, tijdens en na de inzet geen of beperkte verantwoording hoeven af te leggen.”

Reactie toevoegen

 
Meer over
Katern Haal meer uit data in nieuwe VVP

Katern Haal meer uit data in nieuwe VVP

Pak kunstmatige intelligentie slim aan, stelt Justin Schlee (ANVA) in het katern Haal meer uit data in de dinsdag verschenen nieuwe VVP 1-2024. Schlee: "Mijn advies...

Nieuw in VVP: branchekenners in duel met ChatGPT

Nieuw in VVP: branchekenners in duel met ChatGPT

In de vandaag (dinsdag) verschenen VVP 1-2024 duelleert Richard Meinders (SVC Groep, lid VVP Ondernemerspanel) met ChatGPT over actieve provisietransparantie in...

ChatGPT versus Richard Meinders

ChatGPT versus Richard Meinders

(Uit VVP 1-2024) Nieuw in 2024: VVP legt een vraag voor aan ChatGPT en laat vervolgens een deskundige van vlees en bloed op het antwoord reageren. In deze eerste...

Blijf heer en meester over data

Blijf heer en meester over data

(Uit katern Haal meer uit data in VVP 1-2024) Weet wat u wilt met data, dat is de vraag die vooraf gaat aan elke andere beslissing op gegevensvlak. Vervolgens...

Kunstmatige intelligentie slim aanpakken

Kunstmatige intelligentie slim aanpakken

(Justin Schlee, ANVA, in katern Haal meer uit data in VVP 1-2024) Kunstmatige intelligentie is een interessante tool die het overwegen waard is, vooral als het...

Nadenken over keuzes

Nadenken over keuzes

(Lex de Bruijn, Insurance Data, in katern Haal meer uit data in VVP 1-2024) Voor een succesvolle implementatie van een Business Intelligence (BI) ofwel datastrategie...

Meeste aandacht naar de juiste klant

Meeste aandacht naar de juiste klant

(Uit katern Haal meer uit data in VVP 1-2024) “De manier waarop data gebruikt kan worden om bijvoorbeeld te kunnen voorspellen wat de royeringskans is van...

Starten met specifieke AI en ML

Starten met specifieke AI en ML

(Dennie van den Biggelaar, Onesurance, in Ken je vak! in VVP 1-2024) We starten in deze eerste editie van AI in de Adviespraktijk bij het begin: wat is het en...

Doorbreek met elkaar de paradox van innovatie

Doorbreek met elkaar de paradox van innovatie

(Uit VVP 6-2023) In oktober 2022 spreken Harold Mahadew (Verbond van Verzekeraars), Justin Schlee (ANVA) en Otto Lagemaat (Doccle) elkaar informeel over de paradox...

Allianz Partners lanceert allyz mobiele app

Allianz Partners lanceert allyz mobiele app

"De lancering van de mobiele app in Frankrijk, Duitsland en Nederland is een belangrijke mijlpaal in de uitbreiding van ons digitale platform." Aldus Allianz Partners...