Intelligente chatbots en gebrekkig inzicht belangrijkste algoritmerisico’s
Innovaties zoals intelligente chatbots en gebrekkig inzicht in bestaande algoritmes zijn op dit moment de belangrijkste algoritmerisico’s. Dit blijkt uit de eerste Rapportage Algoritmerisico’s Nederland, die de nieuwe directie Coördinatie Algoritmes van de Autoriteit Persoonsgegevens (AP) heeft gepubliceerd.
De rapportage geeft een eerste beeld van de risico’s en effecten van de inzet van algoritmes en artificiële intelligentie (AI) in Nederland. De rapportage leest: “Verantwoorde ontwikkeling en inzet van algoritmes die (groepen) personen kunnen raken is mogelijk. Het voorlopige eerste beeld is dat de Nederlandse samenleving stappen moet (blijven) zetten om grip te krijgen op algoritmes. Waar structurele en bindende kaders ontbreken, is het aan organisaties binnen overheid en bedrijfsleven zelf om een passende aanpak te bepalen. Initiatieven zoals registers, productstandaardisatie, beoordelingskaders en audittechnieken bevinden zich vaak nog in de pilotfase. Een inhaalslag in het opbouwen van de beheersing van risicovolle ‘traditionele’ algoritmes is nodig, maar de komst van geavanceerde en complexe algoritmes maakt die uitdaging extra groot. Zo lang er nog onvoldoende risicobeheersing is, doen organisaties er daarom verstandig aan terughoudend te zijn met de inzet van algoritmes.
“Organisaties die koplopers zijn bij de ontwikkeling en inzet van algoritmes moeten zich extra bewust zijn van de inspanning die van hen wordt gevraagd om publieke waarden en grondrechten te waarborgen. Nederland staat zeker niet alleen in deze situatie - internationale samenwerking is cruciaal. De AI-verordening is belangrijk, maar gaat tegelijkertijd geen panacee zijn voor de huidige uitdagingen. Nadelige gevolgen van bestaande algoritmes bevinden zich vaak onder de radar, risico’s van nieuwe technologieën staan direct in de spotlights. Praktijkvoorbeelden laten zien dat maatschappelijk significante organisaties de inzet van algoritmes in hun kernprocessen soms zien als een uitvoeringskwestie en interne keuze, waarover zij voor, tijdens en na de inzet geen of beperkte verantwoording hoeven af te leggen.”
Reactie toevoegen
Meer over
Jongeren Innovatie Programma 2023 gestart
Ruim 30 young professionals vanuit negentien verschillende verzekeringsmaatschappijen zijn gestart met het Jongeren Innovatie Programma 2023. In multidisciplinaire...
(Arno Groot Koerkamp, Finly, in VVP-special Digitale Innovatie 2023) De opkomst van denkende machines ter ondersteuning van adviseurs is momenteel een onderwerp...
Marisa Lodewijks (Ingage): 'Het zal mijn tijd wel duren' funest bij AI
“AI vervangt geen mensen, maar hindert hen die niet met AI kunnen omgaan.” Aldus Marisa Lodewijks, directeur bij Ingage Franchise, in een blog op de...
ABN Amro: proef met kunstmatige intelligentie bij klantvragen
ABN Amro draait een pilot met kunstmatige intelligentie, die haar adviseurs in staat stelt meer tijd aan de klant te besteden. Aldus de bank bij de presentatie van...
Eerste Nederlandse bank met cashback
bunq is sinds woensdag de eerste Nederlandse bank met cashback. De neobank geeft haar Easy Money en Easy Green gebruikers één procent terug op alle...
Open Insurance: meer geschreeuw dan wol
Het schiet niet op met Open Insurance, stelt de INNOPAY Open Insurance Monitor 2023. “Open Insurance is voorlopig nog een en al geblaf en geen bijten”,...
Jack Vos in Adviescommissie Kwaliteit Onbemenste Toepassingen
Jack Vos (Onesurance) is André van Nieuwenhuijzen opgevolgd als lid van de Adviescommissie Kwaliteit Onbemenste Toepassingen namens de Contactgroep Automatisering....
Generatieve AI vergroot beroepsaansprakelijkheidsrisico
In een nieuw rapport wijst Allianz Global Corporate & Specialty (AGCS) op het beroepsaansprakelijkheidsrisico dat ontstaat door generatieve AI. De verzekeraar:...
Vestigingsklimaat Nederland blijft FinTechs trekken, maar vinden goed personeel is uitdaging
Uit de FinTech Census 2023, uitgevoerd door EY in opdracht van Financiën, blijkt dat Nederland nog steeds een sterke uitgangspositie heeft voor de ontwikkeling...
AI: zorg of zegen voor het intermediair?
(Dennie van den Biggelaar, OneSurance, in VVP-special Digitale Innovatie 2023) Door de razendsnelle opkomst van AI staat de verzekeringssector op het punt een...