Nieuw onderdeel uitlegbaarheid in SIVI Checklist Onbemenste Toepassingen

Peter Mols: ‘Regeren is vooruitzien.’

De universiteit van Leiden heeft samen met SIVI onderzoek gedaan naar 'Explainable AI' binnen de financiële dienstverlening. De uitkomsten van het onderzoek zijn samengevat in een paper en verwerkt in de SIVI Checklist Onbemenste Toepassingen in de vorm van het nieuwe onderdeel uitlegbaarheid.

Peter Mols (directeur SIVI): "Met de toenemende inzet van volledig geautomatiseerde toepassingen binnen onze sector, groeit ook het belang om uit te kunnen leggen hoe resultaten tot stand zijn gekomen. Dit krijgt de komende periode nog eens extra nadruk door nieuwe Europese regelgeving, zoals de AI Act met veel aandacht voor transparantie en uitlegbaarheid. Met de nieuwe release van de Checklist-OT sluiten wij hier bij aan en maken we als sector een eerste stap."

Artificial intelligence (AI) is een krachtige techniek in de IT die men op steeds meer terreinen inzet. Ook binnen de financiële dienstverlening. Met de toenemende populariteit komen ook vragen. Verstaan we allemaal hetzelfde onder AI? Kunnen mensen nog uitleggen of herleiden wat een AI-toepassing heeft gedaan? Hoe zit het met de vooringenomenheid van een AI- toepassing? In de paper ‘A checklist for Explainable AI in the Insurance Domain’ gaan de auteurs dieper op dit soort vragen in. Ook leggen zij het dilemma bloot tussen uitlegbaarheid en accuraatheid. Hoe innovatiever de AI-toepassing, hoe groter de accuraatheid wordt. Tegelijkertijd neemt de uitlegbaarheid af.

Reactie toevoegen

 
Meer over
De perfecte prompt

De perfecte prompt

(Justin Schlee, ANVA, in VVP-special Business Innovation 2024) De afgelopen periode zie ik regelmatig artikelen voorbijkomen waarin ChatGPT wordt vergeleken met...

De perfecte prompt

De perfecte prompt

(Opinie Justin Schlee, ANVA, in VVP 4-2024) De afgelopen periode zie ik regelmatig artikelen voorbijkomen waarin ChatGPT wordt vergeleken met een specialist, om...

"Ontwikkel generatieve AI specifiek voor financiële sector"

"Ontwikkel generatieve AI specifiek voor financiële sector"

In de eerder deze week verschenen VVP 4-2024 oppert Justin Schlee (ANVA) generatieve AI op te zetten specifiek voor de financiële sector. Schlee: "Je kunt je...

Meten = leren

Meten = leren

(Dennie van den Biggelaar, Onesurance, in Ken je vak!, VVP 4-2024) In dit vierde deel van de serie AI in de Adviespraktijk richten we ons op een cruciaal aspect:...

De duurzame toekomst van verzekeren

De duurzame toekomst van verzekeren

(Onno Bloemers, First Day Advisory Group, in VVP 3-2024) Tien jaar geleden werd vernieuwing in de verzekeringswereld vooral aangejaagd door de schijnbaar onbegrensde...

Bezit ‘slimme’ huishoudelijke apparaten toegenomen

Bezit ‘slimme’ huishoudelijke apparaten toegenomen

In 2024 zei 89 procent van de Nederlandse bevolking een of meer zogenoemde slimme apparaten of systemen in huis te hebben, in 2020 was dat 81 procent. 63...

Ken je vak! AI-verordening

Ken je vak! AI-verordening

Op 1 augustus is de AI-verordening officieel in werking getreden. De komende tijd gaan de verschillende eisen die deze wet stelt aan ontwikkelaars en gebruikers...

De waarde van advies volgens ChatGPT

De waarde van advies volgens ChatGPT

(Uit VVP-special De Waarde van Advies 2024) Wat is de waarde van financieel advies? VVP vroeg het aan ChatGPT. Dit soort generatieve kunstmatige intelligentie...

Meldpunt Adfiz uitgebreid met loket verzekerbaarheid duurzame innovaties

Meldpunt Adfiz uitgebreid met loket verzekerbaarheid duurzame innovaties

Adfiz heeft haar Meldpunt uitgebreid (en vernieuwd) met een loket voor de verzekerbaarheid van duurzame innovaties. Adfiz: "Dat is nodig omdat duurzame ontwikkeling...

Integreren van AI-software

Integreren van AI-software

(Uit Ken je vak!, VVP 3-2024) In dit derde deel van de serie AI in de Adviespraktijk beantwoorden we de vraag: hoe integreer je AI in een bestaand IT-landschap?...