Verklaarbare AI (XAI)

Wat is verklaarbare AI?

Verklaarbare AI, vaak afgekort tot XAI (explainable AI), is een verzameling methodes die de beslissingen van een model begrijpelijk maken voor een mens. In plaats van een score zonder uitleg te aanvaarden, zie je welke inputs het resultaat de ene of de andere kant op duwden.

Veel machine learning-modellen zijn van binnenuit moeilijk te lezen. Een model kan duizenden inputs tegen elkaar afwegen op een manier die geen mens regel voor regel kan volgen. Daarom noemen we ze vaak black boxes. XAI opent die doos niet volledig. Het geeft je betrouwbare manieren om te vragen "waarom dit antwoord?" en een bruikbaar antwoord terug te krijgen.

Neem een kredietaanvraag die een model afwijst. Op zichzelf geeft het model een getal terug. Een uitlegmethode kan daaraan toevoegen dat de weigering vooral kwam door een korte kredietgeschiedenis en een hoog niveau aan bestaande schulden, en dat het inkomen van de aanvrager licht de andere kant op duwde. Nu kan je de beslissing controleren en aan de klant uitleggen.

Waarom verklaarbare AI belangrijk is

Als een model iemands geld, gezondheid of job raakt, volstaat "de computer zei het" niet. Mensen willen weten dat een beslissing om goede redenen is genomen, en ze hebben steeds meer een wettelijk recht op uitleg.

Uitleg helpt ook het team dat het model bouwt. Als een medisch model achteraf blijkt de naam van het ziekenhuis van een scan af te lezen in plaats van het echte weefsel, dan is dat een ernstig gebrek dat schuilgaat achter een mooi ogende nauwkeurigheid. Vaak is XAI de manier waarop zulke sluipwegen aan het licht komen. Het is ook een praktisch hulpmiddel om bias op te sporen, door te tonen wanneer een beschermd kenmerk stilletjes de resultaten stuurt.

Hoe verklaarbare AI werkt

De meeste methodes beantwoorden een van twee vragen. Een globale uitleg vraagt welke inputs over het hele model gezien het meest meewegen. Een lokale uitleg vraagt waarom het model een specifiek geval beslist heeft zoals het deed. Beide zijn nuttig, en ze kunnen elkaar tegenspreken.

De meest voorkomende bouwsteen is feature importance: een rangschikking van welke inputs de voorspelling verschoven, en hoeveel. Twee methodes zijn hier dominant.

SHAP (Shapley additive explanations) leent een idee uit de speltheorie. Het behandelt elke input als een speler in een ploeg en berekent hoeveel elk kenmerk heeft bijgedragen aan het eindresultaat, op een manier die netjes optelt tot de voorspelling. Het is grondig en consistent, maar kan traag zijn op grote modellen.

LIME (local interpretable model-agnostic explanations) kiest een andere weg. Om een voorspelling uit te leggen, verandert het de input een beetje, vele keren na elkaar, kijkt het hoe de uitkomst verschuift en past het een eenvoudig, leesbaar model toe op die kleine buurt. Het is sneller en werkt op bijna elk model, maar de uitleg kan van keer tot keer verschillen.

Beide zijn model-agnostisch: ze behandelen het model als een doos die ze van buitenaf aftasten, dus ze werken op bijna alles, van een kredietscorekaart tot een diep neuraal netwerk. Geen van beide vervangt basiscontroles zoals een confusion matrix, die toont waar de juiste en foute antwoorden van een classifier terechtkomen. XAI vertelt je waarom een beslissing is genomen, een confusion matrix vertelt je hoe vaak het model juist zit.

Verklaarbare AI en regelgeving

Verklaarbaarheid schuift op van goede praktijk naar wettelijke verplichting. Onder de Europese AI Act moeten systemen die als hoog risico gelden, zoals die bij rekrutering of kredietbeoordeling, transparant genoeg zijn zodat een mens de uitkomst kan interpreteren en er toezicht op kan houden. De GDPR (AVG) geeft mensen nu al recht op betekenisvolle informatie over automatische beslissingen die hen aanzienlijk raken.

Daarom is verklaarbare AI een kernonderdeel van elk programma rond verantwoorde AI. Je kan geen verantwoording afleggen voor een beslissing die je niet kan uitleggen.

Waar moet je op letten bij het gebruik van verklaarbare AI

Een uitleg is niet de echte reden. Methodes zoals SHAP en LIME geven een aannemelijk verhaal over een beslissing, geen uitlezing van de echte interne logica van het model. Twee methodes kunnen voor hetzelfde geval naar andere inputs wijzen. Behandel een uitleg als een sterke aanwijzing, niet als een bekentenis.

Eenvoudige uitleg kan misleiden. Een nette staafgrafiek van "belangrijkste factoren" oogt overtuigend, en net daar zit het risico. Een keurige uitleg van een wankel model geeft vals vertrouwen aan iedereen die ze ziet.

Uitleggen is niet oplossen. Vaststellen dat een model leunt op een bevooroordeelde input vertelt je dat er een probleem is. Het lost het niet op. De uitleg is het begin van het werk, niet het einde.