Verantwoorde AI (responsible AI)

Wat is verantwoorde AI?

Verantwoorde AI is de praktijk om AI-systemen zo te bouwen en te draaien dat ze mensen eerlijk behandelen, uit te leggen zijn en onder menselijke controle blijven. Het beslaat het hele leven van een systeem, van de data waarop het leert tot hoe de beslissingen bekeken worden zodra het live staat.

Het is minder een tool en meer een manier van werken. Het doel is schade tegen te houden voor ze een klant bereikt. Denk aan een rekruteringsmodel dat oudere kandidaten stilletjes uitfiltert, een chatbot die persoonsgegevens lekt, of een kredietmodel dat niemand kan uitleggen. Verantwoorde AI zet goede bedoelingen om in controles die je echt kan uitvoeren.

De belangrijkste principes van verantwoorde AI

De meeste kaders, waaronder die van de EU, Microsoft en Google, komen uit op een gelijkaardig kort lijstje principes.

• Eerlijkheid. Het systeem mag mensen niet benadelen op basis van kenmerken zoals geslacht, leeftijd of afkomst. Dat betekent testen op bias, niet aannemen dat die er niet is.

• Transparantie. Mensen horen te weten wanneer ze met AI te maken hebben, en de beslissingen horen open te liggen voor inspectie in plaats van verborgen te zitten in een black box.

• Verantwoording. Een aangeduide persoon of team is eigenaar van elk systeem en staat in voor wat het doet. De verantwoordelijkheid verdwijnt niet in de software.

• Veiligheid en betrouwbaarheid. Het systeem hoort zich te gedragen zoals verwacht, om te gaan met rare input en op een gecontroleerde manier te falen in plaats van een schadelijke.

• Privacy. Persoonsgegevens worden verzameld en gebruikt binnen de grenzen waar mensen mee instemden en die de wet toelaat, in lijn met de GDPR (AVG).

• Menselijk toezicht. Een mens kan het systeem nakijken, overrulen of uitschakelen, zeker waar de inzet hoog ligt.

Hoe verantwoorde AI aansluit op de EU AI Act

In Europa zijn deze principes niet langer vrijblijvend. De Europese AI Act, de eerste brede wet in zijn soort, trad in werking in 2024 en sorteert AI-systemen op risico.

Sommige toepassingen zijn ronduit verboden, zoals het sociaal scoren van burgers. Een grotere groep geldt als hoog risico, waaronder AI bij rekrutering, krediet en medische toestellen, en die draagt de zwaarste plichten: risicobeheer, kwaliteitsvolle data, documentatie, menselijk toezicht en genoeg transparantie zodat een mens de uitkomst kan interpreteren. Een lichtere categorie dekt systemen zoals chatbots, waar de belangrijkste plicht is om mensen te zeggen dat ze met een machine praten. De rest, zoals een spamfilter, blijft grotendeels met rust gelaten.

Het patroon is dat de wet dezelfde dingen vraagt die een programma rond verantwoorde AI al doet. Verantwoord bouwen en wettelijk bouwen zijn naar elkaar toegegroeid.

Verantwoorde AI in de praktijk

Principes tellen enkel als ze veranderen wat een team doet. In de praktijk komt verantwoorde AI naar boven als concrete stappen: trainingsdata nakijken op gaten en scheefheid, een model testen op bias over verschillende groepen voor de lancering, methodes van verklaarbare AI gebruiken zodat beslissingen te verdedigen zijn, en guardrails rond een model zetten zodat het onveilige verzoeken weigert en binnen vastgelegde grenzen blijft.

Veel hiervan rust op degelijke data governance. Je kan niet beweren dat een model eerlijk of privacyvriendelijk is als je niet kan zeggen waar de data vandaan kwam, wie ze mag gebruiken en hoe lang je ze bewaart. Goed beheer van de onderliggende data is de grond waarop de rest staat.

Waar moet je op letten bij het gebruik van verantwoorde AI

Het kan verzanden in papierwerk. Een plank vol beleidsdocumenten die niemand leest, is geen verantwoorde AI. De test is of een risicovol model echt tegengehouden wordt, niet of een formulier is ingevuld.

Eerlijkheid heeft geen enkele definitie. Er bestaan meerdere wiskundige noties van eerlijkheid, en de ene voldoen kan de andere breken. Kiezen welke past bij een bepaald gebruik is een afweging die een team openlijk moet maken, geen vakje om aan te vinken.

Principes hebben eigenaars nodig. "We nemen eerlijkheid serieus" betekent niets zonder een aangeduide persoon, een budget en de bevoegdheid om een lancering uit te stellen. Zonder dat is verantwoorde AI een slogan.