bias

Wat betekent bias?

Bias in AI betekent dat een model bevooroordeeld is. Het behandelt bepaalde groepen of situaties anders, meestal omdat de data waarop het getraind is zelf al vooroordelen bevat. Zo kan een AI onbedoeld ongelijkheid versterken in plaats van objectieve beslissingen nemen.

Hoe ontstaat bias?

Bias kan op verschillende manieren ontstaan:

• Data-bias: de trainingsdata is niet representatief of bevat oude patronen van ongelijkheid.

• Model-bias: het algoritme legt verkeerde verbanden of generaliseert te sterk.

• Menselijke bias: keuzes van ontwikkelaars, zoals welke data gebruikt wordt of hoe resultaten geïnterpreteerd worden.

Voorbeeld

Amazon ontwikkelde ooit een AI-systeem om cv’s te screenen. Het model gaf mannen systematisch hogere scores dan vrouwen, omdat het getraind was op historische data waarin vooral mannen waren aangenomen.

Is bias altijd slecht?

Niet altijd. Bias is onvermijdelijk omdat elk model leert uit data. Het wordt pas een probleem als de vertekening leidt tot oneerlijke of discriminerende resultaten. Een model mag bijvoorbeeld bewust gericht zijn op kinderen als het bedoeld is voor kinderziektes. Dat is gepaste bias.

Hoe kan je bias opsporen en beperken?

1. Analyseer je data. Controleer of alle groepen goed vertegenwoordigd zijn. Kijk niet alleen naar aantallen, maar ook naar de kwaliteit van de data. Zijn sommige groepen ondervertegenwoordigd of bevatten hun data meer fouten? Dat kan het model beïnvloeden.

2. Test per doelgroep. Meet of het model even goed presteert voor iedereen. Vergelijk bijvoorbeeld hoe vaak het model juiste voorspellingen maakt voor verschillende leeftijden, regio’s of geslachten. Grote afwijkingen kunnen wijzen op bias.

3. Gebruik fairness-metrics. Dit zijn meetmethodes om na te gaan of een model eerlijke resultaten geeft. Je vergelijkt bijvoorbeeld hoe vaak het model correcte beslissingen neemt voor verschillende groepen (zoals mannen en vrouwen) of of iedereen evenveel kans heeft op een positieve uitkomst. Enkele bekende vormen zijn 'demographic parity' (gelijke kansen voor elke groep) en 'equal opportunity' (gelijke kans op een correcte voorspelling). Zo zie je snel of het model bepaalde groepen benadeelt.

4. Documenteer keuzes. Noteer waarom je bepaalde data of modellen gebruikt, welke aannames je maakt en wat je hebt aangepast na testen. Dit maakt het makkelijker om achteraf beslissingen te herzien of te verantwoorden.

5. Houd menselijke controle. Laat gevoelige beslissingen niet volledig over aan AI. Gebruik AI als hulpmiddel en zorg dat mensen altijd de eindbeslissing kunnen nemen, zeker bij beslissingen met maatschappelijke of persoonlijke impact.

Wettelijk kader in Europa

De Europese AI Act verplicht organisaties om bias actief te monitoren, zeker bij hoog-risico-toepassingen zoals rekrutering of kredietbeslissingen.

Daarnaast blijft de GDPR (privacywetgeving) van kracht. Die bepaalt dat organisaties zorgvuldig moeten omgaan met persoonsgegevens, enkel relevante data mogen gebruiken en burgers recht hebben op uitleg over automatische beslissingen. De GDPR legt ook vast dat mensen niet enkel op basis van een algoritme beoordeeld mogen worden als dat een belangrijke impact heeft, bijvoorbeeld bij krediet of sollicitaties.