Verboden AI-praktijken (AI Act artikel 5)

Wat zijn verboden AI-praktijken?

Verboden AI-praktijken zijn de toepassingen van AI die de Europese AI Act ronduit verbiedt. Ze staan in artikel 5, bovenaan de risicopiramide, en ze gelden sinds 2 februari 2025. De rest van de verordening legt uit hoe je AI netjes gebruikt. Artikel 5 zegt wat je helemaal niet mag.

Dat verschil is groter dan het klinkt. Voor een hoog-risico AI-systeem bouw je een dossier op: risicobeheer, documentatie, menselijk toezicht, een conformiteitsbeoordeling, en daarna mag je ermee werken. Voor een verboden praktijk bestaat dat dossier niet. Geen toestemming, geen papierwerk en geen certificaat van je leverancier maakt het legaal.

Het verbod dekt de hele keten. Artikel 5 verbiedt zo'n systeem op de markt brengen, in gebruik nemen en gebruiken. Een bedrijf dat zo'n tool koopt en aanzet, zit dus even hard fout als het bedrijf dat ze gebouwd heeft. Het raakt de aanbieder en de gebruiksverantwoordelijke allebei.

Op 4 februari 2025 publiceerde de Commissie richtsnoeren over verboden praktijken, met uitgewerkte voorbeelden per verbod. Ze zijn niet bindend, het laatste woord ligt bij het Hof van Justitie, maar ze laten wel zien hoe smal de Commissie de uitzonderingen leest.

De acht praktijken die verboden zijn

Elk verbod heeft zijn eigen formulering en zijn eigen uitzonderingen. Dit is de korte versie, in de volgorde van artikel 5, lid 1.

• Subliminale of manipulatieve technieken. AI die onder het bewustzijn van iemand werkt, of via doelbewust manipulatieve of misleidende technieken, en daardoor zijn gedrag zo verandert dat hij een beslissing neemt die hij anders niet zou nemen, met aanzienlijke schade als gevolg. De voorbeelden van de Commissie zijn beelden die te kort flitsen om ze bewust te zien, en verstopte audio. Gepersonaliseerde reclame met regels die de lezer kan zien, valt er niet onder.

• Kwetsbaarheden uitbuiten. Dezelfde test rond gedrag en schade, maar dan waar het systeem werkt door leeftijd, een beperking of een specifieke sociale of economische situatie uit te buiten. Denk aan een kredietproduct dat mikt op mensen die al in geldnood zitten, of een app die dure behandelingen naar oudere gebruikers duwt.

• Sociale scoring. Mensen over een bepaalde periode beoordelen op hun sociaal gedrag of op afgeleide persoonlijke kenmerken, waarbij die score leidt tot een slechtere behandeling in een context die niets te maken heeft met waar de gegevens vandaan komen, of tot een behandeling die niet in verhouding staat tot het gedrag. Het geldt voor privébedrijven net zo goed als voor de overheid. Kredietwaardigheid inschatten op relevante financiële gegevens mag. Iemands koopgedrag gebruiken om te beslissen of hij een levensverzekering krijgt, is het voorbeeld dat de Commissie zelf geeft van wat verboden is.

• Misdaad voorspellen op profilering alleen. Inschatten hoe groot de kans is dat iemand een strafbaar feit pleegt, uitsluitend op basis van profilering of van persoonlijkheidskenmerken. AI die een menselijke beoordeling ondersteunt die al op objectieve, verifieerbare feiten over criminele activiteit steunt, blijft toegelaten.

• Ongericht scrapen van gezichtsopnamen. Databanken voor gezichtsherkenning aanleggen of uitbreiden door zonder doelwit gezichten van het internet of uit camerabeelden te plukken. Clearview AI is het schoolvoorbeeld: een databank van tientallen miljarden foto's, en een boete van 30,5 miljoen euro van de Nederlandse privacywaakhond in september 2024, toen nog op basis van de GDPR omdat dit verbod nog niet bestond.

• Emotieherkenning op het werk en in het onderwijs. Emoties of bedoelingen van mensen afleiden uit hun biometrische gegevens, op de werkvloer of in een onderwijsinstelling. Medische en veiligheidsredenen zijn de enige uitweg, en de richtsnoeren lezen die allebei smal: vermoeidheid van een chauffeur detecteren voor de verkeersveiligheid past, aflezen of een werknemer geïrriteerd klinkt niet.

• Biometrische categorisering op gevoelige kenmerken. Systemen die mensen op basis van hun biometrische gegevens indelen om ras, politieke opvattingen, lidmaatschap van een vakbond, religieuze of levensbeschouwelijke overtuigingen, seksleven of seksuele geaardheid af te leiden. Het labelen of filteren van een rechtmatig verkregen biometrische dataset en categorisering voor rechtshandhaving vallen erbuiten.

• Live gezichtsherkenning in de publieke ruimte voor politiediensten. Realtime biometrische identificatie op afstand in publiek toegankelijke ruimtes, voor rechtshandhaving. Er blijven drie uitzonderingen over, allemaal met voorafgaande toestemming: een gerichte zoektocht naar slachtoffers van ontvoering, mensenhandel of seksuele uitbuiting en naar vermiste personen, het voorkomen van een concrete en onmiddellijke bedreiging van leven of fysieke veiligheid of van een terreuraanslag, en het lokaliseren van een verdachte van een zwaar misdrijf. Dit verbod is geschreven voor politiediensten. Een bedrijf dat live gezichtsherkenning op zijn eigen terrein draait, valt erbuiten en komt bij de GDPR terecht, waar het antwoord meestal ook neen is.

Twee verboden komen erbij op 2 december 2026

De digital omnibus rond AI, verordening (EU) 2026/1744, voegde twee punten toe aan artikel 5. Vanaf 2 december 2026 mag je geen AI-systemen op de markt brengen of gebruiken die realistisch intiem beeldmateriaal van een herkenbare persoon maken of bewerken zonder dat die persoon daar uitdrukkelijk mee instemt, en evenmin systemen die materiaal van seksueel misbruik van kinderen genereren.

Het bereik gaat verder dan apps die daar speciaal voor gebouwd zijn. Het verbod raakt een systeem waarvan dat het beoogde doel is, en ook een gewone beeld- of videogenerator waarbij zulke output een redelijk voorzienbaar en reproduceerbaar resultaat is en de aanbieder geen redelijke beveiliging heeft ingebouwd. Voor een gebruiksverantwoordelijke slaat het verbod toe wanneer je het systeem voor dat doel inzet. Bied je beeldgeneratie aan klanten of medewerkers aan, kijk dan voor die datum na wat je filters tegenhouden.

Waar een gewoon bedrijf er tegenaan loopt

Zes van de acht verboden gaan over politiediensten, overheden en producten die doelbewust misbruik maken. Twee ervan zitten in software die een Belgisch bedrijf koopt zonder er twee keer over na te denken.

Emotieanalyse in HR. De werkvloer omvat ook aanwerving, dus een videosollicitatietool die de gezichtsuitdrukking of de stem van een kandidaat scoort op enthousiasme, stress of eerlijkheid, is verboden. Hetzelfde geldt voor een monitoringtool die stemming of stress afleidt uit webcambeelden of uit typgedrag. De grens ligt bij biometrische gegevens: de formulering van een geschreven antwoord beoordelen is sentimentanalyse op tekst en is helemaal geen emotieherkenning.

De nuance in het callcenter. Het verbod beschermt de mensen aan het werk, niet de mensen aan de andere kant van de lijn. Een kwaliteitstool die de toon van de beller uitleest, valt buiten artikel 5, lid 1, f. Diezelfde tool op je eigen medewerkers gericht, valt er wel onder. Heel wat producten doen allebei, en de demo zegt zelden welke van de twee.

Marketing die gevoelige kenmerken afleidt. Een tool die foto's of stemopnames neemt en mensen in segmenten stopt die neerkomen op politieke voorkeur, religie of seksuele geaardheid, is het verbod op biometrische categorisering, hoe het segment in de interface ook heet. Dezelfde segmenten bouwen uit aankoopgeschiedenis mag, want er gaan geen biometrische gegevens in.

Toegangscontrole op een gezichtsdatabank van het internet. Het verbod slaat op het aanleggen of uitbreiden van zo'n databank. Een systeem voor toegangscontrole met gezichtsherkenning dat zijn referentiebeelden blijft aanvullen uit publieke bronnen, doet precies dat, en jij bent degene die het draait. Vraag waar de referentiebeelden vandaan komen voor de pilot begint.

Verboden tegenover hoog-risico

Allebei komen ze uit dezelfde verordening en allebei gaan ze over ernstige toepassingen van AI. Wat ze scheidt, is of naleven eigenlijk wel kan.

Een hoog-risico AI-systeem mag. Het kost je een zwaar dossier en een conformiteitsbeoordeling, en de deadline voor losstaande systemen uit bijlage III schoof op naar 2 december 2027, maar er is een weg. Of je die verplichtingen kan dragen, is een budgetvraag die je later mag beantwoorden.

Een verboden praktijk heeft geen weg. Geen documentatie, DPIA, menselijk toezicht of certificaat van je leverancier verandert het antwoord. Het enige wat klopt, is stoppen, of het systeem aanpassen tot de praktijk weg is. Daarmee is het een ja of neen voor de pilot, want een pilot telt al als gebruik.

Dezelfde technologie kan van de ene categorie naar de andere schuiven, afhankelijk van waar je ze op richt. Emotieherkenning op je personeel is verboden. Diezelfde engine die reacties van klanten in een winkel meet, is een hoog-risico systeem uit bijlage III en moet de betrokkenen inlichten volgens artikel 50. En artikel 5 halen regelt alleen de AI Act. Biometrische gegevens blijven bijzondere persoonsgegevens onder de GDPR, en die stelt haar eigen vragen.

De check die je doet, en wat een inbreuk kost

De controle die het meeste hiervan tegenhoudt, is een schriftelijke vraag aan elke leverancier van HR-, beveiligings- en marketingsoftware, gesteld voor de pilot.

• Leidt het product emoties of bedoelingen af uit een gezicht, een stem of typgedrag, bij wie dan ook, en kan dat uitgezet worden voor een bepaalde groep mensen?

• Leidt het uit biometrische gegevens kenmerken af die kunnen neerkomen op ras, politieke opvatting, vakbondslidmaatschap, religie, seksleven of seksuele geaardheid?

• Waar komen de referentiebeelden en stemprofielen vandaan, en is een deel daarvan van het internet geplukt?

• Wat is de rechtsgrond onder de GDPR, en is er een gegevensbeschermingseffectbeoordeling die we mogen inkijken?

Hou de antwoorden schriftelijk bij, in het dossier naast die tool. Een geruststelling van een accountmanager aan de telefoon is geen controle. Is het antwoord op de eerste twee vragen ja, dan stopt het project daar.

Een inbreuk op artikel 5 valt onder de zwaarste boetecategorie van de verordening. Artikel 99, lid 3 zet ze op maximaal 35 miljoen euro of 7 procent van de totale wereldwijde jaaromzet, het hoogste van de twee. Voor kmo's en start-ups draait artikel 99, lid 6 die vergelijking om naar het laagste van de twee, dus een bedrijf met 4 miljoen euro omzet kijkt tegen een plafond van 280.000 euro aan. De verboden gelden sinds 2 februari 2025, de boeteregels sinds 2 augustus 2025.

België had op het moment van schrijven zijn markttoezichtautoriteit nog niet formeel aangeduid. Het BIPT is de kandidaat, de FOD Economie schrijft aan de wet, en de FOD Economie noemt de huidige situatie zelf een juridisch vacuüm. Dat regelt alleen wie je een boete kan opleggen. Artikel 5 werkt rechtstreeks, en wie schade lijdt door een verboden praktijk, kan daar vandaag al mee naar de rechter.