Human-on-the-loop en autonomieniveaus

Wat is human-on-the-loop?

Human-on-the-loop is de middelste trede van een ladder met drie treden. Het systeem handelt zelf, een mens kijkt mee tijdens de run, neemt achteraf steekproeven, en kan een dossier corrigeren of het hele proces stilleggen. Niemand keurt elke actie vooraf goed.

De twee andere treden zijn makkelijker voor te stellen. In the loop: de mens handelt voor elke actie. De agent stelt voor, jij keurt goed, dan pas gaat het de deur uit. Out of the loop: het systeem handelt en niemand bekijkt de individuele dossiers nog. Ofwel bekijk je achteraf een maandtotaal, ofwel bekijk je niets.

Human-in-the-loop heeft hier al een eigen lemma, dus dit lemma gaat over de rest van de ladder: hoe je een trede kiest, wat toezicht on the loop nodig heeft om echt te zijn, en hoe het stopt met werken zonder dat iemand het merkt.

Dat laatste zeggen we liever meteen. On the loop is waar de meeste agentprojecten vanzelf belanden, want alles goedkeuren is te traag en niets goedkeuren voelt roekeloos. Het is ook de trede die stil faalt. In the loop stopt het proces als de mens niet meer oplet. On the loop draait het proces gewoon door als de mens niet meer oplet, en het ziet er prima uit.

Kies het niveau per actie, niet per systeem

De klassieke fout is dat je de autonomie één keer instelt, voor de agent als geheel. Een agent die je ERP leest, een mail opstelt en een creditnota boekt, doet drie dingen met heel andere gevolgen. Eén instelling voor alle drie is ofwel te strak om nuttig te zijn, ofwel te los om veilig te zijn.

Het Model AI Governance Framework for Agentic AI van de Singaporese overheid (IMDA, januari 2026) bevat een helpdesk-case waarin elk type actie op drie vragen wordt gescoord: als het misloopt, hoe erg is het dan, kan je de actie ongedaan maken, en is het realistisch dat een mens dit bij elke stap nakijkt. De tickets met lage ernst die volledig omkeerbaar zijn, zowat 60 procent van het volume, draaien volledig automatisch. Een middencategorie krijgt de handtekening van een engineer voor er iets wordt uitgevoerd. De hoogste categorie, productiedeploys en rechtenwijzigingen, raakt de agent helemaal niet aan.

Risico alleen volstaat niet, want volume verandert de rekensom. Stel dat een agent 140 kleine creditnota's per maand boekt en er 2 procent van fout heeft. Dat zijn een 34-tal foute creditnota's per jaar, en aan 60 euro per stuk ben je zo'n 2.000 euro kwijt. Vervelend, maar goedkoop op te vangen met een maandrapport. Eén foute creditnota van 15.000 euro kost meer dan dat hele jaar kleine fouten samen, en die komt twee keer per jaar voor. Het eerste geval pleit voor een steekproef en een rapport, het tweede voor goedkeuring op elk stuk. Dezelfde agent, hetzelfde proces, het omgekeerde antwoord.

Het IMDA-framework noemt vier categorieën waar goedkeuring altijd nodig is, wat het volume ook zegt: beslissingen met grote inzet, onomkeerbare acties zoals data wissen, communicatie versturen of betalingen doen, afwijkend gedrag zoals een agent die in een systeem buiten zijn normale scope duikt, en drempels die de gebruiker zelf instelt.

De autonomieschalen die vandaag in omloop zijn

Er circuleren verschillende schalen en geen enkele is een standaard. Zeg er dus altijd bij van wie je citeert.

De meest geciteerde werd in 2025 gepubliceerd door het Knight First Amendment Institute aan Columbia University, geschreven door onderzoekers van de University of Washington. Ze beschrijft vijf niveaus aan de hand van de rol die jij naast de agent opneemt: operator, collaborator, consultant, approver en observer. Autonomie is een ontwerpkeuze, los van hoe bekwaam de agent is. Een model dat het hele proces zou kunnen draaien, hoeft dat niet te mogen.

Het IMDA-framework brengt dat terug tot vier niveaus van menselijke betrokkenheid, en die leg je het makkelijkst aan een team uit. De agent stelt voor en de mens voert uit. De agent en de mens werken samen, met goedkeuring bij belangrijke stappen en de mogelijkheid om op elk moment over te nemen. De agent voert uit en de mens keurt goed, enkel bij kritieke stappen zoals een betaling boven een vast bedrag. De agent voert uit en de mens kijkt toe, met een audit achteraf. In the loop is het eerste niveau, on the loop dekt het derde en het vierde.

Een derde schaal komt uit de securityhoek. De Cloud Security Alliance publiceerde in maart 2026 een ontwerpprofiel voor agents bovenop het NIST AI Risk Management Framework, met vier autonomietiers: volledig onder toezicht met goedkeuring voor elke actie, beperkte autonomie binnen een vooraf vastgelegde scope met escalatie daarbuiten, brede autonomie binnen een operationele grens onder continue monitoring, en volledige autonomie in een afgebakende omgeving. Elke tier brengt meer governance mee. Citeer die tiernummers niet alsof NIST ze heeft goedgekeurd: NIST kondigde in februari 2026 zijn eigen standaardisatiewerk rond agents aan en die richtlijnen moeten nog komen.

En dan zijn er de knoppen die in je tools zelf zitten. Claude Code heeft benoemde permission modes, van Manual, dat bij het eerste gebruik van elke tool om toestemming vraagt, over Plan en Auto, tot een modus die helemaal niets meer vraagt, plus allow-, ask- en deny-regels per tool. De richtlijnen van Microsoft voor autonome agents in Copilot Studio zeggen dat je de agent zo instelt dat hij goedkeuring of bevestiging vraagt aan een persoon voor hij een gevoelige actie uitvoert. Hoe je platform die instelling ook noemt, dat is je autonomieniveau, en je zet het per actie.

Een ladder voor één proces: creditnota's bij een groothandel

Een verdeler maakt zowat 200 creditnota's per maand aan voor beschadigde goederen, te kleine leveringen en prijsfouten. Elke creditnota begint als een mail van een klant en eindigt als een boeking in het boekhoudpakket. Zo ziet hetzelfde proces eruit op de drie treden.

1. In the loop. De agent leest de mail, haalt de leveringsbon en de factuur erbij en maakt een creditnota klaar met de reden ingevuld. Een medewerker opent elk stuk, vergelijkt het met de leveringsbon en boekt het. Aan drie minuten per stuk is dat tien uur per maand, en elke fout wordt gevangen voor ze op de rekening van de klant belandt.

2. On the loop. De agent boekt een creditnota zelf als aan drie voorwaarden voldaan is: het bedrag ligt onder 250 euro, de hoeveelheid klopt met de leveringsbon, en de klant heeft geen open betwisting. Een 140-tal per maand haalt die lat. De andere 60 gaan in een goedkeuringswachtrij, elk met de reden waarom de agent niet kon beslissen. Iemand opent die wachtrij elke ochtend, werkt de uitzonderingen af en leest er vijf willekeurige automatische bij. Dat is iets meer dan drie uur per maand, en de klant heeft zijn geld dezelfde dag terug in plaats van volgende week.

3. Out of the loop. Alles onder 250 euro wordt geboekt en nooit meer geopend. De controle verhuist een niveau hoger: een maandrapport met gecrediteerde bedragen per klant en per reden, vergeleken met dezelfde maand vorig jaar, met een melding als één klant of één reden opeens uitschiet. Niemand leest nog individuele creditnota's. Iemand moet wel nog naar de vorm van het geheel kijken.

Kijk wat er verandert tussen de tweede en de derde trede. Niet de agent, die doet exact hetzelfde. Wel of er een goedkeuringswachtrij bestaat en of iemand verondersteld wordt ze te openen. Out of the loop is niet hetzelfde als uit het zicht. De check is verhuisd van het dossier naar het patroon.

Wat er moet bestaan voor "on the loop" iets betekent

Toezicht heeft iets nodig om op toe te zien. Een medewerker zonder wachtrij, zonder uitzonderingenlijst en zonder meldingen staat buiten de loop, met een functietitel. Vier dingen moeten er zijn.

Een wachtrij met een eigenaar en een deadline. Een lijst van open items, elk een agent die op een mens wacht, met een naam erbij en een regel voor wat er gebeurt als niemand voor vier uur antwoordt. Een Teams-kanaal waar goedkeuringen voorbijrollen telt niet.

Verzoeken die je in minder dan een minuut kan beoordelen. Het IMDA-framework vraagt om goedkeuringsverzoeken die kort en duidelijk zijn, geen lange logs of ruwe data, met het risico van de actie erbij en een confidence score als je er een hebt. Het maakt ook onderscheid in de vorm van het antwoord: goedkeuren of weigeren voor een eenvoudige actie, het plan bewerken voor het startsein bij een complexe, en een geschreven motivering voor je iets met hoog risico goedkeurt.

Een stopknop die werkt en die getest is. Eén dossier corrigeren is iets anders dan de agent stilleggen. Weet waar de knop zit, wie hem nog kan indrukken en hoe lang het duurt voor hij pakt, voor de ochtend waarop je hem nodig hebt.

Weigeren als standaard wanneer het toezicht zelf uitvalt. Als de goedkeuringswachtrij plat ligt, de goedkeurders onbereikbaar zijn, of de agent een actie voorstelt waar niemand een regel voor schreef, dan gaat de actie niet door. IMDA zegt het zonder omwegen: weiger standaard als de goedkeuringsinfrastructuur faalt. Een on-the-loop-systeem dat stilletjes een out-of-the-loop-systeem wordt zodra de controleur op vakantie is, stond nooit on the loop.

Automation bias, meldingsmoeheid en het out-of-the-loop-probleem

Drie manieren waarop dit misloopt zijn goed gedocumenteerd, en alle drie laten ze een controleur aanwezig lijken terwijl die niets bijdraagt.

Automation bias is de neiging om te aanvaarden wat een geautomatiseerd systeem produceert, zeker als het al maanden juist zit. De Europese AI Act noemt het letterlijk in de tekst: wie toezicht houdt op een hoog-risicosysteem moet zich bewust blijven van de mogelijke neiging om automatisch op de output te vertrouwen of er te veel op te vertrouwen. Wie 400 creditnota's heeft goedgekeurd zonder één probleem te vinden, kijkt de 401ste niet echt meer na.

Meldingsmoeheid is dezelfde fout langs de andere kant. Zet de drempel voor uitzonderingen te breed en de wachtrij loopt vol met items waar nooit een mens voor nodig was, dus stopt men met lezen. Maak de trigger smaller in plaats van meer discipline te vragen.

Het out-of-the-loop-probleem is het oudste van de drie en komt uit het human-factors-onderzoek naar cockpits en controlekamers. Mica Endsley en Esin Kiris toonden in 1995 dat operatoren die naar een geautomatiseerd systeem kijken het overzicht verliezen, van actief naar passief verwerken schuiven, en trager overnemen als de automatisering faalt. Hoeveel controle de operator behield, bleek dat verlies te temperen, en dat is een argument voor de middelste trede boven de bovenste. Wie het proces zes maanden niet heeft aangeraakt, redt het niet in tien minuten.

Je kan meten of dit bij jou aan het gebeuren is. IMDA stelt twee indicatoren voor. De override rate, het aandeel agentacties dat mensen weigeren of aanpassen, waarbij een cijfer rond nul wijst op blind aftekenen en niet op een feilloze agent. En de reactietijd bij het nakijken, waarbij een tijd die blijft krimpen wijst op automation bias of vermoeidheid. Je goedkeuringstool heeft beide cijfers al.

Menselijk toezicht onder de AI Act

Voor hoog-risico-AI-systemen maakt de Europese AI Act hier een plicht van, en artikel 14 leest bijna als een bestek voor een on-the-loop-opstelling. Het systeem moet zo ontworpen zijn dat natuurlijke personen er effectief toezicht op kunnen houden terwijl het in gebruik is. Die personen moeten de mogelijkheden en beperkingen van het systeem begrijpen, de werking goed genoeg kunnen volgen om afwijkingen op te merken, de output juist kunnen interpreteren, in elke situatie kunnen beslissen om die output te negeren, te overrulen of terug te draaien, en het systeem kunnen onderbreken met een stopknop of een gelijkaardige procedure die het in een veilige toestand tot stilstand brengt.

Artikel 26 legt de spiegelplicht bij de organisatie die het systeem inzet: het menselijk toezicht moet toegewezen zijn aan natuurlijke personen met de nodige competentie, opleiding en bevoegdheid, en met de nodige ondersteuning. Competentie en bevoegdheid zijn daar de woorden die tellen. Een junior die voor een goedkeuringswachtrij wordt gezet zonder mandaat om nee te zeggen, voldoet aan geen van beide.

De meeste agents die een kmo draait, zijn geen hoog-risicosystemen onder de AI Act, dus dit alles bindt ze niet. De lijst blijft wel de beste checklist die er is voor alles wat je klanten mailt of in je boekhouding schrijft, en ze doorlopen kost niets.