Human-in-the-loop AI: waar blijft menselijke controle?

Human-in-the-loop AI is geen rem op autonomie. Het is de manier waarop je AI-agents bruikbaar maakt in echt werk. Een agent die nooit iets mag doen, blijft een assistent. Een agent die zonder grenzen handelt, wordt een risico.

De juiste vraag is dus niet of mensen in de loop blijven. De vraag is waar, wanneer en hoe.

Human-in-the-loop is een ontwerpkeuze

Menselijke controle moet per actie worden ontworpen. Niet elk agentic proces heeft dezelfde controle nodig.

Een agent kan:

• alleen informatie lezen;
• samenvatten of classificeren;
• een voorstel doen;
• een taak klaarzetten;
• een actie uitvoeren;
• escaleren wanneer onzekerheid of risico te hoog is.

Elke stap vraagt een ander type controle. Een agent die tickets labelt, hoeft niet hetzelfde behandeld te worden als een agent die klantcommunicatie verstuurt of bedragen goedkeurt.

Vier vormen van menselijke controle

1. Goedkeuring vooraf

De agent bereidt iets voor, maar een mens beslist voordat de actie doorgaat.

Dit past bij:

• klantcommunicatie;
• refunds;
• orders aanpassen;
• facturen blokkeren;
• rechten of toegang wijzigen;
• contractuele conclusies;
• beslissingen in dossiers.

De agent mag in zulke gevallen vaak veel voorbereiding doen. Hij kan de situatie samenvatten, relevante bronnen tonen, een voorstel doen en risico's markeren. Maar de definitieve actie blijft bij een mens.

2. Review by exception

De agent mag normaal werk voorbereiden of uitvoeren, maar uitzonderingen gaan naar een mens.

Dit past wanneer:

• bedragen boven een grens komen;
• context ontbreekt;
• confidence laag is;
• een case afwijkt van normale patronen;
• beleid elkaar tegenspreekt;
• klantimpact hoger is dan normaal.

Review by exception voorkomt dat mensen elk klein besluit moeten goedkeuren, terwijl risicovolle cases wel aandacht krijgen.

3. Monitoring tijdens uitvoering

Bij laag-risico werk kan monitoring genoeg zijn. De agent mag classificeren, samenvatten, groeperen of signaleren, terwijl teams trends en fouten volgen.

Denk aan:

• tickets labelen;
• documenten samenvatten;
• dubbele cases markeren;
• rapportage-afwijkingen signaleren;
• interne taken voorbereiden;
• informatie groeperen voor een teamlead.

Monitoring werkt alleen als zichtbaar is wat de agent deed en waarom.

4. Audit achteraf

Audit achteraf past pas wanneer het proces stabieler is en fouten herstelbaar zijn. De agent voert begrensd werk uit, maar logs, correcties en steekproeven laten zien of het systeem nog goed functioneert.

Databricks beschrijft bij human-in-the-loop systemen dat mensen op verschillende manieren betrokken kunnen zijn. Voor bedrijven is de praktische vertaling: bepaal per actie hoeveel menselijke controle nodig is.

Waar goedkeuring vooraf nodig blijft

Goedkeuring vooraf blijft nodig wanneer een actie moeilijk terug te draaien is of externe impact heeft.

Voorbeelden:

• een klantmail versturen;
• een refund goedkeuren;
• een order aanpassen;
• een factuur blokkeren;
• rechten of toegang wijzigen;
• een contractuele conclusie trekken;
• een beslissing vastleggen in een systeem of dossier.

Dit is niet inefficiënt. Het haalt juist veel werk uit de voorbereiding terwijl eigenaarschap helder blijft.

Wat je moet loggen

Een agent zonder audit trail is moeilijk te vertrouwen. Je hoeft niet elk detail in een dashboard te zetten, maar je moet kunnen reconstrueren wat er gebeurde.

Leg minimaal vast:

• welke input de agent gebruikte;
• welke bronnen of records geraadpleegd zijn;
• welk voorstel of welke actie is gedaan;
• welke regels of criteria relevant waren;
• wie heeft goedgekeurd of gecorrigeerd;
• waarom de agent stopte of escaleerde.

IBM schrijft over AI-agent governance als het geheel van regels, processen en controles rond agents. NIST legt de nadruk op risico door de levenscyclus heen. In normaal Nederlands: je moet kunnen zien wat een agent doet, wie verantwoordelijk blijft en hoe je ingrijpt als het fout gaat.

AI Act, AVG en praktische controle

De EU AI Act en AVG maken menselijke controle niet voor elk systeem op dezelfde manier verplicht, maar ze duwen wel dezelfde kant op: bedrijven moeten weten welke AI-systemen ze gebruiken, waarvoor, met welke data en met welke verantwoordelijkheid.

Voor een agentic workflow betekent dat praktisch:

• leg het doel van de agent vast;
• beperk toegang tot wat de taak nodig heeft;
• log relevante input, output en menselijke correcties;
• maak duidelijk wanneer mensen moeten goedkeuren;
• voorkom dat gevoelige data onnodig in prompts of context verdwijnt;
• zorg dat medewerkers begrijpen waar AI wordt gebruikt.

De EU AI Act AI literacy Q&A benadrukt dat organisaties moeten zorgen dat mensen AI-systemen passend kunnen begrijpen en gebruiken. Dat is geen abstract compliancepunt. Het bepaalt of medewerkers een agent durven vertrouwen, corrigeren en beheren.

Wanneer een agent nog niet moet handelen

Een agent moet nog niet handelen wanneer de gevolgen onduidelijk zijn. Als niemand weet wat een fout kost, begin dan met voorstellen doen.

Hij moet ook niet handelen wanneer de data of regels instabiel zijn. Als medewerkers elke week corrigeren hoe een proces werkt, moet dat eerst zichtbaar worden.

Een derde reden om handelen uit te stellen is gevoeligheid. Persoonsgegevens, financiële acties, juridische conclusies en klantcommunicatie vragen om scherpere rechten en controle.

Begin in zulke situaties met lezen, samenvatten, signaleren en klaarzetten. Laat de agent pas handelen wanneer risico, logging, feedback en eigenaarschap bewezen zijn.

Controle als ontwerpprincipe

Menselijke controle moet geen losse stap achteraf zijn. Het hoort in het ontwerp.

Begin per actie:

• Wat mag de agent alleen lezen?
• Wat mag hij voorstellen?
• Wat mag hij klaarzetten?
• Wat mag hij uitvoeren?
• Wanneer moet hij stoppen?
• Wie keurt goed?
• Waar wordt feedback verwerkt?

Zo wordt controle niet vaag. Het wordt onderdeel van de workflow.

Dat is de kern van agentic implementatie in bedrijven. Niet zoveel mogelijk autonomie. Wel de juiste autonomie op de juiste plek, met mensen waar het telt.