Waar moet menselijke controle blijven in AI-agents?

Menselijke controle bij AI-agents is geen rem op autonomie. Het is de manier waarop je agents bruikbaar maakt in echt werk. Een agent die nooit iets mag doen, blijft een assistent. Een agent die zonder grenzen handelt, wordt een risico. De juiste vraag is dus niet of mensen in de loop blijven. De vraag is waar, wanneer en hoe.

Drie vormen van menselijke controle

Menselijke controle kan op drie momenten zitten.

De eerste vorm is goedkeuring vooraf. De agent bereidt iets voor, maar een mens beslist voordat de actie doorgaat. Dit past bij klantcommunicatie, geld, rechten, contracten, productiegegevens of andere acties met duidelijke impact.

De tweede vorm is monitoring tijdens het proces. De agent mag laag-risico werk uitvoeren of voorstellen klaarzetten, maar afwijkingen, onzekerheid of uitzonderingen worden gemarkeerd. Dit past bij classificatie, routing, samenvattingen, signalering en voorbereiding.

De derde vorm is audit achteraf. De agent voert begrensd werk uit, maar logs, correcties en steekproeven laten zien of het systeem nog goed functioneert. Dit past pas wanneer het proces stabieler is en fouten herstelbaar zijn.

Databricks beschrijft bij human-in-the-loop systemen vergelijkbare patronen: mensen kunnen in, op of boven de loop zitten. Voor bedrijven is de praktische vertaling simpel: bepaal per actie hoeveel menselijke controle nodig is.

Waar goedkeuring vooraf nodig blijft

Goedkeuring vooraf blijft nodig wanneer een actie moeilijk terug te draaien is of externe impact heeft.

Voorbeelden:

• een klantmail versturen;
• een refund goedkeuren;
• een order aanpassen;
• een factuur blokkeren;
• rechten of toegang wijzigen;
• een contractuele conclusie trekken;
• een beslissing vastleggen in een systeem of dossier.

De agent mag in zulke gevallen vaak wel voorbereiden. Hij kan de situatie samenvatten, relevante bronnen tonen, een voorstel doen en risico's markeren. Maar de definitieve actie blijft bij een mens.

Dat is niet inefficiënt. Het haalt juist veel werk uit de voorbereiding terwijl eigenaarschap helder blijft.

Waar monitoring genoeg kan zijn

Niet elk agentic proces heeft goedkeuring vooraf nodig. Bij laag-risico werk kan monitoring genoeg zijn.

Denk aan:

• tickets labelen;
• documenten samenvatten;
• dubbele cases markeren;
• rapportage-afwijkingen signaleren;
• interne taken voorbereiden;
• informatie groeperen voor een teamlead.

Hier is het risico meestal beperkt. Als de agent fout zit, kan een mens corrigeren zonder grote schade. Wel moet zichtbaar zijn wat de agent deed en waarom.

Monitoring werkt alleen als er stopregels zijn. De agent moet escaleren wanneer context ontbreekt, confidence laag is, bedragen boven een grens komen of de situatie buiten normale patronen valt.

Wat je moet loggen

Een agent zonder audit trail is moeilijk te vertrouwen. Je hoeft niet elk detail in een dashboard te zetten, maar je moet kunnen reconstrueren wat er gebeurde.

Leg minimaal vast:

• welke input de agent gebruikte;
• welke bronnen of records geraadpleegd zijn;
• welk voorstel of welke actie is gedaan;
• welke regels of criteria relevant waren;
• wie heeft goedgekeurd of gecorrigeerd;
• waarom de agent stopte of escaleerde.

IBM schrijft over AI-agent governance als het geheel van regels, processen en controles rond agents. NIST legt de nadruk op risico door de levenscyclus heen. In normaal Nederlands: je moet kunnen zien wat een agent doet, wie verantwoordelijk blijft en hoe je ingrijpt als het fout gaat.

Wanneer je een agent nog niet moet laten handelen

Een agent moet nog niet handelen wanneer de gevolgen onduidelijk zijn. Als niemand weet wat een fout kost, begin dan met voorstellen doen.

Hij moet ook niet handelen wanneer de data of regels instabiel zijn. Als medewerkers elke week corrigeren hoe een proces werkt, moet dat eerst zichtbaar worden.

Een derde reden om handelen uit te stellen is gevoeligheid. Persoonsgegevens, financiële acties, juridische conclusies en klantcommunicatie vragen om scherpere rechten en controle.

De EU AI Act legt onder meer nadruk op AI literacy en passende menselijke betrokkenheid in AI-systemen. Voor middelgrote bedrijven hoeft dat niet meteen juridisch zwaar te worden gemaakt. Maar het bevestigt wel een praktische richting: mensen moeten begrijpen waar AI wordt gebruikt, wat het systeem doet en wanneer zij verantwoordelijk blijven.

Controle als ontwerpprincipe

Menselijke controle moet geen losse stap achteraf zijn. Het hoort in het ontwerp.

Begin per actie:

• Wat mag de agent alleen lezen?
• Wat mag hij voorstellen?
• Wat mag hij klaarzetten?
• Wat mag hij uitvoeren?
• Wanneer moet hij stoppen?
• Wie keurt goed?
• Waar wordt feedback verwerkt?

Zo wordt controle niet vaag. Het wordt onderdeel van de workflow.

Dat is de kern van agentic implementatie in bedrijven. Niet zoveel mogelijk autonomie. Wel de juiste autonomie op de juiste plek, met mensen waar het telt.