Human-in-the-loop is geen controleplan

“Geen zorgen. Wij werken met een human in the loop.”

Human-in-the-loop, human-on-the-loop of human-out-of-the-loop: het klinkt als een doordachte aanpak en dat kan het ook zijn, mits je het goed inricht. Maar bij een AI- of geautomatiseerd proces is de belangrijkere vraag: wat kan die mens daadwerkelijk zien, beoordelen en tegenhouden?

Een zaak rond Uber maakte die vraag in augustus 2026 scherp zichtbaar. De Autoriteit Persoonsgegevens (AP) legde Uber een boete van bijna 825 miljoen euro op. Volgens de AP nam Uber volledig geautomatiseerde besluiten over chauffeurs en informeerde het chauffeurs onvoldoende over die besluitvorming.[1] De zaak gaat volgens de AP over besluiten waarmee chauffeurs van het platform werden verwijderd of uitgesloten.

Uber betwist de lezing van de AP en liet volgens Reuters weten in beroep te gaan.[2] De zaak moet daarom niet worden behandeld alsof ieder juridisch geschil definitief is afgerond.

Maar organisaties kunnen hier al wel het volgende van leren: menselijke aanwezigheid is niet automatisch betekenisvolle controle.

Houd uitvoer, besluit en handeling uit elkaar

In gesprekken over AI hoor je soms: “De AI beslist.” Maar die zin is vaak te kort door de bocht om een werkproces goed te begrijpen.

Er zijn minimaal drie stappen te onderscheiden:

1. AI- of systeemuitvoer — wat het systeem genereert, classificeert, voorspelt of adviseert.
2. Organisatiebesluit — wat een bevoegd persoon of een vooraf ingestelde organisatieregel met die uitvoer doet.
3. Handeling — wat vervolgens werkelijk wordt verzonden, gewijzigd, beloofd, geweigerd of uitgevoerd.

Stel dat software een verhoogd frauderisico signaleert. Dat signaal is de systeemuitvoer.

Als je organisatie vooraf heeft ingesteld dat ieder signaal boven een bepaalde drempel automatisch tot blokkering leidt, zit de beslisregel in het organisatieproces.

De blokkering zelf is de handeling.

Door deze stappen uit elkaar te houden, wordt zichtbaar waar controle nodig is en waar verantwoordelijkheid moet worden georganiseerd. Automatisering laat het organisatiebesluit niet verdwijnen. Het kan dat besluit naar een eerder ontwerpmoment verplaatsen.

Kijken is pas controle als iemand kan beoordelen

Een menselijke controleur heeft, afhankelijk van de taak, meer nodig dan alleen een scherm met een advies en een knop “akkoord”.

Bij een goede controle heeft deze persoon het volgende nodig:

• zicht op relevante invoer, bronnen en uitvoer;
• genoeg deskundigheid om belangrijke fouten en ontbrekende informatie te herkennen;
• tijd en aandacht om echt te beoordelen;
• een duidelijk criterium voor wat voldoende is;
• bevoegdheid om te corrigeren, weigeren, stoppen of escaleren.

Als één van die voorwaarden ontbreekt, dan kan de menselijke controle vooral ceremonieel worden.

Denk aan een medewerker die honderd automatisch gemarkeerde dossiers per ochtend moet beoordelen. De medewerker ziet alleen een risicoscore. Broninformatie is niet beschikbaar. Afwijken van het systeemadvies kost extra tijd en moet uitgebreid worden verantwoord.

Er zit een mens in het proces. Maar hoeveel ruimte heeft die persoon om werkelijk te controleren?

Vergelijk dat met een situatie waarin een deskundige beoordelaar de relevante informatie kan bekijken, aanvullende context kan opvragen, duidelijke criteria heeft en zelfstandig mag besluiten het systeemvoorstel niet te volgen.

Dat zijn organisatorisch twee verschillende controles.

Controle moet passen bij het mogelijke gevolg

Niet iedere AI-uitvoer vraagt dezelfde controle. Een slecht idee in een interne brainstorm kan makkelijk worden weggegooid. Bij een verkeerd verstuurd klantbericht kan herstelwerk nodig zijn. Een onjuiste blokkering, weigering of personeelsbeslissing kan veel grotere gevolgen hebben.

Daarom moet controle passen bij:

• de taak;
• de gebruikte informatie;
• de toegang van het systeem;
• de bevoegdheid die aan het proces is gegeven;
• de mogelijke gevolgen;
• de herstelbaarheid van fouten.

Een taak kan klein lijken. Maar als AI onbeperkte toegang krijgt of een grote handelingsbevoegdheid, zijn de risico’s groter en is de taak eigenlijk helemaal niet klein.

Achteraf bezwaar kunnen maken is niet hetzelfde als vooraf kunnen stoppen

Herstel is belangrijk. Maar de mogelijkheid tot herstel vervangt niet automatisch de preventieve controle.

Bij een proces met mogelijke gevolgen voor mensen zijn daarom twee vragen nodig:

Vooraf: kan een belangrijke fout redelijkerwijs worden herkend en gestopt voordat de handeling plaatsvindt?

Achteraf: als de fout toch gevolgen heeft gehad, wie kan dan corrigeren, informeren, herstellen of escaleren?

Een goed controleplan beschrijft beide. Dat betekent niet dat fouten volledig kunnen worden uitgesloten. Menselijke controle is geen garantie dat mensen foutloos zijn. Het is een risicobeperking die geloofwaardig moet zijn ingericht.

Kijk niet alleen naar systemen met het label “AI”

De Uber-zaak gaat juridisch over geautomatiseerde besluitvorming onder de AVG.[1] Daar is niet per se een modern generatief AI-model voor nodig: geautomatiseerde besluitvorming kan ook op andere manieren zijn ingericht.

Dat is een nuttige waarschuwing. Een organisatie kan veel aandacht besteden aan ChatGPT, copilots en AI-agents, terwijl oudere software, scoringsregels of automatische workflows veel directer doorwerken naar beslissingen en handelingen.

Vraag daarom niet alleen:

Waar gebruiken we AI?

Maar vraag ook:

Waar kan software-uitvoer zonder voldoende beoordeling doorwerken naar een handeling met gevolgen?

Dat geeft een realistischer beeld van controle. Het helpt ook bij het gesprek over shadow AI in je organisatie: onbekend gebruik is moeilijk te controleren, maar bekend gebruik is pas veilig wanneer de controle werkelijk iets kan veranderen.

Wie controleert, moet ook kunnen ingrijpen

Een praktisch controleplan moet in ieder geval de volgende vragen kunnen beantwoorden:

• Wat moet de beoordelaar controleren?
• Welke informatie heeft die persoon daarvoor nodig?
• Welke fouten of missende informatie doen ertoe?
• Welke deskundigheid is nodig om die te herkennen?
• Hoeveel tijd krijgt de beoordelaar?
• Kan deze persoon het voorstel aanpassen of afwijzen?
• Kan het proces worden gestopt of geëscaleerd?
• Wat gebeurt er als de fout al gevolgen heeft gehad?
• Wie is eigenaar wanneer hetzelfde probleem terugkeert?

Deze vragen gaan niet over wantrouwen tegenover medewerkers. Ze gaan over procesinrichting. Een mens kan alleen betekenisvol controleren wanneer de organisatie dat mogelijk maakt.

Wat kun je morgen doen?

Neem één AI-ondersteund of geautomatiseerd proces waarin een uitkomst gevolgen voor iemand kan hebben. Teken drie blokken:

AI- of systeemuitvoer → organisatiebesluit → handeling

Schrijf onder ieder blok wie betrokken is en wat die persoon of regel mag doen. Markeer daarna waar een mens kan ingrijpen. Controleer vervolgens of die persoon de relevante informatie, deskundigheid, tijd, criteria en bevoegdheid heeft om werkelijk af te wijken.

Als dat niet duidelijk is, dan is “we werken met een human in the loop” nog niet het juiste controleplan.

Bronnen

[1] Autoriteit Persoonsgegevens, Uber krijgt boete van bijna 825 miljoen euro voor geautomatiseerd blokkeren van chauffeurs, 21 augustus 2026. https://autoriteitpersoonsgegevens.nl/actueel/uber-krijgt-boete-van-bijna-825-miljoen-euro-voor-geautomatiseerd-blokkeren-van-chauffeurs

Bron- en claimgrens

Dit artikel geeft algemene organisatorische duiding en geen juridisch advies of complianceoordeel over een concrete organisatie. De AP heeft een boetebesluit genomen; de AP meldt ook dat Uber bezwaar heeft aangekondigd. De juridische kwalificatie van andere toepassingen hangt af van de concrete feiten, toepasselijke regels en waar nodig specialistische beoordeling.