Human-in-the-loop is geen controleplan

“Geen zorgen. Wij werken met een human in the loop.”

Human-in-the-loop, human-on-the-loop of human-out-of-the-loop: het
klinkt als een doordachte aanpak en dat kan het ook zijn, mits je het
goed inricht. Maar bij een AI- of geautomatiseerd proces is de
belangrijkere vraag: wat kan die mens daadwerkelijk zien,
beoordelen en tegenhouden?

Een zaak rond Uber maakte die vraag in augustus 2026 scherp
zichtbaar. De Autoriteit Persoonsgegevens (AP) legde Uber een boete van
bijna 825 miljoen euro op. Volgens de AP nam Uber volledig
geautomatiseerde besluiten over chauffeurs en informeerde het chauffeurs
onvoldoende over die besluitvorming.[1] De zaak gaat volgens de AP over
besluiten waarmee chauffeurs van het platform werden verwijderd of
uitgesloten.

Uber betwist de lezing van de AP en liet volgens Reuters weten in
beroep te gaan.[2] De zaak moet daarom niet worden behandeld alsof ieder
juridisch geschil definitief is afgerond.

Maar organisaties kunnen hier al wel het volgende van leren:
menselijke aanwezigheid is niet automatisch betekenisvolle
controle.

Houd uitvoer,
besluit en handeling uit elkaar

In gesprekken over AI hoor je soms: “De AI beslist.” Maar die zin is
vaak te kort door de bocht om een werkproces goed te begrijpen.

Er zijn minimaal drie stappen te onderscheiden:

1. AI- of systeemuitvoer — wat het systeem genereert,
   classificeert, voorspelt of adviseert.
2. Organisatiebesluit — wat een bevoegd persoon of een
   vooraf ingestelde organisatieregel met die uitvoer doet.
3. Handeling — wat vervolgens werkelijk wordt
   verzonden, gewijzigd, beloofd, geweigerd of uitgevoerd.

Stel dat software een verhoogd frauderisico signaleert. Dat signaal
is de systeemuitvoer.

Als je organisatie vooraf heeft ingesteld dat ieder signaal boven een
bepaalde drempel automatisch tot blokkering leidt, zit de beslisregel in
het organisatieproces.

De blokkering zelf is de handeling.

Door deze stappen uit elkaar te houden, wordt zichtbaar waar controle
nodig is en waar verantwoordelijkheid moet worden georganiseerd.
Automatisering laat het organisatiebesluit niet verdwijnen. Het kan dat
besluit naar een eerder ontwerpmoment verplaatsen.

Kijken is pas
controle als iemand kan beoordelen

Een menselijke controleur heeft, afhankelijk van de taak, meer nodig
dan alleen een scherm met een advies en een knop “akkoord”.

Bij een goede controle heeft deze persoon het volgende nodig:

• zicht op relevante invoer, bronnen en uitvoer;
• genoeg deskundigheid om belangrijke fouten en ontbrekende informatie
  te herkennen;
• tijd en aandacht om echt te beoordelen;
• een duidelijk criterium voor wat voldoende is;
• bevoegdheid om te corrigeren, weigeren, stoppen of escaleren.

Als één van die voorwaarden ontbreekt, dan kan de menselijke controle
vooral ceremonieel worden.

Denk aan een medewerker die honderd automatisch gemarkeerde dossiers
per ochtend moet beoordelen. De medewerker ziet alleen een risicoscore.
Broninformatie is niet beschikbaar. Afwijken van het systeemadvies kost
extra tijd en moet uitgebreid worden verantwoord.

Er zit een mens in het proces. Maar hoeveel ruimte heeft die persoon
om werkelijk te controleren?

Vergelijk dat met een situatie waarin een deskundige beoordelaar de
relevante informatie kan bekijken, aanvullende context kan opvragen,
duidelijke criteria heeft en zelfstandig mag besluiten het
systeemvoorstel niet te volgen.

Dat zijn organisatorisch twee verschillende controles.

Controle moet
passen bij het mogelijke gevolg

Niet iedere AI-uitvoer vraagt dezelfde controle. Een slecht idee in
een interne brainstorm kan makkelijk worden weggegooid. Bij een verkeerd
verstuurd klantbericht kan herstelwerk nodig zijn. Een onjuiste
blokkering, weigering of personeelsbeslissing kan veel grotere gevolgen
hebben.

Daarom moet controle passen bij:

• de taak;
• de gebruikte informatie;
• de toegang van het systeem;
• de bevoegdheid die aan het proces is gegeven;
• de mogelijke gevolgen;
• de herstelbaarheid van fouten.

Een taak kan klein lijken. Maar als AI onbeperkte toegang krijgt of
een grote handelingsbevoegdheid, zijn de risico’s groter en is de taak
eigenlijk helemaal niet klein.

Achteraf
bezwaar kunnen maken is niet hetzelfde als vooraf kunnen stoppen

Herstel is belangrijk. Maar de mogelijkheid tot herstel vervangt niet
automatisch de preventieve controle.

Bij een proces met mogelijke gevolgen voor mensen zijn daarom twee
vragen nodig:

Vooraf: kan een belangrijke fout redelijkerwijs
worden herkend en gestopt voordat de handeling plaatsvindt?

Achteraf: als de fout toch gevolgen heeft gehad, wie
kan dan corrigeren, informeren, herstellen of escaleren?

Een goed controleplan beschrijft beide. Dat betekent niet dat fouten
volledig kunnen worden uitgesloten. Menselijke controle is geen garantie
dat mensen foutloos zijn. Het is een risicobeperking die geloofwaardig
moet zijn ingericht.

Kijk niet
alleen naar systemen met het label “AI”

De Uber-zaak gaat juridisch over geautomatiseerde besluitvorming
onder de AVG.[1] Daar is niet per se een modern generatief AI-model voor
nodig: geautomatiseerde besluitvorming kan ook op andere manieren zijn
ingericht.

Dat is een nuttige waarschuwing. Een organisatie kan veel aandacht
besteden aan ChatGPT, copilots en AI-agents, terwijl oudere software,
scoringsregels of automatische workflows veel directer doorwerken naar
beslissingen en handelingen.

Vraag daarom niet alleen:

Waar gebruiken we AI?

Maar vraag ook:

Waar kan software-uitvoer zonder voldoende beoordeling doorwerken
naar een handeling met gevolgen?

Dat geeft een realistischer beeld van controle. Het helpt ook bij het
gesprek over shadow
AI in je organisatie: onbekend gebruik is moeilijk te controleren,
maar bekend gebruik is pas veilig wanneer de controle werkelijk iets kan
veranderen.

Wie controleert, moet
ook kunnen ingrijpen

Een praktisch controleplan moet in ieder geval de volgende vragen
kunnen beantwoorden:

• Wat moet de beoordelaar controleren?
• Welke informatie heeft die persoon daarvoor nodig?
• Welke fouten of missende informatie doen ertoe?
• Welke deskundigheid is nodig om die te herkennen?
• Hoeveel tijd krijgt de beoordelaar?
• Kan deze persoon het voorstel aanpassen of afwijzen?
• Kan het proces worden gestopt of geëscaleerd?
• Wat gebeurt er als de fout al gevolgen heeft gehad?
• Wie is eigenaar wanneer hetzelfde probleem terugkeert?

Deze vragen gaan niet over wantrouwen tegenover medewerkers. Ze gaan
over procesinrichting. Een mens kan alleen betekenisvol controleren
wanneer de organisatie dat mogelijk maakt.

Wat kun je morgen doen?

Neem één AI-ondersteund of geautomatiseerd proces waarin een uitkomst
gevolgen voor iemand kan hebben. Teken drie blokken:

AI- of systeemuitvoer → organisatiebesluit →
handeling

Schrijf onder ieder blok wie betrokken is en wat die persoon of regel
mag doen. Markeer daarna waar een mens kan ingrijpen. Controleer
vervolgens of die persoon de relevante informatie, deskundigheid, tijd,
criteria en bevoegdheid heeft om werkelijk af te wijken.

Als dat niet duidelijk is, dan is “we werken met een human in the
loop” nog niet het juiste controleplan.

Bronnen

[1] Autoriteit Persoonsgegevens, Uber krijgt boete van bijna 825
miljoen euro voor geautomatiseerd blokkeren van chauffeurs, 21
augustus 2026.
https://autoriteitpersoonsgegevens.nl/actueel/uber-krijgt-boete-van-bijna-825-miljoen-euro-voor-geautomatiseerd-blokkeren-van-chauffeurs

Bron- en claimgrens

Dit artikel geeft algemene organisatorische duiding en geen juridisch
advies of complianceoordeel over een concrete organisatie. De AP heeft
een boetebesluit genomen; de AP meldt ook dat Uber bezwaar heeft
aangekondigd. De juridische kwalificatie van andere toepassingen hangt
af van de concrete feiten, toepasselijke regels en waar nodig
specialistische beoordeling.