Betekenisvolle menselijke tussenkomst: wanneer telt een handtekening onder een AI-besluit?

Twee soorten besluiten, twee heel verschillende regimes

Voordat u iets zinnigs over menselijke tussenkomst kunt zeggen, moet één onderscheid scherp staan, en juist dat onderscheid ontbreekt in bijna alles wat erover wordt geschreven. Het maakt juridisch alle verschil of een AI-systeem een besluit voorbereidt over een ding of over een mens.

Gaat het over een ding, dan is artikel 22 AVG niet aan de orde. Een setpoint in de kas, een ritvolgorde, de vrijgave van een partij, een veld uit een vrachtbrief: daar is geen betrokkene en dus geen geautomatiseerd besluit in de zin van dat artikel. Dat betekent niet dat menselijke controle daar zinloos is. Het betekent dat de grond ervoor uw eigen aansprakelijkheid, uw kwaliteitsschema en uw vakmanschap zijn, en niet de privacywetgeving. Dat verschil eerlijk benoemen is beter dan een wettelijke plicht suggereren die er niet is.

Gaat het over een mens, dan verandert het beeld volledig. Wie wordt ingeroosterd, wie welke taak krijgt, wie wordt afgewezen, wie een verbetertraject in gaat: dat zijn besluiten over natuurlijke personen, en daar geldt artikel 22 AVG vandaag al, zonder overgangstermijn en zonder uitstel. Waar dat in werving en personeelsbeleid precies op neerkomt, werkten we uit in ons stuk over AI in werving en personeelsplanning.

• Besluiten over een ding: energiesturing, routeoptimalisatie, afkeur van een verpakking, extractie van een veld uit een document. Artikel 22 AVG speelt hier geen rol.
• Besluiten over een mens: werving en selectie, inschaling, taaktoewijzing op basis van individueel gedrag, prestatiebeoordeling, roostering die het inkomen raakt. Hier geldt artikel 22 AVG nu al, voor zover het besluit uitsluitend op geautomatiseerde verwerking berust.
• Grensgevallen: dezelfde planningssoftware die vandaag ritten verdeelt over voertuigen en morgen ritten toewijst aan chauffeurs op grond van hun eerdere prestaties. Hetzelfde scherm, dezelfde planner, een ander regime.

Wat de toets werkelijk is

De maatstaf komt niet uit de wettekst zelf maar uit de richtsnoeren over geautomatiseerde besluitvorming en profilering die de Europese privacytoezichthouders in 2017 vaststelden en in februari 2018 voor het laatst wijzigden, bekend als WP251rev.01. Twee passages daaruit doen het werk.

De eerste sluit de achterdeur. De verwerkingsverantwoordelijke kan de bepalingen van artikel 22 niet omzeilen door menselijke tussenkomst voor te wenden: als iemand routinematig automatisch gegenereerde profielen op personen toepast zonder het resultaat daadwerkelijk te beïnvloeden, is dat nog steeds een uitsluitend geautomatiseerd besluit.

De tweede formuleert de eis positief. Om daadwerkelijke menselijke tussenkomst te realiseren moet het toezicht op de besluitvorming zinvol zijn en 'niet slechts een symbolische handeling' vormen, moet het worden uitgevoerd door iemand die 'bevoegd en bekwaam is om het besluit te veranderen', en moet die persoon alle relevante gegevens in zijn analyse betrekken.

Er staat nog een derde zin, en die wordt het vaakst overgeslagen terwijl hij in de praktijk het meest oplevert: de verwerkingsverantwoordelijke moet in het kader van zijn gegevensbeschermingseffectbeoordeling vaststellen en registreren in welke mate er menselijke tussenkomst plaatsvindt en in welke fase van het proces. De vastleggingsplicht is dus niet nieuw en niet optioneel.

De twee gevallen waarin de toezichthouder zegt: dit telt niet

De Autoriteit Persoonsgegevens maakte dat concreet in haar handreiking over online- en game-based assessments bij werving en selectie. Daarin staan eerst de positieve criteria. De beoordelaar moet bekwaam zijn, wat betekent dat hij inzicht heeft in de logica achter het geautomatiseerde systeem en in ieder geval op hoofdlijnen begrijpt hoe het besluit tot stand komt. En hij moet bevoegd zijn: hij kan de uitkomst wijzigen of overrulen en daarbij ook andere relevante informatie betrekken, waaronder gegevens die het systeem niet heeft verwerkt. De AP voegt daaraan toe dat die bekwaamheid en bevoegdheid niet alleen formeel mogen worden toegekend, maar ook daadwerkelijk in de praktijk moeten worden toegepast.

Daarna volgen twee voorbeelden waarin volgens de AP géén sprake is van betekenisvolle menselijke tussenkomst, en die twee zijn het scherpst bruikbaar als zelftoets. Het eerste: de beoordelaar is wel formeel bij het proces betrokken, maar heeft geen eigen beoordelingsruimte en moet de geautomatiseerde uitkomst altijd volgen. Het tweede: de beoordelaar heeft slechts de rol om een bepaalde score van de computer om te zetten in een negatief besluit.

Lees dat tweede voorbeeld nog een keer naast uw eigen werkwijze. Een medewerker die een systeemuitkomst overneemt en er zijn naam onder zet, past precies in die beschrijving. De handtekening maakt het besluit niet menselijk; de mogelijkheid om er iets anders van te maken doet dat.

Eén nuance hoort er direct bij, omdat de meeste stukken hem missen. De AP wijst erop dat de menselijke tussenkomst waar een betrokkene ná een geautomatiseerd besluit om kan vragen iets anders is dan de menselijke tussenkomst tijdens het besluitvormingsproces. Die eerste is een waarborg bij een besluit dat op grond van een uitzondering al genomen mocht worden; de tweede voorkomt dat het verbod überhaupt in beeld komt. Wie die twee door elkaar haalt, denkt te voldoen met een bezwaarprocedure terwijl het probleem in het proces zelf zit.

Wat een Nederlandse rechter ervan maakte

Dit is geen theorie meer. Op 4 april 2023 deed het Gerechtshof Amsterdam uitspraak in drie samenhangende zaken van chauffeurs tegen Uber en Ola over inzage in geautomatiseerde besluitvorming. In de zaak met kenmerk ECLI:NL:GHAMS:2023:793 ging het om chauffeurs van wie het account na een fraudesignaal permanent was gedeactiveerd, en om de vraag of die deactiveringsbesluiten uitsluitend op geautomatiseerde verwerking berustten.

Het hof nam de drie elementen uit de richtsnoeren letterlijk over: het toezicht moet zinvol zijn en niet slechts een symbolische handeling vormen, het moet worden uitgevoerd door iemand die bevoegd en bekwaam is om het besluit te veranderen, en die persoon moet alle relevante gegevens in zijn analyse betrekken.

Uber stelde dat in elk van de gevallen een of meer medewerkers van het Risk-team handmatig onderzoek hadden gedaan na het fraudesignaal, en legde daarvan stukken over. Het hof oordeelde dat die stukken weliswaar laten zien dat één, twee of drie medewerkers een notitie hadden gemaakt, maar 'geenszins' aantonen dat die handeling veel meer is geweest dan een louter symbolische handeling en dat die medewerkers daarbij alle relevante gegevens in hun analyse hebben betrokken. Uber had bovendien niet duidelijk gemaakt wat de kwalificaties en het kennisniveau van de betreffende medewerkers waren.

Even belangrijk is waar het hof de bewijslast legde. Op Uber rustte een verzwaarde motiveringsplicht bij het betwisten van de stelling dat er sprake was van uitsluitend geautomatiseerde besluitvorming, omdat de informatie over die eventuele menselijke tussenkomst zich grotendeels in het domein van Uber bevindt. Dat is een algemene gedachte en niet iets wat alleen voor platformbedrijven geldt: wie het systeem, de logs en de werkinstructies in huis heeft, moet uitleggen wat er is gebeurd.

En dan het detail dat de hele zaak in één beeld vat. Voor drie van de vier chauffeurs slaagde Uber daar niet in. Voor de vierde wel, en de reden was verrassend eenvoudig: met hem had vóór de deactivering een persoonlijk gesprek plaatsgevonden. Twee medewerkers met interne procedures en schriftelijke notities waren niet genoeg; één gesprek met de betrokkene wel. Ter relativering hoort erbij dat de rechtbank in eerste aanleg op vergelijkbare feiten juist had geoordeeld dat er in alle gevallen betekenisvolle menselijke tussenkomst was. Dit is dus een reële toets waarover verschillend kan worden gedacht, geen vanzelfsprekendheid.

Wanneer de score zelf al het besluit is

Er is nog een uitspraak die het zwaartepunt verlegt, en die is minder bekend dan zij verdient. Op 7 december 2023 oordeelde het Hof van Justitie van de Europese Unie in zaak C-634/21 over kredietscores. Een kredietbureau berekent geautomatiseerd een waarschijnlijkheidswaarde over de vraag of iemand zijn betalingsverplichtingen in de toekomst kan nakomen, en geeft die door aan een bank.

Het Hof oordeelde dat het vaststellen van die waarde zélf een geautomatiseerd besluit in de zin van artikel 22, lid 1, AVG is wanneer 'hoofdzakelijk van die waarschijnlijkheidswaarde afhangt of een derde ... met die persoon een contractuele relatie tot stand brengt, uitvoert of beëindigt'. Wat daarbij doorslaggevend was, is feitelijk en niet formeel: volgens de vaststellingen van de verwijzende rechter leidt een ontoereikende waarde er in vrijwel alle gevallen toe dat de bank de lening weigert, en speelt die waarde daarmee een bepalende rol. In die omstandigheden moet het vaststellen van de waarde op zichzelf als het besluit worden aangemerkt. Daarbij kwalificeerde het Hof artikel 22, lid 1, als een bepaling die een fundamenteel verbod instelt.

Let goed op wat dit arrest niet zegt. Het Hof heeft niet geoordeeld dat een mens die aftekent zonder werkelijke invloed het besluit alsnog geautomatiseerd maakt. Die redenering komt uit de richtsnoeren en uit de Amsterdamse uitspraak hierboven. Wat het arrest wél doet, is het juridische zwaartepunt verleggen naar de plek waar de uitkomst feitelijk vastligt, in plaats van naar de plek waar de handtekening staat.

Voor een inkoper zit daar een consequentie in die zelden ter sprake komt. In de zaak die het Hof beoordeelde, rustte de verplichting van artikel 22 op het bureau dat de score berekende, en niet alleen op de bank die hem gebruikte. Koopt u een systeem dat medewerkers of kandidaten scoort, en volgt uw organisatie die score in de praktijk vrijwel altijd, vraag uw leverancier dan welke rol hij voor zichzelf ziet. Een antwoord in de trant van 'wij leveren slechts een advies' wordt zwakker naarmate dat advies in de praktijk de uitkomst bepaalt.

Zes dingen die uw tussenkomst stilletjes uithollen

De Autoriteit Persoonsgegevens publiceerde op 23 juli 2025 handvatten voor betekenisvolle menselijke tussenkomst bij algoritmische besluitvorming. Dat document is sectorneutraal, geeft invulling aan de voorlichtingstaak uit artikel 57 AVG en is nadrukkelijk 'geen afvinklijst'. Het ordent de vraag langs vier assen: mens, technologie en ontwerp, proces, en governance. Zes van de factoren die het noemt, komen in operationele omgevingen vrijwel altijd terug.

• Werkdruk. De AP stelt het onomwonden: hoe minder tijd een beoordelaar heeft om tot een besluit te komen, hoe minder betekenisvol de menselijke tussenkomst zal zijn. Een organisatiecultuur met een aantal te beoordelen besluiten per dag of andere targets werkt daar tegenin.
• Routinematigheid. Als het werk van een beoordelaar routinematig wordt zonder het resultaat daadwerkelijk te beïnvloeden, verliest het volgens de AP zijn functie. Dat is dezelfde gedachte als in de richtsnoeren, maar dan als ontwerpvraag.
• Timing. Vindt de tussenkomst alleen plaats als controle op de output, aan het einde van het proces? De AP merkt op dat de beslissing dan in feite al genomen lijkt en dat het algoritme eigenlijk een doorslaggevende rol heeft. Menselijke tussenkomst eerder in het proces weegt zwaarder.
• Een model dat niet te volgen is. De AP wijst erop dat een algoritme zo oninzichtelijk kan zijn dat een beoordelaar zelfs met training niet kan weten hoe het tot een resultaat is gekomen. In dat geval kan die beoordelaar de menselijke tussenkomst niet betekenisvol uitvoeren. Een black box is dan geen aanvaardbaar restrisico maar een blokkade.
• Hoe er intern over het systeem wordt gesproken. Algoritmes worden vaak geframed als betrouwbaarder of secuurder dan mensen, en die framing draagt bij aan automatiseringsbias. De AP noemt het daarom relevant om na te gaan hoe er binnen een organisatie over een algoritme wordt gesproken: als cruciaal onderdeel of als ondersteunend hulpmiddel.
• Wat afwijken de beoordelaar kost. Wordt iemand persoonlijk verantwoordelijk gehouden voor een onjuiste beslissing, dan gaat hij minder snel tegen het algoritme in. De AP acht het daarom wenselijk dat een beoordelaar bevoegd is om tegen het algoritme in te gaan, maar niet wordt bestraft bij een fout.

Twee maatregelen die de AP zelf aanreikt

Het document blijft niet bij diagnose. Twee ontwerpmaatregelen zijn direct overdraagbaar naar een operationele omgeving. De eerste: leg de beoordelaar regelmatig een besluit voor dat helemaal zonder algoritme moet worden genomen. De tweede: voeg aan de door het algoritme geselecteerde gevallen steekproefsgewijs gevallen toe die níét zijn geselecteerd. Dat zorgt er volgens de AP voor dat de beoordelaar niet blind kan vertrouwen op de algoritmische output.

Eén zin uit hetzelfde document verdient aparte aandacht, omdat hij een veelgebruikt verkoopargument rechtstreeks ontkracht: dat een algoritme bijvoorbeeld erg nauwkeurig is, betekent niet dat menselijke tussenkomst niet langer vereist is. Nauwkeurigheid en rechtmatigheid zijn twee verschillende vragen.

De AP waarschuwt tot slot voor iets waar wij het mee eens zijn: een tunnelvisie op het proces van menselijke tussenkomst. Alle factoren en vragen samen kunnen een groter probleem verbloemen, namelijk dat het genomen besluit op zichzelf onethisch is of dat de inzet van een algoritme voor dat besluit moreel problematisch is. Die vraag hoort eerst.

Hoe dit uitpakt in de planning, op de lijn en in het rooster

De drie situaties hieronder zijn illustratief en geen klantverhalen. Ze laten zien dat dezelfde vraag in uw drie belangrijkste processen drie verschillende antwoorden krijgt.

De planner die een voorgestelde ritplanning accordeert, valt buiten artikel 22 AVG: het besluit gaat over ritten en voertuigen, niet over een persoon. Ook artikel 14 van de AI-verordening speelt hier niet, want gewone routeoptimalisatie staat niet in bijlage III. Wat wél echt is, is de aansprakelijkheid van de vervoerder voor de rij- en rusttijden, ongeacht wie de rit heeft voorgesteld; daarover schreven we eerder in ons stuk over routeoptimalisatie en rijtijden. Het kantelpunt ligt elders: zodra hetzelfde scherm ritten toewijst aan met naam bekende chauffeurs op grond van hun gedrag of prestaties, is dat een besluit over personen, en gelden zowel artikel 22 AVG vandaag als de hoog-risicoregels uit punt 4, onder b, van bijlage III per 2 december 2027. Die datum staat niet in de oorspronkelijke tekst van de AI-verordening: artikel 113 daarvan noemde voor de systemen uit bijlage III nog 2 augustus 2026. De verschuiving naar 2 december 2027 komt uit Verordening (EU) 2026/1744, het omnibus-pakket dat op 27 juli 2026 in werking trad.

De kwaliteitsmedewerker die een AI-afkeur aftekent, valt evenmin onder artikel 22: een partij product is geen natuurlijke persoon. Toch faalt hier vrijwel elk kwaliteitscriterium van de AP tegelijk, en dat is geen juridische maar een auditvraag. Tweehonderd bevestigingen per dienst van enkele seconden elk zijn per definitie routinematig, de beoordelaar ziet alleen de output aan het einde van het proces, en of hij op hoofdlijnen begrijpt hoe het model tot zijn oordeel komt is zelden getoetst. Precies die drie punten bepalen of uw beheersmaatregel bij een audit standhoudt, zoals we uitwerkten bij afkeurclassificatie op de verpakkingslijn en bij HACCP en AI. De twee maatregelen van de AP laten zich hier letterlijk overzetten: stuur periodiek partijen naar de beoordelaar zónder het oordeel van het systeem erbij, en voeg steekproefsgewijs niet-gemarkeerde partijen toe aan de te beoordelen stroom.

Het roosterings- of prestatiesysteem is de enige van de drie waar artikel 22 AVG vandaag met volle kracht geldt. Scoort een systeem magazijnmedewerkers op picksnelheid en betrouwbaarheid, en volgt daaruit een dienstindeling die het inkomen raakt of een signalering die tot een verbetertraject leidt, dan is dat een besluit over een persoon. De twee negatieve voorbeelden van de AP beslissen het: heeft de teamleider eigen beoordelingsruimte, of zet hij een score om in een besluit? De Amsterdamse uitspraak levert de bewijsles: notities in een dossier waren niet genoeg, de kwalificaties van de beoordelaars moesten worden getoond, en één gesprek vooraf met de betrokkene maakte wél het verschil.

Artikel 22 AVG en artikel 14 AI-verordening zijn niet hetzelfde

Deze twee worden voortdurend door elkaar gehaald, ook in leveranciersmateriaal, en dat leidt tot de verkeerde planning. Het zijn verschillende instrumenten met een andere aanleiding, een andere geadresseerde en een ander moment.

• Artikel 22 AVG wordt geactiveerd door een besluit dat uitsluitend op geautomatiseerde verwerking is gebaseerd, over een natuurlijke persoon, met rechtsgevolgen of een vergelijkbaar aanmerkelijk effect. Het geldt voor elke verwerkingsverantwoordelijke, in elke sector, en het geldt al sinds 2018. Het is een verbod in beginsel: betekenisvolle menselijke tussenkomst zorgt ervoor dat dat verbod niet in beeld komt.
• Artikel 14 van de AI-verordening wordt geactiveerd doordat een systeem als hoog risico is ingedeeld. Het is een ontwerp- en gebruikseis, geen ontsnappingsroute. Het vraagt onder meer dat toezichthouders zich bewust blijven van de neiging om automatisch op de output te vertrouwen, en dat zij kunnen besluiten het systeem niet te gebruiken of de output te negeren, terzijde te schuiven of terug te draaien.
• Artikel 26, lid 2, legt daar bovenop dat de gebruiksverantwoordelijke het menselijk toezicht belegt bij mensen met de nodige bekwaamheid, opleiding en autoriteit, plus de nodige ondersteuning. Voor systemen uit bijlage III gelden die eisen vanaf 2 december 2027.
• Opvallend is hoe dicht die bronnen bij elkaar liggen, ook al kiest elke tekst net andere woorden. De richtsnoeren vragen iemand die 'bevoegd en bekwaam' is om het besluit te veranderen, de AP toetst op bekwaamheid en bevoegdheid, artikel 26, lid 2, van de AI-verordening spreekt van 'bekwaamheid, opleiding en autoriteit' plus de nodige ondersteuning, en artikel 14, lid 5, gebruikt dezelfde rij met 'bevoegdheid' op de plaats van 'autoriteit'. Wie zijn proces nu op bekwaamheid, bevoegdheid en ondersteuning inricht voor de besluiten over mensen, heeft het werk voor 2027 grotendeels al gedaan.

Wat u vastlegt, en waarom dat de kern is

Alle bronnen hierboven wijzen dezelfde kant op: het gaat niet om wat u heeft ingericht, maar om wat u daarover kunt laten zien. De richtsnoeren vragen om vaststelling en registratie van de mate van menselijke tussenkomst en de fase waarin zij plaatsvindt. De Amsterdamse uitspraak laat zien wat er gebeurt als die registratie er niet is, of niet meer laat zien dan dat iemand een notitie heeft gemaakt.

Zes dingen zijn daarvoor genoeg, en ze passen in het systeem dat u waarschijnlijk al gebruikt:

• Wie de beoordelaar is, welke opleiding hij heeft gehad en wanneer. Het hof vroeg letterlijk naar de kwalificaties en het kennisniveau.
• Welke informatie de beoordelaar te zien kreeg, en welke informatie het systeem niet had maar wel relevant was.
• Hoeveel tijd er voor het oordeel beschikbaar was, en of er een aantal per dag of per dienst op staat.
• Op welk moment in het proces de tussenkomst plaatsvindt: vóór de uitkomst, of erna als controle.
• Hoe vaak er is afgeweken van de systeemuitkomst, en op welke grond. Dit is het bruikbaarste getal uit het hele rijtje: staat het over maanden op nul, dan heeft u een bevinding vóórdat een toezichthouder of auditor hem heeft.
• Wat afwijken voor de beoordelaar betekent: wordt het gewaardeerd, geregistreerd of afgerekend.

Waar u praktisch begint

Begin met een lijst van besluiten, niet van systemen. Dat is de omkering waar dit onderwerp om vraagt, want de meeste inventarisaties beginnen bij de software en missen daardoor precies de besluiten die bij een derde partij worden voorbereid. Zet achter elk besluit of het over een ding of over een mens gaat.

Neem daarna alleen de besluiten over mensen en beantwoord er drie vragen bij: kan de beoordelaar de uitkomst aantoonbaar wijzigen, beschikt hij over informatie die het systeem niet heeft, en heeft hij de tijd om die te wegen. Drie keer ja is het begin van een houdbaar proces. Eén keer nee is een concrete verbeterpunt, en geen reden om het systeem meteen uit te zetten.

Meet vervolgens één maand lang hoe vaak er wordt afgeweken. Dat kost weinig en levert meer inzicht dan welk beleidsstuk ook. Komt daar nul uit, dan weet u waar het gesprek over moet gaan.

En regel de kennis. De AP schrijft dat een beoordelaar bij de inzet van kunstmatige intelligentie over voldoende AI-geletterdheid moet beschikken en inzicht moet hebben in hoe de technologie op basisniveau werkt, in de beperkingen ervan en in de mogelijke voordelen en risico's. Dat is sinds deze zomer níét meer hetzelfde als wat de AI-verordening vraagt, en juist dat verschil is de valkuil. Artikel 4 van die verordening, van toepassing sinds 2 februari 2025, eiste oorspronkelijk 'een toereikend niveau van AI-geletterdheid'. Verordening (EU) 2026/1744, in werking sinds 27 juli 2026, herschreef die bepaling tot de opdracht om 'de ontwikkeling van AI-geletterdheid ... te ondersteunen', met de uitdrukkelijke toevoeging: 'Deze verplichting houdt niet in dat aanbieders of gebruiksverantwoordelijken een bepaald niveau van AI-geletterdheid moeten waarborgen voor personen.' De twee sporen lopen daarmee uiteen in plaats van samen: ondersteunende maatregelen op grond van artikel 4 voldoen op zichzelf niet aan wat de AP via de AVG van uw beoordelaar vraagt, want die eis gaat over een daadwerkelijk niveau van kennis bij de persoon die tekent. Het blijft de goedkoopste stap in dit hele rijtje, maar u regelt hem voor de AVG en niet alleen voor de AI-verordening. Hoe u de bredere classificatie- en documentatievraag aanpakt, staat in ons stuk over de AI-verordening in operationele processen.