Title: Menselijk toezicht en logging in AI-systemen: wat de AI Act vraagt en hoe je het bouwt | AI Heroes
URL: https://aiheroes.io/nl/kennis/menselijk-toezicht
Description: Wat menselijk toezicht en logging onder de AI Act betekenen, wanneer ze verplicht zijn, welke ontwerppatronen werken en hoe lang je logs bewaart. Met de AI-stem van Medux als voorbeeld.

Compliance en security

# Menselijk toezicht en logging: wat de AI Act vraagt en hoe je het bouwt

David Homan

Gepubliceerd 12 oktober 2026

· 3 min lezen

Het korte antwoord

Bij hoog-risico-AI verplicht de AI Act dat mensen het systeem kunnen begrijpen, bewaken en zo nodig ingrijpen of een uitkomst terzijde schuiven, en dat het systeem automatisch vastlegt wat het doet. Voor de toepassingen uit bijlage III geldt dat vanaf 2 december 2027. Ook buiten hoog risico is het verstandig: het maakt fouten zichtbaar en houdt de verantwoordelijkheid bij mensen.

## Wat vraagt de wet?

De [AI Act](https://aiheroes.io/nl/kennis/ai-act) stelt bij hoog-risico-AI twee eisen die je in het ontwerp van een systeem inbouwt:

- **Menselijk toezicht (artikel 14).** Het systeem moet zo gemaakt zijn dat mensen het kunnen begrijpen, bewaken en zo nodig ingrijpen. Ze moeten een uitkomst kunnen negeren of terugdraaien, en het systeem kunnen stoppen. Organisaties die het systeem gebruiken, wijzen daarvoor mensen aan met de kennis, de bevoegdheid en de tijd om dat te doen (artikel 26).
- **Logging (artikel 12).** Het systeem moet automatisch vastleggen wat het doet, zodat je achteraf kunt nagaan wat er gebeurde. Gebruiksverantwoordelijken bewaren die logs minstens zes maanden.

Voor de hoog-risicotoepassingen uit bijlage III gelden deze eisen vanaf 2 december 2027; voor AI in gereguleerde producten vanaf 2 augustus 2028. Die data zijn in 2026 vastgelegd met de Digital Omnibus. We controleren ze elk kwartaal.

## Wat dat in een systeem betekent

Menselijk toezicht is een ontwerpkeuze. Deze patronen gebruiken we het vaakst:

1. **Een mens keurt goed.** Het systeem maakt een voorstel, een medewerker verstuurt of besluit. Geschikt voor alles wat naar buiten gaat of gevolgen heeft voor een persoon.
2. **Doorschakelen bij twijfel of urgentie.** Het systeem handelt standaardgevallen af en geeft lastige, dringende of gevoelige gevallen direct door aan een medewerker.
3. **Een drempel voor zekerheid.** Is het systeem minder zeker dan een ingestelde grens, dan gaat het geval naar een mens. De drempel stel je bij op basis van de logs.
4. **Een noodstop.** Eén knop die de automatische verwerking stillegt, terwijl het handmatige werk doorgaat.
5. **Uitleg bij een uitkomst.** Het systeem laat zien waarop een uitkomst gebaseerd is, zodat de mens die controleert kan zien of het klopt.

## Wat je logt en hoe lang

Een goede log beantwoordt achteraf vier vragen:

| Vraag | Wat je vastlegt |
| --- | --- |
| Wat ging erin? | De invoer, of een verwijzing ernaar |
| Wat kwam eruit? | De uitkomst en, waar mogelijk, de zekerheid of de bronnen |
| Wat gebeurde ermee? | Goedgekeurd, aangepast, doorgeschakeld of verworpen, en door wie |
| Wanneer en met welke versie? | Tijdstip, versie van het systeem en van het model |

Bij hoog-risico-AI bewaar je de logs minstens zes maanden. Bevatten ze persoonsgegevens, dan geldt ook de AVG: niet langer dan nodig, en goed beveiligd. Lees meer in [AI en de AVG](https://aiheroes.io/nl/kennis/ai-en-avg).

## Voorbeeld uit de praktijk: de AI-stem van Medux

Voor Medux bouwden we een AI-stem die telefoongesprekken voert: opnemen, afspraken inplannen en vragen beantwoorden. De cijfers: 4.000 gesprekken per maand, waarvan 80% door de AI afgehandeld. Lastige of dringende vragen gaan direct naar een medewerker.

Zo ziet menselijk toezicht er in de praktijk uit: de AI voor het standaardwerk, een mens waar het ertoe doet, en elk gesprek uitgeschreven voor kwaliteit en controle. Lees [de case](https://aiheroes.io/nl/cases/medux).

## Achteraf inbouwen of vanaf het begin

Toezicht en logging achteraf toevoegen is duur. Je moet beslismomenten zoeken in een systeem dat er niet op ontworpen is, en logs reconstrueren die er niet zijn. Wie het vanaf het begin meeneemt, bouwt het als onderdeel van de toepassing, en kan het later bijstellen op basis van wat de logs laten zien.

## Wat AI Heroes hier doet

Bij elke bouw bepalen we in de startsprint de risicoklasse en de beslismomenten. Doorschakelen naar een mens, logging met vaste bewaartermijnen en een noodstop zitten vanaf de eerste versie in het systeem. Dat is wat we bedoelen met **compliance vanaf de tekentafel**.

## Bronnen

- [AI Act, Verordening (EU) 2024/1689](https://eur-lex.europa.eu/eli/reg/2024/1689/oj), artikelen 12, 14 en 26, EUR-Lex
- [Digital Omnibus on AI, Verordening (EU) 2026/1744](https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=OJ:L_202601744), EUR-Lex

## In dit artikel

1. Wat vraagt de wet?
2. Wat dat in een systeem betekent
3. Wat je logt en hoe lang
4. Voorbeeld uit de praktijk: de AI-stem van Medux
5. Achteraf inbouwen of vanaf het begin
6. Wat AI Heroes hier doet
7. Bronnen

## Veelgestelde vragen

### Is menselijk toezicht altijd verplicht?

Wettelijk alleen bij hoog-risico-AI. Voor de toepassingen uit bijlage III, zoals AI in werving of kredietbeoordeling, geldt dat vanaf 2 december 2027. Voor andere toepassingen is het een ontwerpkeuze, en vaak een verstandige.

### Wat moet je loggen bij een AI-systeem?

In ieder geval wanneer het systeem draaide, op welke invoer, wat de uitkomst was en wie die controleerde of verwierp. Bij hoog-risico-AI moet het systeem dat automatisch kunnen vastleggen.

### Hoe lang bewaar je logs?

Bij hoog-risico-AI moeten gebruiksverantwoordelijken de automatisch gemaakte logs minstens zes maanden bewaren, tenzij andere wetgeving iets anders vraagt. Bevatten de logs persoonsgegevens, dan bewaar je ze ook niet langer dan nodig volgens de AVG.

### Betekent menselijk toezicht dat iemand alles moet controleren?

Nee. Het betekent dat een mens het systeem kan volgen en kan ingrijpen. Hoe je dat inricht, hangt af van het risico: van een steekproef bij laag risico tot een verplichte goedkeuring bij belangrijke besluiten.

### Wie is verantwoordelijk als de AI een fout maakt?

De organisatie die het systeem inzet, en binnen die organisatie de mensen aan wie het toezicht is opgedragen. De AI Act vraagt dat zij de bevoegdheid, kennis en tijd hebben om dat toezicht echt uit te oefenen.

Geschreven door

David Homan

Co-Founder, software en compliance

David leidt de bouw, van prototype tot een systeem dat in je eigen landschap draait. AI Act-classificatie, logging, security en hosting zitten bij hem vanaf de tekentafel in het ontwerp.

[Het team](https://aiheroes.io/nl/over-ons/team) [LinkedIn](https://www.linkedin.com/in/davidnhoman)

Bouw je een AI-toepassing die beslissingen voorbereidt? Bij elke bouw zitten toezicht en logging vanaf de tekentafel in het ontwerp. Begin met een [startsprint](https://aiheroes.io/nl/startsprint).

[Naar compliance en security](https://aiheroes.io/nl/compliance)

## Verder lezen

- Artikel · [De AI Act: wat moet jouw organisatie regelen?](https://aiheroes.io/nl/kennis/ai-act) · Geldt de AI Act voor jouw organisatie, wat moet nu al en wat komt nog? De risicoklassen, de tijdlijn na de Digital Omnibus en vier stappen om het te regelen. Bijgewerkt oktober 2026. · Lees verder
- Artikel · [AI en de AVG: wat je regelt voordat je persoonsgegevens gebruikt](https://aiheroes.io/nl/kennis/ai-en-avg) · Wanneer de AVG geldt bij AI, wat je regelt (grondslag, dataminimalisatie, verwerkersovereenkomst, DPIA), waar de data mag staan en hoe AVG en AI Act naast elkaar werken. · Lees verder
- Artikel · [AI en informatiebeveiliging: de risico's en wat je eraan doet](https://aiheroes.io/nl/kennis/ai-security) · Welke beveiligingsrisico's brengt AI met zich mee, zoals datalekken via prompts en prompt injection, en hoe passen ze in ISO 27001 en de Cyberbeveiligingswet? Per risico de maatregel. · Lees verder