Uw AI-uitrol mislukt zonder training — en de AI-verordening zegt dat inmiddels zelf
AI-tools verspreiden zich door elke afdeling van elke organisatie. Dat ziet eruit als vooruitgang. Het is ook hoe organisaties een categorie risico verwerven die niemand heeft beoordeeld, via software die niemand heeft goedgekeurd, met output die niemand heeft geverifieerd.
Wat ongemakkelijk is: dit is geen trainingstekort in de zachte zin. Sinds februari 2025 is het een wettelijke verplichting.
Zelfverzekerdheid is geen bewijs
De belangrijkste eigenschap van een groot taalmodel is dat het geen feiten opzoekt. Het voorspelt het meest waarschijnlijke volgende token op basis van patronen die het heeft geleerd uit een enorm volume tekst. Daardoor kan het een vlot, goed gestructureerd en volkomen zelfverzekerd antwoord geven dat volkomen onwaar is — en het liegt niet, want het heeft geen mechanisme om een ware zin van een geloofwaardig klinkende te onderscheiden.
Vloeiend taalgebruik is geen bewijs van juistheid. Het is bewijs dat het model goed is in taal.
Ook is dit geen zeldzame glitch die op een patch wacht. Onafhankelijke benchmarks zijn het erover eens. De HALoGEN-studie, gepresenteerd op ACL 2025, testte 14 toonaangevende modellen over ruwweg 150.000 generaties en vond hallucinatiepercentages tot 86 % in sommige vakgebieden. De DefAn-benchmark mat feitelijke hallucinatie tussen 59 % en 82 % over zes grote modellen. Dit zijn structurele gevolgen van hoe de systemen werken, geen bugs die de volgende release verwijdert.
Wat het kost wanneer niemand controleert
In 2023 dienden advocaten in de zaak Mata v. Avianca een pleitnota in bij de Southern District of New York met zes jurisprudentieverwijzingen die door ChatGPT waren geproduceerd. Elk ervan was verzonnen — compleet met geloofwaardige zaaknamen, rechtbanken en data. De rechtbank legde een sanctie van $ 5.000 op.
Wat de zaak leerzaam maakt, is niet dat het model faalde. Het is dat het model geen enkel signaal gaf dat het had gefaald. De output leek exact op echt juridisch onderzoek. En een getrainde professional had alle zes met één verificatiestap betrapt.
Er is een tweede, onafhankelijke faalmodus: de trainingsdata zelf kan fout zijn. Amazon bouwde een intern rekruteringstool getraind op jaren eigen aanstellingsgeschiedenis. Die geschiedenis weerspiegelde een vooringenomenheid ten opzichte van mannelijke kandidaten, dus leerde het model om systematisch cv's met het woord "vrouwen" af te waarderen. Amazon heeft de tool geschrapt. Gekleurde, onvolledige of verouderde data kondigt zichzelf niet aan — het model reproduceert het defect geruisloos, op schaal, met volledige overtuiging.
De schade gebeurt na de uitrol
De AI Incident Database, een publiek register van AI-fouten uit de praktijk, onderhouden door de Responsible AI Collaborative, heeft ruim duizend gedocumenteerde incidenten gecatalogiseerd — en de eigen analyses vinden dat de meeste schade pas opduikt wanneer een systeem in productie wordt gebruikt, niet tijdens ontwikkeling of testen.
Lees dat patroon en de conclusie is moeilijk te vermijden: modelrisico wordt organisatieschade door hoe mensen het model gebruiken. Dat plaatst menselijk gedrag, toezicht en verificatie binnen elk serieus AI-risicoprogramma — en plaatst medewerkerstraining precies daar waar de blootstelling kan worden verminderd.
Artikel 4 en artikel 26
Verordening (EU) 2024/1689 — de AI-verordening — schept twee verplichtingen die hier rechtstreeks op inspelen.
Artikel 4 vereist dat aanbieders én inzetters zorgen voor een voldoende niveau van AI-geletterdheid bij het personeel dat met de werking en het gebruik van AI-systemen te maken heeft. Het is sinds februari 2025 van toepassing. Let op het woord inzetters: dit is geen verplichting die alleen bij de bedrijven neerkomt die modellen bouwen.
Artikel 26 vereist dat menselijk toezicht op AI-systemen met hoog risico wordt toegewezen aan personen met de nodige bekwaamheid, opleiding en bevoegdheid. Verschillende gebruikscases in arbeid en onderwijs vallen in de categorie hoog risico. Verwante verplichtingen voor inzetters dragen boetes tot € 15 miljoen of 3 % van de wereldwijde omzet.
En toezichthoudende autoriteiten wachten niet noodzakelijk op aantoonbare schade. Op 30 maart 2023 legde de Italiaanse Garante onmiddellijk een voorlopige beperking op op de verwerking van persoonsgegevens van Italianen via ChatGPT. OpenAI schorste de toegang in Italië en kreeg 20 dagen om corrigerende maatregelen te rapporteren; de dienst werd op 28 april hervat na herstel. De maatregel was preventief. "Er is nog niets misgegaan" is geen verdediging.
Schaduw-AI sluit de cirkel
Dit is de valstrik. Medewerkers gebruiken AI-tools zonder goedkeuring of toezicht — schaduw-AI — en de reeks schrijft zichzelf. Een niet-goedgekeurde tool produceert niet-geverifieerde output. Die output belandt in een klantantwoord of een nalevingsdocument. Op het moment dat ze het gebouw verlaat, is de organisatie aansprakelijk, of ze de tool nu ooit heeft goedgekeurd of niet.
"Wij wisten niet wat onze medewerkers deden" is geen verdediging binnen het Europese kader. Het is bewijs van een governancefalen.
Vier beheersmaatregelen die werken
Geen enkele is ingewikkeld, en geen enkele vereist nieuwe software.
Menselijke verificatie voordat AI-output een beslissing binnengaat of de organisatie verlaat.
Geen bron, geen beslissing. Kan een verwijzing niet worden geverifieerd, dan telt ze niet. Deze ene regel had Mata v. Avianca in zijn geheel voorkomen.
Gedocumenteerde governance die vastlegt wat AI wel en niet zelfstandig mag produceren — gedocumenteerd, omdat documentatie is wat u als bewijs zal worden gevraagd.
Training die scepsis tot gewoonte maakt, zodat elke medewerker weet dat vloeiend taalgebruik geen juistheid is en weet hoe te controleren.
Waar dit aansluit op de rest van uw nalevingswerk
Valt uw organisatie al onder NIS2, dan is dit patroon vertrouwd: de verplichting is niet het hebben van een beleid, maar het aantonen dat een beheersmaatregel functioneert. AI-geletterdheid is daar niet anders in. Aanwezigheidslijsten, bevestigingen van beleid en gedefinieerde toezichtsrollen zijn het bewijs — en zoals elke andere beheersmaatregel moeten ze bestaan voordat iemand ernaar vraagt, in plaats van in twee weken paniek in elkaar worden geflanst. Over die verschuiving schreven we in waarom NIS2-naleving geen auditmoment meer is.
De vraag is niet of uw medewerkers AI gebruiken. Dat doen ze, op dit moment, met of zonder goedkeuring. De vraag is of ze zijn getraind om dat veilig te doen.
Euraika GRC volgt bewijs van beheersmaatregelen — inclusief trainings- en toezichtstoewijzingen — continu in plaats van op auditmomenten. Bekijk hoe het werkt, of toets uw NIS2-positie met de zelfevaluatie.
Educatieve inhoud, geen juridisch advies. Belangrijkste bronnen: Verordening (EU) 2024/1689, artikelen 4 en 26; HALoGEN, ACL 2025; DefAn, arXiv:2406.09155; AI Incident Database (incidentdatabase.ai); Mata v. Avianca, S.D.N.Y., 2023; Italiaanse Garante, maatregelen van 30 maart en 28 april 2023.


