Skip to main content
§ Vidéo

Votre déploiement d'IA échouera sans formation — et le règlement sur l'IA le dit désormais

Regarder sur YouTube ↗

Les outils d'IA se propagent dans tous les services de toutes les organisations. Cela ressemble à du progrès. C'est aussi la manière dont les organisations acquièrent une catégorie de risque qu'elles n'ont pas évaluée, via des logiciels que personne n'a approuvés et qui produisent des résultats que personne n'a vérifiés.

La partie inconfortable, c'est qu'il ne s'agit plus d'un simple déficit de formation au sens vague. Depuis février 2025, c'est une obligation légale.


La confiance n'est pas une preuve

La propriété la plus importante d'un grand modèle de langage, c'est qu'il ne recherche pas des faits. Il prédit le jeton le plus probable à partir de motifs appris sur un volume énorme de texte. Cela signifie qu'il peut produire une réponse fluide, bien structurée, entièrement assurée — et totalement fausse — sans mentir, car il ne possède aucun mécanisme pour distinguer une phrase vraie d'une phrase qui sonne juste.

L'aisance du ton n'est pas une preuve d'exactitude. Elle prouve que le modèle est doué pour le langage.

Ce n'est pas non plus un défaut rare qui attend un correctif. Les bancs d'essai indépendants sont unanimes. L'étude HALoGEN présentée à ACL 2025 a testé 14 modèles de pointe sur environ 150 000 générations et a relevé des taux d'hallucination atteignant 86 % dans certains domaines. Le banc d'essai DefAn a mesuré une hallucination factuelle entre 59 % et 82 % sur six modèles majeurs. Ce sont des conséquences structurelles du fonctionnement de ces systèmes, pas des bogues que la prochaine version corrigera.


Ce que cela coûte quand personne ne vérifie

En 2023, des avocats dans l'affaire Mata v. Avianca ont déposé au Southern District de New York une conclusion contenant six références de jurisprudence produites par ChatGPT. Toutes étaient fabriquées de toutes pièces — avec des noms d'affaires, des juridictions et des dates plausibles. Le tribunal a infligé une sanction de 5 000 dollars.

Ce qui rend l'affaire instructive, ce n'est pas l'échec du modèle. C'est que le modèle n'a donné aucun signal de son échec. Le résultat ressemblait exactement à une véritable recherche juridique. Et un professionnel formé aurait détecté les six références avec une seule étape de vérification.

Il existe un second mode de défaillance, indépendant : les données d'entraînement elles-mêmes peuvent être erronées. Amazon a développé un outil interne de recrutement entraîné sur des années de son propre historique d'embauche. Cet historique reflétait un biais en faveur des candidats masculins, et le modèle a appris à dégrader systématiquement les CV contenant le mot « women's ». Amazon a abandonné l'outil. Des données biaisées, incomplètes ou périmées ne s'annoncent pas — le modèle reproduit le défaut en silence, à grande échelle, avec une confiance totale.


Les dégâts surviennent après le déploiement

La AI Incident Database, un dépôt public de défaillances réelles d'IA maintenu par le Responsible AI Collaborative, a recensé bien plus de mille incidents documentés — et ses propres analyses constatent que la plupart des dommages ne surviennent qu'une fois le système en production, pas pendant le développement ni les tests.

Lisez ce constat et la conclusion s'impose : le risque du modèle devient un dommage organisationnel à travers la manière dont les gens l'utilisent. Cela place le comportement humain, la supervision et la vérification au cœur de tout programme sérieux de risque IA — et place la formation des collaborateurs précisément là où l'exposition peut être réduite.


Les articles 4 et 26

Le règlement (UE) 2024/1689 — le règlement sur l'IA — crée deux obligations qui touchent directement ce sujet.

L'article 4 exige des fournisseurs et des déployeurs qu'ils garantissent un niveau suffisant de maîtrise de l'IA parmi le personnel qui traite de l'exploitation et de l'utilisation des systèmes d'IA. Il s'applique depuis février 2025. Notez le mot déployeurs : ce n'est pas une obligation qui pèse uniquement sur les entreprises qui construisent des modèles.

L'article 26 exige que la supervision humaine des systèmes d'IA à haut risque soit confiée à des personnes disposant de la compétence, de la formation et de l'autorité nécessaires. Plusieurs cas d'usage en matière d'emploi et d'éducation relèvent de la catégorie à haut risque. Les obligations connexes des déployeurs encourent des sanctions pouvant atteindre 15 millions d'euros ou 3 % du chiffre d'affaires mondial.

Et les régulateurs n'attendent pas nécessairement qu'un dommage soit démontré. Le 30 mars 2023, le Garante italien a imposé une restriction provisoire immédiate sur le traitement des données personnelles des Italiens via ChatGPT. OpenAI a suspendu l'accès en Italie et a disposé de 20 jours pour rendre compte de ses mesures correctives ; le service a repris le 28 avril après remédiation. La mesure était préventive. « Rien n'a encore mal tourné » n'est pas une défense.


L'IA fantôme boucle la boucle

Voici le piège. Les collaborateurs utilisent des outils d'IA sans approbation ni supervision — l'IA fantôme — et la séquence s'écrit toute seule. Un outil non approuvé produit un résultat non vérifié. Ce résultat atterrit dans une réponse à un client ou dans un document de conformité. Dès qu'il quitte le bâtiment, l'organisation est responsable, qu'elle ait ou non approuvé l'outil.

« Nous ne savions pas ce que faisaient nos collaborateurs » n'est pas une défense au regard du cadre européen. C'est la preuve d'un défaut de gouvernance.


Quatre mesures qui fonctionnent

Aucune n'est compliquée, et aucune ne nécessite de nouveau logiciel.

Vérification humaine avant qu'un résultat d'IA n'entre dans une décision ou ne quitte l'organisation.

Pas de source, pas de décision. Si une référence ne peut pas être vérifiée, elle ne compte pas. Cette seule règle aurait détecté l'intégralité de l'affaire Mata v. Avianca.

Gouvernance documentée définissant ce que l'IA peut et ne peut pas produire de manière autonome — documentée, car la documentation est ce qu'on vous demandera comme élément de preuve.

Une formation qui rend le scepticisme habituel, pour que chaque collaborateur sache que l'aisance n'est pas l'exactitude et sache comment vérifier.


Où cela rejoint le reste de votre travail de conformité

Si votre organisation relève déjà du champ de la directive NIS 2, ce schéma vous est familier : l'obligation n'est pas d'avoir une politique, c'est de démontrer qu'une mesure fonctionne. La maîtrise de l'IA n'y échappe pas. Les registres de présence, les accusés de réception des politiques et les rôles de supervision définis en sont les preuves — et, comme toute autre mesure, elles doivent exister avant qu'on ne les demande, au lieu d'être assemblées en une quinzaine de panique. Nous avons écrit sur ce basculement dans pourquoi la conformité NIS 2 n'est plus un moment d'audit.

La question n'est pas de savoir si vos collaborateurs utilisent l'IA. Ils le font, en ce moment même, avec ou sans approbation. La question est de savoir s'ils ont été formés à l'utiliser en toute sécurité.


Euraika GRC suit les preuves des mesures — y compris les formations et les attributions de supervision — en continu plutôt qu'au moment de l'audit. Découvrez comment cela fonctionne, ou évaluez votre position NIS 2 avec l'auto-évaluation.

Contenu éducatif, pas un conseil juridique. Sources principales : règlement (UE) 2024/1689, articles 4 et 26 ; HALoGEN, ACL 2025 ; DefAn, arXiv:2406.09155 ; AI Incident Database (incidentdatabase.ai) ; Mata v. Avianca, S.D.N.Y., 2023 ; Garante italien, mesures du 30 mars et du 28 avril 2023.