IA générative pour rédiger des procédures industrielles : limites et bonnes pratiques

1. Le contexte : pourquoi l'IA générative séduit l'industrie

Entre 2023 et 2025, l'adoption des grands modèles de langage (LLM) a explosé dans tous les services support de l'industrie : qualité, HSE, méthodes, formation, conformité. Selon le Stanford AI Index Report 2024, 55 % des organisations interrogées déclarent utiliser au moins une solution d'IA générative en production, contre 33 % un an plus tôt.

Le terrain industriel est massif : SOP (Standard Operating Procedures), modes opératoires, instructions de travail, fiches de sécurité, batch records BPF, plans de prévention, modules de formation interne. Tous ces documents partagent la même contrainte : ils sont longs à rédiger, doivent être mis à jour fréquemment et exigent un vocabulaire technique précis.

D'où la tentation : confier à un LLM un brouillon en demandant « rédige une procédure de consignation électrique conforme à la NF EN 50110-1 ». Gain de temps annoncé : 50 à 80 % selon les retours d'expérience (MIT Sloan Management Review, 2024). Mais la promesse cache des risques de conformité majeurs dès que la procédure entre dans le périmètre d'un audit DREAL, ANSM, ASN ou OEA.

Avant d'examiner les bonnes pratiques, il faut distinguer ce que les LLM font bien, ce qu'ils font mal, et ce qu'il ne faut surtout pas leur déléguer.

2. Cas d'usage où l'IA apporte une vraie valeur

Il existe des usages où l'IA générative démontre une valeur réelle, à condition de la cantonner à un rôle d'assistant rédactionnel. Le LLM ne se substitue jamais à l'expert métier : il accélère ses tâches répétitives ou peu critiques.

Sept terrains se distinguent particulièrement dans les retours d'expérience publiés par MIT Sloan, McKinsey et le Stanford AI Index :

Le dénominateur commun de ces sept usages : l'IA aide à produire un premier jet, mais ne signe jamais le document final. Une routine de nettoyage de bureau peut sortir prête à l'emploi ; une procédure de consignation électrique HTA, non.

3. Les limites et risques critiques

Les LLM ne « comprennent » pas une procédure. Ils prédisent le mot le plus probable selon leur corpus d'entraînement. Cette mécanique statistique génère plusieurs catégories d'erreurs documentées par la recherche académique.

Les études publiées par Stanford et le MIT en 2024 convergent sur un taux d'erreurs factuelles ou hallucinations non négligeable, même sur les modèles les plus avancés en usage public et sans contexte métier.

Source : Stanford AI Index Report 2024 ; benchmarks TruthfulQA, HaluEval et FActScore — taux indicatifs d'erreurs factuelles mesurés sur questions ouvertes (modèles publics, hors RAG).

Hallucinations factuelles

Le LLM peut citer « l'article R. 4412-15 du Code du travail » qui n'existe pas, attribuer une obligation à l'INRS qu'elle n'a jamais formulée, ou inventer un numéro d'arrêt de la Cour de cassation. En audit DREAL, ANSM ou ASN, ce type de citation invalide la procédure et expose l'entreprise à une non-conformité.

Désinformation réglementaire (date de coupure)

Les modèles ont une date de coupure d'entraînement. GPT-4 est figé à octobre 2023, GPT-4o à avril 2024, Claude 3.5 à avril 2024. Les évolutions majeures postérieures sont absentes ou approximatives : directive NIS2, révision de l'Annexe 1 GMP, CSRD, règlement aéronautique Part-IS, EU AI Act lui-même.

Absence de contexte spécifique

Une SOP pharma BPF cite un numéro de lot, le pharmacien responsable nommé, un écart de tolérance précis sur un paramètre critique. Le LLM n'a aucun accès à ces données. Il produit une procédure générique, jamais une procédure validée pour le site.

Confidentialité et souveraineté

ChatGPT public, Gemini grand public et Claude.ai envoient les prompts aux serveurs des éditeurs. Procédures contenant des secrets industriels (formulations, recettes BPF, schémas électriques nucléaires), données patient, données RH nominatives : tout cela peut être exposé. À cela s'ajoute le Cloud Act américain, qui permet aux autorités US d'exiger l'accès aux données stockées chez les fournisseurs américains, y compris en Europe.

Biais et données obsolètes

Le corpus d'entraînement contient des décennies de documents. Le LLM peut ressortir des recommandations historiques obsolètes (anciens seuils amiante, anciens VLEP), ignorer la cobotique (ISO/TS 15066) ou citer des normes retirées. Aucun mécanisme interne ne distingue « valide » de « périmé ».

Pas de raisonnement de sécurité

Un LLM ne « lit » pas un nœud papillon (Bow-Tie), il imite des textes qui en parlent. Il ne mène pas une analyse LOPA (Layer of Protection Analysis), il pastiche le format. La validation par un préventeur, un chargé HSE ou un pharmacien responsable reste indispensable et juridiquement obligatoire.

4. Cas d'usage où il faut abandonner l'IA

Pour certains documents, le bénéfice attendu est inférieur au risque encouru. La règle est simple : dès qu'une erreur engage la vie humaine, la conformité réglementaire stricte ou la propriété intellectuelle critique, l'IA générative seule est à proscrire.

Le tableau ci-dessous oppose les usages acceptables (avec encadrement humain) et les usages où l'IA ne doit pas être en première ligne.

5. Bonnes pratiques d'usage de l'IA

Le bon cadre n'est pas « interdire » ni « tout déléguer », mais structurer une chaîne de responsabilité autour de l'IA, conforme à l'EU AI Act et à la norme ISO/IEC 42001:2023.

Approche « co-pilot », pas « auto-pilot »

L'IA produit un brouillon, l'expert humain valide, corrige et signe. Le personnel qualifié vérifie chaque référence réglementaire, chaque numéro d'article. La signature du document engage la personne, pas l'outil.

Modèles privés ou souverains

Pour les contenus sensibles, privilégier les déploiements offrant des garanties contractuelles de résidence et de non-réutilisation des données :

À l'inverse, ChatGPT.com grand public, Gemini grand public et Claude.ai grand public exposent les prompts aux conditions générales de l'éditeur, hors maîtrise contractuelle de l'entreprise. À éviter pour toute donnée sensible.

RAG : alimenter l'IA en documents vérifiés

Le Retrieval-Augmented Generation (RAG) consiste à fournir au LLM, à chaque requête, des extraits issus d'une base documentaire interne vérifiée (référentiel BPF, normes ISO à jour, instructions site). Le modèle ne « devine » plus, il s'appuie sur du texte fourni. Outils : Mistral Embeddings, bases vectorielles Pinecone, Weaviate ou Qdrant.

Traçabilité et journal de bord IA

Pour chaque procédure générée : qui a lancé la génération, quand, quel prompt, quelle version du modèle, qui a validé. Cette traçabilité est attendue par les inspecteurs ANSM, par les auditeurs Part-21 et par la norme ISO/IEC 42001:2023.

Former les équipes aux limites

Les sessions de sensibilisation doivent expliciter le phénomène d'hallucination, les biais de date de coupure, les risques de confidentialité. Tests réguliers de cohérence : confronter une procédure générée à sa source officielle (Légifrance, INRS, normes).

EU AI Act 2024 : la mise en conformité commence

Le règlement européen (UE) 2024/1689 (« AI Act ») classe certains usages d'IA comme « à haut risque » lorsqu'ils interviennent dans la sécurité des produits ou des travailleurs. Les obligations centrales (Art. 9 à 15) couvrent la gestion des risques, la qualité des données, la transparence, la traçabilité et le contrôle humain. Les entreprises industrielles devront cartographier leurs usages de LLM, qualifier leur niveau de risque et appliquer une gouvernance documentée — directement alignée sur la norme volontaire ISO/IEC 42001:2023.

6. Métiers et compétences émergents

L'arrivée des LLM dans les services qualité et HSE fait émerger des profils hybrides à l'intersection de l'IA et du métier industriel. Ces postes apparaissent dans les offres d'emploi du secteur depuis 2024, avec des rémunérations qui se structurent rapidement.

Conseils carrière

Trois axes structurent les parcours observés : se former au cadre EU AI Act, viser la certification ISO/IEC 42001 (AIMS — Artificial Intelligence Management System, publiée en 2023), et compléter par un module IA industrielle responsable (CESI, Mines, Centrale, écoles d'ingénieur).

Les profils combinant un métier industriel solide (qualité, HSE, méthodes, pharmaceutique) et une compétence IA opérationnelle sont plus rares que les pures data scientists et nettement mieux valorisés sur le marché.