Les assistants d'IA générative produisent en quelques secondes un mode opératoire, une instruction de poste ou une trame de procédure. Dans les services qualité, sécurité et méthodes, la tentation est forte de leur confier la rédaction.
Mais une procédure industrielle engage la sécurité des opérateurs et la conformité du site. Un modèle de langage peut citer un article de loi qui n'existe pas, s'appuyer sur une norme remplacée ou ignorer les spécificités de l'installation. Ce dossier fait le point sur ce que l'IA générative apporte réellement, ses limites, les documents à ne pas lui confier et les bonnes pratiques pour l'utiliser sans risque.
1. Ce que l'IA générative fait bien
Cantonnée à un rôle d'assistant de rédaction, l'IA générative fait gagner du temps sur les tâches répétitives, à condition qu'un expert relise et valide :
Structurer un premier jet
Proposer le plan d'un mode opératoire, repérer les rubriques manquantes d'une procédure existante (objet, domaine d'application, responsabilités, équipements, étapes, contrôles, enregistrements).
Clarifier et harmoniser
Simplifier des phrases administratives, uniformiser le style entre rédacteurs, adapter le niveau de lecture aux opérateurs.
Traduire
Préparer la traduction de procédures et de glossaires pour des sites multilingues, avant relecture par un locuteur du métier.
Résumer et former
Synthétiser un long document pour une réunion, extraire les points d'un retour d'expérience, préparer des questions de quiz de formation.
Le point commun : l'IA produit un brouillon, un humain compétent le corrige et le signe. Pour un mode opératoire simple, le gain est réel ; pour une procédure de sécurité, le temps de vérification peut dépasser le temps gagné. Pour générer une instruction structurée à partir de vos propres données, voir le générateur de fiche d'instruction de poste.
2. Les limites à connaître
Un modèle de langage ne vérifie pas ce qu'il écrit : il produit le texte le plus plausible compte tenu de son entraînement et du contexte fourni. D'où plusieurs familles d'erreurs.
Les « hallucinations »
Le modèle peut citer un article de code, une norme, un numéro de fiche INRS ou une décision de justice avec une assurance totale, alors qu'ils n'existent pas, ou qu'ils existent mais disent autre chose. L'erreur est d'autant plus dangereuse qu'elle a l'apparence d'une référence précise. Seule la vérification sur la source officielle (Légifrance, INRS, texte de la norme) permet de la détecter.
Les connaissances figées
Un modèle est entraîné sur des données arrêtées à une date. Il peut ignorer une réglementation récente ou reprendre une valeur périmée. Exemples de pièges réels : une valeur limite d'exposition abaissée depuis (celle du benzène est passée à 0,2 ppm en avril 2026), une norme absorbée par une nouvelle édition (l'ISO/TS 15066 sur les robots collaboratifs, reprise dans l'ISO 10218 de 2025), une édition de norme remplacée (ISO 9001:2026 depuis septembre 2026).
L'absence de contexte du site
Une procédure valable cite les équipements réels, les repères de l'installation, les valeurs de réglage, les responsables et les contrôles propres au site. Le modèle n'y a pas accès : il produit un texte générique, jamais une procédure validée pour l'installation.
Aucun raisonnement de sécurité
Le modèle peut reproduire le format d'une analyse de risques, pas la mener. Identifier les énergies à consigner, les coactivités ou les modes de défaillance reste le travail de la personne compétente.
3. Les documents à ne pas lui confier seule
| Usage raisonnable, avec validation | Usage où l'IA ne doit pas être en première ligne |
|---|---|
| Mode opératoire d'une tâche simple et peu risquée | procédures de consignation, travaux électriques, espaces confinés, atmosphères explosives |
| Reformulation d'un plan de prévention en langage opérateur | Élaboration du plan de prévention lui-même, fondé sur l'analyse conjointe des risques d'interférence |
| Synthèse interne d'un retour d'expérience | Dossiers de lot et procédures soumis aux bonnes pratiques de fabrication pharmaceutiques |
| Traduction de consignes standard | Documentation d'entretien aéronautique ou nucléaire soumise à approbation |
| Questions de quiz de formation | Documents juridiques et contractuels |
Le plan de prévention illustre bien la limite : selon l'article R. 4512-6 du Code du travail, il résulte d'une analyse des risques menée en commun par les chefs de l'entreprise utilisatrice et des entreprises extérieures, après une inspection commune des lieux. Il doit être écrit avant le début des travaux quand l'opération dépasse 400 heures sur douze mois ou relève de la liste des travaux dangereux (article R. 4512-7). Un texte généré sans cette analyse ne remplit pas l'obligation. Le générateur de plan de prévention du site structure la démarche à partir de vos propres informations.
4. Un protocole de validation en cinq étapes
- Fournir le contexte, pas seulement la consigne. Donner au modèle les documents de référence à jour (procédure existante, notice constructeur, analyse de risques) plutôt que de lui demander de « rédiger une procédure conforme à la norme X ».
- Vérifier chaque référence. Chaque article, norme, valeur limite ou fiche citée est contrôlée sur sa source officielle. Une référence non vérifiable est supprimée.
- Confronter au terrain. Les étapes sont relues par la personne qui réalise la tâche et testées sur l'équipement réel.
- Faire valider par la personne compétente. Le responsable désigné (HSE, qualité, pharmacien responsable, chargé de consignation…) approuve et signe. La responsabilité reste celle de l'entreprise, pas de l'outil.
- Tracer. Conserver qui a utilisé l'outil, sur quelle version, avec quels documents d'entrée, et qui a validé. Cette traçabilité est attendue par les systèmes de management et, pour les systèmes informatisés en pharmacie, par l'annexe 11 des bonnes pratiques de fabrication.
5. Confidentialité et choix de l'outil
Une procédure contient souvent des informations sensibles : recettes, paramètres de procédé, schémas, données personnelles. Avant de les soumettre à un outil, il faut savoir où elles sont traitées et ce qu'elles deviennent.
- Les versions grand public des assistants ne donnent pas de garanties contractuelles adaptées : ne pas y saisir de données confidentielles ou personnelles.
- Les offres professionnelles doivent préciser le lieu d'hébergement, la non-réutilisation des données pour l'entraînement, la durée de conservation et les sous-traitants, dans un contrat conforme au RGPD.
- Les données hébergées chez un fournisseur soumis au droit américain peuvent faire l'objet de demandes des autorités américaines (loi dite Cloud Act de 2018) : un critère à intégrer pour les informations les plus sensibles.
- Une charte d'usage interne fixe ce qui peut être saisi, dans quels outils, et qui valide.
Le cadre juridique, les risques de confidentialité et la rédaction d'une charte sont détaillés dans la formation gratuite IA générative en entreprise : usage responsable, avec un quiz d'autoévaluation.
6. Le cadre réglementaire : AI Act et ISO/IEC 42001
Le règlement (UE) 2024/1689 du 13 juin 2024 sur l'intelligence artificielle (AI Act) classe les systèmes selon leur niveau de risque. Utiliser un assistant pour rédiger un brouillon de procédure ne fait pas, en soi, de l'outil un système « à haut risque » ; ce classement vise notamment les systèmes d'IA qui sont des composants de sécurité de produits réglementés ou qui relèvent des usages listés à l'annexe III du règlement.
Le calendrier des obligations des systèmes à haut risque a été modifié par le règlement (UE) 2026/1744 (« omnibus numérique sur l'IA »), publié au Journal officiel le 24 juillet 2026 : leur application est reportée au 2 décembre 2027 pour les systèmes de l'annexe III et au 2 août 2028 pour ceux intégrés dans des produits couverts par la législation d'harmonisation de l'annexe I.
La norme volontaire ISO/IEC 42001:2023 définit un système de management de l'intelligence artificielle : politique, évaluation des risques, maîtrise des usages, amélioration continue. Elle s'intègre dans la même structure que les normes ISO 9001 et ISO 14001, ce qui permet de l'articuler avec un système qualité existant (voir notre comparatif ISO 9001 et ISO 14001).
En résumé : un assistant, jamais un signataire
L'IA générative accélère les brouillons, les reformulations, les traductions et les synthèses. Sur les procédures de sécurité, de fabrication pharmaceutique ou soumises à approbation, elle ne peut pas remplacer l'analyse de risques ni la validation par la personne compétente. Fournir des sources vérifiées, contrôler chaque référence, tester sur le terrain, faire signer et tracer : c'est ce protocole qui rend son usage sûr.
