"Protéger les centrales des erreurs humaines"

C’est le titre d’un article du Parisien (non libéré) du 30 mars 1995 qui est toujours d’actualité. Ce titre est d’une stupidité grandiose. Que faut-il protéger : les centrales nucléaires ou la population ?

Ce problème de l’erreur humaine dans les événements possibles (et éventuellement particulièrement désastreux) est intervenu sur la place publique il y a quelques années et est devenu un sujet médiatique. Y aurait-il des erreurs qui ne soient pas humaines ? Si une tuyauterie du circuit primaire ou une cuve de réacteur ne se comporte pas comme les experts l’ont prévu est-ce une erreur de la nature ou une erreur humaine des concepteurs ? L’erreur est par principe une activité humaine (il doit exister une phrase latine à ce sujet mais ma culture primaire ne me permet pas de la citer).
L’individu est complètement évacué des problématiques de la société nucléaire. Au niveau technique l’idéal serait de ne programmer que des conduites parfaitement indépendantes des individus (automatismes, intelligence artificielle etc.). Au niveau de la radioprotection l’individu est totalement ignoré, la gestion des situations catastrophiques ne peut être fondée que sur des critères sociaux, sur des normes "socialement acceptables". En clair : combien de morts la société peut-elle accepter sans éclater ? Qu’importent les individus qui vont être les victimes. En fin de compte, les individus ne sont pas protégés en tant qu’êtres humains, en tant que réalité vivante, mais en tant qu’unités dans un ensemble social relevant d’une statistique nationale soigneusement contrôlée par le gouvernement (qu’il soit de gauche ou de droite).

Quel sens faut-il donner à "l’erreur humaine" ?

Y a-t-il des erreurs non humaines ? Question stupide. Un acier ne peut pas commettre d’erreur. Tout comportement "anormal" (c’est à dire non envisagé au départ) d’un matériel (ou d’un matériau) quelconque est une erreur humaine car ce matériel ne peut commettre d’erreur.
Comment apposer le qualificatif d’"erreur humaine" au comportement anormal d’un matériel ? Si ce matériel a un comportement "anormal" c’est parce que les concepteurs n’ont pas pris en compte ce comportement qui n’a rien d’anormal par rapport aux lois de la physique et que le matériel est "tenu" de respecter. Qualifier d’"erreur humaine" le comportement "anormal" d’un matériel permet d’évacuer les erreurs humaines des concepteurs et des décideurs.
Ainsi, par définition, l’erreur humaine ne peut être qu’une erreur d’un exécutant subalterne. Toute erreur de conception d’un décideur sera interprétée comme un comportement anormal, imprévisible -au lieu d’imprévu- d’un matériel. Le concept d’erreur humaine permet ainsi de culpabiliser l’exécutant et de maintenir les concepteurs et les décideurs hors de la responsabilité. En cas d’accident grave due à une de ces "erreurs humaines" cela permet de disposer d’un bouc émissaire particulièrement utile pour éviter des jacqueries violentes contre les concepteurs et les décideurs.


Quelques exemples

1- Three Mile Island (TMI, mars 1979 aux USA). Juste après l’accident les opérateurs de service ont été accusés d’erreur de gestion. Il a pourtant fallu plus de 6 mois à une armée de spécialistes qui disposaient d’une puissance informatique considérable pour reconstituer les séquences des premières minutes de l’accident. Les opérateurs auraient dû réagir plus vite que tous ces ordinateurs pilotés par cette cohorte d’experts !
Qui est responsable à Three Mile Island ? Les concepteurs du réacteur nucléaire n’avaient pas prévu (c’est bien là une erreur humaine) une telle séquence accidentelle et bien sûr ils n’avaient pas pu fournir la procédure adéquate pour y faire face.

2- Tchernobyl. Si on accepte sans examen critique la version soviétique (assez fantaisiste) sur le déroulement de l’accident on se trouve en présence d’un branquignol qui opère dans la salle de contrôle. Qui est, dans ce contexte, le réel responsable ? Si les concepteurs et les décideurs soviétiques sont conscients des conséquences catastrophiques d’un accident ils auraient dû exiger des critères de sélection des opérateurs afin d’éliminer les branquignols.
En fait, l’erreur humaine a toujours pour origine le mauvais fonctionnement d’un matériel ou l’imprévision d’un phénomène physique et des procédures de gestion en cas d’anomalie. Dans tous les cas l’erreur humaine doit être obligatoirement attribuée au sommet de la hiérarchie qui contrôle la conception et les décisions.

Conséquences pour l’évaluation des risques

La modélisation du comportement est-elle possible, qu’il s’agisse du décideur à haut niveau ou du simple exécutant dans une salle de commande ?
Il paraît évident que tout comportement trop exigeant pour la sûreté conduit à rejeter des pièces ou des procédures de contrôle. Cela représente des coûts élevés, des retards dans les exécutions. Ce genre de comportement intransigeant sera interprété tout naturellement comme un comportement maladif qui doit être sanctionné.
Que doit faire un employé (souvent en statut temporaire sans garantie) soucieux du bien-être de sa famille conditionné par son salaire et ses avancements éventuels, pour ajuster son attitude à celle désirée par ses chefs, d’une exécution rapide et bon marché, surtout si on l’a intoxiqué au préalable par le baratin convenu de l’impossibilité des dangers nucléaires.
Quant aux concepteurs ils utilisent bien évidemment le biais que leur permet leur position hiérarchique. La conception doit être bonne, les délais de réalisation doivent être corrects, les budgets impeccables, etc. Inconsciemment et en toute bonne conscience (la bonne conscience est toujours présente chez les pires criminels) le chef en haut de la hiérarchie occultera ses doutes. Si une catastrophe arrive il ne peut que l’attribuer à l’exécutant.

Axiome de base de l’énergie nucléaire

L’énergie nucléaire ne peut "fonctionner" que si elle est dirigée par des gens peu scrupuleux ou incompétents. Si un dirigeant scrupuleux et compétent a conscience des dégâts catastrophiques que peut occasionner sa décision (pouvant conduire à un accident nucléaire), il exigera, avant de prendre une décision, des garanties scientifiques, des mesures multiples, des expertises minutieuses, etc. Le coût serait considérable et les délais incompatibles avec une gestion industrielle moderne. Il sera rapidement éjecté du système ou il se mettra lui-même hors du circuit en se cantonnant à des tâches subalternes dans des domaines à faible risque.
En fait, pour le nucléaire (et toutes les industries à très fort risque) la sélection des décideurs et des concepteurs conduit à la sélection des plus minables ou d’individus sans scrupules.
Alors que l’individu perd de plus en plus d’importance, pourquoi réintroduit-on l’individu par l’intermédiaire de l’erreur humaine ?
L’erreur humaine devient de plus en plus une nécessité pour le pouvoir. La conception et la décision se concentrent de plus en plus dans des groupes organisés de type mafieux. Si les élus démocratiques, et les citoyens qui les élisent, acceptent cette situation, ils doivent être considérés comme faisant partie de ces mafieux et comme co-responsables en cas de catastrophe.
Dans les pays totalitaires la situation était analogue mais l’erreur humaine n’était pas invoquée en cas d’anomalie. Il s’agissait alors pour les dirigeants de "sabotage" sanctionné par le goulag. L’erreur humaine des exécutants est, pour la société libérale contemporaine, l’équivalent de ce que le sabotage et la conspiration représentaient pour les sociétés totalitaires, une protection pour les décideurs quand leurs décisions sont dramatiquement catastrophiques.

Roger Belbéoch