Analyse en nœud papillon : distinguer les barrières existantes de celles que l’on espère

A control room at night with a bow-tie risk assessment diagram on a monitor, analyzed by an air traffic controller.

Une analyse en nœud papillon fait une affirmation  : entre cette menace et cet événement principal, il y a quatre éléments, et chacun d’eux peut arrêter la séquence à lui seul. La plupart des diagrammes ne peuvent pas soutenir cette affirmation. Ils contiennent des contrôles qui n’agissent qu’après qu’un autre contrôle a agi, des contrôles qui partagent une alimentation ou une personne, et des contrôles qui sont en réalité des programmes de formation dessinés comme des portes en acier. Le travail qui transforme un schéma en évaluation des risques n’est pas d’ajouter des barrières. C’est de supprimer celles qui n’existent pas.

Ce que le diagramme affirme réellement

La structure est délibérément rigide. Un danger est quelque chose dont l’opération a besoin et avec lequel elle vit ; l’événement principal est le moment où le contrôle est perdu ; les menaces à gauche sont les choses qui peuvent causer cette perte ; les conséquences à droite sont ce qui se produit ensuite. Entre chaque menace et l’événement principal se trouvent les barrières préventives, et entre l’événement principal et chaque conséquence se trouvent les barrières de récupération. Les facteurs d’escalade sont attachés aux barrières individuelles et décrivent les conditions qui les dégradent, avec leurs propres contrôles.

Tout dans cette structure est une proposition qui peut être vraie ou fausse. Placer un contrôle sur un chemin spécifique affirme qu’il agit sur ce chemin, qu’il agit avant l’événement principal plutôt qu’après, et que son échec n’est pas impliqué par l’échec de ses voisins. Placer quatre d’entre eux affirme que quatre choses distinctes doivent échouer. Si deux d’entre eux échouent ensemble pour une seule raison, le diagramme affirme une profondeur que l’opération n’a pas — et le registre des risques qui le cite hérite de l’erreur, généralement sous la forme d’une évaluation du risque résiduel que personne ne peut reconstituer.

Un nœud papillon bien fait montre que plusieurs protections indépendantes doivent échouer pour qu’un accident se produise. Mais souvent, les diagrammes comptent des protections qui ne sont pas vraiment indépendantes, ce qui donne une fausse impression de sécurité.

Les quatre tests qu’un contrôle doit réussir

La méthode est venue des industries de procédés accompagnée d’une grille de qualification, et ses versions publiées se ramènent aux mêmes quatre questions. Elles fonctionnent comme un tout : un contrôle qui échoue à l’une d’entre elles n’est pas une barrière sur ce chemin.

Les tests de qualification, et ce que chacun d’eux disqualifie
Test La question Ce qu’il disqualifie
Spécifique Agit-il sur ce chemin, entre cette menace et cet événement principal ? Bonne pratique générique collée sur chaque branche ; tout ce qui agit après l’événement principal dessiné du côté de la prévention
Efficace à lui seul Si tout le reste échoue, suffit-il à lui seul à arrêter la séquence ? Contrôles qui n’améliorent que les chances qu’un autre contrôle fonctionne ; chaînes partielles qui détectent mais n’agissent pas
Indépendant Peut-il être neutralisé par la même défaillance unique, la même personne, la même alimentation ou le même événement que son voisin ? Paires partageant un capteur, un bus, une base de données, un fournisseur, une équipe ou un décideur
Auditable Existe-t-il des preuves, générées de manière routinière, qu’il était en place et fonctionnait ? Barrières dont la seule preuve d’existence est qu’elles apparaissent dans le manuel

Le quatrième test est celui qui change le plus rapidement la pratique, car on peut y répondre sans débat. Si personne ne peut nommer l’enregistrement, le test, le paramètre surveillé ou l’inspection qui aurait révélé l’absence de la barrière le mois dernier, alors l’organisation ne sait pas si elle dispose de la barrière. Elle a une intention.

Détecter, décider, agir — et pourquoi la plupart des barrières humaines sont incomplètes

Une barrière qui implique des personnes n’est pas une personne ; c’est une séquence. Quelque chose doit rendre la condition perceptible, quelqu’un doit la reconnaître comme nécessitant une action, et quelqu’un doit pouvoir agir à temps avec l’autorité de le faire. Qu’un des trois maillons se rompe et la barrière n’existe pas, quel que soit le nombre d’heures de formation qui la sous-tendent.

Les nœuds papillon de l’aviation sont remplis de barrières aux deux tiers. Un système d’alerte qui annonce une condition pour laquelle l’équipage n’a pas de procédure est une détection sans décision. Une procédure qui exige une annonce que l’équipage n’a pas appris à attendre est une décision sans détection. Une porte de stabilisation que tout le monde reconnaît mais qui intervient trop tard dans l’approche pour être exploitable en vol est une détection et une décision sans la capacité d’agir. Chacune de ces barrières a sa place sur le diagramme — en tant que barrière dégradée avec un facteur d’escalade, ou en tant qu’élément d’amélioration — mais pas comme l’une des couches comptées.

Le piège. « L’équipage remarquera » n’est pas une barrière. Cela en devient une lorsque le diagramme peut nommer ce qui rend la condition perceptible, ce qui indique à l’équipage que cette perception appelle cette action, et de combien de temps on dispose entre les deux. Si la réponse à l’une des trois questions est « l’expérience », le contrôle dessiné est la compétence, pas une barrière — et la compétence se dégrade silencieusement et simultanément sur tout un équipage sous charge de travail, ce qui est exactement la condition pour laquelle la barrière a été dessinée.

Sur un Airbus A320, le système ECAM alerte l’équipage d’une panne moteur. Mais si l’équipage n’a pas été formé à la procédure spécifique pour cette alerte, ou si le temps disponible pour réagir est insuffisant, la barrière est incomplète. Par exemple, lors d’un atterrissage avec un moteur en feu, si l’équipage ne peut pas couper le moteur en 10 secondes, la barrière « décision et action » est rompue.

L’indépendance est le test que tout le monde omet

L’indépendance est omise parce qu’elle est coûteuse à vérifier et parce que le diagramme a la même apparence dans les deux cas. Deux cases côte à côte impliquent deux défaillances nécessaires ; rien dans l’image ne révèle que les deux cases sont alimentées par le même bus, reçoivent leurs données du même capteur, dépendent de la même révision de base de données de navigation, sont effectuées par la même personne vingt secondes plus tard, ou sont fournies par le même sous-traitant.

La vérification devient mécanique une fois l’habitude prise. Pour chaque paire de barrières adjacentes sur un chemin, demandez quel événement unique neutraliserait les deux. Passez en revue l’alimentation — électrique, hydraulique, pneumatique, données. Passez en revue l’information — quel capteur, quelle base de données, quelle prévision, quelle carte publiée. Passez en revue les personnes — un individu, un équipage, une équipe de quart, une équipe sous la même pression au même moment. Passez en revue le temps — une tâche de maintenance, un chargement de logiciel, une révision de procédure, un cycle de formation qui a touché les deux. Si l’une de ces pistes fait apparaître un événement unique plausible, les deux barrières n’en font qu’une, et le diagramme doit en montrer une seule.

Modèles de double comptage qui se reproduisent dans les nœuds papillon de l’aviation
Dessiné comme deux barrières Dépendance partagée Ce que c’est vraiment
Check-list et contre-vérification de l’équipage Les mêmes deux personnes, dans la même phase, sous la même distraction Une barrière avec un facteur d’escalade de charge de travail
Procédure d’exploitation standard et formation récurrente La formation est ce qui fait fonctionner la procédure ; elle n’agit pas par elle-même Une barrière plus sa condition d’appui
Deux fonctions d’alerte alimentées par le même capteur Le capteur, son chauffage, son câblage, son bus de données Une barrière, avec le capteur comme point de défaillance unique
Alerte de surveillance au sol et balayage visuel du contrôleur Le même contrôleur, la même position, le même moment de saturation Une barrière, à moins qu’une deuxième position ne surveille réellement
Deux vérifications indépendantes par le même technicien après une pause Le même modèle mental de la tâche Une vérification, quoi qu’en disent les enregistrements
Politique carburant au départ et vérifications carburant en vol Vraiment indépendants — différents acteurs, différentes données, différents moments Deux barrières ; un cas rare et instructif où le test est réussi

La dernière ligne compte autant que les autres. L’exercice n’est pas un travail de démolition ; il existe pour identifier les chemins où la profondeur est réelle, afin que les ressources aillent vers ceux où elle ne l’est pas.

De quoi est faite une barrière, et ce qui l’élimine

Les classes de barrières ne sont pas également robustes, et leur classement est stable d’une industrie à l’autre. Le matériel passif fait son travail du seul fait qu’il existe — un pare-feu, une structure de confinement, une séparation physique, une conception qui rend une connexion incorrecte impossible. Le matériel actif doit détecter et fonctionner, ce qui ajoute des modes de défaillance et un besoin de tests. Le matériel actif associé à un humain ajoute une décision, une charge de travail et une hypothèse de formation. Une barrière purement procédurale n’a aucun des trois premiers et dépend entièrement d’une personne qui fait quelque chose à un moment précis.

Classes de barrières classées par ce qui peut les éliminer
Classe Éliminé par Preuve qu’elle existe Défaillance typique à surveiller
Matériel passif Dommages physiques, modification, corrosion, un changement de conception Enregistrements d’inspection, contrôle de configuration, statut de modification Neutralisé sans bruit par une modification approuvée que personne n’a reportée sur le nœud papillon
Matériel actif Défaillance de composant, inhibition, défaut différé, perte d’alimentation Résultats de tests fonctionnels, journaux d’autotest intégré, historique des défauts Reporté au titre de la liste minimale d’équipements sans que le nœud papillon soit jamais mis à jour
Matériel actif avec un humain Tout ce qui précède, plus la charge de travail, les délais et l’autorité Résultats de tests et événements opérationnels surveillés Alerte présente, action absente, parce que le temps disponible n’a jamais été mesuré
Humain et procédural Distraction, pression, une révision, un changement de planning, une variante inhabituelle Observations en ligne, événements surveillés, constatations d’audit Compté deux fois sous deux noms différents

Le bas de ce tableau est l’endroit où la plupart des nœuds papillon d’un manuel d’exploitation font leur travail, et c’est aussi là que l’illusion de profondeur est la moins chère à fabriquer. Quatre barrières procédurales en série ressemblent à une défense en profondeur et se comportent comme une seule, parce que les conditions qui neutralisent une procédure — la pression temporelle, une situation inhabituelle, une distraction au mauvais moment — neutralisent les quatre en même temps.

Les procédures, la formation et la culture sont réelles, et elles ne sont pas des barrières

C’est le point où l’exercice rencontre de la résistance, il est donc utile de le formuler précisément. Une procédure n’arrête pas un événement ; une personne qui l’applique le fait. La formation n’arrête pas un événement ; elle augmente la probabilité qu’une personne applique la procédure. La culture de sécurité n’arrête pas un événement ; elle change la probabilité que les personnes signalent les conditions qui dégradent tout le reste. Les trois sont indispensables, et toutes trois ont leur juste place sur le diagramme en tant que contrôles de facteurs d’escalade rattachés aux barrières dont elles soutiennent la performance.

Les placer à cet endroit n’est pas une rétrogradation, et cela produit deux effets utiles. Le nombre de barrières diminue jusqu’à un niveau que l’organisation peut défendre, et les facteurs d’escalade deviennent visibles sous la forme d’une liste des conditions dans lesquelles les barrières restantes cessent de fonctionner — un document bien plus exploitable que ne l’a jamais été le décompte. Une organisation qui connaît ses deux barrières réelles et les six conditions qui les dégradent est dans une meilleure position que celle qui croit en avoir huit.

La barrière qui a été retirée le jour même

Un nœud papillon est dessiné pour une configuration nominale et utilisé les jours où elle ne l’est pas. Chaque report de défaut acceptable retire ou dégrade quelque chose, et le document qui l’autorise est rédigé dans le langage de l’aptitude au départ, pas dans celui de l’évaluation des risques. La correspondance entre les deux n’est presque jamais établie, ce qui signifie que l’organisation peut légalement autoriser le départ avec une barrière manquante sans disposer d’aucun mécanisme pour remarquer que l’évaluation des risques a changé.

Il en va de même pour les états temporaires au sol : un système d’éclairage hors service, une fonction de surveillance suspendue, une procédure temporairement modifiée par avis, une tâche de maintenance effectuée sous dérogation, une exemption de formation. Chacun est individuellement raisonnable et individuellement autorisé. Le nœud papillon est le seul document du système qui montrerait deux d’entre eux retirant en même temps des barrières adjacentes sur le même chemin, et il ne peut le faire que si la correspondance entre les éléments reportés et les barrières existe avant qu’on en ait besoin.

Le bon réflexe. Pour chaque barrière, écrivez la ligne qui prouverait qu’elle existait hier : le test, l’enregistrement, l’événement surveillé, l’inspection. Ensuite, écrivez quelle dérogation ou condition temporaire la retire. Un nœud papillon avec ces deux lignes par barrière est un document de travail ; sans elles, c’est une illustration, et les illustrations ne survivent pas au contact d’une enquête.

Ce que le diagramme corrigé change en aval

Le résultat de l’exercice est généralement inconfortable et toujours utile : moins de barrières, plus de facteurs d’escalade, et un petit nombre de chemins où la profondeur s’avère n’être qu’un seul contrôle portant plusieurs noms. Cela change l’évaluation des risques, car une évaluation du risque résiduel justifiée par quatre protections indépendantes ne peut survivre à la découverte qu’il n’y en a que deux. Cela change le plan de surveillance, car les barrières qui subsistent ont besoin d’indicateurs et les facteurs d’escalade doivent être surveillés. Et cela change l’affectation de l’argent, car ajouter une cinquième barrière procédurale à un chemin déjà défendu par quatre est le moyen le plus sûr de dépenser un budget sans rien changer.

Deux hommes en uniforme analysent un diagramme en nœud papillon sur un grand écran dans une salle de contrôle.
L'analyse en nœud papillon aide à identifier et atténuer les risques opérationnels.

Cela change également ce qui se passe après un événement. Un événement qui a traversé toutes les couches d’un diagramme auquel personne ne croyait produit un rapport sur l’erreur humaine. Le même événement, évalué à l’aune d’un nœud papillon dont les barrières ont été vérifiées, produit un constat précis : cette barrière était inhibée, celle-ci partageait une dépendance avec sa voisine, la troisième n’avait jamais été auditable. Un système de gestion de la sécurité — exigé par l’Annexe 19 et par les règles européennes relatives aux systèmes de gestion — tire toute sa valeur de cette différence : la capacité de l’organisation à dire ce qui était censé arrêter l’événement et pourquoi cela n’a pas fonctionné. Appliquer la méthode à des chemins réels, plutôt qu’à des exemples de manuel, est la partie qui demande de la pratique, et des contenus structurés sur le sujet se trouvent aux côtés des documents de gestion de la sécurité sur la plateforme de formation FL330.

La discipline se réduit à un refus. Ne dessinez pas une barrière parce qu’elle devrait être là. Dessinez-la lorsque vous pouvez nommer ce dont elle est faite, sur quoi elle agit, quel événement unique la retire, et où se trouvent les preuves qu’elle a fonctionné le mois dernier. Tout le reste sur le diagramme est un espoir, et les espoirs n’arrêtent pas les événements principaux — ils ne font que rendre l’image rassurante dans la réunion où le risque est accepté.

Commentaires

Laisser un commentaire

Découvrez l’écosystème FL330

FL330, c’est toute l’aviation professionnelle — explorez nos autres espaces.