Dysfonctionnements des systèmes et dysfonctionnements de la cognition.
Contribution à la compréhension de la sécurité des systèmes ultra-sûrs
IMASSA-Département Sciences Cognitives et Ergonomie
La sécurité reste orientée par un principe simple : il faut supprimer les pannes et les erreurs humaines. L'exposé s'emploie à relativiser ces évidences dans le cas des systèmes devenus ultra-sûrs, dont la sécurité est proche de la barre mythique d'un accident catastrophique pour 10 millions de mises en jeu (10-7). Cet article délivre trois messages :
(a) Les solutions destinées à faire progresser la sécurité dépendent du niveau de sécurité du système. Quand la sécurité s'améliore, les solutions qui avaient conduit à ce nouvel état ne doivent pas être optimisées ; elles doivent être conservées en l'état (pour garantir le niveau de sécurité atteint), et couplées avec de nouvelles solutions pour aller plus loin (logique additive plutôt que logique d'optimisation) ;
(b) Le maintien et l'optimisation linéaire de solutions qui s'épuisent en efficacité peut conduire à une série de paradoxes qui finissent par remettre en danger le système et peut lui faire perdre le niveau de sécurité atteint ;
(c) Outre les ambiguïtés de définitions, il est montré à travers un historique de la recherche sur l'erreur, puis par des exemples et des études plus récentes dans l'industrie, le rôle indispensable que jouent les erreurs dans l'acquisition et l'efficacité d'une sécurité à l'échelon individuel et collectif. C'est une véritable théorie écologique de l'erreur qui est proposée. Ces théories sur l'erreur éclairent les effets négatifs d'une extrapolation trop linéaire des mesures de défense. Par un effet similaire, on peut penser que la limitation de la performance par la présence d'un bruit minimum de pannes et d'incidents dans le système technique favorise la sécurité de ce système en limitant les risques acceptés. De nouvelles directions de recherches sont présentées en fin d'exposé, particulièrement dans le cadre des systèmes devenus sûrs ou ultra-sûrs.
© Revue Générale de l’Électricité S.A. 1998