자동조종이 좋을수록 조종사는 더 못한다

Source: Hacker News

자동화는 운영자를 더 조심스럽게 만들지 않는다. 오히려 그들이 어떻게 해야 하는지를 잊게 만든다. 시스템이 신뢰할수록 인간은 준비가 덜 된다.

자동화에 대한 주장은 인지적 여유를 만든다는 것이다. 일상적인 결정을 적게 하면 중요한 일에 대해 더 신중히 생각할 여유가 생긴다. 실제로 일어나는 일은 정반대다: 시스템이 일을 확실히 처리하면, 이를 감시하던 인간은 점점 감시를 멈추게 된다. 문제가 전혀 발생하지 않기 때문에, 피드백 없이 지속적인 주의를 유지하는 것은 뇌가 자발적으로 할 수 있는 일이 아니기 때문이다. 항공 분야에서는 이를 **자동화 유발 안일함(automation‑induced complacency)**이라고 부르며, 조종사가 수동으로 비행하고 있었다면 즉시 포착했을 시스템 고장을 눈치채지 못한 사고 보고서에서 흔히 나타난다. 아이러니하게도 자동화가 뛰어날수록 문제가 더 악화된다: 거의 고장이 나지 않는 시스템은 고장이 났을 때 거의 준비되지 않은 운영자를 만든다. 이를 해결하기 위한 대책은 의도적인 행동이다:

• 자동화에 맡긴 핵심 작업을 식별한다.
• 주기적으로 자동화를 끄고 수동으로 연습한다.
• 기술이 퇴화하지 않을 정도로 간격을 짧게 유지한다.

자동화한 모든 중요한 작업에 대해 정기적인 수동 연습 일정을 잡으세요. 그 간격은 다음 고장이 발생하기 전에 기술이 퇴화하지 않을 정도로 짧아야 합니다.