거버넌스가 시스템에 의존할 때, 그것은 더 이상 거버넌스가 아니다

Source: Dev.to

거버넌스와 시스템 의존성

많은 AI 및 사이버보안 접근 방식에서 거버넌스는 점차 기술 시스템 자체에 내재됩니다: 인코딩된 규칙, 자동화된 제어, “허용되는 것”과 “허용되지 않는 것”을 “결정”하는 메커니즘 등.

이는 효율적으로 보일 수 있지만 구조적인 결함을 초래합니다:

권한이 사람과 기관에서 기술로 이동한다.

거버넌스는 시스템이 올바르게 작동한다는 전제에 의존해서는 안 됩니다.
시스템 이전, 위에, 그리고 어떤 기술적 요소와도 독립적으로 존재해야 합니다.

시스템이 실패하거나, 성능이 저하되거나, 교체될 때, 의사결정의 정당성은 그와 함께 사라져서는 안 됩니다.
권한이 기술과 함께 무너진다면, 이는 기술적 실패가 아니라 거버넌스 설계 실패입니다.

이러한 이유로 복잡하고 고위험 환경에서는 거버넌스를 시스템의 기능으로 보지 않고, 기술이 변하더라도 책임과 통제를 유지할 수 있는 독립적인 구조적 특성으로 간주합니다.