Cuando la gobernanza depende del sistema, deja de ser gobernanza

Source: Dev.to

Gobernanza y sistemas técnicos

En muchos enfoques de inteligencia artificial y ciberseguridad, la gobernanza termina incorporándose al propio sistema técnico: reglas codificadas, automatismos de control, mecanismos que “deciden” qué está permitido y qué no.

Ese enfoque puede parecer eficiente, pero introduce un error estructural:

La gobernanza no puede depender de que un sistema funcione correctamente.

Cuando un sistema falla, se degrada o se sustituye, la legitimidad de las decisiones no puede desaparecer con él.

Por eso, en entornos complejos y de alto riesgo, la gobernanza no se concibe como una función del sistema, sino como una propiedad estructural independiente, capaz de sostener responsabilidad y control incluso cuando la tecnología cambia.