Gobernanza de agentes de IA

Por escrito y antes de la primera ejecución: qué hace solo, qué requiere aprobación, a qué datos alcanza, qué tiene prohibido. Se define junto con el diseño del agente, no después del incidente.

Pagos, envíos, borrados, comunicación externa sensible: la lista de lo irreversible se define por adelantado y cada item pasa por una persona. Automatizamos todo, menos la decisión de tocar producción.

Cada acción del agente deja rastro consultable — la observabilidad es el vehículo. La auditoría periódica verifica que permisos declarados y comportamiento real coincidan.

Cada dominio de agentes tiene un dueño que responde por sus permisos y su conducta. La responsabilidad no se delega al agente ni se difumina en el equipo.

Es la gobernanza aplicada al trabajador más nuevo: el agente. Significa permisos explícitos de qué puede hacer solo, aprobación humana para lo irreversible, trazas de qué hizo y por qué, y límites de datos alcanzables. Un agente sin gobernanza es un empleado sin contrato, con acceso a tus sistemas.

Los mínimos que su trabajo requiere, definidos por escrito antes de la primera ejecución: qué acciones puede realizar solo, cuáles requieren aprobación humana, a qué sistemas y datos alcanza, y qué le está prohibido tocar — pagos, borrados, comunicación externa sensible — aunque parezca útil. El acceso mínimo no es desconfianza: es diseño que sobrevive a los errores.

Con trazas consultables de cada decisión: qué entró, qué decidió el agente, qué herramientas usó y qué produjo. La auditoría de agentes revisa además que los permisos declarados y el comportamiento real coincidan, y que lo irreversible siempre haya pasado por una persona. Eso se verifica antes de producción y se vigila después.

Es la disciplina de operar agentes de IA en producción — el equivalente de DevOps para el trabajador agéntico: despliegue con guardarraíles, observabilidad de decisiones, gestión de permisos y mejora continua. El nombre es nuevo; la práctica es la operación de sistemas que aprenden y actúan.

Una persona, siempre, y su nombre está por escrito antes del lanzamiento. El agente ejecuta; la responsabilidad no se delega. Por eso lo irreversible pasa por aprobación humana y cada dominio de agentes tiene un dueño que responde por sus permisos, sus datos y su conducta en producción.