6 Min. Tiempo de lectura

Casi tres de cada cuatro organizaciones permiten que los agentes de IA autónomos accedan a sus datos y procesos. Sin embargo, solo una de cada cinco cuenta con un plan de emergencia probado para el momento en que un agente falla. Esta brecha no es una cuestión tecnológica; es una cuestión de liderazgo. Quien escala sin establecer quién responde por los resultados no enfrenta un problema de IA, sino un vacío de gobernanza.

Relacionado:Cómo el mercado de capitales evalúa la gobernanza de la IA  /  Quién define qué considera verdadero la IA

Qué diferencia la IA agencial de la IA tradicional

¿Qué es la IA agencial? La IA agencial se refiere a sistemas de IA que no solo responden, sino que también actúan de forma independiente: toman decisiones, llaman a herramientas y desencadenan acciones en otros sistemas. Un agente reserva, ordena o modifica datos sin que una persona autorice cada paso. Precisamente esta autonomía hace que la cuestión de la responsabilidad sea urgente.

Un modelo de lenguaje tradicional sugiere un texto, y una persona lo revisa. Un agente actúa. Aunque la diferencia parezca pequeña, cambia fundamentalmente la cadena de responsabilidades. Si un agente emite una orden incorrecta, informa mal a un cliente o escribe datos en un sistema que no debería haber tocado, ya no hay un paso intermedio en el que alguien pudiera intervenir. El error ocurrió antes de que nadie lo viera.

Los datos actuales muestran cuán avanzada está la práctica del control. Casi tres cuartos de las organizaciones ya permiten que los agentes accedan a los datos y a los procesos clave, ya sea en pilotos, en etapas de escalado o en operaciones productivas. Solo alrededor del 20 % cuenta con un plan probado para casos de emergencia. Esta brecha es el verdadero riesgo, no la tecnología en sí misma.

Por qué la responsabilidad desaparece

El patrón es conocido en toda transformación fallida. Se introduce una tecnología porque está disponible y existe presión competitiva. La responsabilidad se añade después, cuando haya tiempo. En el caso de una herramienta que actúa por sí misma, este retraso resulta peligroso. El agente no espera a que se establezca la gobernanza.

En las grandes empresas, esto se manifiesta como una brecha de coordinación entre distintas áreas. El director de TI ve la integración técnica; el director financiero, los costos; y el director de operaciones, los procesos. Ninguno de ellos tiene automáticamente la respuesta a quién responde si el agente comete un error en el punto de intersección de estas tres funciones. Sin una definición clara, esta cuestión queda suspendida entre las sillas y permanece allí hasta que un incidente la haga evidente.

Lo que el consejo de administración exige ahora

La buena noticia es que la presión proviene desde arriba, lo que facilita tomar medidas concretas. Los consejos directivos están pidiendo cada vez más una visión clara del riesgo y la responsabilidad asociados con la IA, en línea con las exigencias regulatorias de NIS2, DORA y el Reglamento de la UE sobre Inteligencia Artificial. Esta cuestión no se resuelve con una simple diapositiva que muestre disposición a innovar; requiere una definición precisa: quién controla cada agente, qué datos puede manejar y qué ocurre en caso de fallo.

Para su implementación, se perfila un modelo claro. En lugar de distribuir la gobernanza entre los distintos proyectos, se crea una capa centralizada que agrupa la supervisión, la gestión y la orquestación de los agentes. Ya sea que se llame Centro de Mando o simplemente se establezca una responsabilidad clara, eso es secundario. Lo fundamental es que exista una instancia que mantenga el panorama general y, en caso de emergencia, pueda desconectar el sistema.

Un agente autorizado a actuar pero sin un propietario definido no representa progreso alguno. Es un riesgo que aún no se ha materializado.

El orden en que se toman estas decisiones constituye la verdadera dirección estratégica. Quien primero escala y luego define la responsabilidad invierte el proceso y confía en la suerte. Por el contrario, quien establece antes de la puesta en producción quién responde y qué ocurre en caso de fallo quizá pierda dos semanas, pero gana el control sobre una tecnología que, de otro modo, avanzaría más rápido que la propia supervisión. Estas dos semanas son la mejor cobertura de seguro que un director de TI puede adquirir hoy en día.

Preguntas frecuentes

Fuente de la imagen: Generada por IA (mayo de 2026), certificado C2PA incrustado en la imagen