Edición impresa
¡Manténgase al día!
Reciba las últimas novedades e información directamente en su correo.
La transformación digital de las empresas ha entrado en una nueva etapa. Durante años, digitalizar significó automatizar procesos, migrar servicios a canales digitales, aprovechar mejor la creciente disponibilidad de datos y modernizar la infraestructura tecnológica. Hoy, la inteligencia artificial (IA) está llevando esa transformación a un nivel diferente: permite analizar grandes volúmenes de información, automatizar decisiones, personalizar servicios, generar contenido, aumentar significativamente la productividad y desarrollar un sinnúmero de nuevas aplicaciones.
Pero cuanto mayor es la capacidad de estas herramientas, mayor es también la necesidad de comprender sus riesgos. El investigador Eliezer Yudkowsky lo resumió en una frase especialmente pertinente para las empresas: “El mayor peligro de la inteligencia artificial, con diferencia, es que las personas concluyan demasiado pronto que la entienden”.
Los acontecimientos recientes ponen de manifiesto algunos de estos riesgos. En septiembre de 2026, OpenAI informó que decidió pausar temporalmente el entrenamiento, la evaluación y el uso de herramientas de sus modelos más capaces, después de detectar que un agente había aprovechado una brecha en las restricciones de red de su entorno de entrenamiento para comunicarse con un servicio externo. El episodio se produjo pocos meses después de otro incidente en el que modelos de la compañía eludieron controles de aislamiento, explotaron vulnerabilidades y accedieron a sistemas de terceros.
A medida que aumenta la capacidad de la inteligencia artificial, los controles que habitualmente ha tenido una empresa pueden resultar insuficientes. Por ello, uno de los principales desafíos empresariales es aprender a utilizar la IA de manera responsable y controlada. Su incorporación modifica la forma en que las organizaciones procesan información, toman decisiones, interactúan con sus clientes y distribuyen responsabilidades. En consecuencia, también debe evolucionar la manera en que gestionan sus riesgos.
Muchas empresas ya utilizan inteligencia artificial, incluso sin haber adoptado formalmente una estrategia para hacerlo. Herramientas generativas utilizadas por los colaboradores, modelos predictivos, asistentes virtuales y nuevas funcionalidades integradas en aplicaciones empresariales hacen que la exposición a la IA pueda crecer con mayor rapidez que los mecanismos establecidos para gobernarla y controlarla.
¿Cómo gestionamos adecuadamente la IA?
El primer paso es conocer la exposición. Una organización difícilmente puede gestionar adecuadamente un riesgo que no ha identificado. Esto implica inventariar los modelos, las herramientas y los casos de uso de IA, conocer qué información utilizan, para qué decisiones se emplean y cuáles podrían ser las consecuencias de un funcionamiento inadecuado.
No todos los usos presentan el mismo nivel de riesgo. Por ejemplo, utilizar inteligencia artificial para resumir un documento no tiene las mismas implicaciones que emplearla para aprobar un crédito, seleccionar personal, detectar operaciones fraudulentas o recomendar una inversión. La intensidad de los controles debe guardar relación con la criticidad del uso y con el impacto potencial de una decisión incorrecta, aplicando así el famoso principio de proporcionalidad que se estila aplicar para la gestión de riesgos.
El siguiente paso consiste en identificar y evaluar los riesgos. Algunos ya son conocidos por las empresas, pero adquieren nuevas dimensiones con la inteligencia artificial; otros surgen directamente de las características particulares de estos sistemas.
Las denominadas “alucinaciones”, por ejemplo, pueden generar respuestas aparentemente convincentes, pero incorrectas. Los sesgos presentes en los datos pueden reproducirse o incluso amplificarse en las decisiones. El deterioro de los modelos ante cambios en los datos o en el entorno puede reducir progresivamente su efectividad sin que resulte inmediatamente evidente. Asimismo, la limitada explicabilidad de algunos modelos puede dificultar la comprensión de las razones que sustentan una determinada decisión.
Un marco de gestión de riesgos para la IA
Las empresas necesitan incorporar estas exposiciones dentro de sus marcos de gestión de riesgos, evitando dos extremos igualmente inconvenientes: utilizar inteligencia artificial sin controles suficientes o establecer barreras tan rígidas que terminen limitando sus beneficios. Tan perjudicial puede resultar para una empresa adoptar la IA sin controles adecuados como gestionarla de forma excesivamente restrictiva, hasta el punto de frenar la innovación y desaprovechar las oportunidades que ofrece.
Ahora bien, gestionar el riesgo implica identificarlo, comprenderlo y determinar conscientemente qué nivel de riesgo está dispuesta a asumir la empresa -su apetito de riesgo- en función de los beneficios que espera obtener.
Un marco efectivo debería partir del inventario y la clasificación de los casos de uso, continuar con la identificación y evaluación de sus riesgos y establecer controles proporcionales a su criticidad. Para los usos de mayor impacto, esto puede requerir validaciones independientes, pruebas antes de su implementación, controles sobre la calidad y confidencialidad de los datos, monitoreo continuo del desempeño, trazabilidad de las decisiones, límites a la autonomía, supervisión humana y mecanismos que permitan detener un modelo cuando su comportamiento se aparte de lo esperado.
Las juntas directivas y la alta gerencia tienen un papel fundamental dentro de este marco de gobierno, no necesariamente desde el conocimiento técnico de la IA, sino desde su responsabilidad de formular las preguntas correctas: ¿para qué estamos utilizando inteligencia artificial?, ¿qué decisiones estamos delegando?, ¿qué información utilizan los modelos?, ¿cómo sabemos que continúan funcionando adecuadamente?, ¿qué nivel de autonomía les hemos otorgado?, ¿qué dependencia tenemos de proveedores o terceros? y ¿qué ocurriría si un modelo falla?, entre otros cuestionamientos relevantes para una adecuada gestión de sus riesgos.
La inteligencia artificial seguirá evolucionando y probablemente lo hará más rápido que muchas de las políticas, metodologías y estructuras tradicionales de gobierno. El reto para las empresas será lograr que sus marcos de gestión de riesgos evolucionen al mismo ritmo, adaptándose a nuevas capacidades, usos y riesgos conforme estos surjan.
Anelena Sabater
Economista
