- Instagram cambia su logo escrito después de 10 años: así luce su nueva identidad
- IA y empleo en Lima: 62% la considera clave, pero la mitad no se siente preparada
La adopción de la inteligencia artificial (IA) en las empresas está abriendo un nuevo desafío. Además de automatizar procesos, generar contenidos o aumentar la productividad, las organizaciones comienzan a necesitar respuestas sobre cómo y por qué los algoritmos llegan a determinadas recomendaciones.
Esta necesidad cobra mayor importancia cuando los sistemas de IA intervienen en decisiones operativas y estratégicas, como la gestión de inventarios, planificación, logística o asignación de recursos. En ese escenario gana terreno la denominada inteligencia artificial explicable (XAI, por sus siglas en inglés).
¿Qué es la inteligencia artificial explicable o XAI?
La inteligencia artificial explicable comprende enfoques orientados a hacer más comprensibles los resultados de un sistema de IA. El objetivo es que, además de obtener una recomendación, sea posible conocer qué información utilizó el modelo, cuáles fueron las variables relevantes y qué factores influyeron en el resultado.
La discusión también se relaciona con el crecimiento de estas tecnologías en América Latina. De acuerdo con datos consignados en el Índice Latinoamericano de Inteligencia Artificial (ILIA) 2025, elaborado por la Comisión Económica para América Latina y el Caribe (CEPAL) y el Centro Nacional de Inteligencia Artificial (CENIA), la región representa entre el 15% y 20% del mercado mundial de descargas de aplicaciones de IA generativa.
El mismo reporte señala que los 19 países analizados concentran solo el 1,12% de la inversión global en inteligencia artificial, mostrando una diferencia entre el nivel de adopción de herramientas y los recursos destinados al desarrollo del sector.
“Una IA puede entregar un resultado preciso, rápido y convincente, pero eso no significa necesariamente que sepamos si es correcto para una situación determinada”, explica Federico dos Reis, CEO de INFORM para Latinoamérica. Para el ejecutivo, cuando estos sistemas participan en decisiones reales resulta necesario comprender sus recomendaciones, cuestionarlas cuando corresponda y reconocer sus límites.
¿Por qué las empresas necesitan entender las recomendaciones de la IA?
La explicabilidad adquiere especial relevancia en operaciones en las que una decisión depende simultáneamente de distintas variables.
Una empresa podría, por ejemplo, disponer de inventario suficiente para atender sus pedidos y recibir de un sistema una recomendación para anticipar una compra. Detrás de esa alerta podrían encontrarse factores como un aumento en los tiempos de entrega de un proveedor, variaciones en la demanda o una menor disponibilidad de proveedores alternativos.
Un sistema explicable permitiría identificar cuáles de esos factores están aumentando el riesgo, en lugar de limitarse a recomendar una acción.
“Si una IA propone cambiar una secuencia, la pregunta deja de ser solo si el nuevo plan es más eficiente. También importa saber si busca reducir tiempos de espera, evitar un cuello de botella, proteger un envío prioritario o liberar capacidad”, señala dos Reis.
Explicabilidad de la IA aparece entre los riesgos empresariales
La preocupación por comprender el funcionamiento de los modelos también aparece en estudios empresariales. Según una encuesta de McKinsey realizada en 2024, citada en la información proporcionada para esta nota, el 40% de los encuestados identificó la explicabilidad como un riesgo relevante en el uso de IA generativa, mientras que el 17% afirmó estar trabajando activamente para mitigarlo.
La brecha plantea un desafío para las organizaciones que incorporan inteligencia artificial en procesos con consecuencias operativas o estratégicas: además de evaluar el rendimiento de los sistemas, deben determinar qué mecanismos de supervisión y control utilizarán.
Nota para edición: verificar y enlazar antes de publicación las fuentes primarias del ILIA 2025 y de la encuesta de McKinsey de 2024 correspondientes a las cifras incluidas en el material remitido.
La decisión final sigue bajo supervisión humana
La explicabilidad tampoco implica que un modelo sea infalible. Un sistema puede mostrar las variables empleadas para formular una recomendación y, al mismo tiempo, trabajar con información incompleta, objetivos mal definidos o supuestos que dejaron de corresponder con la situación real.
Por ello, la XAI funciona como una herramienta para aportar información sobre el proceso de decisión, pero no elimina la necesidad de supervisión y criterio humano.
“El juicio humano sigue siendo esencial, porque solo las personas pueden ponderar las consecuencias en su contexto, considerar prioridades contrapuestas y decidir qué es apropiado en una situación determinada”, sostiene dos Reis.
El CEO de INFORM para Latinoamérica añade que la compañía cuenta con una política interna de inteligencia artificial ética y responsable bajo la cual la decisión final respecto del control de sus soluciones recae en las personas.
El desafío para las empresas, por tanto, no se limita a determinar cuánto pueden automatizar mediante inteligencia artificial. También comprende establecer cuánto pueden entender, evaluar y cuestionar las recomendaciones de los sistemas antes de incorporarlas a una decisión empresarial.
-