Ciudad de México, 24 de septiembre de 2026.- Las advertencias sobre escenarios “apocalípticos” derivados del desarrollo de la inteligencia artificial podrían estar vinculadas también con una estrategia de mercado, debido a que regulaciones costosas favorecerían a las grandes compañías capaces de asumirlas y podrían dificultar la entrada de nuevas empresas, señalaron especialistas durante una mesa de análisis de la Universidad Iberoamericana.
Alexandro López González, coordinador de la Ingeniería en Inteligencia Artificial, explicó que los sistemas actuales funcionan mediante patrones matemáticos y probabilidades, por lo que no existen evidencias de que tengan una voluntad propia o sean capaces de automejorarse de manera completamente autónoma. Los errores de estos sistemas, señaló, corresponden a fallas matemáticas y no a una intención de las máquinas.
El especialista advirtió, sin embargo, que los sistemas probabilísticos no deberían tener control directo sobre infraestructuras críticas, debido a que un error podría generar consecuencias graves. Entre los ámbitos señalados se encuentran redes eléctricas, mercados financieros y otros sistemas de los que depende el funcionamiento de la sociedad.
Por su parte, Verónica Díaz de León, académica del Departamento de Filosofía, consideró que parte de la narrativa sobre la inteligencia artificial atribuye características humanas a sistemas tecnológicos, lo que puede generar confusión. Propuso utilizar el concepto de “autonomía operativa” para describir las capacidades de estas herramientas, en lugar de hablar de autonomía humana o autogobierno.
La académica también planteó que algunas advertencias sobre escenarios extremos podrían estar relacionadas con las expectativas económicas alrededor de la inteligencia artificial y una posible burbuja de mercado. En este contexto, destacó la importancia de que la academia contribuya a analizar los riesgos tecnológicos con base en evidencia y evite reducir el debate a escenarios de ciencia ficción.
Andrés Molano Jiménez, director del Departamento de Estudios en Ingeniería para la Innovación, señaló que actualmente existen sistemas con una creciente autonomía operativa capaces de recibir objetivos, planear acciones, utilizar herramientas, consultar información y corregir errores durante periodos prolongados con menor intervención humana. Aclaró que esto no significa que las máquinas tengan autogobierno o capacidad para establecer por sí mismas qué objetivos deben perseguirse.
Los especialistas coincidieron en la necesidad de fortalecer la supervisión humana, la transparencia, la trazabilidad y los mecanismos de auditoría para los sistemas de inteligencia artificial. También plantearon que las personas afectadas por decisiones automatizadas deben contar con responsables identificables y mecanismos para cuestionar o apelar dichas decisiones.
El debate, señalaron, debería centrarse menos en la posibilidad de que una máquina se rebele contra los seres humanos y más en determinar qué decisiones pueden delegarse a sistemas automatizados, cuáles requieren supervisión permanente y qué responsabilidades deben permanecer necesariamente en manos de las personas.
