San Francisco, 14 de septiembre de 2026.- Los principales laboratorios de inteligencia artificial analizan la posibilidad de establecer un pacto de seguridad para ralentizar el desarrollo de sistemas cada vez más avanzados, ante el creciente temor de que una competencia acelerada entre las empresas pueda generar riesgos difíciles de controlar. 

La propuesta fue impulsada por Dario Amodei, director ejecutivo de Anthropic, quien llamó a reducir el ritmo de desarrollo de la inteligencia artificial y planteó fortalecer los mecanismos de seguridad antes de avanzar hacia sistemas con capacidades superiores a las actuales. Su postura recibió el respaldo de figuras como Sam Altman, director ejecutivo de OpenAI, y Demis Hassabis, responsable de inteligencia artificial de Google, quienes coincidieron en la necesidad de priorizar la seguridad. 

Entre las medidas planteadas se encuentra la creación de mecanismos de evaluación y supervisión independientes, así como una mayor coordinación entre las empresas que desarrollan los modelos más avanzados. La intención es establecer estándares comunes que permitan detectar riesgos antes de que los nuevos sistemas sean implementados a gran escala. 

Microsoft también presentó un proyecto de código de conducta para garantizar que sus sistemas de inteligencia artificial permanezcan bajo control humano. La propuesta contempla que los modelos acepten correcciones, no se resistan a ser apagados y puedan comunicar de manera comprensible sus acciones, como parte de una estrategia para reforzar la supervisión sobre tecnologías cada vez más autónomas. 

El debate ocurre en medio de una intensa competencia entre las principales compañías tecnológicas por desarrollar sistemas de inteligencia artificial más capaces. Los promotores del pacto sostienen que ralentizar determinados avances no significa detener la innovación, sino establecer condiciones de seguridad que permitan continuar con el desarrollo tecnológico sin asumir riesgos innecesarios.

Sin embargo, la propuesta enfrenta un importante dilema: mientras algunos líderes de la industria consideran indispensable moderar el ritmo, existe preocupación de que una reducción unilateral del desarrollo pueda dejar en desventaja a Estados Unidos frente a otros países, particularmente China. El presidente Donald Trump se ha mostrado contrario a frenar la carrera de la inteligencia artificial por considerar que mantener el liderazgo estadounidense es estratégico. 

La discusión marca un momento poco común dentro de una industria caracterizada por una fuerte rivalidad, ya que algunos de sus principales competidores coinciden en que el avance hacia una posible superinteligencia debe estar acompañado de mayores controles, cooperación y mecanismos que permitan mantener estos sistemas bajo supervisión humana.