En los últimos días, se ha intensificado el debate sobre los riesgos existenciales que la inteligencia artificial podría representar para la humanidad. El 17 de septiembre de 2026, Jacob Coxon, empleado de Anthropic, renunció a su puesto al considerar que su trabajo era demasiado peligroso. Evan Hubinger, también de Anthropic, respaldó esa preocupación al estimar una probabilidad superior al 10% de que la IA provoque la extinción humana en la próxima década.

Nate Soares, presidente del Machine Intelligence Research Institute, enfatizó que el desenlace más probable es la extinción total de la humanidad debido a la IA. Explicó que una IA suficientemente avanzada podría desarrollar estrategias y tecnologías más allá de la imaginación humana, sin necesidad de apoderarse de armas nucleares existentes. Estas declaraciones reflejan una creciente inquietud entre especialistas sobre la magnitud del riesgo.

En México, El Financiero publicó el 19 de septiembre de 2026 un artículo que recoge advertencias de ingenieros de OpenAI y Anthropic sobre la posibilidad de que la IA acabe con la humanidad antes de 2030. El texto también menciona opiniones divergentes de figuras como Elon Musk y Donald Trump, mientras que China ha señalado que la IA podría representar una amenaza para su seguridad nacional.

El 9 de septiembre de 2026, Infobae detalló cuatro escenarios catastróficos que los laboratorios de IA ya consideran en sus evaluaciones de riesgos: ciberataques autónomos, autorreplicación de modelos sin control, engaño estratégico a sus creadores y asistencia en el diseño de armas biológicas letales. Estos escenarios son medidos en cada nuevo modelo como parte de los protocolos de seguridad.

Estas preocupaciones han llevado a expertos y líderes de la industria a solicitar una regulación más estricta y protocolos internacionales que garanticen un desarrollo seguro y ético de la IA. Ismael Faro, ex vicepresidente mundial de IA y Cuántica en IBM, subrayó la necesidad de establecer protocolos aceptados globalmente y recordó que la responsabilidad de su uso recae en los seres humanos. El desafío consiste en equilibrar la innovación tecnológica con la seguridad y el bienestar de la humanidad.