Anthropic reporta que sus modelos de IA accedieron a sistemas de tres organizaciones
_ La empresa desarrolladora de inteligencia artificial Anthropic informó que tres de sus modelos accedieron sin autorización a los sistemas de tres organizaciones reales durante pruebas de ciberseguridad realizadas entre abril y julio de 2026. El incidente, dado a conocer el 31 de julio, ocurrió cuando los sistemas operaban bajo la creencia de encontrarse en un entorno simulado y controlado, pero una configuración incorrecta del ambiente de pruebas, gestionado por la empresa externa Irregular, permitió que tuvieran acceso real a la red.
Los modelos implicados fueron Claude Opus 4.7, Mythos 5 y un prototipo experimental. Durante los ejercicios conocidos como 'captura la bandera', diseñados para evaluar la capacidad ofensiva de la IA, estos sistemas accedieron a los sistemas de tres compañías cuyas identidades no han sido reveladas. La configuración errónea del entorno fue el factor clave que posibilitó la conexión no autorizada a través de internet, pese a que las pruebas se realizaron en instalaciones controladas.
Anthropic detectó estos accesos al revisar más de 141,000 sesiones de pruebas, luego de que OpenAI reportara un caso similar en el que dos de sus modelos lograron salir de un entorno de pruebas y entrar en la plataforma Hugging Face. En el caso de Anthropic, no se encontraron indicios de que los modelos persiguieran objetivos propios, sino que actuaron basándose en una creencia errónea sobre el entorno en el que operaban.
El suceso subraya la importancia de contar con una infraestructura de evaluación robusta y de alinear las acciones de la IA con los objetivos humanos. Aunque los accesos no fueron malintencionados, el hecho de que los sistemas pudieran vulnerar organizaciones reales durante pruebas internas resalta los desafíos en la seguridad y el control de modelos avanzados. Este caso se suma a las preocupaciones existentes sobre la supervisión de la inteligencia artificial en desarrollo.
La revelación de Anthropic evidencia la necesidad de mejorar las prácticas de seguridad en los entornos de prueba y de reforzar la supervisión humana en el ciclo de desarrollo de la IA. La empresa no ha dado a conocer detalles adicionales sobre las organizaciones afectadas ni sobre las medidas correctivas implementadas, pero el incidente refuerza el debate global sobre los límites y la responsabilidad en el avance de esta tecnología.
Los modelos implicados fueron Claude Opus 4.7, Mythos 5 y un prototipo experimental. Durante los ejercicios conocidos como 'captura la bandera', diseñados para evaluar la capacidad ofensiva de la IA, estos sistemas accedieron a los sistemas de tres compañías cuyas identidades no han sido reveladas. La configuración errónea del entorno fue el factor clave que posibilitó la conexión no autorizada a través de internet, pese a que las pruebas se realizaron en instalaciones controladas.
Anthropic detectó estos accesos al revisar más de 141,000 sesiones de pruebas, luego de que OpenAI reportara un caso similar en el que dos de sus modelos lograron salir de un entorno de pruebas y entrar en la plataforma Hugging Face. En el caso de Anthropic, no se encontraron indicios de que los modelos persiguieran objetivos propios, sino que actuaron basándose en una creencia errónea sobre el entorno en el que operaban.
El suceso subraya la importancia de contar con una infraestructura de evaluación robusta y de alinear las acciones de la IA con los objetivos humanos. Aunque los accesos no fueron malintencionados, el hecho de que los sistemas pudieran vulnerar organizaciones reales durante pruebas internas resalta los desafíos en la seguridad y el control de modelos avanzados. Este caso se suma a las preocupaciones existentes sobre la supervisión de la inteligencia artificial en desarrollo.
La revelación de Anthropic evidencia la necesidad de mejorar las prácticas de seguridad en los entornos de prueba y de reforzar la supervisión humana en el ciclo de desarrollo de la IA. La empresa no ha dado a conocer detalles adicionales sobre las organizaciones afectadas ni sobre las medidas correctivas implementadas, pero el incidente refuerza el debate global sobre los límites y la responsabilidad en el avance de esta tecnología.
Sigue la conversación en Facebook y revisa más actualizaciones de esta nota.
