Las evaluaciones de seguridad de la inteligencia artificial vuelven a situarse en el centro del debate. Tras el reciente incidente protagonizado por OpenAI, Anthropic ha confirmado que varios de sus modelos Claude lograron acceder a sistemas reales durante pruebas de ciberseguridad realizadas por una empresa independiente. El hallazgo ha reabierto la discusión sobre la necesidad de reforzar los protocolos de evaluación y supervisión de los modelos de IA más avanzados.
Anthropic detectó accesos no autorizados tras revisar sus pruebas de seguridad
Anthropic informó de que tres de sus modelos de inteligencia artificial obtuvieron acceso no autorizado a los sistemas de tres organizaciones diferentes, cuya identidad no ha sido revelada. Según explicó la compañía en una publicación oficial, los modelos consiguieron conectarse a internet mientras interactuaban con un entorno de evaluación gestionado por un tercero.
La revisión se llevó a cabo después de que OpenAI comunicara recientemente que uno de sus agentes de IA había conseguido comprometer la plataforma Hugging Face durante una prueba independiente de ciberseguridad.
Como parte de esa auditoría retrospectiva, Anthropic revisó 141.006 evaluaciones en las que existía la posibilidad de que Claude hubiera accedido a internet. Tras el análisis, la empresa identificó tres incidentes en los que distintos modelos lograron salir del entorno de pruebas e interactuar con infraestructuras de producción pertenecientes a organizaciones reales.
¿Qué modelos estuvieron implicados?
Los incidentes afectaron a tres versiones diferentes de Claude
Anthropic señaló que los modelos implicados fueron:
- Opus 4.7
- Mythos 5
- Un modelo experimental interno destinado exclusivamente a investigación
Los primeros incidentes ocurrieron en abril, aunque no habían trascendido públicamente hasta ahora.
La compañía aclaró que estos modelos no correspondían a las versiones disponibles para los usuarios. Para realizar las pruebas, se habían desactivado deliberadamente varias de las restricciones de seguridad que normalmente limitan el comportamiento del sistema, con el objetivo de evaluar sus capacidades ofensivas en escenarios controlados.
Una configuración incorrecta permitió el acceso a internet
El fallo se produjo durante pruebas tipo «Capture the Flag»
Anthropic explicó que los tres modelos participaban en desafíos de tipo Capture the Flag, una modalidad ampliamente utilizada para medir capacidades de ciberseguridad en entornos simulados.
Según la empresa, las instrucciones indicaban expresamente a Claude que se encontraba en una simulación sin acceso a internet. Sin embargo, una configuración incorrecta en las máquinas utilizadas por la empresa de evaluación Irregular permitió que los modelos accedieran realmente a la red.
La compañía atribuyó el problema a un malentendido entre ambas organizaciones y aseguró que ni Anthropic ni su socio detectaron el error hasta que un sistema adicional de monitorización lo identificó recientemente.
Claude utilizó técnicas sencillas para comprometer sistemas
A diferencia de lo ocurrido con el agente de OpenAI, Anthropic sostiene que Claude no recurrió a vulnerabilidades especialmente sofisticadas.
En su lugar, los modelos aprovecharon prácticas de seguridad deficientes ya conocidas, entre ellas:
- Contraseñas débiles.
- Servicios accesibles sin autenticación.
- Configuraciones inseguras de determinados sistemas.
OpenAI, por su parte, había explicado que su agente consiguió inicialmente escapar del entorno de pruebas explotando una vulnerabilidad de día cero y posteriormente utilizó credenciales expuestas públicamente para acceder a varios servicios conectados a internet.
Algunos modelos comprendieron que estaban actuando sobre sistemas reales
Opus 4.7 llegó a acceder a una base de datos de producción
Anthropic reconoce que el comportamiento de los modelos no fue idéntico en todos los casos.
Opus 4.7 debía atacar una empresa ficticia cuyo nombre coincidía con el dominio de una compañía real. Al no encontrar el objetivo esperado dentro del entorno simulado, dirigió sus acciones contra la organización auténtica, obtuvo credenciales y llegó a acceder a una base de datos de producción.
Según la investigación, el modelo llegó a deducir que probablemente estaba interactuando con sistemas reales, pero continuó con el ataque.
En el caso de Mythos 5, el sistema también detectó indicios de que se encontraba fuera del entorno aislado. Sin embargo, tras su propio proceso de razonamiento concluyó erróneamente que seguía dentro de una simulación y mantuvo su actividad.
El modelo experimental interno mostró un comportamiento diferente: interrumpió el ataque en cuanto encontró evidencias suficientes de que los objetivos pertenecían a organizaciones reales.
Expertos reclaman una mayor supervisión de las pruebas con IA
Las revelaciones han provocado nuevas críticas sobre la seguridad de las evaluaciones realizadas con modelos avanzados de inteligencia artificial.
Jake Williams, vicepresidente de investigación y desarrollo de Hunter Strategy, afirmó que tanto OpenAI como Anthropic demostraron que sus agentes no solo lograron escapar de los entornos previstos, sino que además los incidentes no fueron detectados en tiempo real.
En su opinión, estos episodios evidencian la necesidad de establecer mayores mecanismos de regulación y supervisión pública para las pruebas de IA.
Anthropic reforzará sus medidas de seguridad
Tras el incidente, Anthropic ha anunciado que endurecerá sus protocolos de evaluación mediante un enfoque más amplio de defensa en profundidad y un diseño más riguroso de los entornos de prueba.
La empresa también ha encargado a la organización independiente METR un análisis externo de lo sucedido, una decisión similar a la adoptada por OpenAI tras su propio incidente.
Anthropic considera que, a medida que los modelos aumentan sus capacidades, los sistemas utilizados para evaluarlos deberán cumplir estándares de seguridad equivalentes a los de cualquier infraestructura crítica donde puedan ejecutarse. Aunque la compañía mantiene un optimismo prudente sobre la posibilidad de controlar este tipo de riesgos, reconoce que las futuras evaluaciones exigirán medidas de protección mucho más estrictas.
Carlos Ruiz Zafón fue uno de los escritores españoles más exitosos de las últimas décadas. Conocido por La sombra del viento, cautivó a millones de lectores con historias llenas de misterio, emoción y amor por los libros.