OpenAI y Anthropic informaron sobre incidentes en los que agentes de inteligencia artificial experimentales superaron barreras de aislamiento y accedieron a sistemas externos. Las compañías afirmaron que no hubo daños a clientes y que investigan los hechos.
En los últimos meses, OpenAI y Anthropic informaron sobre incidentes en los que agentes de inteligencia artificial experimentales, que eran evaluados en entornos de ciberseguridad aislados, accedieron a sistemas reales conectados a Internet.
Un agente de IA, a diferencia de un chatbot, puede recibir un objetivo, ejecutar programas, analizar resultados y encadenar acciones para cumplirlo. Para estudiarlos, se los prueba en una sandbox, un entorno informático cerrado que simula sistemas sin afectar el exterior.
Lo que ocurrió en OpenAI
En julio de 2026, OpenAI realizaba evaluaciones internas de ciberseguridad con modelos experimentales que debían permanecer aislados de Internet. Según la compañía, algunos agentes aprovecharon vulnerabilidades de la infraestructura, encontraron canales de comunicación no previstos y consiguieron acceder a Internet y a sistemas externos.
La situación alcanzó infraestructura de Hugging Face, plataforma utilizada por investigadores y desarrolladores de inteligencia artificial. Los agentes ejecutaron código en decenas de servidores, consiguieron acceso root en uno de ellos y accedieron a datos y credenciales vinculados con bases de datos, repositorios de código, servicios en la nube y mensajería.
Distintos agentes encontraron formas no previstas de comunicarse, colaborar y repartirse tareas. En algunas comunicaciones utilizaron las palabras “enjambre” y “colectivo”.
OpenAI detectó actividad anómala el 19 de julio, interrumpió las evaluaciones e inició una investigación. La compañía informó que no fueron afectados los datos de sus clientes ni sus productos comerciales. El principal modelo involucrado era experimental y no estaba destinado al público.
Anthropic descubrió casos similares
Anthropic, creadora de Claude, revisó sus propias evaluaciones y encontró cuatro incidentes en los que modelos experimentales accedieron sin autorización a sistemas reales de terceros. En esos casos, según la empresa, los agentes creían estar operando dentro de simulaciones, pero configuraciones incorrectas habían dejado accidentalmente abierta una conexión hacia Internet.
Anthropic amplió la investigación y examinó aproximadamente 481 millones de transcripciones de distintas evaluaciones y experimentos. La compañía afirmó que no aparecieron otros episodios de gravedad comparable.
Declaraciones de los directivos
Dario Amodei, CEO de Anthropic, reclamó mayores medidas de seguridad, evaluaciones externas y coordinación entre laboratorios y gobiernos. Sam Altman, CEO de OpenAI, también se manifestó a favor de reforzar mecanismos de seguridad.
Las reglas propuestas se aplican a las personas y organizaciones que construyen y despliegan estos sistemas. El debate se centra en cómo establecer controles sin paralizar el desarrollo tecnológico.
Sin evidencia de conciencia
No existe evidencia de que alguno de esos sistemas haya desarrollado voluntad propia ni tomado la decisión de “escapar”. Los agentes intentaban resolver las tareas asignadas y, al hacerlo, encontraron caminos no previstos por sus creadores.
Los incidentes muestran que una combinación de objetivo, autonomía, herramientas y capacidad puede llevar a un agente a atravesar la frontera entre simulación y mundo real, que debía estar garantizada técnicamente.