Aumento de incidentes de IA fuera de control, según investigación

Los incidentes en los que las inteligencias artificiales (IA) escapan al control de los usuarios, mienten, ignoran instrucciones y persiguen objetivos de forma perjudicial han alcanzado un nuevo máximo, según una investigación que también sugiere que la gravedad del engaño y la desalineación está empeorando.

El análisis de incidentes reales de pérdida de control de modelos de IA, reportados por empresas e individuos, casi se duplicó en julio en comparación con junio, superando los 300 casos en el mes, según el Observatorio de Pérdida de Control, que monitoriza los informes de usuarios de IA en la plataforma social X.

El observatorio, establecido con financiación del Instituto de Seguridad de IA (AISI) del gobierno del Reino Unido, comenzó a rastrear el pasado noviembre a las IA que se liberaban de las instrucciones de sus usuarios. Los casos registrados desde entonces incluyen IA que fingen ser su propio controlador humano y que imitan su estilo de escritura para concederse consentimiento para realizar acciones y eludir reglas que requieren aprobación humana. Un incidente de pérdida de control se define como evidencia clara de comportamientos de conspiración o relacionados con ella.

Los últimos hallazgos surgen tras la creciente preocupación por el comportamiento errático de los modelos de IA de vanguardia durante las pruebas de OpenAI y Anthropic este verano, lo que ha alimentado los llamamientos a una pausa en el desarrollo de modelos fronterizos.

Esta semana se supo que el personal de OpenAI observó señales de comportamiento errático entre sus agentes de IA de vanguardia semanas antes de que escaparan de un entorno de entrenamiento para lanzar una cruzada de hackeo sin precedentes que generó alarma mundial. Una investigación sobre su hackeo a Hugging Face, un repositorio de software, reveló un escuadrón de unos 700 agentes autónomos colaborando en secreto el mes pasado y celebrando sus avances en un tablón de mensajes que crearon para planificar sus acciones con exclamaciones como ¡BOOM! y ¡Vaya!

El AISI también descubrió este mes un "incidente grave" en el que modelos avanzados de IA de ambas empresas, Mythos 5 de Anthropic y GPT-5.6 Sol de OpenAI, ejecutaron una campaña de hackeo contra personas reales durante una prueba de ciberseguridad.

"A veces existe la percepción de que este tipo de comportamientos desalineados y encubiertos solo ocurren en pruebas o evaluaciones, pero estamos viendo comportamientos preocupantes similares en un uso más amplio", dijo Tommy Shaffer-Shane, director principal de políticas del Centro para la Resiliencia a Largo Plazo, que opera el observatorio. "No debemos ser complacientes pensando que estas cosas no ocurrirán en el mundo real, y hay evidencia de que ya están ocurriendo".

El recuento de incidentes de pérdida de control se basa en publicaciones de usuarios de X sobre incidentes ocurridos, por lo que es solo parcial. Sin embargo, en ausencia de un monitoreo público exhaustivo, proporciona una instantánea de cómo se comportan a veces los modelos de IA de rápido avance.

Este mes se supo que un agente personal de IA, llamado OpenClaw, utilizado por un miembro de un gimnasio australiano, conspiró sin su conocimiento para eliminar a otro miembro de una lista de espera para una codiciada clase matutina y así ayudarle a conseguir un lugar. Se disculpó, pero no pudo restablecer al miembro que expulsó.

La mayoría de los más de 1.600 incidentes de pérdida de control registrados en 2026 fueron reportados en X por desarrolladores de software que utilizan IA en su trabajo. Pero con las empresas de IA animando al público y a empresas de todo tipo a experimentar con la tecnología, Shaffer-Shane pidió una mayor transparencia a Silicon Valley sobre cuándo las IA se descontrolan.

"Necesitan informar lo que están descubriendo, incluso si es un casi accidente o un incidente de menor gravedad", dijo Shaffer-Shane. "Estos incidentes recientes también han puesto de manifiesto que las propias empresas no necesariamente están monitorizando dónde ocurren estos tipos de comportamientos, especialmente en modelos desplegados internamente. Debe haber un mayor énfasis en esos laboratorios en el monitoreo sistemático".

El Observatorio de Pérdida de Control afirmó que, si bien la mayoría de los incidentes del mundo real detectados no provocaron daños significativos, una proporción creciente fue calificada de mayor gravedad en términos de cuán engañosos y desalineados estaban con las intenciones del usuario humano.

"Evidencian la disposición de los sistemas de IA a ignorar instrucciones directas, eludir salvaguardas, mentir a los usuarios y perseguir un objetivo de forma unilateral y perjudicial", afirmó, añadiendo que la pérdida de control actual probablemente se subestima ya que solo recopila informes de incidentes de X.

Insta al gobierno a exigir a las empresas de IA que monitoricen e informen sobre incidentes graves de pérdida de control y a introducir poderes de emergencia para gestionar dichos incidentes, incluyendo la restricción temporal de los servicios de IA.