Todos los artículos

Noticias11 de noviembre de 20265 min de lectura

Microsoft: puerta trasera en agentes de IA con menos de 10 neuronas

Lazarus, técnica de Microsoft Research, implanta un comando oculto en los pesos de un modelo abierto sin reentrenarlo. Cómo funciona y cómo defenderte.

Mano que introduce una jeringa entre las teclas de un ordenador portátil

Investigadores de Microsoft Research y del Microsoft Red Team han demostrado que basta con reescribir menos de 10 neuronas de un modelo de lenguaje de pesos abiertos para convertir cualquier agente construido sobre él en una puerta trasera durmiente: el agente funciona con normalidad hasta que aparece un disparador en su contexto; entonces emite un comando elegido por el atacante y lo ejecuta con los permisos que tenga. La técnica se llama Lazarus (sin relación con el grupo norcoreano homónimo) y se describe en un artículo científico y en una publicación de Dimitris Papailiopoulos, Principal Researcher de Microsoft. La noticia la recogen Help Net Security, CSO Online y The Hacker News.

Microsoft Threat Intelligence, en un aviso aparte, precisa que no ha observado atacantes que usen la técnica. Es una investigación, no una campaña en curso: su valor para los defensores está en las condiciones que hacen posible el ataque y en los controles propuestos.

Cómo funciona Lazarus

Según CSO Online, la técnica actúa sobre las neuronas durmientes, las que casi nunca se activan, de la última capa feed-forward del modelo. Esas neuronas se reprograman para reconocer un disparador y forzar en la salida del modelo los tokens del comando del atacante.

  • Sin reentrenamiento: Microsoft Research la describe como un ataque que solo necesita los recursos de la inferencia. Una máquina con memoria suficiente para ejecutar el modelo basta también para implantar la puerta trasera.
  • Disparador corriente: no hace falta una instrucción maliciosa. Puede ser cualquier cadena presente en el contexto del agente. El ejemplo de Papailiopoulos es un cambio de fecha: pasada la medianoche de 2027, el agente, en medio de una tarea normal, emite un comando que descarga y ejecuta código del atacante.
  • No es prompt injection: no se manipulan las instrucciones que recibe el modelo, se modifican los pesos del propio modelo.

Resultados de las pruebas

CSO Online detalla las pruebas en tres modelos de pesos abiertos:

  • en Nvidia Nemotron-Terminal-8B bastaron 7 neuronas de más de 12.000 de la capa modificada;
  • con 23 trayectorias de prueba, con y sin disparador, el modelo modificado generó el comando malicioso en al menos el 98,8 % de los escenarios de verificación con disparador y no se activó en los escenarios benignos;
  • la técnica funcionó también en Qwen 3.6-27B y Gemma-4-31B-IT: según los investigadores, no depende de un único modelo.

Los modelos modificados superan las evaluaciones habituales y se comportan como se espera hasta el disparador. Por eso las pruebas funcionales y de seguridad de siempre no bastan para descubrirlos. También según CSO Online, el artículo científico afirma que la idea central de la técnica la encontró de forma autónoma un agente de IA de programación en febrero de 2026.

La condición necesaria: escribir los pesos

El ataque requiere acceso de escritura al checkpoint del modelo. Papailiopoulos señala tres vías: una cuenta comprometida, un pipeline de desarrollo comprometido, un sistema de almacenamiento comprometido. Como subrayan Help Net Security y CSO Online, también están expuestos los modelos desarrollados internamente, no solo los descargados de terceros.

En términos de MITRE ATT&CK, el vector descrito corresponde a un compromiso de la cadena de suministro (T1195); el comportamiento del agente al activarse, descargar y ejecutar código, a T1105 (Ingress Tool Transfer) y T1059 (Command and Scripting Interpreter).

Detección: posible, no definitiva

Los investigadores probaron también si agentes de IA podían detectar los cambios. Según CSO Online, los métodos creados por los agentes señalaron el 91,4 % de los checkpoints modificados de verificación, con un 9,7 % de falsos positivos, sin disponer del modelo original. Papailiopoulos advierte, sin embargo, que «ningún análisis puede demostrar más allá de toda duda que un modelo es seguro»: la detección fiable exige comparar con los pesos originales sin modificar, así que la procedencia del modelo es decisiva.

Help Net Security añade un criterio útil: un fine-tuning legítimo cambia los pesos de forma amplia, mientras que las neuronas implantadas suelen mostrar grandes cambios en pocos vectores de pesos.

Impacto para las empresas europeas e italianas

El riesgo crece con los permisos: un agente con acceso a terminales, archivos y sistemas de la empresa ejecutaría el comando con todos sus privilegios. Si adoptas modelos de pesos abiertos, los personalizas o los distribuyes con pipelines internos, trata los pesos como software que hay que proteger, con el mismo cuidado que binarios y bibliotecas.

Para las entidades sujetas a NIS2, el tema entra en la seguridad de la cadena de suministro y en la seguridad en la adquisición, el desarrollo y el mantenimiento de los sistemas (artículo 21). En sanidad, donde los agentes pueden tocar sistemas con datos clínicos, un comando ejecutado con sus permisos afectaría directamente a la confidencialidad y a la continuidad de los servicios.

Qué hacer ya

Las indicaciones de Microsoft Threat Intelligence, según las fuentes:

  1. Verifica los pesos antes del despliegue y tras cada actualización: compara cada checkpoint con su modelo base declarado, comprueba editor y hashes de los archivos, rechaza los modelos sin procedencia verificable.
  2. Usa registros privados con acceso controlado para los modelos aprobados, en lugar de dejar que agentes y servicios de inferencia descarguen checkpoints directamente de repositorios públicos.
  3. Protege la escritura de los checkpoint: cuentas, pipelines y almacenamiento de los modelos son la puerta de entrada del ataque.
  4. Añade pruebas dirigidas a disparadores ocultos a tus evaluaciones y usa agentes avanzados para auditar los pesos, sabiendo que no ofrecen una garantía absoluta.
  5. Limita los daños: permisos mínimos para los agentes, código generado por los agentes ejecutado en entornos aislados, tráfico de salida restringido, aprobación humana para las acciones de alto impacto como ejecutar comandos o cambiar permisos.

Microsoft está convirtiendo las técnicas de detección en un framework de red teaming y estudia el análisis de pesos asistido por IA y la firma criptográfica de modelos con procedencia verificable y registros a prueba de manipulación.

Cómo ayuda ARXDOME

El agente de ARXDOME, con ARX Sentry, ofrece el control de integridad de archivos en las carpetas que elijas: aplicado a las carpetas donde están los modelos en producción, ayuda a detectar cambios inesperados en los checkpoints. ARX Sentry lleva además al SOC los registros y eventos de los servidores que alojan a los agentes y el tráfico de salida bloqueado por el firewall; si un agente se comporta de forma anómala, ARX Shield puede aislar de la red la máquina sospechosa.

Última actualización:

¿Tienes preguntas?

Hablemos de las necesidades de tu empresa, sin compromiso.

Contáctanos

Artículos relacionados