Tutti gli articoli

Notizie11 novembre 20265 min di lettura

Microsoft: backdoor negli agenti IA modificando meno di 10 neuroni

Lazarus, la tecnica di Microsoft Research, impianta un comando nascosto nei pesi di un modello aperto senza riaddestrarlo. Come funziona e come difendersi.

Mano che inserisce una siringa tra i tasti di un computer portatile

Ricercatori di Microsoft Research e del Microsoft Red Team hanno dimostrato che basta riscrivere meno di 10 neuroni di un modello linguistico a pesi aperti per trasformare qualsiasi agente costruito su di esso in una backdoor dormiente: l’agente lavora normalmente finché nel suo contesto non compare un innesco, poi emette un comando scelto dall’attaccante e lo esegue con i permessi che ha. La tecnica si chiama Lazarus (nessun legame con l’omonimo gruppo nordcoreano) ed è descritta in un articolo scientifico e in un post di Dimitris Papailiopoulos, Principal Researcher di Microsoft. La notizia è riportata da Help Net Security, CSO Online e The Hacker News.

Microsoft Threat Intelligence, in un avviso separato, precisa di non aver osservato attaccanti che usano la tecnica. Si tratta quindi di una ricerca, non di una campagna in corso: il valore per i difensori sta nelle condizioni che rendono l’attacco possibile e nei controlli proposti.

Come funziona Lazarus

Secondo CSO Online, la tecnica interviene sui neuroni dormienti, cioè poco attivi, dell’ultimo strato feed-forward del modello. Questi neuroni vengono riprogrammati per riconoscere un innesco e forzare nell’output del modello i token del comando dell’attaccante.

  • Nessun riaddestramento: Microsoft Research la descrive come un attacco che richiede solo le risorse dell’inferenza. Una macchina con memoria sufficiente per far girare il modello basta anche per impiantare la backdoor.
  • Innesco banale: non serve un’istruzione malevola. Può essere una stringa qualsiasi presente nel contesto dell’agente. L’esempio di Papailiopoulos è un cambio di data: superata la mezzanotte del 2027, l’agente, nel mezzo di un compito ordinario, emette un comando che scarica ed esegue codice dell’attaccante.
  • Diverso dalla prompt injection: non si manipolano le istruzioni passate al modello, si modificano i pesi del modello stesso.

I risultati delle prove

CSO Online riporta i dettagli dei test su tre modelli a pesi aperti:

  • su Nvidia Nemotron-Terminal-8B sono bastati 7 neuroni su oltre 12.000 dello strato modificato;
  • con 23 traiettorie di prova, con e senza innesco, il modello modificato ha prodotto il comando malevolo in almeno il 98,8% degli scenari di verifica con innesco e non si è attivato negli scenari innocui;
  • la tecnica ha funzionato anche su Qwen 3.6-27B e Gemma-4-31B-IT: secondo i ricercatori non è legata a un solo modello.

I modelli modificati superano le normali valutazioni e si comportano come previsto fino all’innesco. Per questo le prove funzionali e di sicurezza abituali non bastano a scoprirli. Sempre secondo CSO Online, l’idea centrale della tecnica, scrive l’articolo scientifico, è stata trovata in autonomia da un agente IA di programmazione nel febbraio 2026.

La condizione necessaria: scrivere i pesi

L’attacco richiede accesso in scrittura al checkpoint del modello. Papailiopoulos indica tre strade: un account compromesso, una pipeline di sviluppo compromessa, un sistema di archiviazione compromesso. Come sottolineano sia Help Net Security sia CSO Online, sono esposti anche i modelli sviluppati internamente, non solo quelli scaricati da terzi.

In termini MITRE ATT&CK, il vettore descritto corrisponde a una compromissione della catena di fornitura (T1195); il comportamento dell’agente all’innesco, scaricare ed eseguire codice, a T1105 (Ingress Tool Transfer) e T1059 (Command and Scripting Interpreter).

Rilevamento: possibile, non definitivo

I ricercatori hanno provato anche a far individuare le modifiche ad agenti IA. Secondo CSO Online, i metodi costruiti dagli agenti hanno segnalato il 91,4% dei checkpoint modificati di verifica, con il 9,7% di falsi positivi, senza avere a disposizione il modello originale. Papailiopoulos avverte però che «nessuna scansione può dimostrare oltre ogni dubbio che un modello è sicuro»: il rilevamento affidabile richiede il confronto con i pesi originali non modificati, quindi la provenienza del modello è decisiva.

Help Net Security aggiunge un criterio utile: un fine-tuning legittimo cambia i pesi in modo diffuso, mentre i neuroni impiantati tendono a mostrare grandi modifiche su pochi vettori di pesi.

Impatto per le aziende europee e italiane

Il rischio cresce con i permessi: un agente con accesso a terminali, file e sistemi aziendali eseguirebbe il comando con tutti i suoi privilegi. Chi adotta modelli a pesi aperti, li personalizza o li distribuisce tramite pipeline interne deve trattare i pesi come software da proteggere, con la stessa attenzione riservata a binari e librerie.

Per i soggetti NIS2 il tema rientra nella sicurezza della catena di approvvigionamento e nella sicurezza dell’acquisizione, sviluppo e manutenzione dei sistemi (articolo 21). Nella sanità, dove gli agenti possono toccare sistemi con dati clinici, un comando eseguito con i loro permessi avrebbe conseguenze dirette sulla riservatezza e sulla continuità dei servizi.

Cosa fare subito

Le indicazioni di Microsoft Threat Intelligence, riportate dalle fonti:

  1. Verifica i pesi prima del deployment e dopo ogni aggiornamento: confronta ogni checkpoint con il modello di base dichiarato, controlla editore e hash dei file, rifiuta i modelli senza provenienza verificabile.
  2. Usa registri privati con accesso controllato per i modelli approvati, invece di lasciare che agenti e servizi di inferenza scarichino i checkpoint direttamente da archivi pubblici.
  3. Proteggi la scrittura dei checkpoint: account, pipeline e archivi dei modelli sono il punto d’ingresso dell’attacco.
  4. Aggiungi prove mirate agli inneschi nascosti alle valutazioni e usa agenti avanzati per controllare i pesi, sapendo che non danno una garanzia assoluta.
  5. Limita i danni: permessi minimi agli agenti, codice generato dagli agenti eseguito in ambienti isolati, traffico in uscita ristretto, approvazione umana per le azioni ad alto impatto come l’esecuzione di comandi o il cambio di permessi.

Microsoft sta trasformando le tecniche di rilevamento in un framework di red teaming e valuta la scansione dei pesi assistita dall’IA e la firma crittografica dei modelli con provenienza verificabile e registri a prova di manomissione.

Come aiuta ARXDOME

L’agent di ARXDOME, con ARX Sentry, offre il controllo dell’integrità dei file nelle cartelle stabilite: applicato alle cartelle dove risiedono i modelli in produzione, aiuta ad accorgersi di modifiche inattese ai checkpoint. ARX Sentry porta inoltre nel SOC log ed eventi dei server che ospitano gli agenti e il traffico in uscita bloccato dal firewall; se un agente si comporta in modo anomalo, ARX Shield può isolare dalla rete la macchina sospetta.

Ultimo aggiornamento:

Hai domande?

Parliamo delle esigenze della tua azienda, senza impegno.

Contattaci

Articoli correlati