Tutti gli articoli

Notizie10 novembre 20266 min di lettura

Fireworks AI violata via cloud provider: esposti dati di Notion

Seconda violazione per Fireworks AI: via un cloud provider terzo gli attaccanti hanno preso dati di fatturazione, dataset e chat di Notion AI.

Nuvola stilizzata chiusa da un grande lucchetto con la scritta Security

Fireworks AI, piattaforma statunitense di inferenza e fine-tuning per modelli open-weight come Llama, Mistral e Gemma, ha pubblicato lunedì 9 novembre un aggiornamento del suo avviso di sicurezza. Oltre all’incidente scoperto il 6 ottobre, a fine ottobre ne ha subito un secondo, partito da un cloud provider terzo che ospitava le sue macchine di ricerca e sviluppo. Il secondo episodio allarga di molto i dati coinvolti: metadati delle risorse, dati di fatturazione e, per alcuni clienti, parti di pesi di modelli e dataset. Tra i clienti colpiti c’è Notion, che ha confermato l’esposizione di trascrizioni di chat di Notion AI in meno dell’1% dei workspace.

I due incidenti

Primo incidente (ottobre). Il 6 ottobre Fireworks ha rilevato l’uso non autorizzato di credenziali interne e lo ha reso noto il 9 ottobre. Gli attaccanti avevano letto le variabili d’ambiente dei job di valutazione, dove chiavi API e token di un numero limitato di account clienti erano salvati come segreti. Fireworks ha collegato l’attacco a un gruppo criminale con motivazioni economiche che rivende l’accesso ai modelli linguistici tramite gateway illeciti, il cosiddetto LLMjacking. In quel momento, riporta The Register, l’azienda dichiarava di non avere prove di accesso a modelli, dataset, dati di addestramento, traffico di inferenza o dati personali. La risposta: revoca delle credenziali interne compromesse, delle chiavi API dei clienti coinvolti e delle chiavi create dagli intrusi.

Secondo incidente (23–24 ottobre). Il 23 ottobre il fornitore cloud che ospitava le macchine di ricerca e sviluppo di Fireworks ha subito a sua volta un incidente. Il 24 ottobre l’attaccante ha usato quell’accesso per raggiungere le macchine di sviluppo di Fireworks ed eseguire un carico di lavoro non autorizzato, che ha toccato altri dati dei clienti. Fireworks dice di aver rilevato l’attività lo stesso giorno, di aver chiuso le vulnerabilità critiche note e di non aver più osservato, dal 25 ottobre, accessi riusciti alla piattaforma usata dai clienti. Il nome del fornitore cloud non è stato reso pubblico.

Da allora l’azienda ha revocato e sostituito credenziali e service account, chiuso i percorsi di rete non autorizzati, isolato i sistemi coinvolti e ristretto l’accesso allo storage e ai sistemi di analisi dei dati. L’indagine è affidata a Unit 42 di Palo Alto Networks.

Quali dati sono stati esposti

Secondo l’avviso, riportato in modo concorde dalle testate, i dati rientrano in tre gruppi:

  • metadati delle risorse: identificativi, nomi visualizzati, descrizioni, date di creazione;
  • fatturazione: indirizzi di fatturazione e spedizione, storico di fatture e pagamenti, saldo e consumo dei crediti. I numeri delle carte non sono coinvolti perché Fireworks non li conserva;
  • pesi dei modelli e dataset: per alcuni clienti, una parte di pesi incompleti e di dataset.

Secondo The Register, il CEO Lin Qiao ha dichiarato che gli attaccanti non sembrano interessati ai pesi e che la maggior parte dei download era parziale e interrotta. Fireworks non ha detto quanti clienti sono coinvolti. The Record, a differenza delle altre fonti, attribuisce già al primo incidente il furto di dati di account e di fatturazione oltre ai segreti. Secondo Bloomberg, citata da The Register, Fireworks sta valutando l’impatto con clienti come Cursor e Harvey: questo non significa che i loro dati siano stati sottratti.

Il caso Notion

Notion usava Fireworks per servire i modelli open-weight di Notion AI e per i job di classificazione della funzione Insights, che mostra agli amministratori come i team usano l’IA. La cronologia che emerge dalle fonti:

  • il 2 novembre Fireworks avvisa Notion di un dataset esposto che, secondo BleepingComputer, conteneva solo dati sintetici di test;
  • entro il 3 novembre Notion interrompe il traffico verso Fireworks, cancella i propri dati dai suoi sistemi e ferma gli addestramenti;
  • il 6 novembre Fireworks comunica che attori malevoli potrebbero aver avuto accesso a dati dei clienti (The Record) e l’8 novembre consegna a Notion il dataset coinvolto (BleepingComputer).

Il dataset conteneva trascrizioni di chat di Notion AI usate per Insights: input e output scritti nella chat, senza i risultati delle chiamate agli strumenti. Per la grande maggioranza dei workspace le chat sono «non attribuibili», cioè prive di autore e di workspace, ma il loro contenuto può comunque identificare chi scriveva. Notion ha disattivato Insights, non usa più Fireworks per i modelli open-weight e ricorda che il fornitore si era impegnato per contratto a non conservare i dati di Notion (zero data retention).

Tecniche e catena d’attacco

Le fonti non indicano tecniche MITRE ATT&CK. In base ai fatti dichiarati sono pertinenti T1199 (relazione di fiducia: l’accesso passa dal fornitore cloud), T1078.004 (account cloud validi, le credenziali interne del primo incidente), T1552 (credenziali non protette, i segreti nelle variabili d’ambiente) e T1530 (dati da storage cloud). Fireworks collega i due incidenti all’ondata di LLMjacking descritta a inizio novembre da Google Threat Intelligence Group e Mandiant.

Impatto per le aziende europee e italiane

Il punto non è solo Fireworks, ma la catena dei fornitori: un’azienda può non avere mai firmato con Fireworks e trovarsi coinvolta, come i clienti di Notion, perché un servizio SaaS usa un fornitore di inferenza che a sua volta usa un cloud provider. Chat e dati di fatturazione possono contenere dati personali: chi è titolare del trattamento deve valutare, con le informazioni ricevute dal fornitore, se si tratta di una violazione da notificare al Garante entro 72 ore (art. 33 GDPR). Per i soggetti NIS2 la sicurezza della catena di approvvigionamento è tra le misure obbligatorie: i fornitori di IA e i loro sub-fornitori vanno nella valutazione dei rischi come tutti gli altri.

Cosa fare subito

  1. Clienti Fireworks: verifica le comunicazioni ricevute, ruota chiavi API e token, soprattutto quelli passati come variabili d’ambiente a job di valutazione o fine-tuning, e controlla consumi e fatturazione.
  2. Clienti Notion: se il proprietario del workspace ha ricevuto l’avviso, usa «Security incident review» per esaminare le chat coinvolte e considera esposte, quindi da ruotare, password, chiavi API e credenziali incollate in Notion AI. Senza avviso, secondo Notion, non serve fare nulla.
  3. Mappa i fornitori di IA, diretti e indiretti: chiedi ai fornitori SaaS l’elenco dei sub-responsabili che elaborano prompt, chat e documenti.
  4. Niente segreti nei prompt e nelle variabili dei job: usa un secret manager, token di breve durata e chiavi limitate per ambito, con limiti di spesa e avvisi sul consumo.
  5. Valuta l’esposizione di dataset e modelli caricati presso fornitori di inferenza o fine-tuning: proprietà intellettuale e dati personali contenuti.
  6. Rivedi i contratti: conservazione dei dati, tempi di notifica degli incidenti, obblighi verso i sub-fornitori.

Come aiuta ARXDOME

ARX Expose segnala gli account aziendali coinvolti in violazioni e i servizi esposti su Internet, utile quando credenziali dell’azienda finiscono in un incidente di terzi. Sui server monitorati ARX Sentry raggruppa gli eventi di uso di credenziali e di modifica agli account, mentre ARX Horizon permette di interrogare le fonti di threat intelligence quando un fornitore pubblica indicatori di compromissione.

Ultimo aggiornamento:

Hai domande?

Parliamo delle esigenze della tua azienda, senza impegno.

Contattaci

Articoli correlati