Fireworks AI, breșă prin furnizorul cloud: date Notion expuse
A doua breșă la Fireworks AI: prin furnizorul cloud terț, atacatorii au obținut date de facturare, dataseturi și chaturi Notion AI.

Fireworks AI, platformă americană de inferență și fine-tuning pentru modele open-weight precum Llama, Mistral și Gemma, a publicat luni, 9 noiembrie, o actualizare a avizului său de securitate. Pe lângă incidentul descoperit pe 6 octombrie, la sfârșitul lui octombrie a suferit un al doilea, pornit de la un furnizor cloud terț care găzduia mașinile sale de cercetare și dezvoltare. Al doilea episod extinde mult datele afectate: metadatele resurselor, datele de facturare și, pentru unii clienți, părți din ponderile modelelor și din dataseturi. Printre clienții afectați se află Notion, care a confirmat expunerea unor transcrieri de chat Notion AI în mai puțin de 1% din spațiile de lucru.
Cele două incidente
Primul incident (octombrie). Pe 6 octombrie Fireworks a detectat folosirea neautorizată a unor credențiale interne și a anunțat-o pe 9 octombrie. Atacatorii citiseră variabilele de mediu ale joburilor de evaluare, în care chei API și tokenuri ale unui număr limitat de conturi de clienți erau salvate ca secrete. Fireworks a legat atacul de un grup infracțional cu motivație financiară care revinde accesul la modelele de limbaj prin gateway-uri ilicite, așa-numitul LLMjacking. La acel moment, relatează The Register, compania declara că nu are dovezi de acces la modele, dataseturi, date de antrenament, trafic de inferență sau date personale. Răspunsul: revocarea credențialelor interne compromise, a cheilor API ale clienților afectați și a cheilor create de intruși.
Al doilea incident (23–24 octombrie). Pe 23 octombrie furnizorul cloud care găzduia mașinile de cercetare și dezvoltare ale Fireworks a suferit, la rândul său, un incident. Pe 24 octombrie atacatorul a folosit acel acces pentru a ajunge la mașinile de dezvoltare ale Fireworks și a rula o sarcină de lucru neautorizată, care a afectat alte date ale clienților. Fireworks spune că a detectat activitatea în aceeași zi, a închis vulnerabilitățile critice cunoscute și că din 25 octombrie nu a mai observat accesări reușite ale platformei folosite de clienți. Numele furnizorului cloud nu a fost făcut public.
De atunci compania a revocat și înlocuit credențiale și conturi de serviciu, a închis căile de rețea neautorizate, a izolat sistemele afectate și a restrâns accesul la stocare și la sistemele de analiză a datelor. Investigația este condusă de Unit 42 de la Palo Alto Networks.
Ce date au fost expuse
Potrivit avizului, relatat în mod concordant de publicații, datele se împart în trei grupe:
- metadatele resurselor: identificatori, nume afișate, descrieri, date de creare;
- facturare: adrese de facturare și de livrare, istoricul facturilor și al plăților, sold și consum de credite. Numerele cardurilor nu sunt afectate, deoarece Fireworks nu le stochează;
- ponderile modelelor și dataseturi: pentru unii clienți, o parte din ponderi incomplete și din dataseturi.
Potrivit The Register, CEO-ul Lin Qiao a declarat că atacatorii nu par interesați de ponderi și că majoritatea descărcărilor au fost parțiale și întrerupte. Fireworks nu a spus câți clienți sunt afectați. Spre deosebire de celelalte surse, The Record atribuie deja primului incident furtul datelor de cont și de facturare, pe lângă secrete. Potrivit Bloomberg, citată de The Register, Fireworks evaluează impactul împreună cu clienți precum Cursor și Harvey: asta nu înseamnă că datele lor au fost sustrase.
Cazul Notion
Notion folosea Fireworks pentru a servi modelele open-weight din Notion AI și pentru joburile de clasificare ale funcției Insights, care le arată administratorilor cum folosesc echipele IA. Cronologia care reiese din surse:
- pe 2 noiembrie Fireworks avertizează Notion despre un dataset expus care, potrivit BleepingComputer, conținea doar date sintetice de test;
- până pe 3 noiembrie Notion oprește traficul către Fireworks, își șterge datele din sistemele furnizorului și oprește antrenările;
- pe 6 noiembrie Fireworks comunică faptul că actori rău intenționați ar fi putut accesa date ale clienților (The Record), iar pe 8 noiembrie îi predă lui Notion datasetul afectat (BleepingComputer).
Datasetul conținea transcrieri de chat Notion AI folosite pentru Insights: intrările și ieșirile scrise în chat, fără rezultatele apelurilor către instrumente. Pentru marea majoritate a spațiilor de lucru, chaturile sunt „neatribuibile”, adică fără autor și fără spațiu de lucru, dar conținutul lor poate totuși identifica persoana care scria. Notion a dezactivat Insights, nu mai folosește Fireworks pentru modelele open-weight și amintește că furnizorul se angajase prin contract să nu păstreze datele Notion (zero data retention).
Tehnici și lanțul de atac
Sursele nu indică tehnici MITRE ATT&CK. Pe baza faptelor declarate sunt relevante T1199 (relație de încredere: accesul trece prin furnizorul cloud), T1078.004 (conturi cloud valide, credențialele interne din primul incident), T1552 (credențiale neprotejate, secretele din variabilele de mediu) și T1530 (date din stocarea cloud). Fireworks leagă cele două incidente de valul de LLMjacking descris la începutul lui noiembrie de Google Threat Intelligence Group și Mandiant.
Impactul pentru companiile europene și italiene
Problema nu este doar Fireworks, ci lanțul de furnizori: o companie poate să nu fi semnat niciodată cu Fireworks și totuși să fie implicată, ca și clienții Notion, pentru că un serviciu SaaS folosește un furnizor de inferență care, la rândul lui, folosește un furnizor cloud. Chaturile și datele de facturare pot conține date personale: operatorul de date trebuie să evalueze, cu informațiile primite de la furnizor, dacă este o încălcare ce trebuie notificată autorității de supraveghere în 72 de ore (art. 33 GDPR). Pentru entitățile NIS2, securitatea lanțului de aprovizionare este una dintre măsurile obligatorii: furnizorii de IA și subfurnizorii lor intră în evaluarea riscurilor ca oricare alt furnizor.
Ce să faci acum
- Clienți Fireworks: verifică notificările primite, rotește cheile API și tokenurile, mai ales cele transmise ca variabile de mediu joburilor de evaluare sau fine-tuning, și controlează consumul și facturarea.
- Clienți Notion: dacă proprietarul spațiului de lucru a primit notificarea, folosește „Security incident review” pentru a examina chaturile afectate și consideră expuse, deci de rotit, parolele, cheile API și credențialele lipite în Notion AI. Fără notificare, potrivit Notion, nu trebuie făcut nimic.
- Cartografiază furnizorii de IA, direcți și indirecți: cere furnizorilor SaaS lista subîmputerniciților care prelucrează prompturi, chaturi și documente.
- Fără secrete în prompturi și în variabilele joburilor: folosește un manager de secrete, tokenuri cu durată scurtă și chei limitate ca domeniu, cu limite de cheltuieli și alerte de consum.
- Evaluează expunerea dataseturilor și a modelelor încărcate la furnizori de inferență sau fine-tuning: proprietate intelectuală și eventualele date personale conținute.
- Revizuiește contractele: păstrarea datelor, termenele de notificare a incidentelor, obligațiile față de subfurnizori.
Cum ajută ARXDOME
ARX Expose semnalează conturile companiei implicate în breșe și serviciile expuse pe Internet, util atunci când credențiale ale companiei ajung într-un incident al unei terțe părți. Pe serverele monitorizate, ARX Sentry grupează evenimentele de folosire a credențialelor și de modificare a conturilor, iar ARX Horizon îți permite să interoghezi sursele de threat intelligence atunci când un furnizor publică indicatori de compromitere.
Ultima actualizare:


