Todos los artículos

Noticias10 de noviembre de 20266 min de lectura

Brecha en Fireworks AI vía un proveedor cloud: datos de Notion

Segunda brecha en Fireworks AI: a través de un proveedor cloud externo, los atacantes obtuvieron facturación, datasets y chats de Notion AI.

Nube estilizada cerrada con un gran candado con la palabra Security

Fireworks AI, plataforma estadounidense de inferencia y fine-tuning para modelos open-weight como Llama, Mistral y Gemma, publicó el lunes 9 de noviembre una actualización de su aviso de seguridad. Además del incidente descubierto el 6 de octubre, a finales de octubre sufrió un segundo, que partió de un proveedor cloud externo que alojaba sus máquinas de investigación y desarrollo. El segundo episodio amplía mucho los datos afectados: metadatos de los recursos, datos de facturación y, para algunos clientes, partes de pesos de modelos y datasets. Entre los clientes afectados está Notion, que confirmó la exposición de transcripciones de chats de Notion AI en menos del 1% de los espacios de trabajo.

Los dos incidentes

Primer incidente (octubre). El 6 de octubre Fireworks detectó el uso no autorizado de credenciales internas y lo comunicó el 9 de octubre. Los atacantes habían leído las variables de entorno de los trabajos de evaluación, donde se guardaban como secretos claves API y tokens de un número limitado de cuentas de clientes. Fireworks relacionó el ataque con un grupo criminal con motivación económica que revende el acceso a modelos de lenguaje a través de pasarelas ilícitas, el llamado LLMjacking. En aquel momento, según The Register, la empresa afirmaba no tener pruebas de acceso a modelos, datasets, datos de entrenamiento, tráfico de inferencia ni datos personales. La respuesta: revocación de las credenciales internas comprometidas, de las claves API de los clientes afectados y de las claves creadas por los intrusos.

Segundo incidente (23–24 de octubre). El 23 de octubre el proveedor cloud que alojaba las máquinas de investigación y desarrollo de Fireworks sufrió a su vez un incidente. El 24 de octubre el atacante usó ese acceso para llegar a las máquinas de desarrollo de Fireworks y ejecutar una carga de trabajo no autorizada, que afectó a otros datos de clientes. Fireworks dice que detectó la actividad el mismo día, cerró las vulnerabilidades críticas conocidas y que desde el 25 de octubre no ha observado más accesos con éxito a la plataforma que usan los clientes. El nombre del proveedor cloud no se ha hecho público.

Desde entonces la empresa ha revocado y sustituido credenciales y cuentas de servicio, cerrado rutas de red no autorizadas, aislado los sistemas afectados y restringido el acceso al almacenamiento y a los sistemas de análisis de datos. La investigación está en manos de Unit 42 de Palo Alto Networks.

Qué datos quedaron expuestos

Según el aviso, recogido de forma coincidente por los medios, los datos se dividen en tres grupos:

  • metadatos de los recursos: identificadores, nombres visibles, descripciones, fechas de creación;
  • facturación: direcciones de facturación y envío, historial de facturas y pagos, saldo y consumo de créditos. Los números de tarjeta no están afectados porque Fireworks no los guarda;
  • pesos de modelos y datasets: para algunos clientes, una parte de pesos incompletos y de datasets.

Según The Register, el CEO Lin Qiao declaró que los atacantes no parecen interesados en los pesos y que la mayoría de las descargas fueron parciales e interrumpidas. Fireworks no ha dicho cuántos clientes están afectados. The Record, a diferencia de las demás fuentes, atribuye ya al primer incidente el robo de datos de cuenta y de facturación además de los secretos. Según Bloomberg, citada por The Register, Fireworks está evaluando el impacto con clientes como Cursor y Harvey: esto no significa que sus datos hayan sido sustraídos.

El caso Notion

Notion usaba Fireworks para servir los modelos open-weight de Notion AI y para los trabajos de clasificación de la función Insights, que muestra a los administradores cómo usan la IA sus equipos. La cronología que surge de las fuentes:

  • el 2 de noviembre Fireworks avisa a Notion de un dataset expuesto que, según BleepingComputer, contenía solo datos sintéticos de prueba;
  • antes del 3 de noviembre Notion corta el tráfico hacia Fireworks, borra sus datos de los sistemas del proveedor y detiene los entrenamientos;
  • el 6 de noviembre Fireworks comunica que actores maliciosos podrían haber accedido a datos de clientes (The Record) y el 8 de noviembre entrega a Notion el dataset afectado (BleepingComputer).

El dataset contenía transcripciones de chats de Notion AI usadas para Insights: entradas y salidas escritas en el chat, sin los resultados de las llamadas a herramientas. Para la gran mayoría de los espacios de trabajo los chats son «no atribuibles», es decir, sin autor ni espacio de trabajo, pero su contenido puede identificar igualmente a quien escribía. Notion ha desactivado Insights, ya no usa Fireworks para los modelos open-weight y recuerda que el proveedor se había comprometido por contrato a no conservar los datos de Notion (zero data retention).

Técnicas y cadena de ataque

Las fuentes no indican técnicas MITRE ATT&CK. Según los hechos declarados son pertinentes T1199 (relación de confianza: el acceso pasa por el proveedor cloud), T1078.004 (cuentas cloud válidas, las credenciales internas del primer incidente), T1552 (credenciales no protegidas, los secretos en las variables de entorno) y T1530 (datos de almacenamiento cloud). Fireworks relaciona los dos incidentes con la ola de LLMjacking descrita a principios de noviembre por Google Threat Intelligence Group y Mandiant.

Impacto para las empresas europeas e italianas

La cuestión no es solo Fireworks, sino la cadena de proveedores: una empresa puede no haber firmado nunca con Fireworks y verse afectada, como los clientes de Notion, porque un servicio SaaS usa un proveedor de inferencia que a su vez usa un proveedor cloud. Los chats y los datos de facturación pueden contener datos personales: el responsable del tratamiento debe evaluar, con la información recibida del proveedor, si se trata de una violación que hay que notificar a la autoridad de control en 72 horas (art. 33 RGPD). Para las entidades sujetas a NIS2, la seguridad de la cadena de suministro es una de las medidas obligatorias: los proveedores de IA y sus subproveedores entran en la evaluación de riesgos como cualquier otro.

Qué hacer ahora

  1. Clientes de Fireworks: revisa los avisos recibidos, rota claves API y tokens, sobre todo los pasados como variables de entorno a trabajos de evaluación o fine-tuning, y controla consumos y facturación.
  2. Clientes de Notion: si el propietario del espacio de trabajo recibió el aviso, usa «Security incident review» para examinar los chats afectados y considera expuestas, y por tanto rota, las contraseñas, claves API y credenciales pegadas en Notion AI. Sin aviso, según Notion, no hace falta hacer nada.
  3. Mapea tus proveedores de IA, directos e indirectos: pide a los proveedores SaaS la lista de subencargados que procesan prompts, chats y documentos.
  4. Nada de secretos en los prompts ni en las variables de los trabajos: usa un gestor de secretos, tokens de corta duración y claves limitadas por ámbito, con límites de gasto y alertas de consumo.
  5. Evalúa la exposición de datasets y modelos subidos a proveedores de inferencia o fine-tuning: propiedad intelectual y datos personales que contengan.
  6. Revisa los contratos: conservación de datos, plazos de notificación de incidentes, obligaciones hacia los subproveedores.

Cómo ayuda ARXDOME

ARX Expose señala las cuentas de la empresa implicadas en filtraciones y los servicios expuestos en Internet, algo útil cuando credenciales de la empresa acaban en un incidente de terceros. En los servidores monitorizados, ARX Sentry agrupa los eventos de uso de credenciales y de cambios en las cuentas, mientras que ARX Horizon permite consultar las fuentes de threat intelligence cuando un proveedor publica indicadores de compromiso.

Última actualización:

¿Tienes preguntas?

Hablemos de las necesidades de tu empresa, sin compromiso.

Contáctanos

Artículos relacionados