Factory, una startup con sede en San Francisco, lo dijo interrumpió un ataque por al menos un grupo de amenazas vinculado al estado que intentó secuestrar su plataforma de desarrollo de software para usarla en una operación global de ciberfraude.
La compañía dijo que los atacantes, algunos de los cuales estaban vinculados a actores estatales con sede en China, utilizaron agentes de codificación basados en inteligencia artificial para mantener su infraestructura y realizar ajustes en tiempo real a las defensas cibernéticas de Factory.
Factory dijo que el objetivo aparente del ataque era encadenar el uso de múltiples productos de inteligencia artificial y luego revender el acceso como parte de una operación más amplia.
«Los atacantes intentaron explotar el acceso de nivel gratuito y las vías de incorporación a través de múltiples proveedores de IA, incluido Factory, para montar una operación externa de fraude y cibercrimen a gran escala», dijo el CTO de Factory, Eno Reyes, a Cybersecurity Dive. «Su objetivo era reutilizar plataformas de IA como la nuestra como nodos de computación y herramientas dentro de una malla más amplia de uso de modelos 'no autorizados'».
Factory dijo que un fuerte porcentaje del volumen provino de centros de datos y proveedores de servicios de Internet en China, Rusia y el sudeste asiático.
El ataque en sí se detectó por primera vez el 11 de octubre y duró varios días. La compañía examinó registros que mostraban durante un período de tres días que miles de organizaciones estaban usando su producto Droid de maneras que no coincidían con los patrones habituales de los clientes.
Durante la investigación, la empresa descubrió canales de Telegram que anunciaban acceso gratuito o con descuento a asistentes de codificación de IA premium. Además, los actores de amenazas ofrecieron acceso a investigaciones de vulnerabilidades en objetivos de terceros y crearon recursos para delitos cibernéticos.
El ataque coincidió con un divulgación por Anthropic sobre una sofisticada campaña de espionaje basada principalmente en infraestructura de inteligencia artificial.
Factory dijo que ha compartido sus hallazgos con agencias de seguridad y autoridades reguladoras relevantes.
James Plouffe, analista principal de Forrester, dijo que el incidente de Cybersecurity Dive the Factory y los ataques Anthropic pueden subrayar un par de objetivos para los adversarios: “Para demostrar una solución viable [proof of concept] de la infraestructura de ataque impulsada por IA y compararla con sus propias capacidades”.
Además, dijo Plouffe, esto permite a los adversarios «sondear las capacidades de detección y respuesta de las propias empresas fronterizas de IA».
Fuente