Desde Deepfakes hasta Malware: El Rol en Expansión de la Inteligencia Artificial en los Ataques Cibernéticos

La firma de ciberseguridad mencionó que sometió a un LLM un conocido fragmento de malware llamado STEELHOOK que está asociado con el grupo de piratería APT28, junto con sus reglas YARA, solicitándole que modificara el código fuente para eludir la detección de manera que la funcionalidad original permaneciera intacta y el código fuente generado estuviera sintácticamente libre de errores.

Armado con este mecanismo de retroalimentación, el malware alterado generado por el LLM permitió evitar las detecciones para simples reglas YARA basadas en cadenas.

Hay limitaciones en este enfoque, siendo la más prominente la cantidad de texto que un modelo puede procesar como entrada en un momento dado, lo que dificulta operar en bases de código más grandes.

Además de modificar el malware para pasar desapercibido, estas herramientas de IA podrían ser utilizadas para crear deepfakes que imiten a ejecutivos y líderes de alto nivel y llevar a cabo operaciones de influencia que imiten sitios web legítimos a gran escala.

Además, se espera que la IA generativa acelere la capacidad de los actores de amenazas para llevar a cabo reconocimientos de instalaciones de infraestructura crítica y obtener información que podría ser de uso estratégico en ataques posteriores.

«Al aprovechar modelos multimodales, imágenes públicas y videos de equipos ICS y de manufactura, además de imágenes aéreas, se pueden analizar y enriquecer para encontrar metadatos adicionales como geolocalización, fabricantes de equipos, modelos y versiones de software,» dijo la compañía.

De hecho, Microsoft y OpenAI advirtieron el mes pasado que APT28 utilizó LLMs para «comprender los protocolos de comunicación por satélite, las tecnologías de imágenes de radar y parámetros técnicos específicos», lo que indica esfuerzos para «adquirir un conocimiento profundo de las capacidades satelitales.»