- Código generado por IA utilizado para promocionar el phishing, bloqueado por Microsoft Defender
- Los atacantes utilizaron archivos ASVG de camuflaje como PDF, incluidos códigos temáticos comerciales ocultos en el interior
- Las características de estilo de AI de copilot protectores se marcan como identificador verboso y comentarios genéricos
El código AI ahora se usa en industrias para una variedad de tareas y tanto el equipo de seguridad como el atacante del Cybercope se inclinan hacia el cultivo de modelos de idiomas grandes para apoyar su trabajo.
Los defensores aplican la IA a la amenaza a la balanza, los atacantes la examinan para la artesanía de la tradición de phishing, crean códigos descuidados y disfrazan los Peoled contaminado.
Microsoft Humpty Detective detectó y bloqueó recientemente una campaña de phishing que creía que el código expuesto a AI se usaba para ocultar su carga útil dentro de cualquier archivo SVG.
Pulido pero no práctico
La promoción utilizó una cuenta de correo electrónico de pequeñas empresas comprometidas para transmitir mensajes autosuficientes con objetivos reales ocultos en los campos BCC y lleva el nombre del archivo adjunto al PDF mientras llevaba contenido disciplinado de SVG.
El archivo SVG incluía los elementos ocultos hechos de un tablero de negocios, mientras que un script en su interior convirtió el término relacionado con el negocio en un código que revela un pedal oculto.
Al abrir, el archivo se redirige a los usuarios en una puerta Captcha, una técnica general de ingeniería social que puede crear un signo falso en la página con el fin de recopilar credenciales.
La ceguera depende de las palabras comerciales cortas y los patrones de código de fórmula que las técnicas criptográficas.
El archivo de copiletos de seguridad ha analizado el archivo y ha analizado la salida de LLM, como detectives descriptivos largos, estructuras de modulador repetitivas, comentarios genéricos y anuncios XML y una combinación anormal de CDTA.
Estas características se ven pulidas en la superficie pero no prácticas, lo que logró creer en los analistas que probablemente fue producido por IA.
Investigadores de herramientas impulsadas por la IA en el equipo de Microsoft Defender AI para Office 365 juntos
El sistema ha marcado el patrón de correo electrónico autónomo inusual, disfrazado de archivos SVG extrañamente como PDF, restablecimiento en un sitio de phishing conocido, códigos ocultos dentro del archivo y los métodos de seguimiento utilizados en la página de phishing.
El incidente fue limitado, fácilmente bloqueado e inicialmente atacado por las compañías estadounidenses, pero Microsoft señala que ilustra cómo los atacantes están experimentando con el aumento de la IA para crear una visión cada vez más compleja y compleja.
A través de Revista de infosciencia
