- La Unidad 42 advierte que GenAI permite sitios web de phishing dinámicos y personalizados
- Los LLM generan cargas útiles de JavaScript únicas, sin pasar por los métodos de detección tradicionales
- Los investigadores pidieron medidas de seguridad más estrictas, prevención del phishing y uso limitado de LLM en el lugar de trabajo.
Cuando surgió por primera vez la inteligencia artificial generativa (GenAI), sus primeros defensores hablaban de sitios web dinámicos: sitios que no estaban prediseñados ni desplegados, sino que se creaban en el acto para los visitantes en función de su ubicación, uso de palabras clave, hábitos de navegación, dispositivo utilizado, intención, etc.
La era de los sitios web estáticos aparentemente casi ha terminado y, en poco tiempo, el contenido que vemos en Internet será único y sólo será útil para nosotros.
Aunque ese sueño aún no se ha hecho realidad, el pionero de este enfoque es quizás el ciberdelincuente.
No exactamente teórico
Los investigadores de seguridad de la unidad 42 de Palo Alto Networks descubrieron que la técnica podría usarse fácilmente para phishing.
En pocas palabras, así es como funcionará:
Una víctima será objeto de phishing para que vea una página web aparentemente benigna. No contiene ningún código malicioso visible, pero una vez cargado, envía mensajes cuidadosamente elaborados a una API LLM válida. LLM proporciona código JavaScript (que es único y diferente para cada usuario), que se compila y ejecuta directamente en el navegador.
Como resultado, a las víctimas se les presenta una página de phishing personalizada y completamente funcional, que no entrega ninguna carga útil estática a través de la red que los investigadores puedan interceptar y analizar.
Aunque hoy en día el método es principalmente una prueba de concepto, no es del todo especulativo. La Unidad 42 no dijo haber observado tales ataques en la naturaleza, pero indicó que se estaban utilizando bloques de construcción.
Los LLM ya están desarrollando JavaScript ofuscado, aunque fuera de línea; El uso del tiempo de ejecución está en todas partes en máquinas no comprometidas; Las campañas de malware, ransomware y ciberespionaje respaldadas por LLM aumentan cada día.
Las páginas de phishing generadas dinámicamente son el futuro de las estafas, enfatizó la Unidad 42, pero agregó que la detección aún es posible con rastreadores avanzados basados en navegador.
“Los tutores deberían limitar el uso de servicios LLM no aprobados en el lugar de trabajo. Aunque esto no es una solución completa, puede servir como una importante medida preventiva”, agregaron.
“En última instancia, nuestro trabajo resalta la necesidad de contar con guardias de seguridad más fuertes en las plataformas LLM, ya que mostramos cómo una ingeniería cuidadosa y rápida puede eludir las protecciones existentes y permitir el uso malicioso”.
El mejor antivirus para todos los bolsillos
Siga TechRadar en Google News Y Agréganos como fuente preferida Recibe noticias, reseñas y opiniones de nuestros expertos en tu feed. ¡No olvides hacer clic en el botón de seguir!
Y por supuesto que puedes Siga TechRadar en TikTok Reciba nuestras actualizaciones periódicas en forma de noticias, reseñas, unboxing y videos. WhatsApp muy
