- ASCII de Google Jemini no solucionará los errores de tráfico, llamará al usuario como problemas de ingeniería social
- Los atacantes ocultan solicitudes contaminadas en mensajes de correo electrónico invisibles que se leen durante el resumen de Gemini
- La integración de Jemini con las aplicaciones del espacio de trabajo hace que sea arriesgado que se produzcan ataques de phishing ocultos que se activan rápidamente
El “ataque de contrabando ASCII” recientemente detectado no encontrará solución al equipo de inteligencia artificial de Google, afirma la agencia; no se trata de un problema de seguridad, sino de una estrategia de ingeniería social y, como tal, la responsabilidad recae en el último usuario.
Según Victor Markoploce, investigador de seguridad en firetail, quien mostró los riesgos que estos ataques presentaban para los usuarios de Genmini, pero obviamente la empresa lo despidió.
El contrabando ASCII es un tipo de ataque en el que los Cruks instan a su equipo de inteligencia artificial a realizar un comando contaminado que pone en riesgo su computadora y sus datos. La técnica consiste en “contrabandear” u ocultarse, actuando con un aviso a simple vista, por ejemplo, el texto dirigido a las personas detrás de la pantalla de IA desaparece.
Contrabando
En los primeros años de la IA, no era un problema, porque era necesario traer el equipo de IA del usuario y las indicaciones aparecían (o copiaban y pegaban) ellas mismas. Sin embargo, muchas cosas han cambiado desde entonces y muchas herramientas de inteligencia artificial ahora se están integrando con otras aplicaciones y plataformas.
Por ejemplo, Gemini ahora está integrado con Google Workplace, capaz de extraer datos de las hojas, crear texto en dox y leer correos electrónicos y resumir.
Este último punto es importante aquí. Como demostró Marcoplos, un actor de amenazas puede enviar un correo electrónico de phishing que parece completamente válido en la superficie.
Sin embargo, también viene con un mensaje contaminado en el fondo blanco con un mensaje contaminado escrito en fuente 0, para que el lector ni siquiera lo vea. Pero cuando la víctima le dice a Jemini que resuma el correo electrónico, el equipo lee el mensaje y responde.
Este mensaje puede mostrar un mensaje que dice “su computadora ha sido comprometida, llame a Google para reducir Google inmediatamente” o un mensaje similar, el estándar de las técnicas de phishing.
Lo que es más curioso, el mensaje puede obligar a diferentes agentes de inteligencia artificial a agotar los datos confidenciales de la bandeja de entrada. Todo lo que se necesita es una orden simple y gentil por parte del usuario para resumir el contenido del correo electrónico.
A través de Computadora parpadeante
Siga a Takerada en Google News Y Agregar como nuestras fuentes deseadas Para recibir noticias, reseñas y opiniones de nuestros expertos sobre sus feeds. ¡Asegúrate de hacer clic en el siguiente botón!
Y por supuesto que tú también puedes Sigue el ticket hasta tickra. Revisión, revisión, formato de video de unboxings y actualizaciones periódicas de nuestra parte. WhatsApp También
