Google dice que no solucionará este problema de seguridad potencialmente preocupante de Gemini
- Google no solucionará el problema de contrabando ASCII de Gemini, calificándolo de problema de ingeniería social del lado del usuario
- Los atacantes ocultan mensajes maliciosos en un texto de correo electrónico invisible que Gemini lee durante el resumen
- La integración de Gemini con las aplicaciones Workspace lo hace vulnerable a ataques de phishing ocultos activados por avisos
Un “ataque de contrabando ASCII” detectado recientemente no tendrá solución en GoogleLa herramienta de inteligencia artificial Gemini de ‘s, dijo la compañía, diciendo que no es un problema de seguridad sino más bien una táctica de ingeniería social y, como tal, la responsabilidad recae en el usuario final.
Esto es según Viktor Markopoulos, investigador de seguridad de FireTail, quien demostró los riesgos que estos ataques representan para los usuarios de Gemini pero aparentemente fue desestimado por la compañía.
El contrabando ASCII es un tipo de ataque en el que los delincuentes engañan a las víctimas para que soliciten a sus herramientas de inteligencia artificial un comando malicioso que pone en riesgo sus computadoras y datos. El truco funciona “contrabandeando” u ocultando el mensaje a plena vista, por ejemplo haciendo que la IA lea texto invisible para el ser humano detrás de la pantalla.
Indicaciones de contrabando
En los primeros años de la IA, esto no era un gran problema, porque el usuario necesitaba abrir la herramienta de IA y escribir (o copiar/pegar) el mensaje él mismo. Sin embargo, muchas cosas han cambiado desde entonces y muchas herramientas de inteligencia artificial ahora se están integrando con otras aplicaciones y plataformas.
Gemini, por ejemplo, ahora está integrado con Google Workplace y puede extraer datos de Sheets, generar texto en Docs y leer y resumir correos electrónicos.
Este último punto es crucial aquí. Como demostró Markopoulos, un actor de amenazas podría enviar un correo electrónico de phishing que, en apariencia, parece completamente legítimo.
Sin embargo, también viene con un aviso malicioso escrito en fuente 0, en blanco, sobre un fondo blanco, para que el lector ni siquiera lo vea. Pero cuando la víctima le pide a Gemini que resuma el correo electrónico, la herramienta también lee el mensaje y responde.
Ese mensaje podría ser mostrar un mensaje que diga “su computadora está comprometida, llame a Google para mitigar la amenaza de inmediato” o un mensaje similar, estándar en los trucos de phishing.
Lo que es aún más inquietante es que el aviso podría obligar a diferentes agentes de inteligencia artificial a extraer datos confidenciales de la bandeja de entrada. Todo lo que se necesita es un comando simple y benigno del usuario para resumir o leer el contenido del correo electrónico.
A través de pitidocomputadora
Siga TechRadar en Google News y agréganos como fuente preferida para recibir noticias, reseñas y opiniones de nuestros expertos en sus feeds. ¡Asegúrate de hacer clic en el botón Seguir!
Y por supuesto también puedes Siga TechRadar en TikTok para noticias, reseñas, unboxings en forma de video y reciba actualizaciones periódicas de nuestra parte en WhatsApp también.
