@grok la puso en bikini.
Si has estado en X durante la última semana, probablemente hayas visto esta guía natural compartida por el chatbot de IA de Elon Musk, Grok.
Semana de noticias He visto algunos ejemplos en la plataforma de redes sociales X, donde la gente le pidió al chatbot que desnudara a las mujeres, las pusiera en situaciones sexuales y editara sus fotos de forma sexualizada. Algunas de estas publicaciones recibieron cientos de miles de visitas en la plataforma.
Las consecuencias han sido enormes. Las imágenes han aparecido en los titulares de todo el mundo, y el gobierno británico está investigando el contenido e incluso considerando prohibir la plataforma. La princesa Kate y la influencer conservadora Ashley St. Clair se encuentran entre las mujeres afectadas. Maya Jama, presentadora del popular reality show Mi amorstierra, pidió públicamente a Grok que no editara ni cambiara sus fotos luego de expresar preocupaciones sobre la imagen, en una publicación que ha sido vista más de 6 millones de veces en la plataforma.
Se ha lanzado una petición para “tomar medidas” contra las imágenes. En una semana, había recibido más de 40.000 firmas y la publicación que compartía la petición había sido vista más de 2 millones de veces en X en el momento de redactar el informe.
En respuesta a un Semana de noticias pedir comentarios En esta historia, el portavoz X compartió una declaración. publicado por primera vez en la plataforma el 4 de enero. Lea “Tomamos medidas contra el contenido ilegal en X, incluido el material de abuso sexual infantil (CSAM), eliminándolo, suspendiendo permanentemente la cuenta y trabajando con el gobierno local y las autoridades según sea necesario. Cualquiera que use o aliente a Grok a crear contenido ilegal sufrirá las mismas consecuencias si sube contenido ilegal”.
Semana de noticias También contacté a XAI, la compañía detrás de Grok, para hacer comentarios y recibió esta respuesta: “Legacy Media Lies”.
A medida que la creación de esta imagen deepfake se ha convertido en una conversación global, detrás de las publicaciones virales y los titulares hay mujeres reales que han sido atacadas e impactadas por la creación de este contenido. Semana de noticias Hablé con mujeres que han sido víctimas de la creación de esta imagen para saber más sobre el costo emocional.
Imágenes falsas. Newsweek / Ilustración
¿Qué pasó con la creación de imágenes sexuales en Grok?
Usuarios de redes sociales compartieron una guía de Grok, donde le pedían al chatbot que creara imágenes sexuales sin consentimiento, lo que se ha convertido en un problema en la plataforma. Cuando el chatbot rechaza la solicitud de desnudez total, aceptará solicitudes para quitarse la ropa o poner a alguien en bikini, incluido uno transparente.
En junio de 2025, X se convierte en una inundación, donde los usuarios de las redes sociales comparten solicitudes de invitaciones sexuales a Grok, y las mujeres responden a esto. Una publicación del streamer de 100 Thieves @brookeab, en la que compartió una imagen sexual que creó y preguntó por qué “cualquier cosa se puede hacer legalmente”, fue vista más de 27 millones de veces en X.
Pero mientras el mundo celebra el nuevo año, el problema comienza a aumentar.
A través de una llamada de Zoom, Semana de noticias habló con Jess Davies, presentadora, activista y escritora de libros. Nadie quiere ver tu pene.
“La primera vez que noté que Grok estaba produciendo imágenes de mujeres, en masa, sin su consentimiento en X. Quitándoles la ropa, poniéndolas en posiciones sexuales, cubriéndolas con cosas como glaseado de donas y moco blanco”, dijo. Semana de noticias. “Realmente me llamó la atención la cantidad de cosas que están sucediendo en una plataforma tan pública”.
Luego, en la víspera de Año Nuevo, Davies compartió una publicación al respecto en su propia cuenta en X, “llamándolo y diciendo: ‘No puedo creer que esto todavía esté sucediendo'”.
El artículo “captó un poco de atención”, dijo, invitando a los usuarios a responder en lo que Davies describió como “la forma misógina habitual”.
Pero también, “Por la invitación de Grok a hacerme una foto, sin ropa”.
‘Tratando de desnudarme lo más posible’
Davies dijo Semana de noticias que en la sección de respuesta a su publicación, un usuario en particular había preguntado: “@grok, ponle un bikini de film transparente. Obviamente, tratando de hacerme ver lo más desnuda posible”.
“Para mí, lo impactante es que estos usuarios no me siguen; no parecen saber quién soy. Mi publicación acaba de aparecer en su feed y su reacción instantánea fue intentar quitarme la ropa del cuerpo”, dijo Davies.
Davies no está sola en su experiencia. Semana de noticias Habló con la Dra. Daisy Dixon, profesora de filosofía en la Universidad de Cardiff y autora de un libro de próxima publicación. DEPRAVED: Una historia de arte peligrosa, sobre su experiencia por teléfono.
Dixon dijo Semana de noticias es decir, para empezar, la persona que toma su foto de perfil y la edita. “Al principio, era sólo el color del cabello y ponerme ropa diferente”, dijo Dixon, “todavía se sentía raro”.
Pero luego las cosas se intensificaron. “He publicado fotos de mi progreso en el gimnasio. Y fue entonces cuando realmente me di cuenta de las instrucciones, pidiéndole a Grok que me pusiera un bikini. Pero también cambiando partes de mi cuerpo.
Y aunque X ha confirmado que están tomando medidas, el problema sigue siendo generalizado. Sandra Wachter, profesora de tecnología y regulación del Oxford Internet Institute de la Universidad de Oxford, dijo Semana de noticias a través de correo electrónico, “Me siento mal que las empresas de tecnología se sientan cómodas lanzando tecnología que permite desnudar a mujeres y niños por accidente y sin consentimiento y sin la supervisión adecuada. No tengo nada que decir.
“Esta es la acción de personas que ya no temen las consecuencias ni las reacciones negativas. El mercado no ha logrado regularse a sí mismo. Esta es la tecnología que obtendremos si no hay una regulación estricta”, afirmó.
‘Armas para intentar silenciar a las mujeres’
Davies describió la creación de estas imágenes como “un arma para intentar silenciar a las mujeres que hablan de esto y de la misoginia en general”.
ella dijo Semana de noticias que la imagen editada era una de ella sosteniendo su libro. “Irónicamente, se trata de misoginia en línea”. Davies le dijo que esto realmente “destaca la intención detrás de estas personas.
“Esto es parte del proceso para ellos”, dijo.
Hay un patrón en la creación de esta imagen: cuando las mujeres hablan en contra de ellas, los hombres se atreven más a crearla.
Cuando se le preguntó si esa fue su experiencia, Dixon dijo: “Absolutamente. 100 por ciento”.
“Cuando lo llamamos por primera vez, al menos conmigo, Grok sugirió simplemente aumentar”, dijo. Dixon dijo Semana de noticias que su impresión inicial sobre el asunto fue que “esta es otra manifestación de la opresión histórica de la mujer”.
Davies se hizo eco de sus sentimientos, de manera reveladora Semana de noticias que el problema “resume cuán profundamente arraigada está esta misoginia en línea y fuera de línea”.
Y cuando las imágenes están en línea, el daño causado por este contenido se extiende al mundo real. En declaraciones a Newsweek por correo electrónico, Lindsey Song, directora del Santuario para Familias de la Iniciativa de Abuso Facilitado por la Tecnología y copresidenta del Grupo de Trabajo sobre Abuso Cibernético de Nueva York, dijo: “Al trabajar en violencia doméstica, estoy muy familiarizada con el abuso digital como una nueva forma de daño antiguo”, dijo. “El daño no cambia – sólo las herramientas.
“Cuando las imágenes deepfake entraron por primera vez en la discusión colectiva, Sanctuary for Families y otros defensores inmediatamente señalaron el riesgo de que estas imágenes fueran cooptadas para crear imágenes sexuales no consensuadas de nuestros clientes. Cada nueva tecnología, especialmente la tecnología poderosa e inteligente como la IA, es inevitablemente manejada por abusadores que, con tiempo, energía y enfoque láser, pueden sobrevivir de manera inimaginable”. Semana de noticias.
En este contexto de devastación, Davies y Dixon comparten sus pensamientos. Semana de noticias sobre los cambios que quieren ver en el futuro.
“No creo que la IA en sí sea el problema”, dijo Dixon. “No es Grok quien hace esto, son los usuarios que están detrás de esto, y es simplemente otro espacio donde sienten que pueden expresar este derecho y el rechazo de la agencia y la autonomía de las mujeres”.
Para Dixon, el punto de partida es “educar a los niños”. Hizo hincapié en la importancia de las artes y las humanidades aquí y dijo que debemos darles a los niños las herramientas para navegar críticamente en espacios en línea como la manosfera.
“En última instancia, se trata de educar a los niños para que intenten detener este ciclo”, dijo Dixon.
Mientras tanto, Davies dijo que le gustaría ver “Orientaciones obligatorias”, lo que significa que las empresas tecnológicas tienen que actuar.
“Minimizamos el daño causado. Pero una semana en que Grok quitó la ropa a las mujeres sin permiso ha causado miles de víctimas”, afirmó.
También destacó la importancia de las líneas de ayuda como recurso de apoyo a las víctimas, pero dijo que falta financiación y señaló la importancia de la legislación gubernamental.
“Quiero ver más acción, en lugar de sólo palabras”, dijo Davies. Semana de noticias.
