La Comisión Europea ha abierto una investigación contra la empresa tecnológica estadounidense X por su chatbot de inteligencia artificial Grok, después de que creara imágenes sexuales de mujeres y niños.
“Los deepfakes sexuales no consentidos de mujeres y niños son una forma violenta e inaceptable de degradación”, afirmó el lunes la vicepresidenta de la Comisión de la UE, Henna Virkkunen.
La investigación investigará si X ha cumplido con sus obligaciones según la legislación de la UE, incluida la obligación de “evaluar y mitigar diligentemente los riesgos sistémicos”, escribió en un comunicado la comisión, que actúa como organismo de control digital de la UE.
Conozca las novedades con la aplicación 7NEWS: Descárguela ahora
“Esto incluye los riesgos asociados con la distribución de contenido ilegal en la UE, como imágenes sexualmente explícitas manipuladas, incluido contenido que puede constituir material de abuso sexual infantil”, dijo.
“Este riesgo parece haberse materializado, exponiendo a los ciudadanos de la UE a graves daños”.
La plataforma de redes sociales de Elon Musk ha sido criticada en las últimas semanas después de que Grok permitiera a los usuarios reemplazar digitalmente la ropa de mujer con bikinis y, en algunos casos, crear imágenes sexualizadas de menores.
Después de una prolongada indignación internacional, X introdujo varias restricciones a mediados de enero.
Esto incluye evitar que Grok “habilite la edición de imágenes de personas reales con ropa reveladora como bikinis” y limitar la función de creación de imágenes de IA del chatbot a los clientes que pagan, dijo X en un comunicado.
La Comisión destacó que la apertura de la investigación no prejuzga el resultado.
El regulador de medios británico Ofcom también lanzó una investigación oficial sobre la plataforma en línea de Musk a principios de enero por imágenes sexuales creadas por Grok.
El primer ministro británico, Keir Starmer, calificó las imágenes generadas por IA de “absolutamente aterradoras”.
Las autoridades de Francia también han estado investigando a Grok desde el año pasado.
La investigación original gira en torno al presunto cambio de algoritmo en la red social para dar más atención a contenidos de extrema derecha. Se han agregado nuevas acusaciones de negación del Holocausto e imágenes sexuales.
Grok ha sido prohibido en Indonesia y Malasia.
El lunes, Bruselas también anunció una extensión para una investigación separada sobre X que se abrió en diciembre de 2023.
La comisión ha estado trabajando para evaluar si el sistema de recomendación de la plataforma, el algoritmo que muestra contenido a los usuarios, “ha sido evaluado y mitigado todos los riesgos sistémicos” bajo el bloque de la Ley de Servicios Digitales (DSA).
La investigación actual también cubre “el impacto del cambio recientemente anunciado a un sistema de recomendación basado en Grok”, según la comisión.
