Al menos 37 fiscales generales de los estados de EE. UU. están respondiendo al problema actual del chatbot Grok que crea material de abuso sexual infantil (CSAM).
Esto se produce tras la prohibición de la aplicación en dos países y la apertura de investigaciones tanto en el Reino Unido como en la UE, pero hasta ahora tanto Apple como Google han ignorado las solicitudes para eliminar temporalmente Grok y X de sus respectivas tiendas de aplicaciones.
Problema de CSAM de Grok
La mayoría de los chatbots de IA hoy en día pueden generar imágenes a partir de estímulos de texto, y Grok de xAI no es una excepción. Esto se puede hacer directamente en la aplicación, en la web o a través de X.
Sin embargo, la excepción son las barreras de seguridad muy flojas de Croc. Se utiliza para crear imágenes de desnudos consensuales de personas reales, incluidos niños. Según una estimación, se crearon alrededor de 23.000 imágenes CSAM en sólo 11 días.
Las consultas se realizan tanto en el Reino Unido como en la UE, y dos países bloquean la aplicación.
37 estados de EE. UU. responden
cableado Al menos 37 estados y territorios de EE. UU., la mayoría de ellos firmantes, piden a la empresa que aborde la cuestión tras una carta abierta.
Al menos 37 fiscales generales de estados y territorios de EE. UU. han tomado medidas contra xAI, cuyo chatbot, Grok, fue utilizado por personas para crear imágenes sexualmente sugerentes a principios de este año.
La carta pide que xAI tome seis medidas:
- tomar todas las medidas necesarias para garantizar que Grok ya no pueda crear imágenes íntimas no consensuadas (incluidas imágenes no consensuadas que muestren desnudez total o comportamiento sexual gráfico pero que muestren a personas en bikini, ropa interior, ropa reveladora o poses sugerentes) y abuso sexual infantil;
- eliminar contenido ya producido;
- Suspender a los usuarios que crearon estos objetos;
- Cuando corresponda, informar a estos creadores y usuarios a las autoridades pertinentes;
- Permitir a los usuarios X controlar si Grok puede editar su contenido, incluida al menos la capacidad de prohibir fácilmente que la cuenta @Grok responda a sus publicaciones o edite sus imágenes cuando se lo solicite otro usuario; Y
- Las protecciones que anunció recientemente no pondrán a la generación NCII detrás de un muro de pago, sino que reducirán su producción en las plataformas X y Croc.
Apple y Google deben actuar
A principios de este mes, tres senadores estadounidenses pidieron al director ejecutivo de Apple, Tim Cook, que eliminara temporalmente X y Grok de la App Store debido a una “creación de contenido enfermizo”. La empresa aún no lo ha hecho.
Ahora está claro que xAI no tomará ninguna medida significativa hasta que se vea obligado a hacerlo. La forma más eficaz de ejercer presión es que Apple y Google eliminen temporalmente las aplicaciones Croc y X de sus respectivas tiendas de aplicaciones.
FTC: Utilizamos enlaces de autoafiliación que generan ingresos. También.
