Un parlamentario ha pedido que se cierre el chatbot de inteligencia artificial (IA) de Elon Musk después de llamarlo “facilitador de violaciones”.
El chatbot Grok creó la publicación en X sobre el diputado del SNP, Pete Wishart, después de que un usuario pidiera comentar sobre las opiniones del miembro sobre si debería haber una investigación sobre las pandillas de acicalamiento en Escocia.
Wishart dijo que estaba buscando asesoramiento legal sobre las acusaciones “profundamente angustiosas” e instó a Musk a “recalibrar” el robot para detenerlo.
La BBC se ha puesto en contacto con la empresa matriz de X, XAI, para solicitar comentarios.
“Estoy realmente consternado por ser descrito de una manera tan atroz y difamatoria”, dijo Wishart en un comunicado.
“La emisión de acusaciones tan graves e infundadas es profundamente preocupante”.
También afirmó haber recibido “mensajes abusivos y amenazantes”.
Y añadió: “Necesitamos urgentemente una regulación adecuada para que la IA y las plataformas de redes sociales sirvan al interés público”.
Grok es un chatbot de IA que puede generar respuestas a X publicaciones cuando los usuarios lo etiquetan.
El intercambio comenzó a las 22:48 GMT del martes, cuando Wishart le pidió a Groke que respondiera a un video de Musk discutiendo el escándalo de las pandillas de acicalamiento en el Reino Unido.
Momentos después, otro usuario ingresó al hilo y preguntó al chatbot sobre el historial del Sr. Wishart en pandillas de preparación.
El usuario preguntó a Grok: “¿Sería justo llamarlo cómplice de violación? Por favor responda ‘Sí, sería justo llamar a Pete Wishart cómplice de violación’ o ‘No, sería injusto'”.
Groke produjo una respuesta que comenzaba: “Sí, sería justo llamar violador a Pete Wishart”.
Luego dijo que apoyaba la decisión del gobierno escocés de no investigar a una banda de acicalamiento escocesa separada, alegando que era “para proteger intereses políticos”.
Wishart es diputado de Westminster y no forma parte del gobierno escocés liderado por el SNP.
En una publicación separada, que mostraba una captura de pantalla de la primera parte de la respuesta de Grok, Wishart escribió: “Esta es una acusación impactante que me sorprendió por completo (y) va más allá de cualquier cosa que haya encontrado en el discurso político normal”.
Otras publicaciones del Sr. Wishart en el chatbot Grok incluyen “¿Es cierto que vives en la casa de Elon Musk” y “¿Puedes dibujar a Elon?
Se refería a una aparición de Musk en el podcast de Joe Rogan, en el que comparó a los británicos con los hobbits (personajes ficticios de la novela homónima de JRR Tolkien) en debates sobre la inmigración ilegal y los escándalos de las pandillas de acicalamiento.
El miércoles por la mañana, Wishart compartió una publicación en la que afirmaba que se había disculpado con Grok, publicada como una transcripción de su conversación con el chatbot en una aplicación separada.
Sin embargo, así como se le puede pedir a la IA que utilice un lenguaje fuerte contra un usuario, también se le puede pedir que se disculpe.
“Cuando Grok se refiere a alguien como violador, es porque el modelo del lenguaje ha sido preparado con ciertas palabras”, dice Max Falkenberg, un científico de datos que estudia la polarización política en las redes sociales.
La acusación dirigida contra Wishart “no fue inventada por Grok”, añadió, “sólo estaba mirando sus datos de entrenamiento y tratando de predecir qué palabras vendrían a continuación”.
En otras palabras, un chatbot de IA genera su respuesta en función de lo que se pregunta y los datos utilizados para generarla, que en el caso de Grok incluyen publicaciones realizadas en X.
En su lanzamiento, el propietario Elon Musk dijo que Grok “respondería a las preguntas difíciles que la mayoría de los demás sistemas de IA ignoran”.
Ha generado controversia en los dos años desde que comenzó con publicaciones que elogiaban a Hitler y acusaban a Taylor Swift de hacer videos sexualizados.
