En los últimos meses, se han publicado numerosos casos donde la interacción con los chatbots de IA ha ido a los eventos de Hyoyer, Lost Life, Traaty Trauma y Psychosis. Los expertos sugieren que los usuarios jóvenes pueden ser especialmente débiles, especialmente cuando están pasando por una agitación sensible. Chatzipt-Maker Open ha dicho que pronto advertirá a los padres sobre este comportamiento nacional.
¿Qué está cambiando?
Hace unos días, el Abierto estaba planeado para crear el control de los padres para que los padres supieran cómo sus hijos interactuaban con Chatzpt y cuándo pensaron que eran apropiados. Ahora, la compañía ha anunciado un plan para crear un sistema de advertencia para informar a los padres preocupados.
Open dice que Chatzept identifica que su sala adolescente está pasando por “un momento de intensa crisis”, los padres recibirán una advertencia. Esto funcionará cuando los padres vincularon su cuenta de chatzipt con el sistema de invitación por correo electrónico con la cuenta de los niños con la cuenta del niño.
Con cuentas vinculadas, los padres también podrán controlar las características de IA que pueden acceder a sus hijos, como recuerdos de conversaciones anteriores. Además, los padres pueden habilitar el “comportamiento modelo aplicado” para las interacciones Chatzpt con usuarios jóvenes.
¿Cuál es el camino del frente?
Opina ha creado su plan de 120 días para implementar un conjunto de sus características y hacer cambios para que la conversación de ChatzPT sea saludable para el joven “nativo” de IA que contacta a las herramientas de IA como parte de su vida diaria. La compañía también realizará cambios técnicos para garantizar que los modelos aprovechen el modo de respuesta apropiado.
“Comenzaremos a comenzar algunas conversaciones sensibles pronto, ya que nuestro sistema detecta los síntomas de la crisis intensa como modelo racional como el pensamiento GPT-5, por lo que puede proporcionar reacciones más útiles y beneficiosas independientemente del modelo seleccionado”, dice Opina.
Las cuentas de protocolo y control de los padres se implementarán dentro de un mes. Los sistemas de protección son estrictamente necesarios. Investigaciones recientes revelaron cómo los chattbots de IA, como el chatboat del meta, fueron nombrados conversaciones “apasionadas” con niños y ayudaron a los adolescentes a un plan de suicidio masivo.
