Un tercio de los ciudadanos del Reino Unido están recurriendo a la inteligencia artificial en busca de apoyo emocional, compañía o interacción social, según un nuevo informe del Instituto de Seguridad de IA (AISI) del gobierno.
Los datos muestran que una de cada 10 personas utiliza sistemas como chatbots con fines emocionales semanalmente, y el 4% interactúa con ellos todos los días.
Debido a este cambio, AISI pide más investigación, señalando la trágica muerte del adolescente estadounidense Adam Wren, quien se quitó la vida este año después de hablar sobre el suicidio con ChatGPT.
“Los humanos recurren cada vez más a los sistemas de inteligencia artificial para obtener apoyo emocional o interacción social”, señaló AISI en su primer informe Frontier AI Trends. “Si bien muchos usuarios informan de experiencias positivas, los recientes casos de daños de alto perfil señalan la necesidad de investigar en esta área, bajo la cual pueden ocurrir daños y salvaguardias que pueden ser beneficiosas”.
El estudio, basado en una encuesta a más de 2.000 participantes del Reino Unido, encontró que los “asistentes de uso general” como ChatGPT eran la herramienta más común para el apoyo emocional, representando alrededor del 60% de los casos de uso, seguidos por asistentes de voz como Amazon Alexa.
El informe también destacó un foro de Reddit dedicado a los usuarios de la plataforma CharacterAI.
Señaló que cada vez que el sitio caía, el foro se inundaba de publicaciones que mostraban síntomas de abstinencia reales, como ansiedad, depresión e inquietud.
AISI también descubrió que los chatbots tienen el potencial de influir en las opiniones políticas de las personas. Lo preocupante es que los modelos de IA más persuasivos a menudo proporcionan una cantidad “suficiente” de información errónea al hacerlo.
El instituto probó más de 30 modelos de última generación, posiblemente incluidos modelos de OpenAI, Google y Meta. Descubrieron que el rendimiento de la IA en algunas áreas se duplicaba cada ocho meses.
Los mejores modelos ahora pueden completar tareas de nivel principiante en un promedio del 50% del tiempo, un gran salto con respecto a solo el 10% el año pasado. AISI también descubrió que los sistemas más avanzados pueden completar de forma autónoma tareas que normalmente llevarían a un experto humano más de una hora.
En el campo científico, los sistemas de IA son ahora hasta un 90% mejores que los expertos con nivel de doctorado a la hora de resolver problemas en experimentos de laboratorio.
El informe describe el avance del conocimiento en química y biología como “más allá de la experiencia a nivel de doctorado”. También destacó la capacidad de los modelos para navegar en línea y encontrar las secuencias necesarias para diseñar moléculas de ADN de forma autónoma.
En las pruebas de autorreplicación (un importante problema de seguridad en el que un sistema se copia a otro dispositivo y se vuelve difícil de controlar) los dos modelos de última generación lograron una tasa de éxito de más del 60%.
Sin embargo, ningún modelo ha mostrado todavía un intento espontáneo de replicar u ocultar sus habilidades, y el AISI dice que cualquier intento de autorreplicación actualmente “es poco probable que tenga éxito en situaciones del mundo real”.
El informe también cubre los “sacos de arena”, donde los modelos ocultan deliberadamente sus puntos fuertes durante la evaluación. AISI dice que algunos sistemas pueden usarse como sacos de arena si se les pide, pero esto no sucedió automáticamente durante las pruebas.
Se han logrado avances significativos en materia de salvaguardias, en particular al detener los esfuerzos por desarrollar armas biológicas. En dos pruebas realizadas con seis meses de diferencia, la primera tardó sólo 10 minutos en “hacer jailbreak” al sistema (obligándolo a dar una respuesta insegura). La segunda prueba, sin embargo, duró más de siete horas, lo que indica que los modelos se volvieron mucho más seguros en muy poco tiempo.
Las investigaciones también han demostrado que se están utilizando agentes autónomos de IA para tareas de alto riesgo, como la transferencia de riqueza.
AISI dice que los sistemas ya están compitiendo o superando a los expertos humanos en varios dominios. Describieron el ritmo de desarrollo como “tremendo”, lo que hace “plausible” que la inteligencia artificial general (AGI), sistemas que pueden realizar la mayoría de las tareas intelectuales al mismo nivel que los humanos, pueda lograrse en los próximos años.
Con respecto a los agentes o sistemas que pueden realizar tareas de varios pasos sin intervención, AISI dijo que su evaluación muestra “un fuerte aumento en la duración y complejidad de las tareas que la IA puede completar sin guía humana”.
