¿Recuerda esa conversación que tuvo a las 2 a.m. con un chatbot de IA sobre sus alergias? ¿O tiene preguntas sobre su extracto bancario reciente? Lo que parece personal en el momento muchas veces no lo es.
Informes recientes han demostrado que los contratistas de Meta, que son contratados por empresas para revisar las interacciones de la IA, a veces ven detalles personales no redactados, como información de salud, registros financieros e incluso datos de identificación, que la mayoría de la gente considera privados.
Fundador y director ejecutivo de Redactable.
Éste es el problema no tan universal que está en el centro de la carrera actual de la IA. Los chatbots se están implementando a gran escala en la banca, la atención médica, el gobierno y más allá. Son rápidos, convenientes y cada vez más capaces de manejar consultas complejas y, a veces, delicadas. Pero la comodidad nunca debe anteponerse a la seguridad. Cada mensaje, cada transcripción y cada registro de backend contiene datos que pueden durar mucho más de lo que los usuarios pretendían.
Antes de convertirme en fundador de tecnología, pasé años rodeado de declaraciones de impuestos, números de seguridad social, informes de inspección y estados de cuenta. En aquel entonces, “protección” significaba dibujar cuadros sobre el texto y esperar que fuera seguro. No lo fue. Esa frustración se convirtió en una oportunidad cuando me di cuenta de que la verdadera solución no era ocultar los datos, sino eliminarlos permanentemente.
Los chatbots y los sistemas de inteligencia artificial son las áreas más nuevas donde estos problemas salen a la luz. Si queremos proteger la privacidad y generar confianza en esta nueva era, no podemos confiar en soluciones cosméticas. Tanto las empresas como los usuarios deben repensar lo que significa interactuar con la IA. Aquí hay cinco cosas a tener en cuenta.
1. No te olvides de los chatbots
La mayoría de las personas chatean con la IA como si fuera una conversación privada, pero esos registros suelen durar mucho más de lo que creemos. Esa consulta rápida de estado, ese registro de solución de problemas o esa solicitud de TI interna se pueden guardar, revisar e incluso utilizar para entrenar modelos futuros. Si los datos no se desinfectan, pueden permanecer en esos modelos indefinidamente.
Para las empresas, esto significa que la política de retención debe ser explícita, no implícita. Si se conservan copias por motivos de calidad del servicio al cliente, su fecha de vencimiento debe quedar clara. Si se utilizan registros para capacitación, se deben eliminar los detalles confidenciales antes de que se expongan a los humanos.
Los usuarios individuales también son vulnerables. Para ellos, la suposición más segura es que nada de lo que se comparte con un chatbot es verdaderamente privado. Un padre puede pedirle a un asistente virtual que redacte un correo electrónico a la escuela sobre la medicación de un niño. Un corredor de maratón puede pedir consejo a una aplicación de bienestar sobre cómo tratar un esguince de tobillo.
Cada ejemplo parece una solicitud simple, pero cada palabra puede almacenarse en el servidor durante meses o años. No todos los números son confidenciales, pero los números de cuenta, los números de seguro social y otros identificadores sí lo son. Guárdelos para portales seguros o llamadas telefónicas.
2. La corrección no es opcional
El error más común sobre la seguridad de los datos es que ofuscar la información es lo mismo que borrarla. En la práctica, ocultar campos, enmascarar entradas o oscurecer texto sólo cubre la información en pantalla. Los datos subyacentes suelen existir en el archivo y pueden ser fáciles de descubrir.
Esto es especialmente peligroso en las conversaciones de chatbot, ya que los detalles confidenciales pueden estar profundamente incrustados en las transcripciones o los registros de errores. Las empresas que dependen de soluciones superficiales crean una ilusión de seguridad cuando se enfrentan a infracciones y filtraciones.
La verdadera corrección es la eliminación permanente. Sin él, las empresas corren el riesgo de perder tanto el cumplimiento como la confianza del cliente.
3. Minimización de datos significa eliminación
Algunas empresas se enorgullecen de recopilar menos datos, lo cual es un buen comienzo. Pero menos datos no resuelve el problema si los datos recopilados se almacenan indefinidamente.
Chatbot Transcript es un ejemplo perfecto. Muchos son contratados para volver a capacitar a los modelos, analizar la opinión de los clientes o resolver disputas. Esto significa que hay un archivo cada vez mayor de información confidencial que se convierte en un problema todos los días.
Los reguladores han comenzado a responder, desde las leyes estatales de protección de datos infantiles hasta los marcos internacionales de privacidad. Las empresas también deben ser proactivas. Las organizaciones que adopten la eliminación permanente ahora estarán posicionadas por delante de la inevitable curva de cumplimiento.
Los consumidores también deben reducir. Un usuario promedio a menudo comparte demasiado en conversaciones de chatbot sin darse cuenta. Por ejemplo, un cliente puede escribir el número de cuenta completo para intentar comprender una factura de Internet, o un paciente puede cargar un informe de laboratorio completo en lugar de solo algunos detalles requeridos.
Las empresas pueden ayudar alentando a los usuarios a minimizar o desinfectar los datos antes de cargarlos, de modo que ambas partes compartan la responsabilidad de minimizar la exposición.
Antes de escribir en un chatbot, es útil hacer una pausa y preguntar: ¿Es esto algo que me sentiría cómodo poniendo en un registro con capacidad de búsqueda? Si no, no vale la pena correr el riesgo. Muchas aplicaciones de mensajería y extensiones de navegador ahora permiten a los usuarios borrar el historial automáticamente. Estas herramientas no reemplazan la corrección verdadera, pero sí reducen la exposición.
4. La transparencia genera confianza en los usuarios
Es más probable que una persona promedio utilice sistemas de inteligencia artificial si sabe cómo se manejarán sus datos. Ocultar los mecanismos de retención de información genera sospechas y socava la confianza. Una comunicación clara sobre lo que se almacena, durante cuánto tiempo se almacena y si se eliminan detalles confidenciales es de gran ayuda.
Para las empresas, no es sólo una cuestión de ética sino también de ventaja competitiva. Los consumidores recompensarán a las empresas que expliquen sus prácticas en un lenguaje sencillo y brinden a los usuarios un control significativo. La transparencia convierte la privacidad en una característica muy buscada.
Otra forma de fortalecer la confianza es que las empresas creen o utilicen chatbots para sugerir de forma proactiva la desinfección de los datos antes de cargarlos. Incluso un simple recordatorio puede generar las expectativas correctas. Las empresas que hacen un esfuerzo adicional para ayudar a educar a los clientes sobre la privacidad de los datos obtienen una ventaja competitiva en el mercado actual.
5. La privacidad es una ventaja competitiva
La suposición de que a los usuarios sólo les importa la velocidad es miope. En realidad, muchas personas se preocupan mucho por cómo se manejan sus datos. Según una encuesta reciente de Cisco, el 75% de los encuestados no compraría a una empresa en cuyos datos no confiaran.
En un mercado cada vez más saturado, la privacidad se convierte en un diferenciador de marca. Se destacarán las empresas que lo traten como una característica, no como una ocurrencia tardía. Quienes lo ignoran corren el riesgo de tomar medidas regulatorias y perder la lealtad de los clientes. En la tecnología empresarial, la confianza se acumula más rápido que la innovación.
Las empresas que desinfecten los datos de los clientes y sean sinceras y transparentes al respecto se destacarán aún más.
el camino a seguir
Los chatbots de IA y los modelos subyacentes detrás de ellos no van a desaparecer, ni deberían hacerlo. Esta tecnología proporciona eficiencia, accesibilidad y escala reales. Pero sólo prosperarán si tanto las empresas como los usuarios reconocen los riesgos que conllevan los beneficios y saben cómo protegerse.
Así como una vez aprendí que incluir cuadros en datos confidenciales no protege a mis clientes, las empresas de hoy deben aprender que la verdadera privacidad requiere un enfoque reflexivo que sea apropiado para su organización. Cualquier cosa menos es una ilusión.
La mayoría de las empresas responden a las filtraciones incluso después de que el daño ya está hecho. El verdadero cambio se producirá cuando dejemos de tratar la privacidad como una respuesta de emergencia y comencemos a diseñar sistemas conscientes de la privacidad desde cero. Así es como la IA se gana el derecho de manejar nuestras conversaciones más delicadas.
Consulte nuestra lista del mejor software de chat en vivo.
