En una oficina en el centro de Londres, el pequeño equipo de Signify revisó silenciosamente miles de publicaciones.
Con cada momento controvertido del juego, aumenta la cantidad de mensajes abusivos.
Publicaciones populares que contenían emojis de monos e insultos racistas, amenazas de violación contra la familia del entrenador e incluso amenazas de muerte fueron provocadas únicamente por el comportamiento en el campo de fútbol.
Cada mensaje que el sistema de inteligencia artificial considera abusivo es revisado dos veces por humanos, quienes solo consideran abuso verificado los mensajes que violan las propias pautas de la plataforma de redes sociales.
El mayor aumento de publicaciones abusivas se produjo durante el empate 2-2 del Tottenham con el Manchester United el 8 de noviembre, un partido en el que se marcaron dos goles en el tiempo de descuento, tras el cual los entrenadores de ambos clubes y varios jugadores fueron sometidos a abusos concentrados.
En mensajes vistos por la BBC, se hacían amenazas de muerte contra Amorim, incluida una que decía: “Maten a Amorim, alguien ha ensuciado mucho su portugués”.
La Ley de Seguridad en Línea, que entrará en vigor en octubre de 2023, impone deberes legales de cuidado en las plataformas de redes sociales.
Esto significa que tienen la obligación legal de identificar y eliminar de forma proactiva contenido ilegal como amenazas, acoso o incitación al odio. Ofcom es ahora el regulador independiente responsable de garantizar que las plataformas cumplan con las normas.
Pero las plataformas sociales argumentan que los derechos de libertad de expresión las hacen reacias a censurar o eliminar contenidos.
Signify insiste en que el problema de los abusos graves y las amenazas enviadas online está empeorando.
“Estamos viendo un aumento de alrededor del 25% año tras año en la cantidad de abuso que estamos viendo”, dijo Jonathan Hirshler, director ejecutivo de la compañía.
“Entendemos la postura de las plataformas sobre la libertad de expresión, pero parte del contenido del que hablamos es muy impactante.
“Amenazas de muerte realmente desagradables y contenido violento verdaderamente horripilante. Si los absolutistas de la libertad de expresión leyeran algunos de estos mensajes, no preguntarían por qué se denunciaron algunos de ellos y por qué era necesario actuar”.
