La comisionada de Esafety, Julie Inman Grant, ha pedido a los gigantes de las redes sociales estándares más altos para la abolición del contenido gráfico de sus plataformas.
En un comunicado publicado el martes, Inman Grant mencionó a X, Facebook, Instagram, Snapchat, Tiktok y YouTube como plataformas utilizadas para publicar el contenido “Gore”.
La Comisión observa una circulación productiva de “material en línea extremadamente violento, incluidos asesinatos recientes y asesinatos violentos, manifestaciones de accidentes masivos y conflictos materiales”.
Conozca las noticias con la aplicación 7news: Descárguela hoy
Sigue los planes de los asesinatos de Charlie Kirk e Iryna Zarutska en los Estados Unidos de América que se comparten ampliamente en todas las redes sociales, a los que Inman Grant dijo que tuvo acceso los adolescentes.
“Mi preocupación no es sólo qué tan rápido se está difundiendo este material, sino cómo los algoritmos lo mejoran aún más”, dijo en un comunicado. “Los algoritmos recompensan la participación, incluso cuando está impulsada por la conmoción, el miedo y la rabia”.
“Si bien la mayoría de las redes sociales tienen políticas que requieren la implementación de contenido sensible o etiquetas intersticiales para desdibujar a Gore en lugar de exponer ojos inocentes a un contenido tan visceral y destructivo, hemos visto que las grandes plataformas no desarrollan estos filtros de manera rápida o consistente”.
Inman Grant agregó que si bien se debe utilizar inteligencia artificial para ayudar a identificar y eliminar este contenido, se han seleccionado plataformas para eliminar “políticas de contenido” y permitir que se propague más.
“Esperamos que a las grandes plataformas les vaya mejor”, afirmó.
La Comisión señaló que el carácter sagrado añadido del contenido sangriento ha llevado a sitios “dedicados” con “bibliotecas en las que se pueden buscar, herramientas para fanáticos, funciones de conversación y bucles de recomendación”.
Si bien Inman Grant puede pedir a las plataformas más grandes que adopten medidas más contundentes, los sitios de Gore a menudo tienen acuerdos de alojamiento complejos en “jurisdicciones permitidas” que los hacen más difíciles de abolir.
Junto con el comunicado, Esafety también publicó una encuesta en la que se encontró que casi tres cuartas partes de los niños habían visto o escuchado el contenido “relacionado con HARM Online”.
La encuesta cuestionó a más de 3.000 australianos de entre 10 y 17 años, el 83 % de los cuales había visto el contenido desde que tenía entre 16 y 17 años.
También encontró que casi el 20% de los encuestados se enfrentaban a contenidos que sugerían “cómo uno podría lastimarse hasta suicidarse con ese propósito”.
