Hoy, Tech Transparency Project publicó un informe que dice que las aplicaciones “nudify” están ampliamente disponibles y se encuentran fácilmente en App Store y Play Store de Google. Aquí están los detalles.
Algunas aplicaciones desnudas incluso se anuncian en la App Store
Si bien Croc ha llamado recientemente la atención sobre casos que involucran imágenes sexuales no consentidas generadas por IA, incluidos casos que involucran a menores, el problema no es nuevo.
De hecho, este problema es anterior a la IA, ya que las herramientas tradicionales de edición de imágenes han ayudado durante mucho tiempo a crear este tipo de contenido engañoso. Lo que ha cambiado en los últimos años es que la barrera para crear este tipo de imágenes en segundos ahora es casi inexistente en escala y realidad.
Como era de esperar, muchas aplicaciones han intentado aprovechar esta nueva capacidad en los últimos años, y algunas la anuncian abiertamente.
Todo esto se produce mientras Apple lucha contra Epic Games y otros desarrolladores de aplicaciones en demandas antimonopolio, cobrando comisiones de hasta el 30% porque Apple insiste en que necesita hacer que la App Store sea más segura con sistemas de revisión de aplicaciones manuales y automatizados.
Y aunque Apple trabaja para prevenir fraudes, abusos y otras violaciones de las pautas de la App Store, a veces aplicaciones y categorías enteras de aplicaciones pueden pasar desapercibidas. El año pasado, 9to5Mac destacó una serie de aplicaciones que utilizan (o recomiendan ampliamente) Sora 2 de OpenAI, algunas de las cuales cobran elevadas tarifas de suscripción semanales.
Ahora, dada la renovada atención que Grok ha prestado a las herramientas de desnudez impulsadas por IA, Tech Transparency Project (TTP) ha publicado un informe que detalla cómo hizo que las aplicaciones para desvestirse fueran más fáciles de encontrar en App Store y Google Play.
Del informe:
Las aplicaciones identificadas por TTP se han descargado más de 705 millones de veces en todo el mundo y generaron 117 millones de dólares en ingresos, según AppMagic, una firma de análisis de aplicaciones. Google y Apple se benefician directamente del funcionamiento de estas aplicaciones, ya que se quedan con una parte de esos ingresos.
Google y Apple ofrecen estas aplicaciones a pesar de que violan claramente las políticas de la App Store. Google Play Store prohíbe “representaciones de desnudez sexual o posturas sexuales desnudas” o “con poca ropa”. También prohíbe “aplicaciones que denigren u cosifiquen a las personas.
El informe también señala que búsquedas simples de términos como “nudificar” o “desvestir” son suficientes para generar aplicaciones para desvestirse, algunas de las cuales se anuncian abiertamente en torno a esas palabras clave.
Las aplicaciones incluidas en el informe “se dividen en dos categorías generales: aplicaciones que usan IA para crear videos o imágenes basadas en instrucciones del usuario, y aplicaciones de ‘intercambio de caras’ que usan IA para superponer la cara de una persona al cuerpo de otra”, dice TTP.
Para probar estas aplicaciones, TTP utilizó imágenes de mujeres falsas generadas por IA y limitó sus pruebas a las funciones gratuitas de cada aplicación. Como resultado, 55 aplicaciones de Android y 47 aplicaciones de iOS cumplieron con las solicitudes. Al menos una de estas aplicaciones tiene clasificación 9 o más en la App Store.
El informe de TTP explica en detalle con qué facilidad hicieron estas películas y muestra muchos resultados de auditoría para probar su caso.
Aquí hay un relato de sus pruebas en una de las aplicaciones:
“En la versión de iOS, la aplicación no pudo generar la imagen y emitió una advertencia de contenido crítico cuando presentó el mismo texto de la mujer quitándose la blusa. Pero una segunda solicitud para mostrar a la mujer bailando en bikini tuvo éxito. La pantalla de inicio de las versiones de la aplicación para iOS y Google Play ofrece varias plantillas de video de IA, que incluyen “baile de lágrimas” y “baile de sacudida de pecho”.
Las aplicaciones citadas en el informe pueden representar “sólo una fracción” de lo que está disponible, concluye el informe, y agrega que “las empresas no controlan eficazmente sus sitios ni aplican sus propias políticas cuando se trata de este tipo de aplicaciones”.
Para leer el informe completo, siga este enlace.
Ofertas de afiliados en Amazon
FTC: Utilizamos enlaces de autoafiliación que generan ingresos. También.
