Para evitar la pérdida de usuarios debido a deepfakes generados por IA y contenido generado artificialmente, el Ministerio de TI ha propuesto enmiendas para redactar reglas de TI que exigen etiquetado y marcadores distintivos para garantizar que los usuarios puedan diferenciar entre contenido sintético y auténtico, y crear una mayor responsabilidad para las principales plataformas de redes sociales.
Con la creciente disponibilidad de herramientas de inteligencia artificial generativa y la consiguiente proliferación de información generada artificialmente (deepfakes), el potencial de uso indebido de dicha tecnología para dañar a los usuarios, difundir información errónea, manipular elecciones o suplantar a personas ha aumentado significativamente, dijo el Ministerio de TI.
Tomando nota de estos riesgos, y después de una extensa consulta pública y deliberaciones parlamentarias, MeitY ha preparado un proyecto de enmiendas a las Reglas de TI de 2021, que, según dijo, tiene como objetivo fortalecer las obligaciones de diligencia debida para los intermediarios, en particular los intermediarios de redes sociales (con plataformas de 50 lakh o más) y los usuarios intermediarios importantes, como las plataformas de redes sociales (50 lakh o más). plataforma). Contenido generado artificialmente que permite su creación o modificación.
Las principales empresas de redes sociales deben obtener una declaración del usuario sobre si la información cargada se genera artificialmente, establecer medidas técnicas razonables y proporcionadas para verificar dichas declaraciones y garantizar que la información generada artificialmente esté claramente etiquetada o acompañada de avisos que lo indiquen.
Las enmiendas propuestas descritas en el borrador del aviso introducen una definición más clara de “información generada artificialmente”, así como también garantizan requisitos de etiquetado e incorporación de metadatos para dicha información para que los usuarios puedan distinguir el contenido auténtico del contenido artificial, según el borrador.
El borrador introduce una nueva cláusula que define el contenido generado artificialmente como información que se crea, genera, modifica o altera artificial o algorítmicamente utilizando recursos informáticos, de una manera que razonablemente parezca auténtica o verdadera.
Los cambios propuestos a las reglas de TI también introducen estándares de visibilidad y audibilidad, lo que significa que el contenido sintético debe identificarse de manera destacada, incluida una cobertura mínima del 10% de duración visual o de audio primario; y mayores obligaciones de verificación y declaración para importantes plataformas de redes sociales, exigiendo medidas técnicas razonables para garantizar que el contenido subido no se genere artificialmente ni se etiquete en consecuencia.
El Ministerio de TI dijo que las enmiendas tienen como objetivo promover la conciencia entre los usuarios, mejorar la trazabilidad y garantizar la rendición de cuentas, manteniendo al mismo tiempo un entorno propicio para la innovación en tecnología impulsada por la IA.
Ha solicitado comentarios/retroalimentación sobre el proyecto de enmiendas a las Reglas de TI hasta el 6 de noviembre de 2025.
“Los acontecimientos recientes han demostrado el potencial de la IA generativa para crear mentiras creíbles en audio, vídeo y medios sintéticos profundamente falsos que se vuelven virales en las plataformas sociales, retratando a individuos en acciones o declaraciones que nunca hicieron. Dicho contenido puede ser un arma para difundir información errónea, dañar reputaciones, manipular o influir en las elecciones”, o no comprometerse con empresas con motivaciones financieras. Sitio web del Ministerio.
A nivel mundial y nacional, los formuladores de políticas están preocupados por las imágenes, videos y clips de audio (deepfakes) falsos o sintéticos que no se pueden distinguir del contenido real y que se utilizan descaradamente para crear imágenes íntimas o pornográficas no consensuadas; engañar al público con contenido político o informativo inventado; Fraude o suplantación de identidad para obtener beneficios económicos.
Los cambios en las reglas de TI buscan brindar protección legal a los intermediarios, eliminando o deshabilitando el acceso a información generada artificialmente en base a esfuerzos razonables o quejas de los usuarios.
Exige que los intermediarios que proporcionen recursos informáticos que permitan la creación o modificación de información generada artificialmente deben garantizar que dicha información esté etiquetada o incorporada con un metadato o identificador único y permanente; Establece que dicha etiqueta o identificador deberá exhibirse visualmente o hacerse audible de manera destacada dentro del material sintético, cubriendo al menos el 10% de la superficie de una exhibición visual o, en el caso de material de audio, el 10% principal de su duración.
La etiqueta o identificador debe permitir la identificación inmediata del material como dato generado artificialmente.
La norma prohíbe además a los intermediarios modificar, suprimir o eliminar dichas etiquetas o identificadores.
