TikTok ha actualizado sus normas de moderación de contenido para regular los deepfakes en la app.
TikTok quiere demostrar a los diferentes gobiernos del mundo que es una plataforma social segura y que no comparte su información con el gobierno de China, motivo por el cual se actualizaron sus políticas de moderación de contenido, destacando la prohibición de los deepfakes generados por inteligencia artificial.
La nueva prohibición obliga a etiquetar a todo el contenido de este tipo como generado por inteligencia artificial. Para ello se aplicará una pegatina visible como la de filtros y música.
Además, TikTok anuncia que, a partir de ahora, no se permitirán deepfakes que “contengan parecido con alguna figura privada real”.
De acuerdo con la empresa, las figuras públicas son aquellos individuos mayores de 18 años con “un papel público significativo, como un funcionario del gobierno, un político, un líder empresarial o una celebridad”.
¿Por qué se prohiben los deepfakes en TikTok?
La decisión por parte de TikTok se debe a que el contenido generado por IA ha crecido en los últimos meses, principalmente por el acceso masivo que se ha tenido a herramientas de IA. Incluso se han creado subgéneros de contenido basados en esta tecnología y es común, por ejemplo, ver a figuras públicas como el presidente de Estados Unidos, Joe Biden, y a los expresidentes Trump y Obama platicar de cuál es su anime favorito.
No obstante, existen otros casos de uso más dañinos para estas falsificaciones, como mostrar a figuras públicas leyendo declaraciones que incitan al odio de ciertas comunidades, como la homofobia o la transfobia, por citar algunos casos.
El objetivo de implementar estas nuevas características de seguridad, dijo TikTok, es ofrecer “mucha más transparencia sobre nuestras reglas y cómo las aplicamos”.
TikTok es considerado una amenaza por los gobiernos de occidente
Los cambios en la plataforma se dan en medio de un contexto complicado para TikTok, pues los gobiernos occidentales han demostrado su temor respecto a que la plataforma recopile datos de los usuarios.
De hecho, países como Bélgica, Dinamarca, Canadá, Reino Unido o Estados Unidos han prohibido su uso en dispositivos gubernamentales, pues consideran que se trata de una amenaza a la seguridad nacional por el riesgo de ciberespionaje.
Asimismo, según los informes, el gobierno de los Estados Unidos ya amenazó a la empresa matriz, ByteDance, a prohibir públicamente la aplicación en su territorio si no vende su participación en la plataforma.
Te puede interesar: "Son aterradoras": Keanu Reeves no dejará que usen su imagen para “deepfakes”