Implementa TikTok etiquetas de IA en medio de aumento de deepfakes electorales
Los esfuerzos por detener la ola de deepfakes han llegado a TikTok. La plataforma anunció la introducción de etiquetas digitales, conocidas como Credenciales de Contenido, para identificar el contenido generado por Inteligencia Artificial (IA) que se comparte en su plataforma.
Esta iniciativa surge en un contexto donde la proliferación de contenido generado por IA ha suscitado preocupaciones sobre la manipulación y la desinformación, especialmente en períodos electorales. Según un artículo del periódico New York Times, aunque no se tiene un conteo exacto de cuántas falsificaciones de inteligencia artificial (IA) se han realizado de políticos, los expertos advierten sobre un aumento global de falsificaciones electorales que están siendo observadas.
Tal como cita Reuters, los investigadores han manifestado su inquietud acerca del potencial uso del contenido generado por IA para interferir en las elecciones estadounidenses de este otoño. A principios de este año, TikTok se encontraba entre un grupo de 20 empresas tecnológicas que firmaron un acuerdo comprometiéndose a combatir esta preocupación.
TikTok ya había estado etiquetando el contenido generado por IA creado internamente con herramientas de la aplicación, pero ahora ampliará esta práctica para incluir contenido generado fuera del servicio.
La tecnología de Credenciales de Contenido, liderada por la Coalición para la Procedencia y Autenticidad del Contenido (C2PA), ha sido adoptada por diversas empresas tecnológicas, incluyendo a OpenAI, creador de herramientas como ChatGPT. Este sistema implica que tanto el creador de la herramienta de IA como la plataforma que distribuye el contenido deben aceptar utilizar el estándar de la industria para su aplicación efectiva.
"Tenemos políticas que prohíben la IA realista que no esté etiquetada, por lo que si aparece contenido generado por IA realista en la plataforma, lo eliminaremos por violar nuestras pautas comunitarias", afirmó Adam Presser, jefe de operaciones y confianza y seguridad de TikTok.
Cuando se genera contenido con herramientas de IA como DALL-E de OpenAI, se adjunta una marca de agua digital a la imagen resultante, lo que indica su origen. Si estas imágenes se cargan en TikTok, la plataforma las etiquetará automáticamente como generadas por IA.
Este tipo de medidas han sido adoptadas por otras plataformas, como Meta,, la empresa matriz de Facebook, Instagram y WhatsApp, que el mes pasado anunció la implementación de etiquetas en el contenido electoral publicado en sus plataformas que haya sido generado mediante IA, como parte de sus esfuerzos durante el proceso electoral de 2024 en México.
La preocupación de las plataformas crece mientras los reguladores tanto en Estados Unidos como en la Unión Europea se apresuran a la elaboración de leyes para restringir el uso de audio, imágenes y videos generados por IA durante las campañas electorales, aunque se evidencia un vacío regulatorio.
La histórica Ley de IA de la Unión Europea, que entraría en vigor después de las elecciones parlamentarias de junio, deja un período de tiempo sin regulación clara, por ejemplo. Además, tal como lo explica el periódico estadounidense, existen barreras limitadas para disuadir a los políticos y sus aliados de utilizar IA para engañar a los votantes, y los encargados de hacer cumplir la ley rara vez pueden igualar la velocidad con la que se propagan las falsificaciones en las redes sociales o los chats grupales.
“Estas advertencias se están convirtiendo en una realidad en todo el mundo. Los actores respaldados por el Estado utilizaron IA generativa para inmiscuirse en las elecciones de Taiwán a principios de este año”, ejemplifica el periódico.
Pero además, la iniciativa de TikTok se produce en medio de tensiones regulatorias, especialmente en los Estados Unidos, donde recientemente se ha promulgado legislación que exige a la empresa matriz de TikTok, ByteDance, deshacerse de la plataforma o enfrentar una prohibición. TikTok y ByteDance han impugnado esta legislación argumentando que viola la Primera Enmienda.
Por ahora no se tiene claro el futuro de TikTok, sin embargo la implementación de etiquetas se hará de manera gradual.
