Los deepfakes y la manipulación de la imagen pública
Los deepfakes representan una de las tecnologías emergentes más inquietantes en el campo de la Inteligencia Artificial (IA). Esta técnica, que utiliza algoritmos avanzados de aprendizaje automático y redes neuronales, permite crear o alterar contenido audiovisual con un grado de realismo que logra engañar la percepción humana.
La manipulación de la imagen pública mediante deepfakes puede tener implicaciones éticas y de privacidad. Por ejemplo, un video falso de un individuo diciendo algo que nunca dijo realmente puede alterar la percepción pública y afectar su carrera de manera irreversible. Los individuos expuestos en la arena pública, como políticos, celebridades y líderes empresariales, son particularmente vulnerables a estas manipulaciones, que pueden ser utilizadas para desacreditar, humillar o infligir daño personal y profesional.
Un deepfake es generado a través de una técnica conocida como "modelo generativo adversario" (GAN, por sus siglas en inglés), donde dos redes neuronales trabajan en conjunto para crear y refinar un producto final que es casi indistinguible de la realidad.
Este avance ha democratizado la creación de contenido multimedia falso, que anteriormente requería de recursos y habilidades técnicas sustanciales. También se encuentran los gemelos o semejanzas virtuales que son representaciones realistas de individuos creadas mediante tecnologías de IA. Estas entidades pueden replicar comportamientos, expresiones faciales y otros atributos personales y se usan en aplicaciones desde la realidad virtual hasta redes sociales y publicidad.
Nos encontramos entonces ante herramientas poderosas para la propaganda y la desinformación y a medida que se han vuelto más comunes, se erosiona la confianza general del público en medios digitales. El rápido desarrollo de los deepfakes plantea importantes desafíos legales y regulatorios. La legislación actual es a menudo insuficiente para abordar las complejidades asociadas con la autoría y la responsabilidad en la creación y distribución de contenido falso. Además, la capacidad de detectarlos enfrenta una especie de carrera armamentista continua, ya que las técnicas para crear “falsos profundos” más convincentes también evolucionan a la par de las tecnologías de detección.
En México, la Ley Federal del Derecho de Autor y la Ley de Protección de Datos Personales en Posesión de los Particulares, proporcionan cierto nivel de protección para la propiedad intelectual y la privacidad, pero no abordan específicamente los desafíos planteados por los deepfakes y las entidades virtuales.
Por ello la necesidad de una legislación es urgente para reconocer y proteger los derechos de propiedad intelectual de entidades digitales, pero también para que prohíba y penalice la creación o distribución de deepfakes no autorizados y que, al cerrar el proceso jurídico, ofrezca mecanismos de reparación de daño para las víctimas de todo tipo de abuso tecnológico.
La tecnología de IA está avanzando de manera abrumadora en prácticamente todos los países y Latinoamérica no es la excepción. La empresa AuraChat AI es una empresa emergente de tecnología que llega a nuestro país para revolucionar la industria del entretenimiento y proteger los derechos de uso de imagen mediante la creación de AI Twins. Estos no son simples réplicas digitales de la voz o imagen de una persona, son entes digitales que pueden interactuar con usuarios en tiempo real y que reflejan con asombrosa precisión la personalidad, historia de vida, valores, opiniones y experiencia de su contraparte humana. La promesa de estos AiTwins podría marcar el comienzo de una nueva era de interacciones personalizadas a gran escala.
Para desarrollar esta contraparte virtual, la empresa ha apostado por un alto grado de sofisticación en temas de escaneos biométricos, así como programación de conocimientos y personalidad integrando múltiples modelos avanzados de IA. Reconociendo la rapidez con la que evoluciona el panorama digital, este tipo de empresas no sólo tiene que estar al tanto de los cambios en las preferencias de contenido y consumo, sino también anticipar hacia dónde se dirige la tecnología y cómo puede influir en las dinámicas de entretenimiento.
El espíritu que rodea a la empresa se fundamenta en una profunda consideración por proteger los derechos digitales y los de propiedad intelectual de los creadores, implementando un modelo ético para la explotación de sus imágenes digitales. ¿Cómo lo hace? Asegurando que los creadores mantengan el control sobre cómo, cuándo y dónde se utilizan sus semejanzas digitales, estableciendo nuevos estándares para la industria en términos de interacción, protección de derechos y compromiso ético con la tecnología.
Para lograrlo, AuraChat AI ofrece servicios como el monitoreo de deepfakes no autorizados; el registro de identidad virtual a través de una estrategia legal enfocada en identificar las clases de propiedad intelectual actualmente ofrecidas por la ley de derechos de propiedad intelectual, alineadas con los conceptos legales relacionados a la creación y monetización de un AITwin, lo anterior permite que cualquier persona física o moral que utilice los servicios de AuraChat Ai, al firmar contrato se asegure que está registrando su marca con legislación existente y, por último, ofrece protección de contenido oficial, usando tecnologías de blockchain.
En mi artículo anterior en donde hice una breve reflexión acerca del impacto de la IA en el sector musical, refería sobre la posibilidad de adoptar una propuesta de modelo de suscripción que operaría con todos aquellos artistas dispuestos a permitir que las obras que alimenten a la IA, puedan ser utilizadas a cambio de acceso a herramientas avanzadas mediante una suscripción profesional, siempre que una porción de esta contribuya económicamente a la comunidad creativa por medio de editoriales y organismos de derechos de autor.
En este sentido, esta empresa también está previendo implementar modelos de reparto de ingresos en su estrategia de promoción para incentivar a todas las partes para participar en este tipo de proyectos. Lo anterior, no sólo podría aumentar el atractivo de las entidades digitales, sino también promovería una percepción positiva y confianza en la audiencia.
Las posibilidades de generar entidades digitales con responsabilidad y uso ético de la tecnología no sólo podrían impactar de manera positiva al mundo del entretenimiento, sino también en sectores de salud y educativos. Como docente universitaria y desarrolladora de cursos de capacitación a diversos públicos, podría visualizar a los AITwins como asistentes virtuales para nosotros los profesores con apoyo de creación de contenidos, evaluación de tareas y gestión de aulas virtuales. Algunos de estos avances ya están implementándose en universidades y claustros de profesores en Estados Unidos y en Europa.
En conclusión, tenemos que estar abiertos a la reflexión y al debate multidisciplinario para establecer una clase de propiedad intelectual para semejanzas o identidades virtuales que sean reconocidas como creaciones únicas y propiedad de sus originadores. Y aquí se abren dos grandes preguntas: ¿cómo desarrollar un sistema de registro para estas identidades digitales que confiera derechos exclusivos a sus titulares? y ¿cómo sería su uso y licenciamiento?
Al tiempo…
Referencias de interés
Ley Federal de Derecho de Autor
https://www.diputados.gob.mx/LeyesBiblio/ref/lfda.htm
Ley Federal de Protección de Datos Personales en Posesión de los Particulares
Claudia Jiménez
Politóloga e Internacionalista en temas de cooperación internacional y derechos humanos en América Latina, con 20 años de experiencia en consultorías nacionales y gobierno.
Profesora universitaria y conferencista. Desarrolladora de cursos y proyectos de tecnología y ética para la academia y empresas. Catedrática de la Escuela de Ciencias Sociales y Gobierno, y de Estudios Humanísticos y Educación del Tecnológico de Monterrey. Pionera en Inteligencia Artificial en educación.
