Elecciones 2024: La IA será crucial, pero ¿quién la regulará?
Entre mensajes de "precampañas" de los múltiples aspirantes a candidatos presidenciales hacia las elecciones de 2024 en México, hay algunos que destacan. Se observa a una Xóchitl Gálvez, senadora y aspirante a la candidatura, con gestos automatizados, con una voz sintética y con imágenes coloridas y digitalizadas. Los videos son producto de un desarrollo de Inteligencia Artificial (IA).
El mensaje es claro, una respuesta a Claudia Sheinbaum, ex jefa de gobierno de la Ciudad de México y también aspirante a la candidatura. “Nunca me digas que no puedo”, dicen los labios digitales, aunque lo que destaca no es solo el mensaje, sino todo el producto digital. Es ella, pero no es ella.
La verdad, este spot es un gran spot. pic.twitter.com/27NOCMK5KZ
— GONZALO OLIVEROS (@goliveros) June 29, 2023
El video, compartido por simpatizantes de Gálvez, fue reproducido y compartido masivamente, y desde entonces, la senadora ha utilizado esta herramienta en múltiples ocasiones para lanzar mensajes a través de videos con el mismo formato. La cuenta @xochilove_rs en Twitter define el avatar de la senadora como “la primera activista digital creada desde la Inteligencia Artificial”.
La esperanza de los mexicanos nunca muere, solo ha cambiado de manos. #XóchitlVa pic.twitter.com/m5Xz4LwwkZ
— Xóchitl Gálvez Ruiz (@XochitlGalvez) July 19, 2023
Bastó poco tiempo para que la Inteligencia Artificial también permeara el espacio político. Esta herramienta es una rama de la informática y la ciencia de la computación que se centra en el desarrollo de sistemas y programas capaces de realizar tareas que normalmente requieren inteligencia humana. En esencia, la IA busca replicar procesos mentales y de aprendizaje humanos en máquinas y sistemas computacionales.
Pero en los últimos meses se ha intensificado el debate a nivel internacional acerca de sus diferentes aplicaciones, por las grandes ventajas que proporciona, pero también por sus riesgos. La sociedad en general experimenta una acelerada transición que está en torno a los desarrollos impulsados por IA, y los procesos electorales no serán la excepción.
En Estados Unidos, por ejemplo, previo a las elecciones, también se ha intensificado la manipulación de personajes realizados con IA mediante videos de figuras políticas, un caso muy parecido al panorama mexicano.
Elena Estavillo Flores, doctora en economía especializada en competencia, regulación, ecosistema digital y género, con especial interés en las tecnologías exponenciales, los datos y sus repercusiones, opina que los principales desafíos de esta herramienta en el terreno electoral se encuentran en el lado de la información falsa, que va de la mano con la manipulación de la opinión pública.
“Parte de riesgos que más nos puede preocupar en este aspecto no es tanto pensar en la reproducción de sesgos, sino, en que el uso de la IA interfiera en una libre elección de las personas”, comentó Estavillo en entrevista. La especialista argumenta que la preocupación del uso de estas herramientas, se basa en utilizarlas para generar información falsa que pueda manipular la opinión pública de personas que no tengan acceso a la información de manera oportuna y veráz.
“Es todo el fenómeno de información falsa, y puede hacer muchísimo daño. La IA no sólo ayuda a crear contenidos que parecen verdaderos aunque no lo sean, sino también puede afectar a los grupos más vulnerables a la información falsa”, afirmó Estavillo Flores.
La información falsa ya era un problema en los procesos electorales, y no sólo en México. El Instituto Internacional para la Democracia y Asistencia Electoral, en su informe “El entorno de información en torno a las elecciones” , hace un análisis global de la desinformación dirigida a procesos electorales, organizaciones e individuos en la gestión electoral entre 2016 y 2022. En él, se identificaron casos de desinformación contra las elecciones (procesos, organizaciones, personas que apoyan la gestión de los procesos) en el 92% de los 53 países del mundo mapeados por la investigación.
Esto quiere decir que la evolución global de casos entre 2016 y 2021 revela una tendencia de desinformación ascendente, con picos de ataques de desinformación durante los años electorales.
Evolución global de los casos de desinformación dirigida a las elecciones entre 2016 y 2021. (Imagen: IDEA Internacional)
Es relevante señalar el informe de esta organización, el cual también destaca la creciente influencia de la desinformación y la propagación de narrativas mayormente falsas, que tienen consecuencias perjudiciales para los procesos electorales.
El reto avasallante de la IA: La desinformación
El 22 de mayo de 2023, diversas cuentas verificadas de Twitter compartieron una imagen que supuestamente mostraba una explosión cercana al Pentágono. La imagen se difundió ampliamente, incluso por una cuenta falsa que se hacía pasar por asociada a Bloomberg News. La publicación, con la descripción "Gran explosión cerca del complejo del Pentágono en Washington. Informe preliminar", mostraba una fotografía de humo negro elevándose cerca de un edificio imponente.
#ULTIMAHORA
— AudioMercados (@AUDIOmercados) May 22, 2023
Informes iniciales de una gran explosión cerca del complejo del Pentágono en Washington DC@sentdefenderhttps://t.co/vCAqTfrGnq
*Noticia con demora. Acceda tiempo real:https://t.co/rHPVM5Eu3T pic.twitter.com/MlWLjxKGAu
Sin embargo, la imagen resultó ser falsa y esta propagación de desinformación destacó el serio problema que enfrentamos en las redes sociales. La cuenta que compartió la imagen fue suspendida por Twitter, aunque el antecedente fue clave para exponer el problema de la desinformación en una rama de la tecnología que también emerge: las redes sociales.
Para la Inteligencia Artificial no se trata de un escenario diferente. Este tipo de tecnología se presta especialmente para la creación de contenido tanto visual como auditivo, al alcance de tan sólo un clic.
“Cuando se usa esta tecnología también se pueden producir videos con la imagen de una persona, incluso sin que estén autorizados para usarla. Si es una pre candidata o candidata que tiene el control de la producción de un video, y la imagen se genera con IA, es un elemento más de comunicación, y puede ser además muy efectivo. Pero esto mismo puede hacerlo otro grupo de personas con un objetivo distinto, incluso afectando negativamente. Esto puede afectar la competencia de manera muy negativa, porque la ciudadanía va a confundirse entre lo que debe creer y lo que no. Muchas veces no se alcanza a distinguir si la imagen es real o no. No muchas personas pueden darse cuenta. Ese es un punto de riesgo”, asegura Estavillo Flores, quien también fungió como comisionada del Instituto Federal de Telecomunicaciones de 2013 a 2019.
En este contexto, la desinformación y las noticias falsas tienen un impacto perjudicial en la confianza fundamental de un sistema democrático: la ciudadanía. Según el Instituto Nacional Electoral, la difusión de declaraciones sobre el "robo de urnas", "boletas electorales falsas" y "fraude electoral", entre otros aspectos, genera un efecto negativo en la percepción de los ciudadanos, aún cuando se demuestre su falsedad.
“Aunque las autoridades electorales se encarguen de analizar y verificar los hechos para emitir desmentidos con información verificable, estas correcciones a veces no tienen el mismo impacto que las noticias falsas (fake news)”, asegura el Instituto.
También hay ventajas
A pesar de las limitaciones que sugiere el uso de las herramientas provenientes de desarrollos de IA, ésta también navega en un mar de ventajas. Al ser una tecnología emergente, tanto sus retos como sus alcances también se descubren a medida de su crecimiento.
Una de las aplicaciones que podría beneficiar al proceso electoral mediante la utilización de este tipo de herramientas, y que al mismo tiempo también podría apoyar la transparencia de los mismos, es utilizando su gran capacidad de análisis de datos, por ejemplo.
Para Guillermo Tenorio, presidente de la asociación Cooperación Iberoamericana de Transparencia y Acceso a la Información, la IA también "puede ayudar a los procesos electorales al analizar grandes cantidades de datos, como encuestas de opinión, tendencias sociales y comportamientos de voto pasados. Utilizando algoritmos avanzados de aprendizaje automático, la IA puede proporcionar información valiosa a los candidatos y partidos políticos sobre las preferencias del electorado, lo que les permite diseñar estrategias más efectivas y enfocar sus mensajes de campaña de manera precisa. Esto puede conducir a una mayor relevancia de los temas abordados y un diálogo más significativo con los votantes”, le dijo a El Economista.
Además, muchas de sus ventajas coinciden principalmente, en su uso adecuado, como lo propone Estavillo. “También nos podría ayudar a identificar información falsa. Se produce tanta información que las capacidades de análisis, de procesamiento por humanos, son muy limitadas. Ahí es donde podemos aprovechar la inteligencia artificial para vigilar. No es fácil tampoco programar a los sistemas para que identifiquen información falsa con 100% de exactitud, pero sí pueden ser útiles para un primer filtrado, que sería un trabajo inmenso para las personas”, asegura.
Sus ventajas también incluyen apoyarse de esta herramienta para fomentar la participación ciudadana a través de propuestas de desarrollos que permitan tener un contacto mucho más interactivo con los ciudadanos; aunque considerar esta y las anteriores propuestas, sugieren también tener en cuenta un marco regulatorio, que aún permanece inexistente, al menos en México.
Regular para no frenar
El terreno de la IA apenas es explorado por todos quienes tienen la curiosidad de percibir su alcance. Como dijo el CEO de OpenAI, Sam Altman, ante el Congreso de los Estados Unidos cuando se puso en debate la regulación de esta tecnología: “Este es un momento extraordinario para trabajar en inteligencia artificial”, apuntó. “Pero a medida que avanza esta tecnología, entendemos que las personas están ansiosas acerca de cómo podría cambiar la forma en que vivimos. Nosotros también lo estamos”.
OpenAI es una de las empresas desarrolladoras de IA más populares del momento, misma que incluye a Chat GPT en su catálogo de herramientas. El famoso chatbot que tiene la capacidad de responder de una manera casi humana.
El debate regulatorio comienza a ser una prioridad para los gobiernos de las potencias en el mundo, incluídos Estados Unidos y Europa. México va un poco atrás. Apenas en mayo de este año, la Cámara de Diputados volteó a ver un primer borrador de la nueva ley, construída por el diputado Ignacio Loyola, quién presentó la iniciativa de la Ley para la Regulación Ética de la Inteligencia Artificial y la Robótica.
El documento y la iniciativa tienen como objetivo crear una primera plataforma de investigadores, analistas y expertos para construir normas oficiales mexicanas que regulen el desarrollo de la Inteligencia Artificial, al mismo tiempo que obliga a las empresas tecnológicas a rendir cuentas sobre sus proyectos en el mismo sector. Para ello, se busca la creación del Consejo Mexicano de Ética para la Inteligencia Artificial y la Robótica (CMETIAR).
Aunque la propuesta es una primera iniciativa, aún no existe un marco regulatorio específico para esta herramientas propiciado por el INE, mismo que se encarga de regular y vigilar el proceso electoral mexicano.
“Es una discusión muy incipiente y tenemos que acelerarla. Con el cuidado necesario. Pero lo que es urgente es reunir a grupos diversos y plurales para discutir estos temas, e ir identificando tanto riesgos como beneficios, así como saber cuál es el papel para la regulación, mecanismos de colaboración, etc. Son temas complejos y se requiere al Estado, por supuesto, pero tampoco actuando solo. No es nada más que todo el mundo hable y trate de hacer cosas, sino hay que colaborar y actuar con la parte científica, empresas desarrolladoras, y también los usuarios”, asegura Estavillo.
Al mismo tiempo, la especialista sugiere también que, respecto a los planes a futuro para el uso de la IA en el proceso electoral mexicano, es muy complicado descifrar lo que podría pasar dado el contexto actual. “Es muy difícil saber qué va a pasar porque no contamos con un sistema de normas que esté preparado para precisamente, este tipo de fenómenos”, dice.
El debate sobre el uso de la IA continúa tomando fuerza. “A veces se genera la idea de que están contrapuestos los conceptos de innovación y regulación”, asegura. “Yo creo que esta es una falsa dicotomía. Necesitamos reglas básicas para saber a qué atenerse, cómo reparar daños. Cuando no hay regulación también se genera incertidumbre que inhibe la innovación. Necesitamos encontrar un punto medio donde haya protección de derechos de las personas, y al mismo tiempo no se impida la innovación. Ese estado de certidumbre lo produce la regulación”.
Sin embargo, mientras el proceso de regulación toma lugar, el proceso electoral mexicano podría seguir transformándose gracias a esta herramienta que definitivamente no va a detenerse.
