¿Gobernanza de la IA o supremacía tecnológica?
Recientemente Joe Biden, presidente de Estados Unidos, emitió un marco sobre desarrollo seguro y ético para la inteligencia artificial (IA), llamado "Memorándum de Seguridad Nacional" (NSM, por sus siglas en inglés).
Con este documento refuerza la supremacía norteamericana como líder en la implementación responsable de IA en el mundo (obvio no se refiere a la Unión Europea), y plantea una serie de principios (universales) para gobernar su uso en aplicaciones de seguridad nacional, apoyadas en el marco internacional.
La gobernanza de datos y los principios éticos relacionados con el uso y procesamiento de datos se presentan como aspectos esenciales en la gestión y supervisión, de manera que su uso resulte beneficioso para la sociedad.
Sin embargo, este memorándum no trae nada nuevo bajo el brazo. Sólo refleja una extensión de su política exterior tradicional aplicada al ámbito de la tecnología, sobre todo en tres aspectos:
- Posicionarse como líder global indiscutible en IA y poseer el dominio tecnológico para mantener su influencia en la geopolítica global.
- Enfatizar la protección de derechos humanos, transparencia y prevención de abusos como discriminación e invasión de privacidad, que al igual que su política exterior está centrada en los llamados “valores democráticos” y en la defensa de los derechos individuales y colectivos.
- Fomentar marcos de gobernanza internacional, es decir, trabajar junto con aliados y promover la estabilidad global a través de alianzas como la Declaración Política sobre el uso militar de la IA, respaldada por 56 países.
¿Cuáles son los argumentos que prenden los focos rojos?
En primer lugar, el memorándum ignora la necesidad de un diálogo global inclusivo que integre los diversos puntos de vista y marcos de valores éticos, como los defendidos en la Unión Europea, en América Latina y en otras regiones en el mundo. El riesgo es que la visión estadounidense domine el panorama de la IA, dejando poco espacio para los matices regionales en la gobernanza y sus principios éticos.
En segundo lugar, sabemos que los marcos internacionales promovidos por Estados Unidos suelen estar orientados a consolidar alianzas en función de intereses geopolíticos específicos, lo que puede crear brechas de desconfianza en aquellos países que las perciben como una herramienta de control político.
Por último, si no hay una definición efectiva para incluir en estos marcos a países que puedan tener distintas posiciones sobre el uso militar de la IA, la gobernanza sería muy endeble.
Aparentemente, Estados Unidos busca evitar que esta tecnología quede exclusivamente en manos de grandes corporaciones tecnológicas para que la innovación pueda surgir desde diversos sectores (White House, 2023). Este enfoque de gobernanza multiorganizacional en el sector público fue propuesto desde la academia (Janssen, 2020), para asegurar una IA confiable, dado que establece responsabilidades claras para el personal encargado del ciclo de vida de los datos y algoritmos tanto dentro como entre las organizaciones. Esta definición es particularmente relevante en el contexto de la IA, ya que el adecuado manejo de datos no solo garantiza la efectividad del sistema, sino que también es fundamental para evitar sesgos y asegurar la rendición de cuentas.
Sin embargo, la gobernanza de datos que busca Estados Unidos parece sólo priorizar una perspectiva de seguridad nacional, lo cual, aunque fundamental, resulta insuficiente para cubrir los principios de buenas prácticas éticas en el manejo de datos.
Desde el 2021, la Organización para la Cooperación y el Desarrollo Económico (OCDE) publicó una serie de “Principios de Buenas Prácticas para la Ética de Datos en el Sector Público”, que incluían recomendaciones como: (i) incorporar consideraciones éticas en los procesos de toma de decisiones, (ii) monitorear la calidad y adecuación de los datos utilizados en IA, y (iii) definir límites claros para la recolección y uso de datos, especialmente cuando se trata de datos personales. (OCDE, 2021)
En 2023, la Comisión Europea también abordó el valor de los datos abiertos en el sector público. En su documento, "Creating Public Value through Open Data", plantea los beneficios del reúso de datos abiertos, no solo en términos de eficiencia, sino también como un medio para generar valor público en colaboración con el sector privado. (European Commission, 2023). La más reciente iniciativa es el Think Tank europeo "Open Future" que propuso en 2024 un enfoque de datos comunes para los sistemas de IA, promoviendo conjuntos de datos compartidos que faciliten la transparencia y calidad de la IA.
En conclusión, la gobernanza de la IA enfrenta múltiples desafíos derivados de las diferencias regulatorias y culturales entre países. La Unión Europea ha adoptado un enfoque precautorio que prioriza la protección de los derechos humanos y la privacidad, mientras que Estados Unidos y China tienden a favorecer la innovación para controlar y dominar el mercado. Estas súper potencias por supuesto que ven esta tecnología como una ventaja estratégica, especialmente en aplicaciones militares y de seguridad nacional, lo que limita su disposición a cooperar y compartir datos.
La falta de consenso sobre la regulación y el uso de la IA puede incrementar las tensiones globales en un entorno digitalizado. La interoperabilidad y el desarrollo de estándares técnicos comunes son esenciales para facilitar la cooperación internacional, sin embargo, las normativas entre regiones son dispares, además de que la distribución inequitativa evita que las ventajas tecnológicas lleguen a muchos países.
Los marcos legales actuales no siempre se adaptan a las peculiaridades de la IA porque esta tecnología evoluciona día a día, por eso es necesario mantener cierta flexibilidad porque de otra manera las leyes quedarían rebasadas en muy poco tiempo. El equilibrio entre la innovación y la protección de los derechos fundamentales debe ser la clave.
Referencias
- European Commission. (2023). Creating Public Value through Open Data. European Union.
- Janssen, M., et al. (2020). Data Governance: Organizing Data for Reliable AI. Journal of Data Governance.
- OECD. (2021). Principles of Good Practice for Data Ethics in the Public Sector. OECD Publishing.
- OECD. (2024). AI Governance and Data Privacy: Opportunities and Risks of Generative AI. OECD Publishing.
- White House. (2023). National Security Memorandum on Artificial Intelligence. Office of the President.
Claudia Jiménez
Politóloga e Internacionalista en temas de cooperación internacional y derechos humanos en América Latina, con 20 años de experiencia en consultorías nacionales y gobierno.
Profesora universitaria y conferencista. Desarrolladora de cursos y proyectos de tecnología y ética para la academia y empresas. Catedrática de la Escuela de Ciencias Sociales y Gobierno, y de Estudios Humanísticos y Educación del Tecnológico de Monterrey. Pionera en Inteligencia Artificial en educación.
