Chatbots de IA personalizados: ¿Vienen nuevos desafíos de privacidad para Meta?
Mark Zuckerberg estaría desarrollando prototipos de chatbots capaces de mantener conversaciones humanas con sus casi 4 mil millones de usuarios.
La empresa matriz de Facebook, Meta, podría comenzar a sembrar su semilla en el terreno de la Inteligencia Artificial (IA), con una serie de chatbots que presentarían diversas personalidades, según informaron tres personas con conocimiento de los planes, citadas por el Financial Times, hace unos días.
Los chatbots potenciados con IA son herramientas que han cobrado popularidad en los últimos meses, cuyos programas de software son diseñados para interactuar con usuarios a través de lenguaje natural, imitando conversaciones humanas. En lugar de depender únicamente de comandos predefinidos o respuestas fijas, los chatbots de IA tienen la capacidad de analizar el contexto y el significado detrás de las palabras del usuario para proporcionar respuestas relevantes y coherentes. Esto se logra mediante el uso de algoritmos de procesamiento de lenguaje natural (NLP) y aprendizaje automático. Pero Meta no pretende quedarse sólo con eso.
Según el informe, estos chatbots, apodados internamente como “personas”, adoptarán la forma de diversos personajes, como Abraham Lincoln, ejemplo que se ha explorado en el desarrollo de personajes. Además, también podrían proporcionar nuevas funciones de búsqueda, ofreciendo recomendaciones y proporcionando entretenimiento interactivo.
El objetivo de la empresa es aumentar la interacción en sus plataformas de redes sociales para mantener y atraer a usuarios aprovechando una herramienta que ha cautivado las personas, tal como ocurrió con ChatGPT, de Open AI, que tardó menos de cinco días en llegar a un millón de usuarios, un récord entre los fenómenos tecnológicos.
Pero justamente la retención de los usuarios pone a Meta en medio de un dilema no solamente ético, sino también dentro de una discusión que afronta temas de salud psicológica y psicofísica. Para el Doctor Ariel Vercelli, investigador del Consejo Nacional de Investigaciones Científicas y Técnicas (CONICET), el principal organismo dedicado a la promoción de la ciencia y la tecnología en Argentina, hay un claro problema en la manera en la que la empresa ha retenido a su audiencia, en especial por los riesgos a la privacidad que esto sugiere.
“El extractivismo de datos es muy necesario para este tipo de modelos de negocio que no necesariamente utilizan herramientas de IA, pero que desde hace décadas que se sostienen en datos de fidelización de las audiencias. En el caso de Meta, fue denunciada sistemáticamente por retener a cualquier costo la atención de sus usuarios. A cualquier costo significa que se pasan por alto barreras como enfermedades, adicciones, etc. Hay determinadas construcciones de perfiles donde algunas empresas utilizan los datos porque es mucho más fácil conocer a las personas", señaló el especialista en entrevista.
Al impulsar los desarrollos de IA , la empresa podría encontrarse con grandes cantidades de datos, que utilizaría a su favor. Sin embargo, el problema de la extracción de datos no es nuevo para Meta, empresa que se ha visto envuelta en conflictos por el tratamiento de datos personales de los usuarios.
Los datos personales: el combustible tecnológico
¿Para qué almacenar cantidades estratosféricas de datos? En realidad la respuesta puede ser bastante obvia. Tal como lo sugiere Vercelli, autor de ‘El extractivismo de grandes datos (personales) y las tensiones jurídico-políticas y tecnológicas vinculadas al voto secreto’ (2021), es mejor tener los datos a no tenerlos.
“Los datos son parte de un relacionamiento, hay datos de todo tipo y forma, y hay datos que tienen que ver con cuestiones textuales, comunicaciones y datos técnicos, pero hay otros que son personales, y que pueden vincularse a personas de carne y hueso. Las empresas recolectan grandes cantidades de datos porque pueden. Porque no se les sanciona, y de alguna manera se generan alianzas relacionadas con lo que se hace con esos datos”, dijo Vercelli. “Los datos comienzan a ser un capital enorme que posibilitan o imposibilitan un relacionamiento, y por ende, un modelo de negocios, o posicionar un producto, etc. Lo común es que todas conectan información, y las que no, compran acceso a datos de otras plataformas, o compran datos en el mercado negro, que también los hay”, señaló.
Los datos personales de usuario son el combustible de las tecnológicas, pero en especial de Meta, cuya facturación total ascendió a casi 32,200 millones de dólares estadounidenses en el cuarto trimestre de 2022, de los cuales más de un 97% correspondían a ingresos por publicidad, según datos de Statista. Con esta información, la empresa puede mejorar la manera en la que se dirige a los usuarios y ofrecer anuncios más relevantes, pero no sólo eso.
En 2018, la empresa enfrentó una demanda que alegaba que la red social permitió a terceros, incluyendo a Cambridge Analytica, una empresa británica de análisis de datos que se dedicaba a la minería y el análisis de datos para influir en campañas políticas y electorales. La empresa afirmaba tener la capacidad de recopilar y analizar datos de millones de usuarios de redes sociales para identificar patrones de comportamiento y preferencias. Utilizaba estos datos para crear perfiles de votantes y elaborar estrategias de microsegmentación y publicidad altamente específicas.
La demanda se originó cuando usuarios de Facebook acusaron a la plataforma de compartir sus datos con terceros, incluyendo a Cambridge Analytica, para influenciar la campaña presidencial de 2016. La firma británica recopiló datos de 87 millones de usuarios sin su consentimiento, alega la demanda. Un escándalo que comenzó con un “inocente test de personalidad” en la red social y derivó en acusaciones de robo de datos, interferencia política y manipulación.
Los datos fueron utilizados para elaborar perfiles detallados y personalizados que se utilizaron en campañas políticas y de influencia. Para el doctor Vercelli, estas repercusiones son justamente las que están en juego: “Uno empieza a hablar del poder que tienen algunas corporaciones en relación a los datos poblacionales, y la capacidad de microsegmentar esos datos. ¿Cuánto pueden microsegmentar para llegar a personas, grupos y dividirlos por preferencias y diferentes cuestiones? Se puede cruzar tanta cantidad de datos, que la microsegmentación es cada vez mayor, y ahí comienzan a liderar esta capacidad de segmentación, que hace que empresas como Meta tengan un “poder de fuego” en relación a su principal modelo de negocios que es la propaganda política, y que realmente supera la capacidad que tienen empresas locales”, dijo.
Vercelli, además agrega que el propósito fundamental del negocio de empresas de la talla de Meta, no es precisamente ser meramente una red social: “Tenemos claro qué se vende y ofrece en esta plataforma para cualquier servicio propagandístico o publicitario. Ese es su modelo de negocios. Sirven para eso. No son una red social, son una empresa de propaganda y publicidad. Facebook y Meta no será la empresa que haga el metaverso, será la empresa que haga que su modelo de negocios sea la publicidad”, asegura el experto.
Pero la adquisición de datos no es un problema que implique únicamente ofrecer publicidad. El escándalo reveló el poder que tienen estas empresas para manipular a los usuarios. En el ámbito político, por ejemplo. Como informa The New York Times en su investigación, la filtración posibilitó que la empresa utilizara la actividad personal en las redes sociales de una parte considerable del electorado estadounidense. Esto permitió el desarrollo de estrategias para respaldar su labor en la campaña presidencial de 2016 del entonces presidente Donald Trump.
Como lo señala Vercelli, en términos políticos el voto, que aparece como un derecho clave obligatoriamente secreto, se dañaría por la manera en la que estas empresas actúan, dañando también la democracia. “La democracia se construye en la posibilidad de que cada uno elija libremente. Si eso se puede predecir gracias a los datos de una red social, o utilizando IA sobre datos personales, estamos en una fragancia, y un deterioro bastante peligroso, dejando el voto en una situación asimétrica peligrosa”, aseguró el doctor en Ciencias Sociales y Humanas.
A raíz de dicho caso, Meta acordó pagar 725 millones de dólares para resolver la demanda, además de tomar medidas para restringir el acceso a datos y proporcionar a los usuarios más control sobre el intercambio de información personal, aunque la demanda también abrió el debate sobre la privacidad de datos por parte de los gigantes tecnológicos, así como las prácticas de manipulación en el ámbito político.
Regulación a medias
Durante un largo periodo, los tribunales europeos han sostenido que Meta no puede utilizar estos datos para publicidad a menos que obtenga el consentimiento explícito de los usuarios. No obstante, en julio, Noruega llevó esto un paso más allá y declaró como ilegal el enfoque de Meta en la publicidad basada en el comportamiento, según informa Wired.
El organismo regulador amenazó con prohibir los anuncios conductuales de Meta en el país y propuso una multa diaria de 100,000 dólares a la gigante tecnológica a menos que alterara sus prácticas. La prohibición estaba programada para comenzar el 4 de agosto; sin embargo, tres días antes de esa fecha, Meta anunció a través de una actualización en una publicación de enero en su blog su intención de acatar estas medidas.
Pero aunque el país europeo dio un paso importante, en lo que resta del mundo aún no hay medidas concisas que garanticen la protección de datos.
“La regulación comenzó a relajarse en relación en cómo debían resguardarse, y en el mismo tratamiento de datos, hasta llegar al punto de decir que 'la privacidad no existe más', como Mark Zuckerberg lo ha dicho en reiteradas ocasiones. Se necesita otro tipo de protección, porque la protección que hay ahora es una protección industrialista, que está del lado del negocio de las empresas, del lado de quienes necesitan datos, y que no traspasen ni violen la privacidad”, asegura Vercelli.
Y gracias a esto, no sería una sorpresa que en el futuro, Meta estrene su herramienta de IA que recopile más y más datos personales de sus usuarios para fines comerciales y hasta políticos. “Las corporaciones tienen hoy en día más datos de los que nosotros recordamos, y de los que podemos procesar, pero al final, ¿somos nosotros, o somos nosotros en función de la mirada que las corporaciones tienen de nosotros?”, se cuestiona Vercelli.
