Creando algoritmos responsables: un caso de éxito
La colaboración entre la innovación tecnológica y las regulaciones de privacidad es un área de creciente importancia en la lucha contra la violencia digital. Un claro ejemplo de esta colaboración es la alianza entre las Defensoras Digitales del movimiento Ley Olimpia y la empresa de servicios de Inteligencia Artificial (IA) AuraChat.Ai.
Hace unos días firmaron una colaboración estratégica para desarrollar una plataforma avanzada de IA, que tiene como propósito brindar acompañamiento y contención a víctimas de violencia digital. A través de esta plataforma, las Defensoras Digitales podrán multiplicar el número de casos atendidos con la misma metodología que han desarrollado en sus 4 ejes de atención:
- Contención psicoemocional
- Contención digital
- Contención legal
- Contención comunitaria
En este caso vemos como la IA puede ser una aliada fundamental en la lucha contra la violencia, al ofrecer recursos adicionales para identificar y prevenir situaciones de peligro, y brindar un apoyo indispensable a las víctimas. El impacto social de estas iniciativas es crucial no sólo para impulsar un uso responsable y ético sino también detonar cambios significativos en nuestras sociedades, en donde la IA esté al servicio de la humanidad y no al revés.
Sin lugar a duda la Ley Olimpia ha sido un hito en la lucha contra la lucha contra la violencia digital. Surge como una respuesta ante la creciente preocupación y la necesidad de proteger a las personas, especialmente a las mujeres, contra el acoso y la difusión de contenido íntimo en Internet. El movimiento que dio origen a esta ley comenzó con Olimpia Coral Melo, quien, tras ser víctima de la difusión no consensuada de un video, se convirtió en una activista para visibilizar y combatir este tipo de violencia.
El proceso de la Ley Olimpia ha sido largo y desafiante. En 2014, se presentó por primera vez una propuesta de reforma; en 2016 se introdujo el “violentómetro”, una herramienta para medir y visibilizar las distintas formas de violencia. Pero no será hasta 2018 que se aprobó la primera ley, y en 2021, se consiguió la aprobación a nivel nacional. Importante decir que ha tenido un impacto significativo en México y ha sido una referencia para otros países, como Argentina, que la aprobó en 2023.
A pesar de los avances, este tipo de violencias enfrenta varios retos que están enmarcados en los modelos patriarcales que dominan aún en sociedades, empresas y espacios públicos que perpetúan la cosificación, la hipersexualización y la mercantilización de los cuerpos de las mujeres a través de algoritmos que son entrenados con una subrepresentación femenina.
En palabras de Marcela Hernández Oropa, activista del Frente Nacional para la Sororidad, Olimpia Coral Melo y fundadora de la Comisión de Atención a Víctimas, la violencia digital se reconoce en la legislación mexicana como una modalidad de violencia de género que se ejerce de manera desproporcionada contra las mujeres. La Ley General de Acceso de las Mujeres a una Vida Libre de Violencia, hace una diferencia entre tipos y modalidades. Los tipos de violencia incluyen la física, psicológica, económica y sexual, mientras que las modalidades se refieren al ámbito en el que ocurre la violencia: escolar, familiar, laboral y digital. En cada ámbito, las dinámicas de interacción y las formas de vincularse son diferentes, lo que hace que el contexto determine en gran parte el comportamiento de las personas. En este sentido, las activistas del Frente llaman a reemplazar el concepto de “violencia digital” por el de Violencia de Género Facilitada por las Tecnologías (VGFT).
Del otro lado, tenemos a la empresa AuraChat.AI que está comprometida con la innovación tecnológica con responsabilidad social. La alianza con el movimiento Ley Olimpia se traduce en el desarrollo de un smartchat que se entrenará y alimentará de conocimientos especializados de psicólogas, abogadas y activistas feministas. El objetivo es ofrecer un apoyo efectivo a quienes enfrentan violencia en los espacios digitales. Esta plataforma tendrá las siguientes fortalezas:
- Protección de la privacidad: el manejo de datos personales sensibles garantiza que la privacidad de las víctimas esté protegida en todo momento.
- Empoderamiento de las víctimas: a través de la tecnología se proporcionan herramientas y recursos para enfrentar y superar situaciones de violencia, ofreciendo contención psicoemocional, digital, legal y comunitaria.
- Perspectiva feminista en la tecnología: crucial para abordar las dinámicas de poder y opresión que perpetúan la violencia de género. La participación de activistas feministas en el desarrollo de la plataforma asegura que la tecnología no solo sea eficaz, sino también equitativa y justa.
- Responsabilidad de las empresas tecnológicas: Las grandes empresas de plataformas digitales tienen la responsabilidad de responder a las solicitudes de información de las autoridades y colaborar en la identificación de agresores. Además, deben revisar y ajustar sus algoritmos para evitar perpetuar la violencia y la discriminación.
- Legislación y Regulación: La Ley Olimpia es un ejemplo de cómo las leyes pueden evolucionar para abordar nuevas formas de violencia habilitadas por la tecnología. Sin embargo, es necesario continuar trabajando en la implementación y mejora de estas leyes a nivel internacional.
En perspectiva, la combinación de regulaciones robustas y prácticas empresariales responsables son fundamentales para asegurar que el progreso tecnológico beneficie a la sociedad sin comprometer la privacidad y la seguridad de los individuos. Este caso de colaboración nos muestra que podríamos avanzar hacia un mundo digital más seguro y equitativo, aunque eso depende de todos.
El evento tuvo lugar en la Escuela de Periodismo Carlos Septién García y contó con la participación de las activistas del Frente Nacional para la Sororidad, Olimpia Coral Melo, activista y fundadora; Marcela Oropa y Fernanda Medellín, responsable de comunicación del movimiento. Además, de la intervención de Edith Contla, Cofundadora de AuraChat.Ai y la directora del recinto, Analett Díaz Alcalá.
La plataforma estará en versión piloto durante los siguientes meses hasta su lanzamiento previsto para el mes de septiembre, donde el público en general podrá acceder a través de diferentes plataformas de mensajería instantánea gratuita al smartchat.
Fuentes de interés:
Intervención de Marcela Hernández Oropa, activista del Frente Nacional para la Sororidad, Olimpia Coral Melo y fundadora y responsable de la Comisión de Atención a Víctimas en la III CONFERENCIA MINISTERIAL sobre políticas exteriores feministas, México, 2024
Claudia Jiménez
Politóloga e Internacionalista en temas de cooperación internacional y derechos humanos en América Latina, con 20 años de experiencia en consultorías nacionales y gobierno.
Profesora universitaria y conferencista. Desarrolladora de cursos y proyectos de tecnología y ética para la academia y empresas. Catedrática de la Escuela de Ciencias Sociales y Gobierno, y de Estudios Humanísticos y Educación del Tecnológico de Monterrey. Pionera en Inteligencia Artificial en educación.
