IA emocional toma fuerza en el software empresarial
La Inteligencia Artificial (IA) emocional se encuentra ganando terreno en el ámbito empresarial. Según el informe Enterprise SaaS Emerging Tech Research de la empresa de investigación y análisis financiero, PitchBook, las empresas se encuentran utilizando asistentes de IA para ejecutivos y empleados, y convierten a los chatbots en vendedores de primera línea y representantes de servicio al cliente.
La "IA emocional" se refiere a la capacidad de los sistemas de inteligencia artificial para detectar y responder a las emociones humanas, llevando la tecnología más allá del análisis de sentimientos tradicional. Utilizando datos multimodales, que combinan información visual, auditiva y psicológica, esta tecnología promete ofrecer una interpretación más matizada de las interacciones humanas.
El concepto detrás de la IA basada en emociones es simple pero ambicioso: con el aumento de la dependencia de la IA en interacciones cotidianas, estos robots deben ser capaces de interpretar señales emocionales complejas, desde expresiones faciales hasta tonos de voz. Gigantes tecnológicos como Microsoft y Amazon ya han lanzado servicios en la nube que incorporan capacidades de IA emocional, facilitando el acceso de los desarrolladores a estas herramientas avanzadas.
“En esta nueva era, los chatbots no se limitan a pasar el test de Turing o facilitar transacciones comerciales, sino que están siendo diseñados para satisfacer necesidades emocionales personales”, explica Mauricio Figueroa, investigador de derecho y tecnología, a través de su análisis en su documento en torno a reflexiones y matices de la IA y la privacidad de los datos durante el posgrado de Derecho e Inteligencia Artificial de la UBA en Buenos Aires.
PitchBook señala la creciente relevancia de la IA emocional en un entorno donde las interacciones automatizadas entre humanos y máquinas son cada vez más comunes. En este sentido, el papel de cámaras, micrófonos y dispositivos portátiles es crucial para capturar los datos necesarios que permitan a la IA detectar emociones de manera efectiva.
Sin embargo, el desarrollo de esta tecnología presenta diferentes preocupaciones, por ejemplo, las fallas fundamentales en su diseño. El estudio Expresiones emocionales reconsideradas: desafíos para inferir emociones a partir de los movimientos faciales humanos, que revisó múltiples investigaciones, concluyó que las emociones humanas no pueden ser determinadas con precisión únicamente a partir de movimientos faciales, lo que cuestiona la base misma de la IA emocional.
Además, las crecientes preocupaciones regulatorias, como la Ley de IA de la Unión Europea que restringe el uso de detección de emociones en ciertos contextos, podrían limitar su implementación en el mercado. En Estados Unidos, leyes como la Ley de Privacidad de Información Biométrica (BIPA) de Illinois, que prohíbe la recolección de datos biométricos sin consentimiento, también complican su adopción.
Dicha preocupación también se sostiene debido a la vulnerabilidad de las relaciones interpersonales a las que se adentran dichos chatbots. “La intersección entre privacidad, vulnerabilidad e IA generativa a luz de la interacción de humanos y sistemas informáticos desenvuelve una nueva frontera de análisis que reta diversas de las categorías jurídicas que tenemos establecidas”, expresa Mauricio Figueroa.
Sin embargo, el potencial de este tipo de tecnología permea en la personalización de los servicios que podría traer beneficios a largo plazo para las empresas.
