Apuesta de Apple por IA podría enfrentar errores, alucinaciones y riesgos de privacidad
Nadie quiere quedarse fuera de la ola de Inteligencia Artificial (IA), pero su implementación tiene sus desafíos. Apple podría anunciar la incorporación de IA generativa a los iPhones durante la Conferencia Mundial de Desarrolladores (WWDC) este lunes 10 de junio, marcando la reorganización más importante de la compañía en una década, pero esta apuesta podría enfrentar mayores errores y riesgos de privacidad que otros desarrollos.
Según un informe del medio estadounidense especializado, Bloomberg, Apple lanzará un Siri mejorado, más conversacional y versátil. La nueva versión de Siri utilizará un sistema de IA generativa que le permitirá chatear en lugar de responder preguntas una por una. La actualización de Siri forma parte de un esfuerzo más amplio por integrar la IA generativa en todos los aspectos del negocio de Apple, incluyendo el aumento de la memoria en los iPhones para soportar las nuevas capacidades del asistente.
Sin embargo, tal como informó anteriormente el periódico New York Times, Apple enfrentaría varios desafíos con esta nueva tecnología. A pesar de que se espera que la versión mejorada de Siri procese las solicitudes directamente en los iPhones para garantizar la privacidad, los sistemas de IA más pequeños alojados en los dispositivos pueden ser más propensos a cometer errores, conocidos como "alucinaciones", en comparación con los sistemas más grandes almacenados en centros de datos.
Esto se debe a que el desarrollo se alojará en el dispositivo y no recurrirá a la nube, como los desarrollos más avanzados. A esto se le conoce como Edge AI, y significa que los dispositivos de IA se encuentran cerca de los lugares donde se utilizan.
La descentralización de la IA reduce la carga en los centros de procesamiento central, disminuye los costos de transmisión de datos y el estrés de la red, además de mitigar los riesgos al evitar la transferencia de datos confidenciales a través de la red. Sin embargo, otro de los inconvenientes de la Edge AI es que los algoritmos y la propiedad intelectual asociada están fuera de un entorno controlado o seguro.
Por lo tanto, proteger los datos de IA en las aplicaciones de Edge AI es crucial debido a los riesgos potenciales de acceso no autorizado y uso indebido. Estas aplicaciones a menudo funcionan en dispositivos con capacidad de procesamiento y almacenamiento limitadas, lo que requiere que los datos confidenciales se almacenen y procesen localmente.
Esto puede resultar en violaciones de privacidad, exponiendo información personal o sensible. Además, los piratas informáticos o ciberdelincuentes podrían utilizar los datos de IA adquiridos para entrenar sus modelos o extraer información valiosa, lo que podría conducir al robo de propiedad intelectual o a ventajas competitivas injustas. La manipulación de datos de IA en aplicaciones de Edge AI también puede alterar los algoritmos de IA, generando resultados sesgados o distorsionados, conocidos como "ataques de envenenamiento de datos". Esto puede tener graves consecuencias en áreas críticas como el diagnóstico médico o las bases de datos criminales.
Según el periodico estadounidense, Apple tiene varias ventajas en la carrera de la IA, incluidos más de dos mil millones de dispositivos en uso en todo el mundo donde puede distribuir productos de IA, sin embargo esto podría ser contraproducente de no pensar en las implicaciones.
Aunque Apple está obligada a presentar innovaciones en IA, pues durante la última década, ha enfrentado desafíos para desarrollar una estrategia integral de inteligencia artificial, y Siri no ha experimentado mejoras significativas desde su lanzamiento.
Las limitaciones del asistente han disminuido el atractivo del altavoz inteligente HomePod de la compañía, ya que a menudo no puede realizar tareas simples de manera consistente, como cumplir con una solicitud de canción.
Introducido en 2011 como el primer asistente virtual para iPhone, Siri ha estado limitado a solicitudes individuales y no ha podido seguir una conversación continua. En contraste, ChatGPT puede entender contextos y realizar tareas complejas, dejando a Siri en desventaja. La comprensión de que la tecnología había superado a Siri provocó una reorganización significativa dentro de Apple, que ahora se enfoca en la IA generativa como un proyecto de campaña crucial.
Además de una renovada apuesta por Siri, se espera que este 10 de junio la empresa también presente una asociación con OpenAI, empresa desarrolladora de ChatGPT, y versiones mejoradas de sus aplicaciones integradas, además de presentar un administrador de contraseñas el rediseño de las pantallas del Centro de control y configuración.
