Pide Sam Altman regulación de IA: “Mi peor temor es que causemos un daño significativo al mundo”
El mañana de la Inteligencia Artificial debe ser un futuro con regulación. Así lo expuso Sam Altman, el hombre responsable de ChatGPT, en el Capitolio, frente al senado estadounidense durante la primera audiencia para discutir temas en torno a los desarrollos de Inteligencia Artificial.
El CEO de OpenAI expuso su inquietud acerca de los riesgos a los que se enfrenta la humanidad sin un marco regulatorio que proteja a los usuarios: “Es esencial regular la inteligencia artificial, y que esas normas garanticen que el público acceda a los muchos beneficios de esta tecnología”, dijo.
Altman advirtió ante el subcomité del Poder Judicial del Senado acerca del gran potencial de los desarrollos de IA, pero agregó que esta nueva tecnología es “lo suficientemente poderosa” como para cambiar la sociedad de manera impredecible. “Mi peor temor es que nosotros, la industria de la tecnología, causemos un daño significativo al mundo”. También agregó que “si esta tecnología sale mal, puede salir bastante mal”.
Sam Altman, CEO of the start-up behind the AI chatbot ChatGPT, agreed with members of the Senate on Tuesday on the need to regulate increasingly powerful AI technology. https://t.co/iFjgQBBdwY pic.twitter.com/NNXJykGJMu
— The New York Times (@nytimes) May 16, 2023
El CEO de OpenAI dijo que la intervención regulatoria de los gobiernos será fundamental para mitigar los riesgos. El creador de Chat GPT se enfrentó a diferentes cuestionamientos por parte de los senadores que presidieron el panel con el fin de exponer y evidenciar los avances y las carencias en torno a este nuevo fenómeno tecnológico.
Richard Blumenthal, el demócrata de Connecticut, dijo que a pesar de los riesgos, el Senado tiene la obligación de responder a las demandas de seguridad que requieren los usuarios. “El Congreso tiene una opción ahora. Tuvimos la misma opción cuando nos enfrentamos a las redes sociales”, dijo Blumenthal. “El Congreso no cumplió con el momento en las redes sociales. Ahora tenemos la obligación de hacerlo con IA antes de que las amenazas y los riesgos se vuelvan reales”.
En el Senado también compareció la directora de confianza y privacidad de IBM, Christina Montgomery, quien al igual que Altman pidió “una regulación precisa”, aunque enfocada más bien en la ejecución, a diferencia del CEO de OpenAI, quien se centró en la regulación de las herramientas emergentes.
Algunos de los riesgos a los que los legisladores hicieron referencia durante la audiencia, fueron en torno al potencial de desinformación peligrosa y los sesgos inherentes a los modelos de IA entrenados en contenido de internet. Además, plantearon los riesgos que plantea el contenido hecho por desarrollos de IA para el proceso democrático, por ejemplo, al mismo tiempo de incluir la posibilidad de que China pudiera superar las capacidades de Estados Unidos en este ámbito.
Incluso, el senador Richard Blumenthal también preguntó acerca del sesgo de información que existe cuando este tipo de desarrollos obtienen información incorrecta, en específico de los que se alimentan de datos. Además, el senador de Missouri Hawley, el republicano de mayor rango en el subcomité, preguntó si la IA servirá para ser tan transformadora como la imprenta, o tan destructiva como la bomba atómica. “Hasta cierto punto, depende de nosotros aquí, y de nosotros como pueblo estadounidense, escribir la respuesta”, dijo Hawley, según informó el periódico norteamericano Los Angeles Times.
Chat GPT, uno de los desarrollos de IA más populares hasta el momento, se alimenta mediante un proceso llamado "aprendizaje automático" o "aprendizaje profundo”, proceso mediante el cual el chatbot recopila una gran cantidad de texto de diferentes fuentes de Internet. Después prepara el texto para su uso en el entrenamiento. Este desarrollo también utiliza un algoritmo de aprendizaje automático llamado GPT para entrenar al modelo, enseñándole a predecir palabras en función del contexto.
El chatbot se ajusta y retroalimenta con datos y patrones estadísticos aprendidos de los datos de entrenamiento. Este tipo de aprendizaje está ligado a los riesgos a los que hicieron referencia los legisladores, pues su manera de aprender puede desatar algunos sesgos de información y proporcionarla a los usuarios.
Durante esta primer audiencia, el ambiente se mantuvo más tranquilo y menos rígido a como se había mantenido en ocasiones anteriores al hablar de riesgos de redes sociales, como en la anterior audiencia mantenida con TikTok, red social china que corría el riesgo de ser vetada por amenazas a la seguridad nacional del paìs norteamericano.
La que pareciera ser una reunión histórica, se da bajo el contexto de una necesaria regularización que existe no sólo en Estados Unidos, sino alrededor del mundo. Por un lado, en el continente europeo países como Italia se han sumado a dar los primeros pasos en regularización, pues apenas el mes pasado se restauró a Chat GPT después de un veto temporal en esa región del mundo.
El regulador italiano argumentaba que los datos de los usuarios no estaban protegidos por OpenAI, por lo que se obligó a la empresa a crear estrategias para garantizar la protección de datos de los usuarios. Altman, CEO de la empresa, respondió a las exigencias impuestas por el gobierno italiano, añadiendo la opción de permitir o no a Chat GPT alimentarse de los datos de los usuarios, además de agregar verificaciones de edad y una clara explicación de cómo ocupa OpenAI los datos.
Pero Europa no es el único continente preocupado por los riesgos que la IA supone. En Latinoamérica, por ejemplo, Colombia también investigará a Chat GPT para verificar que el desarrollo cumple con la regulación colombiana respecto a la protección de datos personales, misma que está orientada a proteger la información personal de los usuarios, según un informe de Bloomberg Linea.
Chat GPT ha cobrado gran popularidad en lo que va de este año. Estados Unidos es el país con más número de visitas, seguido de la India. En Latinoamérica Brasil, Colombia y México son los principales países con más número de visitas, según datos de Bloomberg Linea.
La regulación en este sector es, más que importante, urgente, en un contexto que aparentemente se verá afectado de manera inevitable por la IA en todos los ámbitos de la vida.
