Los riesgos de la IA: qué dicen sus pioneros premiados con un Nobel

La Paz, 14 de octubre 2024

Sus creadores hablaron de las implicaciones sociales y de regulación de su invento. Indican que «no tenemos experiencia en tratar con algo más inteligente que nosotros«.

Los pioneros en IA John Hopfield y Geoffrey Hintonrecibieron el Premio Nobel de Física 2024 por sentar las bases del aprendizaje automático moderno. Sin embargo, los científicos también son voces reconocidas por alertar cerca de los peligros potenciales de la IA.

Su trabajo, asentado en los años 80, es la base de gran parte de los avances actuales clave para la IA, como el reconocimiento de imágenes o la traducción automática, entre otras. Este premio les llega en un momento de debate global sobre regulación de la IA, sus límites y sus implicaciones éticas, dada la importancia de la IA en los procesos tecnológicos.

Las advertencias acerca de los peligros en IA

Hinton, conocido como «el padrino de la IA», señala de forma crítica que el impacto de esta tecnología es comparable al de la Revolución Industrial. También hizo hincapié en que debemos preocuparnos por la «posibilidad de que perdamos el control».

«No tenemos experiencia en tratar con algo más inteligente que nosotros», dijo Hinton, quien renunció a su trabajo en Google hace un año para poder difundir los peligros que detectaba en estas tecnologías.

Hopfield, con un perfil más bajo, se centró en los aspectos técnicos del desarrollo de la IA. Fue él quien creó la ‘red de Hopfield’, un modelo matemático de 1982 que es base para la memoria y reconocimiento de patrones por parte de las máquinas.

Beneficios de la IA y colaboraciones

Ambos galardonados sí reconocen que la IA puede traer enormes beneficios en áreas como la salud, la investigación científica o la lucha contra el cambio climático. Hinton ha pedido una mayor colaboración entre científicos, políticos y líderes de la industria para hacer de la IA una tecnología segura.