El 1 de mayo, el informático Geoffrey Hinton anunció su dimisión de Google debido a las dudas sobre la tecnología que había ayudado a desarrollar. Le preocupa lo inteligente que se está volviendo la tecnología. El doctor Hinton es tan solo una de las numerosas personas más destacadas que han dado la voz de alarma sobre la nueva generación de chatbots impulsados ​​por IA, como ChatGPT. "En este momento y hasta donde yo sé, no son más inteligentes que nosotros. Sin embargo, creo que pronto podrá llegar a serlo", declaró a la BBC. "Lo que estamos viendo son fenómenos como GPT-4, que eclipsa a una persona en la cantidad de conocimiento general que tiene y de lejos. En términos de razonamiento, no es tan bueno, pero ya es capaz de hacer razonamientos sencillos. Y dado el ritmo de evolución, se prevé que las cosas mejoren bastante rápido. Así que tenemos que preocuparnos por lo que está pasando".

Entender los riesgos emergentes

Los avances en materia de IA plantean «riesgos profundos para la sociedad y la humanidad», declaró Hinton en The New York Times. "Miren cómo era hace cinco años y cómo es ahora. Calcule la diferencia y multiplicala. Resulta aterrador. Es difícil encontrar el modo de evitar que agentes malintencionados la utilicen para cosas malas". A lo que añadió: "Unos pocos se creen la idea de que estas cosas podrían ser más inteligentes que las personas. La mayoría pensó que quedó muy lejos. Yo mismo pensé que quedaba muy lejos. Pensé que todavía utilizar treinta o cincuenta años de margen. Obviamente, ya no lo pienso". No se trata solo de inteligencia. Aquí es donde las cosas se vuelven inquietantes. La IA podría manipular, y tal vez incluso encontrar una manera de matar humanos. "Si llega a ser mucho más inteligente que nosotros, será muy bueno manipulando porque lo habrá aprendido de nosotros, Entrevista en directo de la CNN. "Sabe cómo programar, por lo que encontrará formas de eludir las restricciones que le impongamos. Descubrirá formas de manipular a la gente para que haga lo que quiera». Entonces, ¿cuál es la solución? "No tengo claro qué podemos resolver este problema. Creo que deberíamos hacer un gran esfuerzo para pensar en formas de resolverlo. En este momento, no tengo ninguna solución".

¿Dar un paso atrás?

En marzo, el multimillonario tecnológico Elon Musk y varios expertos pidieron frenar el desarrollo de los sistemas de IA. Así se ganaría el tiempo necesario para garantizar que sean seguros. El lanzamiento de GPT-4, una versión mucho más potente de la tecnología utilizada por ChatGPT, motivó la redacción de una carta abierta firmada por más de mil personas del ámbito de la IA, incluidos Musk y el cofundador de Apple, Steve Wozniak. Curiosamente, Hinton no construyó dicha carta. "No creo que podamos detener el progreso", explicó a la CNN. "No firmé la petición diciendo que deberíamos dejar de trabajar en la IA porque aunque las personas en Estados Unidos dejen de hacerlo, las personas en China no lo harán".

Autor