El padrino de la IA renunció a Google para poder hablar libremente sobre sus riesgos

Geoffrey Hinton, a quien se le considera en la industria como el “padrino de la Inteligencia Artificial”, al haber desarrollado la base intelectual para esta tecnología, confirmó que dejó su puesto en Google para hablar sobre los “peligros” de la tecnología que ayudó a desarrollar.

El trabajo pionero de Hinton en redes neuronales dio forma a los sistemas de Inteligencia Artificial (IA) que impulsan muchos de los productos actuales basados en IA Generativa y que han ganado una inmensa popularidad en el último año. Mientras que su trabajo resultó fundamental para el desarrollo de esta tecnología, el investigador indica que no puede evitar sentirse algo arrepentido por ello.

El investigador realizó estas declaraciones en una entrevista publicada por The New York Times (NYT). En un tuit posterior, aclaró que dejó su trabajo en Google para poder “hablar libremente sobre los peligros de la IA” sin preocuparse en cómo sus declaraciones podrían afectar a la compañía, aunque aclaró que “Google ha actuado de forma muy responsable”.

Jeff Dean, científico jefe de Google, dijo que Hinton “ha logrado avances fundamentales en IA” y expresó su agradecimiento por la “década de contribuciones de Hinton en Google”.

“Seguimos comprometidos con un enfoque responsable de la IA. Estamos continuamente aprendiendo a comprender los riesgos emergentes mientras también innovamos audazmente”, agregó Dean en un comunicado.

Infografía | 10 profesiones que serán más productivas con ChatGPT

Anteriormente, Hinton ya había hablado sobre los posibles riesgos sobre el rápido desarrollo de tecnologías basadas en IA, aunque lo hacía de forma cautelosa. Durante una entrevista en febrero a la cadena estadounidense CBS, reconoció que era preocupante la rapidez del desarrollo de la Inteligencia Artificial y la posibilidad de que esta pudiera crear sus propias ideas, por lo que señaló que sería importante “pensar mucho en cómo controlar esto”.

El gran avance del investigador ocurrió en 2012, cuando, junto con dos de sus estudiantes en la Universidad de Toronto, lograron desarrollar una red neuronal capaz de analizar miles de imágenes y aprender a identificar objetos comunes como flores, perros y automóviles. Google adquirió la compañía de Hinton por 44 millones de dólares, donde el investigador continuó trabajando a tiempo parcial hasta la semana pasada.

Ilya Sutskever, uno de los estudiantes colaboradores de Hinton, se convirtió en el científico jefe de Microsoft, donde se involucró en el desarrollo y lanzamiento de OpenAI, la compañía detrás de ChatGPT.

Aunque Hinton dedicó prácticamente toda su vida profesional al desarrollo de tecnologías que hicieran posible sistemas de IA, actualmente el académico se ha convertido en una voz de alerta sobre los posibles riesgos del rápido desarrollo y uso de estas plataformas, aunque desestima su papel en la aceleración de este tipo de plataformas.

“Creo que lo que sea que vaya a pasar sería inevitable. Aun cuando una persona detuviera su investigación, no evitaría que esto sucediera. Si mi impacto es hacer que pase un mes antes, ese es el límite de lo que una persona puede hacer”, señaló a CBS.

“Me consuelo con la excusa normal: si no lo hubiera hecho yo, alguien más lo habría hecho”, añadió durante la entrevista con el New York Times.

El éxito comercial de ChatGPT, que rápidamente logró 100 millones de usuarios en dos meses, aceleró el interés de las grandes tecnológicas por crear o mejorar sus propios sistemas de Inteligencia Artificial. Sin embargo, esta carrera impulsada por el lema de Silicon Valley, “muévete rápido y rompe cosas”, ha provocado la preocupación de empresarios, académicos y gobiernos por las posibles consecuencias de estas plataformas.

Aunque expertos y desarrolladores indican que aún se está lejos de crear una IA general o la creación de una distopía al estilo de las clásicas historias de ciencia ficción, el uso de las plataformas disponibles actualmente podría tener consecuencias inmediatas sobre el empleo y la economía que aún no están claras para la industria.

En la entrevista con el Times, Hinton se sumó también a las preocupaciones sobre el potencial de la IA para eliminar puestos de trabajo y crear un mundo en el que muchos “ya no podrán saber lo que es verdad”.

Entérate: ChatGPT desplazará a 300 millones de trabajadores en EE. UU. y Europa

A finales de marzo, expertos, académicos y empresarios, incluidos Elon Musk y Steve Wozniak, firmaron una carta publicada por el Future of Life Institute para pedir una pausa de seis meses a los grandes desarrollos de IA, en tanto advierten sobre riesgos potenciales para la sociedad y las consecuencias desconocidas derivadas de su uso.

Aunque el concepto de Inteligencia Artificial no se desarrolló en el último par de décadas, con algunos ejemplos e iteraciones que existían prácticamente desde la década de los noventa, la capacidad de los sistemas más actuales proviene principalmente de la enorme capacidad de cómputo y datos con los que cuentan las grandes empresas como Google o Microsoft, y que anteriormente no estaba disponible para los departamentos académicos.

Al respecto, durante la entrevista con el NYT, Hinton señaló que aunque las primeras redes neuronales eran un poderoso ejemplo de cómo las máquinas entendían y generaban lenguaje, estas se ubicaban aún por debajo de la capacidad de la mente humana. Sin embargo, conforme los sistemas crecieron en datos y poder de cómputo, su posición se volvió más precavida, al considerar que estas máquinas podrían superar a la mente humana en algunos aspectos.

También lee: Pesadillas tecnológicas que no te dejarán dormir esta noche

“Tal vez lo que sucede en estos sistemas es en realidad mucho mejor que lo que sucede en el cerebro”, advirtió. Y añadió que si se considera la velocidad en la que se han desarrollado estos sistemas en los últimos cinco años, “toma la diferencia y propágala hacia adelante. Eso asusta”.

“La idea de que estas cosas en realidad podrían volverse más inteligentes que las personas, algunas personas lo creían”, dijo Hinton en la entrevista. “Pero la mayoría de la gente pensó que estaba muy lejos. Y pensé que estaba muy lejos. Pensé que faltaban entre 30 y 50 años o incluso más. Obviamente, ya no pienso eso”.