CEO de OpenAI urge regular Inteligencia Artificial por riesgos
Pide en reunión con legisladores de Estados Unidos crear una agencia que vigile las herramientas de IA.
La Inteligencia Artificial (IA) puede ser una tecnología peligrosa, o al menos así lo advirtió Sam Altman, CEO de OpenAI, creador de ChatGPT, quien pidió al Congreso de Estados Unidos crear una regulación con estándares de uso.
Durante una audiencia en el Senado de Estados Unidos, a mediados de mayo, Altman urgió a crear medidas de seguridad para los sistemas avanzados de Inteligencia Artificial, ya que consideró que de no hacerlo, el uso de estas herramientas “podría salir bastante mal”.
“Entendemos que la gente está ansiosa por cómo puede cambiar la forma en que vivimos; nosotros también, pero si esta tecnología sale mal, puede salir bastante mal.
“(Es necesario crear) una nueva agencia que autorice cualquier esfuerzo por encima de una cierta escala de capacidades y podría quitar esa licencia y garantizar el cumplimiento de las normas de seguridad”, advirtió el creador de ChatGPT.
De acuerdo con un reporte de The Wall Street Journal (WSJ), la audiencia se realizó para que los legisladores pudieran comprender con más detalle de qué se trata la Inteligencia Artificial y las nuevas herramientas como ChatGPT-4 de OpenAI.
El WSJ aseguró que aunque los miembros del Congreso estadounidense saben que la Inteligencia Artificial debe someterse a regulación federal, aún se encuentran en una etapa de análisis y todavía no existe consenso.
El diario estadounidense señaló que el senador Josh Hawley, quien es el principal republicano en el panel del Comité Judicial del Senado, preguntó si el ser humano será capaz de crear un equilibrio entre las nuevas herramientas de IA, con el tema ético.
El senador demócrata Richard Blumenthal, detalló The WSJ, tomó participación en la audiencia al reproducir una grabación falsa generada por IA de su voz leyendo una declaración de apertura escrita por ChatGPT. El diario dice que el político se maravilló de su realismo, pero también cuestionó qué más podría crear.
“¿Qué pasaría si hubiera respaldado la rendición de Ucrania o el liderazgo de Vladimir Putin? La perspectiva es más que un poco aterradora”, aseveró el legislador demócrata.
En general, durante la reunión con el CEO de OpenAI, los legisladores expresaron su preocupación por las elecciones, informó el WSJ, y por cómo los sistemas de Inteligencia Artificial podrían usarse para difundir información falsa o manipular a los votantes.