Biden obtiene el compromiso de 7 empresas para construir una IA segura
Amazon, Anthropic, Google, Inflection, Meta, Microsoft y OpenAI, compañías líderes en el desarrollo de soluciones basadas en Inteligencia Artificial (IA), adoptaron una serie de compromisos con el gobierno estadounidense para “ayudar a avanzar hacia un desarrollo seguro, protegido y transparente de la tecnología de IA”, anunció la Casa Blanca.
En un comunicado, la Casa Blanca señaló que la administración del presidente Joe Biden obtuvo el “compromiso voluntario” de estas siete compañías para garantizar que el desarrollo de IA se realice de forma segura, sin comprometer los derechos y la seguridad de los estadounidenses. Los compromisos se enmarcan en tres principios: seguridad, protección y confianza.
Aunque la IA lleva en desarrollo varias décadas, la presentación de productos de IA Generativa como ChatGPT y DALL-E, atrajeron la atención del público hacia esta nueva tecnología con sentimientos encontrados entre asombro y preocupación, tanto por el impacto en la productividad que tendrán estas herramientas, pero también el riesgo por su posible papel en el desempleo y la desinformación.
Recomendamos: Reconocimiento facial respalda el sesgo algorítmico: expertos
En ese sentido, el rápido desarrollo de la IA ha provocado un debate sobre el mejor enfoque de regulación que garantice la seguridad en el uso de esta tecnología. Eric Schmidt, exCEO de Google, se había pronunciado por la adopción de un enfoque de autorregulación de IA, aunque la Unión Europea ya entró en la última fase para presentar una ley que restringe los usos de IA donde presenta un mayor riesgo.
Entre los compromisos anunciados entre la Casa Blanca y las compañías participantes se encuentran: garantizar que los productos sean seguros antes de presentarlos al público; sistemas de desarrollo que priorizan la seguridad, y ganar la confianza del público.
Bajo el primer eje, las empresas desarrolladoras se comprometieron a realizar pruebas de seguridad internas y externas de sus sistemas de IA antes de su lanzamiento, las cuales se llevarán a cabo por “expertos independientes”. Asimismo, las compañías agregarán mecanismos para facilitar el descubrimiento y la notificación de vulnerabilidades en sus sistemas de IA por parte de terceros, para garantizar la identificación de problemas aun cuando el producto haya sido lanzado al mercado.
Otros compromisos incluyen también el desarrollo de mecanismos técnicos sólidos para garantizar que los usuarios sepan cuándo se genera contenido mediante IA, como un sistema de marcas de agua digital.
También asumieron la publicación de un informe sobre las capacidades, limitaciones y áreas de uso apropiado e inapropiado de sus sistemas de IA. Este informe, según la Casa Blanca, cubrirá tanto los riesgos de seguridad como los riesgos sociales y los efectos sobre la equidad y el sesgo. Además, las compañías se comprometieron a compartir información en la industria y con los gobiernos, la sociedad civil y el mundo académico sobre la gestión de los riesgos de la IA.
Al tratarse de “compromisos voluntarios” asumidos por las empresas, estas medidas son parte de un enfoque autorregulatorio entre las empresas involucradas. En ese sentido, no está claro cómo o quién estará a cargo de revisar su cumplimiento, y qué significa para el resto de las compañías involucradas en el desarrollo que no forman parte de los compromisos anunciados.
Adicionalmente, la Casa Blanca informó que se buscará reforzar el trabajo con aliados y socios para establecer un marco internacional sólido para regir el desarrollo y el uso de la IA. Indicó que también se asumieron compromisos voluntarios con los gobiernos de Australia, Brasil, Canadá, Chile, Francia, Alemania, India, Israel, Italia, Japón, Kenia, México, Países Bajos, Nueva Zelanda, Nigeria, Filipinas, Singapur, Corea del Sur, Emiratos Árabes Unidos y Reino Unido.
En junio pasado, el líder de la mayoría del Senado de Estados Unidos, Chuck Schumer, anunció que se iniciarían las labores de redacción de una ley para regular la IA, entre las cuales se encuentran nueve paneles para identificar y discutir las cuestiones complejas como la forma de proteger a los trabajadores, la seguridad nacional, los derechos de autor y la defensa ante “escenarios del fin del mundo”.