California promulga ley de IA que busca equilibrio entre innovación y seguridad
El gobernador de California, Estados Unidos, Gavin Newsom, promulgó el Proyecto de Ley Senatorial 53, la Ley de Transparencia en la Inteligencia Artificial Fronteriza (TFAIA, por sus siglas en inglés), diseñada para mejorar la seguridad en línea y establecer medidas para el desarrollo de modelos de Inteligencia Artificial (IA) de frontera, que se refiere a modelos básicos altamente eficaces que podrían poseer capacidades lo suficientemente peligrosas como para representar graves riesgos para la seguridad pública.
La ley SB 53 tiene como objetivo generar confianza pública, al mismo tiempo que impulsa la innovación en nuevas tecnologías. Por ello, establece la creación de un nuevo consorcio dentro de la Agencia de Operaciones Gubernamentales para desarrollar un marco que permita la creación de un clúster de computación pública, llamado CalCompute, que impulse el desarrollo y la implementación IA ética, equitativa y sostenible mediante el fomento de la investigación y la innovación.
También contempla la creación de un nuevo mecanismo para que las empresas de IA de vanguardia y el público informen posibles incidentes de seguridad críticos a la Oficina de Servicios de Emergencia de California, para garantizar la seguridad de los modelos.
Relacionado: OpenAI pide a California que regulación de IA se base en la de Unión Europea
La nueva ley firmada por el gobernador de California también impone nuevos requisitos para los desarrolladores de IA de frontera, quienes deberán publicar un marco en su sitio Web en donde describan cómo la empresa ha incorporado estándares nacionales, internacionales y las mejores prácticas de consenso de la industria en su marco de IA de frontera. De esta manera se espera fortalecer la transparencia de los modelos.
Además, protege a los posibles denunciantes que revelen riesgos significativos para la salud y la seguridad que plantean los modelos fronterizos; crea una sanción civil por incumplimiento, ejecutable por la oficina del Fiscal General; y ordena al Departamento de Tecnología de California recomendar anualmente actualizaciones apropiadas a la ley basándose en los aportes de múltiples partes interesadas, los avances tecnológicos y los estándares internacionales.
El documento, redactado por el senador Scott Wiener (representante demócrata por San Francisco), se basa en las recomendaciones del primer informe nacional de California, solicitado por el gobernador Newsom y publicado a principios de este año, y contribuye a consolidar la posición de California como líder nacional en IA responsable y ética.
La ley SB 53 pretende lograr el equilibrio entre la protección de las comunidades y la prosperidad de la creciente industria de la IA.
Lee también: El mayor riesgo de la Inteligencia Artificial no es ser consciente, sino parecerlo, advierte CEO de Microsoft AI
“California colabora estrechamente para fomentar el liderazgo tecnológico y crear un entorno donde la industria y el talento prosperen. El estado equilibra su labor para impulsar la IA con leyes sensatas que protegen al público, adoptando la tecnología para simplificarnos la vida y lograr un gobierno más eficiente, eficaz y transparente. El liderazgo de California en la industria de la IA ayuda a guiar al mundo en la implementación y el uso responsables de esta tecnología emergente”, celebró Gavin Newsom.
California se considera la cuna de la IA por la presencia de 32 de las 50 principales empresas de IA. Asimismo, lidera la demanda estadounidense de talento en IA y en 2024, el 15.7% de todas las ofertas de empleo en IA en Estados Unidos se ubicaron en ese estado.
Nueva York también avanza con la Ley de Educación y Seguridad de Inteligencia Artificial Responsable (RAISE, por sus siglas en inglés), que busca proteger a la sociedad de los riesgos asociados con el mal uso de la IA.