Departamento de Comercio, Google DeepMind, Microsoft y xAI probarán IA para seguridad
Google DeepMind, Microsoft y xAI ayudarán a CAISI a realizar evaluaciones previas al despliegue e investigaciones específicas para comprender mejor las capacidades de la IA.
El Centro de Estándares e Innovación en IA (CAISI, por sus siglas en inglés), parte del Instituto Nacional de Estándares y Tecnología del Departamento de Comercio en Estados Unidos, anunció nuevos acuerdos con empresas de Inteligencia Artificial (IA).
Se trata de las firmas Google DeepMind, Microsoft y xAI, las cuales ayudarán a CAISI a realizar evaluaciones previas al despliegue e investigaciones específicas para comprender mejor las capacidades de la IA de vanguardia y reforzar la seguridad en este campo.
Informaron que los acuerdos se han renegociado para reflejar las directrices de CAISI, siguiendo el mandato del secretario de Comercio y del Plan de Acción de IA de Estados Unidos.
Los convenios con los desarrolladores de IA otorgan al gobierno estadounidense la capacidad de evaluar los modelos tanto antes de su lanzamiento público como en evaluaciones posteriores a su implementación.
A la fecha, CAISI ha completado más de 40 evaluaciones de este tipo, abarcando incluso modelos de última generación que aún no han sido publicados.
Explicaron que con el objetivo de analizar exhaustivamente las capacidades y los riesgos de seguridad nacional, los desarrolladores suelen entregar a CAISI modelos con las medidas de seguridad reducidas o eliminadas.
Además, evaluadores gubernamentales de diversas agencias participan en estas valoraciones y proporcionan retroalimentación a través de un grupo de trabajo convocado por CAISI.
El Centro señaló que los acuerdos brindan soporte para realizar pruebas en entornos clasificados y fueron diseñados para tener la flexibilidad necesaria para adaptarse con rapidez a los continuos avances en la tecnología de la IA.
“La ciencia de la medición independiente y rigurosa es esencial para comprender la IA de vanguardia y sus implicaciones para la seguridad nacional”, dijo Chris Fall, director de CAISI.