Nvidia, Microsoft e IBM impulsan una ofensiva global por la seguridad de la IA
Un grupo de 53 empresas de computación en la Nube, ciberseguridad, software e Inteligencia Artificial (IA), incluyendo a Nvidia y Microsoft, anunciaron la creación de la Open Secure AI Alliance, una iniciativa orientada al desarrollo y el intercambio de tecnologías abiertas para proteger datos, software y agentes de IA.
La alianza está liderada por la iniciativa Akrites de la Linux Foundation y cuenta con la participación de otras empresas como IBM, Hugging Face, Red Hat, Cisco, Cloudflare, CrowdStrike, Uber y Nokia, entre otras organizaciones.
El grupo sostiene que los modelos y herramientas abiertos de Inteligencia Artificial son esenciales para la ciberseguridad porque permiten que investigadores y equipos de defensa inspeccionen, adapten y ejecuten sistemas en sus propias infraestructuras, reduciendo la dependencia de proveedores específicos.
Según la alianza, la seguridad de la IA no depende únicamente de que los modelos sean abiertos o cerrados, sino de toda la arquitectura de los agentes, incluidos los mecanismos de identidad, permisos, controles, registros y sistemas de evaluación.
La iniciativa cita como ejemplo un incidente de seguridad de OpenaAI que involucró a Hugging Face, en el que se utilizó un modelo abierto ejecutado para analizar más de 17,000 acciones y responder a una intrusión.
Según la organización, las herramientas cerradas de IA limitaron los análisis forenses al no poder diferenciar las actividades de atacantes y defensores.
Entre las contribuciones anunciadas figura Nvidia Labs Object-Oriented Agent (NOOA), un proyecto de código abierto de Nvidia destinado a facilitar las pruebas, el rastreo, la auditoría y la gobernanza de agentes de IA.
HPE aporta tecnologías de identidad de confianza cero para agentes y servicios de IA, mientras que Hugging Face puso a disposición el formato Safetensors para el almacenamiento seguro de los pesos de los modelos.
Relacionado: ¿Incidentes o peligros de la Inteligencia Artificial? La OCDE trabaja en estas definiciones
La alianza también incluye contribuciones relacionadas con la seguridad de la cadena de suministro de software, la evaluación de modelos y la detección de vulnerabilidades, con la participación de empresas como Palo Alto Networks, SAP, ServiceNow, Snowflake y Nokia.
La Open Secure AI Alliance también hizo un llamado a gobiernos y reguladores para que consideren los modelos abiertos, los mecanismos de seguridad y las herramientas de evaluación como activos defensivos en las políticas de Inteligencia Artificial y ciberseguridad.
El grupo sostiene que restricciones amplias a los sistemas abiertos podrían aumentar la concentración de poder en unos pocos proveedores y reducir la capacidad de defensa de empresas y países.
Las empresas que integran la alianza son Nvidia, Adobe, Box, Cadence, Capital One, Cisco, Cloudera, Cloudflare, Cognition, CrowdStrike, Crusoe, Databricks, Dell Technologies, DoorDash, Elastic, F5, Factory AI, Fortinet, G42, GitHub, HPE, Hugging Face, IBM, LangChain, Linux Foundation, Microsoft, Mistral, NAVER, NetApp, Nokia, Nous Research, OpenClaw, Palantir, Palo Alto Networks, Perplexity, Red Hat, Reflection AI, Salesforce, SAP, ServiceNow, Siemens, SK Telecom, Snowflake, SpacexAI, Synopsys, Thinking Machines Lab, TrendAI, Uber, Upwind, vLLM, WWT y Zscaler.