IBM anuncia nueva herramienta de gobernanza para atender riesgo de la IA

Ante los nuevos riesgos que el uso de la Inteligencia Artificial (IA) puede traer a las empresas, como el uso de datos poco confiables o poca transparencia en algunos modelos, IBM anunció la disponibilidad de watsonx.governance para sus clientes a partir de diciembre.

La integración de IA Generativa en soluciones empresariales se ha acelerado en el último año, y aunque habilita una mayor productividad y eficiencia, IBM advierte que también plantea nuevos riesgos y complejidades, desde los datos de entrenamiento extraídos de Internet que no pueden ser validados como justos y precisos, hasta la falta de explicación de los resultados.

Para resolver estas complejidades, la compañía presentó watsonx.governance que proporciona un conjunto de herramientas a las empresas para gestionar el riesgo, adoptar la transparencia y anticipar el cumplimiento de la futura regulación centrada en la IA.

“Las juntas directivas y los directores ejecutivos han buscado cosechar las recompensas de los modelos de IA más potentes de hoy en día, pero los riesgos provocados por la falta de transparencia y la incapacidad de gobernar estos modelos los han estado frenando“, dijo Kareem Yusuf, vicepresidente Senior de Gestión de Productos y Crecimiento de IBM Software.

El directivo explica que watsonx.governance funciona como una ventanilla única que permite a empresas implementar y administrar grandes modelos de lenguaje (LLM) y Machine Learning (ML), con herramientas para automatizar procesos de gobernanza, monitorear sus modelos y tomar medidas correctivas.

La compañía anunció también nuevos servicios en su división IBM Consulting para ayudar a empresas a escalar la IA responsable con un modelo de gobierno automatizado y gobierno organizacional que engloba a personas, procesos y tecnología de IBM y socios estratégicos.