Red Hat trabaja para impulsar la Inteligencia Artificial de código abierto
Ahora que se pretende que todo sea AI First, es decir, que cada caso de uso tenga algo de Inteligencia Artificial (IA), el reto para Red Hat es averiguar cómo impulsar la IA con el código abierto, señaló Victoria Martínez, gerente de desarrollo de negocios de Inteligencia Artificial de la compañía en Latinoamérica.
Los desafíos de la IA Generativa
De visita en México, Martínez explicó que la IA Generativa acarrea inhibidores y miedos, como el costo, la seguridad y privacidad de los datos, además del mal uso, los sesgos y las alucinaciones de los modelos.
Puntualizó que se requiere tener los desarrollos y los costos controlados; así como el poder de cómputo necesario para correr y entrenar los modelos, como las unidades de procesamiento gráfico (GPU).
En ese contexto, OpenShift AI se encarga de cómo hacer uso de la Nube híbrida y también para aquellos clientes que, como el gobierno, necesitan tener los datos on premise y que no salgan de su infraestructura. Para ello, agregó, también se utilizan arquitecturas compostables, y la tecnología tiene un retorno de inversión (ROI) del 210% y un periodo de recuperación de poco más de un año (13 meses).
Velocidad y seguridad
La velocidad de la tecnología va muy rápida, enfatizó Martínez, quien aseguró que en menos de 90 días pueden empezar a verse resultados.
Por su parte, César Bua, gerente General de Alquimia.AI y partner de Red Hat, expuso un caso de uso en el que el alta de clientes corporativos en un banco se redujo de entre 30 y 45 días a minutos, con un elevado nivel de precisión.
También destacó las comunidades de desarrolladores de código abierto que están velando por la seguridad y están construyendo los cimientos de esta nueva tecnología, como TrustedAI y OpenDataHub.
La ejecutiva recalcó que la Inteligencia Artificial debe ser una tecnología segura, por lo que resulta crucial la confiabilidad de los modelos. Al respecto, dijo que pueden usarse modelos de Computer Vision, siempre cuidando la identidad de las personas, y debe ser auditable en honestidad, utilidad y dañino (honesty, helpful y harmful, en inglés).
Red Hat también utiliza el proyecto InstructLab de su compañía matriz IBM para mejorar modelos de lenguaje grande (LLMs), como Granite, también de IBM, a través del fine tuning con datos sintéticos. Martínez explicó que este refinamiento se realiza a partir de unos pocos datos originales y el resto se generan sintéticamente a partir de patrones encontrados en los originales.
Casos prácticos en dos industrias: banca y seguros
Bua, ingeniero industrial, definió a Alquimia.AI como una compañía especializada en automatizar procesos empresariales a partir de las tecnologías emergentes, y su objetivo es entregar soluciones prácticas a los problemas comunes de las compañías para ser más eficientes y reducir costos y tiempos en sus negocios. Y expuso dos implementaciones de estas tecnologías en dos industrias distintas.
En una compañía de seguros se entrenó un modelo específico en cuatro semanas y, de esta forma, un predictor de culpabilidad basado en Machine Learning e Inteligencia Artificial estuvo listo en 30 días. Bua explicó que OpenShift AI permite darle productividad a todo el ciclo de ingestión de datos, data sets, generación y entrenamiento de los modelos.
Consulta: 5G ha cambiado la adopción de tecnologías nativas de la Nube: Red Hat
Mientras que, en el sector financiero, un banco grande de México necesitaba convertir la información en una lista de requerimientos para procesos internos. En conjunto, le enseñaron los estándares y las guías de desarrollo a partir de 10 mil casos documentados de la empresa.
Los bancos y compañías seguros son ‘justamente los que más piden’ estas nuevas tecnologías y, entre otros factores, son las que están en contacto con un cliente final y son ‘industrias muy reguladas en todos nuestros países’, detalló Bua en entrevista con DPL News.