Amazon presenta Nova: nuevos modelos fundacionales enfocados en eficiencia de costos
Las Vegas, Nevada.- Andy Jassy, CEO y presidente de Amazon, presentó la nueva familia de modelos fundacionales de la compañía para Inteligencia Artificial (IA) conocidos como Nova. Estos nuevos modelos estarán enfocados en brindar una nueva opción a sus clientes en Amazon Web Services (AWS), así como habilitar ahorros de hasta 75 por ciento respecto a modelos competidores.
Los nuevos modelos de Nova se dividirán en cuatro categorías según nivel de inteligencia o precisión: Micro, Lite, Pro y Premier. Los tres primeros están ya disponibles de forma general, mientras que el Premium llegará durante el primer trimestre del próximo año. En particular, Nova Lite estará enfocado principalmente en texto, mientras que el resto son multimodales.
En su presentación para re:Invent 2024, Jassy adelantó que estos se complementarán con Nova Canvas para generación de imagen, y Nova Reel, para generación de videos. Además, Amazon está preparando modelos de voz a voz (speech-to-speech) y modelos multimodales de any-to-any, es decir, utilizar texto, imagen o video como fuente de información y dar resultados en cualquiera de estos modos. Se espera que speech-to-speech habilite nuevos casos de uso como traducción simultánea o para atención al cliente en centros de contacto.
El directivo reconoció que conforme las empresas logran escala en sus aplicaciones de IA Generativa, el costo cómputo “realmente importa”. Y aunque las empresas ahora cuentan con herramientas para facilitar el desarrollo de aplicaciones, el proceso es sumamente complejo porque se requiere del modelo adecuado, la interfaz correcta, la configuración de latencia, entre otros aspectos que podrían entregar una mala experiencia al cliente.
La presentación de estos modelos va en línea con el objetivo de AWS para ofrecer opciones de modelos en su plataforma Bedrock. El directivo afirmó que estos modelos pueden ser considerados como lo último en tecnología, por lo que ofrecen resultados que pueden ser similares o mejores que otros modelos populares, y hasta 75 por ciento más baratos.
“Llevamos 25 años utilizando la IA de forma generalizada en toda la empresa. Pero la forma en que pensamos sobre la tecnología y las habilidades para la IA también es que no la estamos utilizando porque pensemos que es genial. La utilizamos porque intentamos resolver los problemas de los clientes. Hay mucha innovación. Pero lo que tratamos de hacer es resolver problemas cuando pensamos en esta IA práctica”, afirmó el directivo.
Jassy se refirió al uso de IA para múltiples tareas en Amazon, como la clasificación de productos por Sparrow en sus centros de distribución; en Alexa para mejorar las respuestas del asistente, o para ayudar a los vendedores en Amazon a llenar páginas de descripción de productos.
El directivo anunció también la disponibilidad de Rufus, que puede servir como un asistente de compras en Amazon, ya sea para ayudar a buscar algún producto por características específicas, revisar compras anteriores, u obtener mejor información con base en la descripción, opiniones y recomendaciones.
Destilación y eficiencia de la IA
En cuanto a otros avances de Inteligencia Artificial anunciados por AWS, la compañía presentó nuevas actualizaciones para su plataforma Bedrock, enfocada en facilitar el desarrollo y escalamiento de aplicaciones con esta tecnología. Matt Garman, CEO de AWS, presentó la nueva funcionalidad de ‘destilación de modelos’, la cual permitiría tomar un modelo grande, como Llama, y adaptarlo a funcionalidades específicas sin perder precisión.
Según Garman, esta técnica implicaría modelos que puedan trabajar hasta un 500 por ciento más rápido y con una reducción del 75 por ciento de los costos, lo que puede hacer la diferencia en el retorno de inversión y la creación de valor. Esta funcionalidad se puede hacer de forma automática a través de la propia plataforma a partir de un conjunto de prompts.
Por otro lado, una de las principales actualizaciones incluye el enfoque de Amazon para ayudar a reducir las temidas alucinaciones de los modelos de IA Generativa. Las alucinaciones son eventos en los que un modelo puede ofrecer un resultado erróneo o crear información ajena a lo que se le pidió. Si bien muchas empresas han comenzado a adoptar IA para sus procesos internos, incidentes como las alucinaciones son una preocupación para ampliarlo a áreas más críticas de la empresa.
Garman presentó las comprobaciones mediante razonamiento automático (automated reasoning checks) para prevenir errores y limitar la ocurrencia de alucinaciones, lo que puede ampliar los casos de uso de la IA, por ejemplo, para industrias altamente reguladas. Mediante el uso de matemáticas, estas comprobaciones permiten validar la precisión de las respuestas, producir resultados auditables y mostrar a los clientes exactamente por qué un modelo ha llegado a un resultado.
Otra de las novedades que llegan a Bedrock es la posibilidad de colaboración entre agentes para resolver tareas complejas. AWS, al igual que otras compañías de Nube, han comenzado a introducir los llamados Agentes, que tendrían la capacidad de atender tareas de extremo a extremo de forma autónoma. La Nube de Amazon ahora habilitaría el uso de múltiples agentes para resolver distintas etapas de un mismo flujo de trabajo.
Por ejemplo, uno de los primeros clientes es Moody’s, que utilizó esta nueva capacidad de múltiples agentes para el análisis de riesgo, con lo que pudo utilizar múltiples fuentes de información y ejecutar automáticamente tareas para reducir el trabajo de una semana a solo una hora.