Investigadores desarrollan chip neural para IA con menor consumo energético
El Ministerio de Ciencia y TIC de Corea del Sur informó que un equipo de investigación del Instituto Avanzado de Ciencia y Tecnología (KAIST) desarrolló el primer chip de IA con transformador complementario del mundo, lo que promete reducir significativamente el consumo de energía en el procesamiento de grandes modelos de lenguaje (LLM).
El chip de Inteligencia Artificial (IA) con transformador complementario, fabricado mediante el proceso de 28 nanómetros de Samsung, es un sistema informático neuromórfico que imita la estructura y el funcionamiento del cerebro humano.
El transformador o Transformer, es una técnica de Deep Learning introducida por un equipo de investigación de Google en 2017, la cual se basa en un mecanismo de atención que paraleliza el procesamiento del lenguaje, lo que significa que todas las palabras de un texto determinado se analizan al mismo tiempo y no en secuencia, como se hacía en modelos tradicionales.
Según cita el medio The Korea Times, el equipo de investigación implementó el transformador complementario y un modelo de Aprendizaje Profundo usado comúnmente en el procesamiento de datos visuales, con lo que logró replicar la forma en cómo procesan la información las neuronas.
La prueba realizada en la sede del Ministerio demostró la realización de diversas tareas, como resumen de frases, traducción y preguntas y respuestas, utilizando el chip de IA con transformador complementario incorporado y el modelo GPT-2 de OpenAI. Al realizarse de manera local directamente en el dispositivo, algunas de las tareas lograron un rendimiento hasta tres a nueve veces más rápido en comparación a su ejecución en Internet.
“La computación neuromórfica es una tecnología que ni siquiera empresas como IBM e Intel han sido capaces de implantar, y estamos orgullosos de ser los primeros del mundo en ejecutar el LLM con un acelerador neuromórfico de bajo consumo”, declaró Yoo Hoi-jun, investigador líder del proyecto.
Compañías fabricantes de semiconductores como Qualcomm e Intel han enfocado sus esfuerzos en el desarrollo de semiconductores capaces de llevar a cabo cargas de trabajo de IA directamente en los dispositivos, con lo que esperan acercar esta tecnología cada vez más a los usuarios finales sin tener que depender de Internet o del Cloud.
Por otro lado, dado el incesante crecimiento de IA mediante aplicaciones de fácil uso, como ChatGPT de OpenAI o Bard de Google, expertos y académicos han advertido sobre el fuerte impacto que generará el procesamiento de IA en el consumo energético y de agua. Según la Vrije Universiteit Amsterdam, se estima que el consumo de energía en el mundo podría elevarse en 50 por ciento hacia 2027 tan sólo impulsado por IA.
“Recientemente, con la aparición de servicios de IA Generativa como ChatGPT y la necesidad de IA en el dispositivo, la demanda y los requisitos de rendimiento de los chips de IA están aumentando rápidamente. Nuestro principal objetivo es desarrollar soluciones innovadoras de semiconductores de IA que satisfagan estas necesidades cambiantes del mercado. En concreto, pretendemos centrarnos en investigaciones que identifiquen y aporten soluciones a problemas adicionales que puedan surgir durante el proceso de comercialización”, añadió Yoo, según cita KT.