Apple presenta OpenELM, una IA de código abierto que se puede ejecutar en un portátil o tu iPhone
Apple ha entrado en el creciente campo de los modelos de lenguaje grande (LLM) en dispositivos con el lanzamiento de OpenELM, una familia de modelos de código abierto diseñados para ejecutarse de manera eficiente en dispositivos personales como ordenadores portátiles o teléfonos móviles.
OpenELM (Modelos de Lenguaje Eficientes de Código Abierto) ofrece una ventaja significativa: a diferencia de muchos otros LLM, estos modelos no requieren una conexión constante a servidores en la nube para su procesamiento. Esto podría conducir a tiempos de respuesta más rápidos y una mejor privacidad para los usuarios.
La familia está conformada por ocho modelos con un tamaño que oscila entre 270 millones y 3.000 millones de parámetros. Si bien los modelos más pequeños generalmente tienen menos capacidad que sus contrapartes más grandes, el enfoque de Apple utiliza una técnica especial llamada “escalado capa por capa” para ofrecer una buena precisión a pesar del tamaño reducido.
OpenELM está diseñado para portátiles o dispositivos móviles. De acuerdo con un documento técnico, los ingenieros de Apple consiguieron ejecutarlos en un MacBook Pro con chip M2 Max y 64 GB de RAM, así como en un ordenador con procesador Intel Core i9-13900KF con 64 GB en RAM y una GPU NVIDIA RTX 4090. Tras efectuar diversas pruebas de rendimiento, una de las variantes consiguió un rendimiento por encima de lo esperado.
