Meta libera su propio modelo de lenguaje de Inteligencia Artificial
El laboratorio de Inteligencia Artificial (IA) de Meta (Facebook) ha dado un paso inédito en el historial de transparencia de la empresa al liberar todos los detalles de su propio modelo de lenguaje bautizado como Open Pretrained Transformer (OPT).
OPT fue creado con base en 175 mil millones de parámetros (valores de una red neuronal) entrenados a partir de un conjunto masivo de datos que están disponibles públicamente. En comparación, los sistemas de procesamiento de lenguaje (NLP, por sus siglas en inglés) actuales se basan en 100 mil millones de parámetros.
Pero lo más importante es que el equipo de Meta quiere democratizar el acceso a esta tecnología de forma gratuita y no para su uso comercial. La empresa considera que para que la investigación de una IA responsable avance se necesita una colaboración abierta.
“La comunidad científica en general debe poder trabajar junto con modelos de vanguardia para explorar de manera efectiva su potencial y, al mismo tiempo, investigar sus vulnerabilidades.”, explica Meta en un comunicado.
Te puede interesar: Herramientas de traducción por voz en todos los idiomas, literalmente TODOS
El modelo de lenguaje OPT comparte lo bueno y lo malo de la red neuronal pionera GPT-3 de OpenAI. Si bien son tan poderosos como para comprender textos e imitar una conversación humana, también tienen grandes fallas al replicar la desinformación, el sesgo y el lenguaje tóxico.
Es por esta razón que el laboratorio de Meta quiere que más personas (en especial investigadores) trabajen en este problema desde distintos ámbitos, para que comprendan cómo y por qué funcionan estos extensos modelos de lenguaje y se avance en el desarrollo responsable de la IA.
Hasta ahora, el acceso a este tipo de modelos de lenguaje estaba restringido a las firmas tecnológicas con muchos recursos como para proporcionar el poder de cómputo y los datos necesarios para entrenarlos.
La comunidad científica en general, incluyendo especialistas en ética y científicos sociales preocupados por su uso indebido, habían sido relegados a observar en las sombras.
“Sin acceso directo a estos modelos, los investigadores también se ven limitados en su capacidad para diseñar estrategias de detección y mitigación de posibles daños”.
Para evitar un mal uso de esta tecnología, el laboratorio de IA de Meta sólo otorgará el acceso a OPT a “investigadores académicos, afiliados a organizaciones en el gobierno, la sociedad civil y la academia; junto con laboratorios de investigación de la industria en todo el mundo”.