El ingeniero español que tiene un plan para desarrollar una Inteligencia Artificial “humilde”
La inteligencia artificial está pecando de soberbia. No es que lo esté haciendo adrede, porque no piensa ni razona, pero los algoritmos que le dan cuerda a herramientas como ChatGPT o DALL-E están calibrados de tal manera que, cuando se les hace un pedido o se les plantea una pregunta, terminan arrojando respuestas muy detalladas aunque no tengan una base clara para generarlas. “Exceso de confianza”, ese es el diagnóstico de Pablo Martínez Olmos (Granada, 40 años), un doctor en Ingeniería de Telecomunicaciones que plantea el desarrollo de una inteligencia artificial “humilde”, capaz de declarar el nivel de incertidumbre sobre los resultados que arroja.
“Me gustó la idea de humilde porque nosotros pensamos que una persona con esta virtud es alguien consciente de sus limitaciones y se frena a la hora de responder cuando no tiene idea de un tema”, dice Martínez, sentado en su despacho en el Departamento de Teoría de la Señal y Comunicaciones de la Universidad Carlos III de Madrid. El ingeniero acaba de ser reconocido con una de las Becas Leonardo que la Fundación BBVA entrega para impulsar “proyectos innovadores” en áreas de la ciencia y la cultura. La humildad es, por lo tanto, saber no dar una solución muy detallada ni muy elaborada cuando realmente no se conoce su respuesta. Algo en lo que la inteligencia artificial está fallando.
Alcanza con pedirle a DALL-E —el programa de inteligencia artificial de OpenIA que crea imágenes a partir de descripciones textuales— que genere un mapa detallado de España para que este sesgo quede en evidencia. Martínez lo ha probado. “La forma del país está bien captada, pero luego el mapa incluye aspectos muy pormenorizados de la geografía, como montañas, ríos o nombres de regiones, que son totalmente falsos”, apunta. Luego, agrega: “Los algoritmos están entrenados con ciertos sesgos de diseño que los llevan a cometer lo que llamamos alucinaciones, salidas muy detalladas que no tienen ninguna base real”. Estas alucinaciones hacen que, ante un mismo pedido, en este caso, un mapa de España, la herramienta genere resultados muy distintos. “Aisladamente, cada mapa parece tener sentido, porque están construidos de forma muy fina, pero si se los observa bien están plagados de errores”.