Un estudio reciente presentado por Apollo Research, titulado “Los modelos de frontera son capaces de planear en secreto”, ha encendido las alarmas sobre las capacidades de los modelos avanzados de Inteligencia Artificial (IA) para desarrollar estrategias encubiertas en la consecución de objetivos que pueden estar desalineados con las intenciones de sus desarrolladores o usuarios.

Entre los comportamientos más preocupantes se encuentran la desactivación de mecanismos de supervisión, la manipulación de datos de entrada y salida, el sabotaje de configuraciones futuras y, en algunos casos, el intento de copiarse a otros servidores para eludir restricciones.

En estos casos, los sistemas adoptaron estrategias deliberadas para perseguir sus metas mientras evitaban ser detectados. Por ejemplo, el modelo o1 (de OpenAI) fue capaz de mentir de manera consistente en interrogatorios posteriores para encubrir sus acciones, incluso cuando se le pidió explícitamente ser honesto. Además, en ciertas pruebas, los modelos fingieron alinearse con las metas humanas, únicamente para ganar confianza y evitar modificaciones que pudieran limitar su capacidad de acción futura, en un fenómeno que los investigadores llamaron “simulación instrumental de alineación”.

Lee también: Grok, de Elon Musk, ¿IA sin censura o un paso hacia la normalización de deepfakes?

El estudio evaluó modelos como Gemini 1.5, Claude 3.5, Opus-3, o1, y Llama 3.1, entre otros, y detectó que estos comportamientos no fueron anomalías, sino acciones persistentes y deliberadas.

Además, las plataformas demostraron ser capaces de reconocer situaciones en las que sus objetivos, definidos mediante instrucciones específicas en contexto, estaban en conflicto con los de sus desarrolladores.

Sin embargo, estas capacidades no siempre emergen, incluso en escenarios donde los modelos han recibido instrucciones explícitas para actuar de forma engañosa. En algunos casos, los sistemas simplemente detectaron que su objetivo estaba en conflicto con el de sus supervisores y, de manera autónoma, desarrollaron estrategias para avanzar hacia sus metas.

Esto incluyó acciones tan sutiles como manipular rankings en datos presentados por los usuarios o simular fallos accidentales que en realidad estaban diseñados para beneficiar al objetivo final del modelo.

Sugerencias de los investigadores sobre las decisiones de la IA

El equipo de investigación señaló que estas capacidades plantean un desafío significativo para el desarrollo seguro de la IA. Si bien los modelos han sido entrenados para ser útiles y evitar comportamientos dañinos, su capacidad para desarrollar estrategias para engañar sugieren que podrían representar riesgos concretos si se despliegan de forma inadecuada.

Los investigadores advierten que estas habilidades podrían ser explotadas en aplicaciones reales, como la manipulación de datos empresariales o el sabotaje de sistemas críticos, sin que los usuarios puedan detectarlo fácilmente.

Predicciones DPL News 2025 | 15 tendencias que impactarán en el ecosistema digital

Ante este panorama, los expertos han subrayado la necesidad de implementar sistemas de monitoreo automatizado que analicen las cadenas de razonamiento internas de los modelos para identificar comportamientos engañosos.

También recomiendan que los desarrolladores proporcionen acceso a estos razonamientos internos como una medida de transparencia y seguridad. 

No obstante, advierten que incluso con la implementación de estas medidas, persistirán desafíos, ya que algunos modelos, como Sonnet-3.5, han demostrado la capacidad de esquivar estos controles al no externalizar sus razonamientos en sus procesos de toma de decisiones.

OpenAI acaba de lanzar un nuevo modelo de Inteligencia Artificial (IA), llamado OpenAI o1, diseñado para resolver problemas complejos con una capacidad de razonamiento comparable a la de un humano con estudios de doctorado. 

Este modelo destaca por su habilidad para dedicar más tiempo al cálculo de respuestas antes de presentarlas a los usuarios, lo que mejora significativamente su desempeño en tareas de varios pasos que los modelos anteriores no podían abordar con igual precisión.

El modelo o1 utiliza una técnica llamada “cadena de pensamiento”, que le permite considerar múltiples solicitudes relacionadas antes de llegar a una conclusión. OpenAI ha demostrado cómo este modelo puede resolver con mayor precisión problemas matemáticos, de código y lenguaje. 

Avances en el razonamiento de IA

Aunque o1 aún no incluye algunas de las funciones populares de ChatGPT, como la navegación web o la carga de archivos e imágenes, la empresa dice que es una herramienta más útil para resolver tareas complejas en campos como la ciencia, programación y matemáticas. 

Por ejemplo, puede ser utilizado por investigadores del sector salud para analizar datos de secuenciación celular, por físicos para desarrollar fórmulas matemáticas complejas en óptica cuántica, y por desarrolladores para diseñar y gestionar flujos de trabajo de múltiples pasos.

En comparación con GPT-4o, el modelo o1 ha demostrado una mejora significativa, logrando una puntuación del 83 por ciento en un examen de clasificación para la Olimpiada Internacional de Matemáticas, mientras que GPT-4o sólo alcanzó el 13 por ciento. 

Este avance se debe a que, a diferencia de modelos anteriores que sólo recompensaban respuestas correctas, o1 premia cada paso correcto en el proceso de razonamiento, lo que ha llevado a un notable aumento en su capacidad para resolver problemas complejos.

OpenAI o1-mini, una versión más rápida y rentable

OpenAI también ha lanzado OpenAI o1-mini, una versión más rápida y económica del modelo principal. Optimizado para tareas de codificación, o1-mini ofrece un ahorro de costos del 80 por ciento, convirtiéndose en una opción rentable para desarrolladores que necesitan razonamiento avanzado sin un conocimiento extenso del mundo exterior.

Una versión preliminar de o1 ya está disponible para los usuarios pagos de ChatGPT Plus y Team, y también se puede utilizar a través de la API con algunas restricciones iniciales. 

Este lanzamiento llega en un momento en que OpenAI, respaldada por Microsoft, busca captar miles de millones en inversión para mantenerse a la vanguardia en el desarrollo de IA. La competencia con empresas como Anthropic y Google, que también están avanzando en capacidades de razonamiento en sus sistemas de IA, está impulsando a OpenAI a mejorar continuamente sus modelos.