Anthropic pide hacer una pausa sobre el desarrollo de la IA

Anthropic advirtió que el avance acelerado de la Inteligencia Artificial (IA) alcanza la capacidad de mejorarse a sí misma. Ante ese escenario, señaló que sería necesario contar con lo que describe como un “botón de pausa” que permita a las personas hacer un balance, fortalecer la supervisión y adaptar los marcos de gobernanza antes de que las capacidades de los sistemas sigan avanzando.

El llamado surge a partir de un nuevo análisis publicado por Anthropic Institute, en el que la compañía sostiene que si se le proporciona a la IA la capacidad de procesamiento necesaria, la IA sería capaz de diseñar y desarrollar de forma totalmente autónoma a su propio sucesor, lo que se conoce como auto-mejora recursiva.

“Todavía no hemos llegado a ese punto, y la auto-mejora recursiva no es inevitable. Pero podría llegar antes de lo que la mayoría de las instituciones están preparadas”, detalló Anthropic. Por eso, considera importante “disponer de más tiempo para afrontar las enormes implicaciones” de la situación. 

Recomendamos: IA militar: gigantes tecnológicos aspiran convertirse en proveedores estratégicos de defensa nacional

El planteamiento forma parte del documento When AI Builds Itself, en el que Anthropic analiza el avance hacia la llamada mejora recursiva (Recursive Self-Improvement o RSI).

La empresa explica que durante décadas los seres humanos participaron directamente en todas las fases de creación de los modelos de IA, pero actualmente una proporción creciente de esas tareas está siendo realizada por los propios sistemas. 

Como se ve en la imagen, en donde las decisiones ni siquiera pasan por un computador, mucho menos por una persona.

Como muestra de esta tendencia, Anthropic señala que las capacidades de los modelos para completar tareas de manera autónoma han aumentado rápidamente. 

De acuerdo con sus datos, el tiempo de duración de las tareas que los sistemas pueden realizar de forma confiable se ha duplicado aproximadamente cada cuatro meses. Mientras que Claude Opus 3 podía resolver tareas equivalentes a unos cuatro minutos de trabajo humano en marzo de 2024, Claude Sonnet 3.7 alcanzó actividades de alrededor de una hora y media un año después, y Claude Opus 4.6 llegó a gestionar tareas de hasta 12 horas.

Al respecto, la compañía estima que, si esta tendencia continúa, durante 2027 los sistemas podrían encargarse de tareas que actualmente requieren semanas de trabajo humano, acercándose a un punto en el que podrían contribuir de manera significativa a la investigación y el desarrollo de nuevas generaciones de IA.

Anthropic también reveló que para mayo de este año, más del 80% del código incorporado a su base de código había sido escrito por Claude. Antes del lanzamiento de Claude Code, en febrero de 2025, esa proporción se mantenía en niveles de un solo dígito. 

Según la empresa, “esta transformación ha contribuido a que sus equipos de ingeniería produzcan mucho más software que en años anteriores”. De hecho, los ingenieros de Anthropic entregan actualmente ocho veces más código por trimestre que durante el período comprendido entre 2021 y 2025”, detalló la empresa. 

Y aunque suena como un incremento en la productividad, la propia compañía reconoce que “medir la productividad únicamente por la cantidad de código generado puede exagerar las ganancias reales de eficiencia”.

Además, a pesar de que Anthropic asegura que “Claude ha logrado diagnosticar y corregir fallas críticas en procesos de entrenamiento en cuestión de horas, tareas que normalmente habrían requerido varios días de trabajo humano. Asimismo, la calidad del código producido se ha acercado rápidamente a la de los ingenieros humanos”. Incluso señala que espera que el desempeño de la IA en este ámbito supere al de las personas durante el próximo año.

Anthropic asegura que “empresas de 100 personas podrían realizar el trabajo de organizaciones de 10,000 o 100,000 personas”.

Pese a estos avances, la compañía considera que los seres humanos mantienen ventajas importantes en aspectos como la comprensión de contextos amplios, la definición de objetivos y la toma de decisiones estratégicas. 

“La ventaja comparativa de los humanos en este momento sigue estando en ver el panorama general y pensar más allá de los límites de la tarea inmediata”, detalla el análisis.

Asimismo reconoce el potencial de una IA capaz de construir sus propios sucesores, especialmente en descubrimientos científicos y avances en salud, pero también insiste en el posible incremento del riesgo de que las personas pierdan capacidad de supervisión.