Un estudio reciente revela que la automatización de la investigación en inteligencia artificial (IA) ha sido calificada como uno de los riesgos más serios y urgentes por el 80% de los investigadores encuestados. El análisis fue realizado por Severin Field, quien entrevistó a 25 expertos de instituciones como OpenAI, Google Deepmind, y universidades de EE.UU. en el verano de 2025.
Los investigadores han señalado que la mejora recursiva de sistemas de IA, que permite a un sistema desarrollar versiones más avanzadas de sí mismo, ya no puede considerarse una mera estrategia de marketing. Desde 2019, la longitud de tareas que los agentes de IA pueden completar de manera autónoma ha aumentado, duplicándose aproximadamente cada seis meses, con una aceleración reciente a cada cuatro meses desde 2024. Sin embargo, solo el 20% de los encuestados considera que estos modelos se lanzarán como productos públicos.
Recientemente, varios hitos importantes han sido alcanzados en el campo de la IA. OpenAI y Google Deepmind lograron un nivel de medalla de oro en la Olimpiada de Matemáticas, mientras que Claude, de Anthropic, ahora genera más del 80% del código para su propia base de producción. A pesar de estos avances, hay preocupaciones sobre la disponibilidad pública de estos modelos, ya que muchos investigadores creen que podrían permanecer internos debido a su valor estratégico.