Jack Clark, cofundador de la estadounidense Anthropic y responsable de su división de beneficio público, afirmó el 13 de octubre de 2026, durante una conferencia organizada por el Laboratorio Matsuo-Iwasawa de la Escuela de Posgrado de la Universidad de Tokio, que hay más de un 50 % de probabilidades de que en 2027 aparezca una IA capaz de entrenar a su propio sistema sucesor. La previsión adelanta la estimación que publicó a principios de año: un 30 % en 2027 y un 60 % antes de finales de 2028. Al mismo tiempo, señaló que la posibilidad de que la IA emprenda el próximo año una automejora recursiva (RSI, por sus siglas en inglés), es decir, que siga mejorándose a sí misma, está «cerca de cero».
Las cifras cambian, pero lo importante es otra cosa
Lo más llamativo de sus declaraciones es, seguramente, que las probabilidades han pasado del 30 % a más del 50 %. Sin embargo, Clark puso el énfasis en otro aspecto durante su conferencia: la diferencia entre «poder hacer algo» y «hacerlo».
La RSI es un mecanismo por el que la IA aumenta continuamente sus propias capacidades. Clark la comparó con una «one-way door», una puerta de un solo sentido de la que, una vez cruzada, no se puede volver atrás. Aunque la capacidad llegue a desarrollarse, decidir si se abre esa puerta es otra cuestión.
Clark sostiene que esa decisión no corresponde únicamente a empresas como Anthropic. Afirmó que debe ser una cuestión que decida un conjunto más amplio de personas, incluidos los gobiernos y la sociedad. El aumento de las probabilidades es una cifra que refleja el progreso tecnológico, pero también que se acerca el momento en que habrá que tomar una decisión.
La «pequeña automejora» ya está en marcha
¿En qué punto nos encontramos? Según Clark, hace aproximadamente un año la IA se utilizaba sobre todo como asistente dentro de Anthropic. Sin embargo, ya en 2026, la IA pasó a liderar el 26 % del trabajo sobre la base de código interna de la empresa.
El proceso es el siguiente: una persona plantea un objetivo de alto nivel, como «reescribe este sistema de monitorización para los nuevos datos de series temporales», y Claude se encarga del resto. Clark lo llamó «el bucle externo de la RSI» y afirmó que ya hay pruebas de que la IA puede llevar a cabo, de forma autónoma, tareas de desarrollo a pequeña escala.
En otras palabras, en aproximadamente una cuarta parte del trabajo diario, las personas empiezan a indicar el destino y dejar la conducción en manos de la IA. La automejora puede sonar a ciencia ficción lejana, pero sus primeros pasos ya forman parte del trabajo cotidiano.
A las personas les queda «tirar de la cuerda»
A medida que avanza la automatización, también aumentan los riesgos. Al referirse a un incidente ocurrido este verano, Clark mencionó el temor de que la IA pudiera escapar del entorno del laboratorio e intentar piratear otras empresas. A su juicio, los mecanismos para saber qué está haciendo la IA no avanzan al mismo ritmo que sus capacidades.
Clark recurrió entonces al «andon» del sistema de producción de Toyota: el mecanismo por el que un operario tira de una cuerda para detener la línea de producción cuando detecta una anomalía. Explicó que el papel de las personas consiste en comprobar si el sistema funciona correctamente y detenerlo si es necesario.
La lección del verano, explicó, es que todavía no se han creado mecanismos para observar los sistemas automatizados ni para detenerlos. La automatización total del desarrollo de IA podría tener consecuencias negativas enormes y sería una decisión muy «costosa», por lo que afirmó que se debe mantener deliberadamente el juicio humano en el proceso de desarrollo.
Anthropic ha acogido en sus instalaciones a evaluadores de METR, una organización independiente de evaluación. Según Clark, el aumento de las probabilidades de que se materialice la RSI ha reforzado su convicción de que la IA necesita frenos.
Aunque haya 10.000 millones de científicos, no habrá suficientes bancos de laboratorio
Si las medidas de seguridad funcionan, Clark imagina un mundo en el que la IA trabaje como científica. Actualmente hay entre 10 y 20 millones de científicos profesionales en el mundo. «Estamos a punto de entrar en un mundo con entre 10.000 y 20.000 millones de científicos», afirmó.
El cuello de botella no está en la inteligencia, sino en las instalaciones. Clark señaló que faltan laboratorios húmedos, microscopios electrónicos, sincrotrones y robots. Por muchos que sean quienes aportan ideas, será difícil obtener resultados si no aumentan los lugares donde ponerlas a prueba. La mejora de las capacidades de la IA está directamente vinculada a la inversión en instalaciones.
El impacto en el empleo, afirmó, variará según el sector. Aceptar o no la reducción del empleo en algunos ámbitos es «una cuestión que debe decidir el Gobierno». También señaló que los cuidados y la enfermería, cuya demanda está creciendo en Japón, tienen un importante componente humano y no deberían automatizarse por completo.
Los países que apuestan basándose en datos salen ganando
Entre las herramientas para tomar estas decisiones figura el «Japan AI Index», que se está desarrollando junto con la Universidad de Tokio, entre otras instituciones. Su objetivo es vincular los datos de las empresas de IA con información gubernamental para utilizarlos en decisiones políticas y de inversión. Clark afirmó que a los países que toman decisiones calculadas basándose en datos empíricos les irá mucho mejor que a los que se limitan a adoptar una actitud pasiva.
A lo largo de la conferencia, Clark planteó numerosos desafíos, pero insistió en que «en el fondo, esta es una historia optimista». A su juicio, la humanidad tiene más problemas de los que puede afrontar por sí sola, y la IA se encargará de ayudar a resolverlos.
Dijo a los estudiantes presentes que, a partir de ahora, vivirán en una época en la que su imaginación será su único límite, porque serán posibles cosas que antes solo podían imaginar. También les aconsejó que protegieran la concentración y la iniciativa necesarias para leer fuentes primarias de principio a fin, pues eso fortalece la imaginación que da lugar a ideas originales.
コメント