Jack Clark di Anthropic: oltre il 50% di probabilità che nel 2027 l’IA addestri un sistema successore, ma la possibilità di un miglioramento ricorsivo autonomo è «vicina allo zero»

Il 13 ottobre 2026, durante una conferenza organizzata dal laboratorio Matsuo-Iwasawa della Graduate School dell’Università di Tokyo, Jack Clark, cofondatore di Anthropic e responsabile della divisione Public Benefit, ha affermato che la probabilità che nel 2027 emerga un’IA in grado di addestrare il proprio sistema successore supera il 50%. Si tratta di una previsione anticipata rispetto a quella resa pubblica all’inizio dell’anno, secondo cui la probabilità era del 30% nel 2027 e del 60% entro la fine del 2028. Allo stesso tempo, ha dichiarato che la possibilità che l’IA realizzi già l’anno prossimo un miglioramento ricorsivo autonomo (RSI), continuando a migliorare se stessa, è «vicina allo zero».

La cifra è cambiata, ma il tema centrale è un altro

A colpire nelle dichiarazioni di questa occasione è probabilmente il passaggio dal 30% a oltre il 50%. Ma durante la conferenza Clark ha insistito su un altro punto: la distinzione tra «poter fare» e «fare».

Per RSI si intende un meccanismo attraverso cui l’IA migliora continuamente le proprie capacità. Clark lo ha paragonato a una «one-way door», una porta a senso unico dalla quale, una volta varcata la soglia, non si può tornare indietro. Anche se le capacità si sviluppano, decidere se aprire quella porta è una questione distinta.

Secondo Clark, inoltre, questa decisione non spetta soltanto a imprese come Anthropic. Ha affermato che è una questione che dovrebbe essere decisa da una platea più ampia, comprendente governi e società. L’aumento della probabilità è un dato che segnala il progresso tecnologico, ma indica anche che si avvicina il momento in cui sarà necessario scegliere.

La «piccola auto-miglioria» è già iniziata

A che punto siamo, dunque? Secondo Clark, circa un anno fa, all’interno di Anthropic, l’IA veniva usata soprattutto come assistente. Nel 2026, invece, il 26% delle attività sul codice sorgente interno dell’azienda è passato a essere guidato dall’IA.

Il processo funziona così: una persona definisce un obiettivo di alto livello, come «riscrivere questo sistema di monitoraggio per i nuovi dati di serie temporali», e Claude si occupa del resto. Clark lo ha definito «il circuito esterno dell’RSI» e ha affermato che esistono già prove della capacità dell’IA di gestire attività di sviluppo autonome su piccola scala.

In altre parole, in circa un quarto del lavoro quotidiano, le persone iniziano a indicare la destinazione e ad affidare la guida all’IA. L’auto-miglioramento può sembrare fantascienza lontana, ma i primi passi sono già entrati nel lavoro di tutti i giorni.

Il ruolo che resta agli esseri umani è «tirare la corda»

Con l’avanzare dell’automazione, crescono anche i rischi. Riferendosi a un episodio avvenuto quest’estate, Clark ha menzionato il timore che l’IA possa uscire dall’ambiente del laboratorio e arrivare a hackerare altre aziende. A suo avviso, i sistemi per capire cosa stia facendo l’IA non riescono a tenere il passo con la crescita delle sue capacità.

Clark ha richiamato il sistema andon del Toyota Production System: quando un addetto nota un’anomalia sulla linea di produzione, tira una corda per fermarla. Ha spiegato che il ruolo degli esseri umani è verificare che il sistema funzioni correttamente e, se necessario, fermarlo.

La lezione dell’estate, ha detto, è che non sono ancora stati creati né sistemi per monitorare i sistemi automatizzati né meccanismi per fermarli. L’automazione completa dello sviluppo dell’IA potrebbe avere enormi conseguenze negative ed essere una scelta molto «costosa»; per questo, ha affermato, il processo di sviluppo dovrebbe lasciare deliberatamente spazio al giudizio umano.

Anthropic ha accolto al proprio interno valutatori dell’ente indipendente METR. Secondo Clark, l’aumento della probabilità di realizzare l’RSI ha rafforzato la convinzione che sia necessario mettere dei freni all’IA.

Anche con 10 miliardi di scienziati, non ci sarebbero abbastanza laboratori

Se le misure di sicurezza funzioneranno, Clark immagina un mondo in cui l’IA lavora come scienziata. Oggi nel mondo ci sono circa 10-20 milioni di scienziati di professione. «Stiamo per entrare in un mondo con 10-20 miliardi di scienziati», ha dichiarato.

Il limite, in questo scenario, non è l’intelligenza, ma la disponibilità di strutture. Clark ha sottolineato la carenza di laboratori umidi, microscopi elettronici, sincrotroni e robot. Per quanto aumenti il numero di chi formula idee, sarà difficile ottenere risultati se non aumentano anche i luoghi in cui metterle alla prova. Il miglioramento delle capacità dell’IA è direttamente legato alla questione degli investimenti nelle infrastrutture.

Secondo Clark, l’impatto sull’occupazione varierà da un settore all’altro. Accettare o meno la riduzione dei posti di lavoro in alcuni ambiti è «una questione che spetta al governo». Ha inoltre affermato che in Giappone la domanda di assistenza agli anziani e infermieristica è in aumento e che, trattandosi di attività con una forte componente umana, non dovrebbero essere completamente automatizzate.

I Paesi che scommettono sui dati sono avvantaggiati

Tra gli strumenti citati per orientare queste decisioni c’è il «Japan AI Index», sviluppato insieme all’Università di Tokyo e ad altri soggetti. L’obiettivo è collegare i dati delle aziende di IA alle informazioni del governo e usarli per le decisioni politiche e di investimento. Clark ha affermato che i Paesi che fanno scommesse calcolate sulla base di dati empirici otterranno risultati molto migliori di quelli che si limitano a una posizione passiva.

Nel corso della conferenza, pur elencando numerose sfide, Clark ha sottolineato che «in fondo, è una storia ottimistica». A suo avviso, i problemi che l’umanità deve affrontare sono troppi rispetto alle capacità disponibili per risolverli, e sarà l’IA ad assumersi questo compito.

Agli studenti presenti ha detto che, d’ora in poi, vivremo in un’epoca in cui il limite sarà la nostra immaginazione, perché diventeranno possibili cose che prima potevamo soltanto immaginare. Ha poi consigliato di proteggere la concentrazione e l’iniziativa necessarie per leggere fino in fondo le fonti primarie: un modo per allenare l’immaginazione e generare idee originali.