Le 13 octobre 2026, Jack Clark, cofondateur d’Anthropic, entreprise américaine, et responsable de sa division consacrée à l’intérêt général, a estimé lors d’une conférence organisée par le laboratoire Matsuo-Iwasawa de l’École supérieure de l’Université de Tokyo qu’il y avait plus de 50 % de chances qu’une IA capable d’entraîner son propre système successeur apparaisse en 2027. Cette échéance est avancée par rapport aux prévisions qu’il avait publiées en début d’année : 30 % en 2027 et 60 % d’ici à la fin de 2028. Il a également déclaré que la probabilité qu’une IA mette en œuvre l’année prochaine une amélioration récursive d’elle-même (RSI) était « proche de zéro ».
Les chiffres évoluent, mais l’essentiel est ailleurs
Le chiffre qui retient l’attention dans cette déclaration est sans doute le passage de 30 % à plus de 50 %. Mais, lors de sa conférence, Jack Clark a surtout insisté sur un autre point : « pouvoir faire » et « décider de faire » sont deux choses différentes.
La RSI désigne un mécanisme par lequel une IA améliore continuellement ses propres capacités. Jack Clark l’a comparée à une « one-way door », une porte que l’on ne peut franchir qu’une seule fois, autrement dit un aller simple. Même si les capacités progressent, décider d’ouvrir cette porte est une autre question.
Selon lui, cette décision ne revient pas seulement à des entreprises comme Anthropic. C’est une question que doit trancher un groupe bien plus large, comprenant les gouvernements et la société dans son ensemble. La hausse des probabilités témoigne des progrès technologiques, mais indique aussi que le moment où il faudra faire un choix approche.
Une « petite amélioration de soi » déjà à l’œuvre
Où en sommes-nous aujourd’hui ? Selon Jack Clark, il y a environ un an, au sein d’Anthropic, l’IA servait principalement d’assistant. Puis, en 2026, 26 % des tâches liées à la base de code interne ont été prises en charge sous la direction de l’IA.
Le processus se déroule ainsi : un humain fixe un objectif général, par exemple « réécrire ce système de surveillance pour de nouvelles données de séries temporelles », puis Claude s’occupe du reste. Jack Clark parle de la « boucle externe de la RSI » et affirme que des signes montrent déjà que l’IA peut mener de petits projets de développement de manière autonome.
Autrement dit, pour environ un quart du travail sur le terrain, les humains indiquent la destination et commencent à laisser l’IA prendre le volant. L’amélioration de soi peut sembler relever d’une science-fiction lointaine, mais ses prémices sont déjà présentes dans le travail quotidien.
Le rôle qui reste aux humains : « tirer le cordon »
À mesure que l’automatisation progresse, les risques grandissent eux aussi. Évoquant un incident survenu cet été, Jack Clark a fait part de ses craintes : une IA pourrait sortir de l’environnement du laboratoire et tenter de pirater d’autres entreprises. Selon lui, les moyens de savoir ce que fait l’IA ne suivent pas le rythme de ses progrès.
Il a alors évoqué l’andon du système de production Toyota : lorsqu’un opérateur repère une anomalie sur la chaîne, il tire sur un cordon pour l’arrêter. Le rôle des humains, a-t-il expliqué, est de vérifier que le système fonctionne correctement et de l’arrêter si nécessaire.
La leçon tirée de l’incident de cet été est que nous n’avons pas encore mis au point les outils permettant d’observer les systèmes automatisés, ni ceux qui permettent de les arrêter. Jack Clark a qualifié l’automatisation complète du développement de l’IA de choix « très coûteux », susceptible d’avoir d’immenses conséquences négatives, et a estimé qu’il fallait laisser délibérément une place au jugement humain dans le processus de développement.
Anthropic accueille dans ses locaux des évaluateurs de METR, un organisme d’évaluation indépendant. Selon Jack Clark, la probabilité accrue de voir la RSI se concrétiser renforce la conviction qu’il faut mettre un frein à l’IA.
Même avec dix milliards de scientifiques, les laboratoires ne suffiraient pas
Si les mesures de sécurité portent leurs fruits, Jack Clark imagine un monde où l’IA travaille comme scientifique. Aujourd’hui, le monde compte entre 10 et 20 millions de scientifiques de profession. « Nous sommes sur le point d’entrer dans un monde qui en comptera entre 10 et 20 milliards », a-t-il déclaré.
Le goulot d’étranglement ne se situe pas au niveau des cerveaux, mais des équipements. Jack Clark souligne le manque de laboratoires humides, de microscopes électroniques, de synchrotrons et de robots. Même si le nombre de personnes capables de proposer des idées augmente fortement, les résultats resteront limités si les lieux où les tester ne se multiplient pas. L’amélioration des capacités de l’IA est donc directement liée à la question des investissements dans les équipements.
Il estime que les effets sur l’emploi varieront selon les secteurs. La décision d’accepter ou non une baisse de l’emploi dans certains domaines « relève des gouvernements ». Il a également déclaré que les soins aux personnes âgées et les soins infirmiers, dont la demande augmente au Japon, comportent une forte dimension humaine et ne devraient donc pas être entièrement automatisés.
Les pays qui misent sur les données seront plus forts
Parmi les outils susceptibles d’éclairer ces décisions figure le « Japan AI Index », élaboré avec l’Université de Tokyo et d’autres partenaires. Le projet vise à relier les données des entreprises d’IA aux informations détenues par les pouvoirs publics, afin de les utiliser pour éclairer les décisions politiques et les investissements. Jack Clark a déclaré que les pays qui prennent des risques calculés sur la base de données empiriques réussissent bien mieux que ceux qui se contentent de subir les événements.
Tout au long de la conférence, malgré les nombreux défis qu’il a énumérés, Jack Clark a insisté sur le fait qu’« il s’agit fondamentalement d’un propos optimiste ». Selon lui, les problèmes auxquels l’humanité est confrontée sont trop nombreux par rapport à sa capacité à les résoudre, et l’IA pourrait prendre le relais.
Il a expliqué aux étudiants présents que nous entrons dans une époque où notre imagination risque de nous limiter, car des choses que nous ne pouvions auparavant que concevoir vont devenir possibles. Il leur a conseillé de préserver leur capacité à se concentrer et leur autonomie pour lire les sources primaires jusqu’au bout, afin de cultiver l’imagination nécessaire à la naissance d’idées originales.
コメント