Le ministère chinois du Commerce et le ministère des Sciences et des Technologies ont publié un projet de révision de la liste des technologies dont l’exportation est interdite ou soumise à restriction. Il concerne 23 domaines prioritaires, dont les grands modèles, les agents d’IA, les grappes de calcul et le traitement des données. Le projet prévoit d’interdire l’exportation d’IA capables de créer ou de modifier de manière autonome des logiciels malveillants, tout en excluant les technologies déjà publiées. Il prévoit également un mécanisme permettant d’obtenir une autorisation de publication en open source par le seul biais d’un enregistrement. Il ne s’agit que d’un projet : les règles définitives ne sont pas encore arrêtées.
Le contrôle porte sur le « contenu », et non sur les « performances »
Ce qui frappe dans ce projet, c’est que le contrôle ne porte pas tant sur les modèles eux-mêmes que sur tout l’ensemble des technologies qui les composent : poids, points de contrôle, code source, architecture, méthodes d’entraînement et d’inférence. L’idée revient à contrôler non pas la vente du produit fini, mais l’exportation de la recette et de la cuisine tout entière.
Les poids désignent ici l’ensemble des valeurs numériques qui constituent en quelque sorte la « mémoire » de l’IA, acquise au fil de l’entraînement. Lorsqu’on les détient, on peut reproduire le modèle presque à l’identique dans son propre environnement. C’est pourquoi les pays commencent à faire des poids un enjeu central du contrôle des exportations.
Trois seuils déclenchent le contrôle
Trois conditions peuvent soumettre les technologies clés d’un modèle à contrôle : les calculs mobilisés pour son entraînement atteignent au moins 10^26 FLOPs, le modèle compte au moins 2 000 milliards de paramètres ou il figure parmi les dix premiers au niveau mondial. Il suffit de remplir l’une de ces conditions pour être concerné.
Pour déterminer si un modèle figure dans le top 10, les autorités chargées du contrôle des exportations se référeront aux classements publiés par les principaux organismes d’évaluation et plateformes du secteur, en Chine comme à l’étranger. Les critères cités comprennent les performances globales, les tâches spécifiques, la sécurité et l’ampleur de l’utilisation à l’échelle mondiale. Il ne faut pas négliger l’introduction d’un indicateur évolutif, le classement, en plus des seuils chiffrés. Dès qu’un nouveau modèle entre dans la course aux premières places, il peut se retrouver soumis à la réglementation.
Les modèles entraînés sur des données importantes sont également concernés
Les données constituent une autre porte d’entrée. Les grands modèles entraînés à partir de « données importantes » chinoises, telles que définies par la loi sur la sécurité des données et d’autres textes, et proposant des services fondés sur ces données seront eux aussi soumis au contrôle des exportations.
Des exceptions sont également définies avec précision. Les données publiées légalement sont exclues. En outre, une quantité limitée, jusqu’à 0,1 %, est admise à condition que les données aient été nettoyées au préalable, qu’elles n’apparaissent pas dans les réponses de l’IA et qu’elles ne renforcent pas de manière significative les capacités de recherche et développement dans les technologies clés du domaine concerné. Fixer un seuil chiffré laisse une certaine marge dans l’application des règles.
Les IA interdites et celles soumises à restriction
La mesure la plus sévère du projet est l’interdiction d’exporter des IA offensives. Sont visés les outils d’IA qui écrivent ou réécrivent de manière autonome des logiciels malveillants afin de cibler des infrastructures essentielles, l’armée ou des organismes gouvernementaux.
En revanche, les outils d’IA qui détectent les vulnérabilités logicielles ne sont pas totalement interdits, mais font l’objet de nouvelles restrictions à l’exportation. La recherche de vulnérabilités est une technologie qui peut servir aussi bien à la défense qu’à l’attaque. La distinction entre interdiction et restriction semble tenir compte de cette double nature. Pour le secteur de la cybersécurité, la portée exacte des restrictions devrait devenir un enjeu opérationnel majeur.
Une voie rapide pour protéger l’open source
Alors que le projet semble restreindre les exportations, il prévoit aussi un mécanisme facilitateur. La publication en open source de technologies d’IA ou de poids soumis à restriction donne lieu à une autorisation automatique. Il en va de même pour l’exploitation de ses propres centres de données à l’étranger, le transfert de données de conception de puces vers des sites de fabrication à l’étranger, la recherche menée conjointement avec des partenaires étrangers et la participation à l’élaboration de normes internationales. Les exportations admissibles sont conçues pour être approuvées dès le dépôt des documents requis.
Ces dernières années, les modèles open source chinois ont été largement adoptés par les développeurs du monde entier. La procédure semble traduire la volonté de ne pas freiner cette dynamique. Par ailleurs, les technologies d’IA déjà publiées en open source ou dans des articles scientifiques ne sont pas concernées par les nouvelles règles. En somme, les éléments déjà rendus publics ne seront pas visés.
Distinguer l’utilisation de l’exportation
En pratique, la distinction selon le mode d’utilisation devrait être déterminante. Même les modèles soumis à restriction échappent au contrôle des exportations lorsqu’ils sont utilisés par l’intermédiaire d’une API, d’une application, d’un site web ou d’un service SaaS. Il en va de même pour les versions allégées qui fonctionnent sur un terminal. Tant que les utilisateurs étrangers se contentent de les tester dans un chat ou de les intégrer à leurs propres services, ils ne contreviennent pas aux règles.
En revanche, l’installation d’une technologie soumise à restriction sur un serveur local à l’étranger nécessite une autorisation d’exportation classique. Toutefois, si elle fonctionne sur un cloud à l’étranger exploité par l’entreprise elle-même, une procédure simplifiée est possible. La ligne de démarcation ne dépend donc pas de « qui y accède », mais de « l’endroit où se trouve la technologie elle-même ».
Cette distinction n’est pas sans conséquence pour les entreprises étrangères. Si le projet est définitivement adopté, l’intégration d’un modèle chinois dans leur propre environnement et son exploitation constitueront une option soumise à autorisation.
Le pendant américain et les dilemmes européens
Dean W. Ball, qui dirige l’unité Strategic Futures chez OpenAI, estime que cette initiative ne signifie pas que la Chine va fermer ses modèles à poids ouverts. Elle vise plutôt à permettre au gouvernement de garder la possibilité de bloquer de futurs modèles si nécessaire. Selon lui, la mesure fait écho aux contrôles à l’exportation des poids de modèles déjà instaurés par les États-Unis, comme leur « image miroir ».
Si cette tendance se confirme, les entreprises américaines qui s’appuient sur des modèles d’IA à poids ouverts devraient se tourner davantage vers des modèles américains plutôt que chinois. L’Europe se trouverait dans une position plus délicate. Elle comptait préserver son autonomie en faisant fonctionner des modèles à poids ouverts sur des services cloud installés dans l’UE. Mais cette stratégie est fragilisée si les principaux modèles ouverts proviennent surtout des États-Unis et de la Chine, et que leur exportation peut être interrompue à tout moment par des contrôles.
Le terme « ouvert » donne l’impression que chacun peut utiliser ces modèles librement. Or, cette liberté dépend aussi des politiques du pays d’origine. Nous entrons dans une ère où les institutions encadrent non seulement le choix entre ouverture et contrôle, mais aussi la voie qui mène à l’ouverture.
Le Sud global et l’état d’avancement des procédures
Le projet prévoit également de soutenir le développement de l’IA dans le Sud global. Les exportations destinées au renforcement des capacités, au partage des technologies et à l’élaboration de règles communes devraient être facilitées dans le cadre de l’Organisation mondiale de coopération en matière d’intelligence artificielle, une initiative lancée par la Chine. Cette organisation est présentée comme un contrepoids aux institutions liées à l’IA sous direction occidentale.
Jusqu’à l’entrée en vigueur des règles définitives, les entreprises devront enregistrer sur le portail du ministère du Commerce les exportations concernées.
コメント