I ministeri cinesi del Commercio e della Scienza e della Tecnologia hanno pubblicato una proposta di revisione dell’elenco delle tecnologie la cui esportazione è vietata o soggetta a restrizioni. La proposta riguarda 23 settori prioritari, tra cui modelli di grandi dimensioni, agenti di IA, cluster di calcolo e trattamento dei dati. L’esportazione di IA in grado di creare o modificare autonomamente malware sarebbe vietata, mentre le tecnologie già rese pubbliche sarebbero escluse. È previsto inoltre un meccanismo per cui, per la pubblicazione open source, basterebbe la registrazione per ottenere l’autorizzazione. Si tratta ancora di una proposta: le regole definitive non sono state stabilite.
I controlli riguardano il «contenuto», non le «prestazioni»
Uno degli aspetti più significativi della proposta è che i controlli non sembrano riguardare tanto i modelli in sé, quanto l’intero insieme di tecnologie con cui vengono realizzati. L’elenco comprende pesi, checkpoint, codice sorgente, architetture e metodi di addestramento e inferenza. È un approccio che mira a controllare non la vendita del prodotto finito, ma il trasferimento all’estero della ricetta e dell’intera cucina.
I pesi sono l’insieme di valori numerici che costituiscono una sorta di «memoria» dell’IA, acquisita attraverso l’addestramento. Se li si ha a disposizione, è possibile ricreare il modello quasi integralmente nel proprio ambiente. È per questo che i Paesi stanno iniziando a concentrare i controlli sulle esportazioni proprio sui pesi.
Le tre soglie che fanno scattare i controlli
I controlli sulle tecnologie chiave di un modello scattano al verificarsi di una di queste tre condizioni: una potenza di calcolo impiegata nell’addestramento pari o superiore a 10 elevato alla 26ª FLOPs, almeno 2.000 miliardi di parametri oppure una posizione tra i primi 10 al mondo. È sufficiente che ne ricorra una.
Per stabilire se un modello rientra tra i primi 10, le autorità di controllo delle esportazioni faranno riferimento alle classifiche pubblicate dai principali enti di valutazione e dalle piattaforme di settore, cinesi e straniere. Tra i criteri figurano le prestazioni complessive, i singoli compiti, la sicurezza e la diffusione a livello mondiale. Non va sottovalutato il fatto che, oltre a soglie numeriche, si utilizzi un indicatore variabile come la posizione in classifica. Un nuovo modello potrebbe rientrare nell’ambito dei controlli non appena entra nella competizione per il primo posto.
Nel mirino anche i modelli addestrati con dati importanti
Un altro criterio riguarda i dati. Anche i modelli di grandi dimensioni addestrati con «dati importanti» cinesi, definiti da leggi come la Legge sulla sicurezza dei dati, e che offrono servizi basati su tali dati rientrano nei controlli sulle esportazioni.
Sono previste anche eccezioni dettagliate. I dati legalmente accessibili al pubblico sono esclusi. Inoltre, è ammesso l’uso di quantità limitate, fino allo 0,1%, purché i dati siano stati ripuliti in precedenza, non compaiano nei risultati dell’IA e non contribuiscano in modo significativo a potenziare la capacità di ricerca e sviluppo nelle tecnologie chiave del settore. La soglia numerica lascia un margine di manovra nell’applicazione delle norme.
IA vietate e IA soggette a restrizioni
La misura più severa prevista dalla proposta è il divieto di esportare IA a scopo offensivo. Rientrano in questa categoria gli strumenti di IA che scrivono o modificano autonomamente malware per colpire infrastrutture critiche, forze armate e istituzioni governative.
Gli strumenti di IA che individuano vulnerabilità software, invece, non sono vietati in toto, ma sono soggetti a nuove restrizioni all’esportazione. La ricerca di vulnerabilità può essere usata sia per difendersi sia per attaccare. La distinzione tra divieto e restrizione sembra tenere conto di questa duplice natura. Per il settore della sicurezza informatica, l’attenzione si concentrerà probabilmente su quali attività rientreranno esattamente nelle restrizioni.
Una scorciatoia per tutelare l’open source
La proposta, che a prima vista sembra limitare le esportazioni, prevede anche un acceleratore. La pubblicazione open source di tecnologie di IA o pesi soggetti a restrizioni rientra nel regime di autorizzazione automatica. Lo stesso trattamento si applica alla gestione di data center propri all’estero, al trasferimento all’estero di dati di progettazione di chip per la produzione, alla ricerca congiunta con partner stranieri e alla partecipazione alla definizione di standard internazionali. Il testo prevede che, una volta presentata la documentazione necessaria, le esportazioni idonee siano autorizzate.
Negli ultimi anni, i modelli open source cinesi sono stati adottati da un numero crescente di sviluppatori in tutto il mondo. La procedura sembra riflettere la volontà di non frenare questa tendenza. Le tecnologie di IA già rese pubbliche tramite l’open source o articoli di ricerca sono inoltre escluse dalle nuove regole: in sostanza, non si interviene su ciò che è già stato diffuso.
Distinguere l’uso dal trasferimento all’estero
Nella pratica, sarà decisiva la distinzione basata sulle modalità d’uso. Anche se un modello è soggetto a restrizioni, il suo utilizzo tramite API, app, siti web o SaaS non rientra nei controlli sulle esportazioni. Lo stesso vale per le versioni leggere eseguite sui dispositivi. Finché gli utenti all’estero si limitano a provarlo tramite chat o a integrarlo nei propri servizi, non violano le regole.
Per installare invece tecnologie soggette a restrizioni su server locali all’estero è necessaria una normale licenza di esportazione. Se però vengono eseguite su un cloud estero gestito dalla stessa azienda, è possibile ricorrere a una procedura semplificata. La linea di demarcazione, dunque, non riguarda «chi vi accede», ma «dove si trova la tecnologia in sé».
Questa distinzione ha conseguenze non trascurabili per le aziende straniere. Se la proposta diventerà definitiva, la possibilità di integrare modelli cinesi nel proprio ambiente e gestirli internamente sarà subordinata all’ottenimento di un’autorizzazione.
Il riflesso speculare degli Stati Uniti e il dilemma europeo
Dean W. Ball, che dirige il dipartimento Strategic Futures di OpenAI, interpreta questa mossa non come una decisione della Cina di chiudere i modelli a pesi aperti, ma come un modo per assicurare al governo la possibilità di bloccare i modelli futuri, se necessario. A suo giudizio, è il «riflesso speculare» dei controlli sulle esportazioni dei pesi dei modelli già introdotti dagli Stati Uniti.
Se questa dinamica proseguirà, le aziende statunitensi che si affidano all’IA a pesi aperti potrebbero orientarsi sempre più verso modelli nazionali, anziché cinesi. L’Europa si troverebbe in una posizione più difficile. La sua strategia puntava a mantenere la propria autonomia eseguendo modelli a pesi aperti su cloud europei. Ma se i principali modelli aperti provengono in gran parte da Stati Uniti e Cina e possono essere bloccati in qualsiasi momento tramite controlli sulle esportazioni, questo presupposto vacilla.
La parola «aperto» dà l’impressione che chiunque possa usare liberamente una tecnologia. Ma questa libertà dipende, in parte, dalle politiche del Paese da cui proviene. Sembra che si stia entrando in un’epoca in cui non conta soltanto scegliere tra apertura e controllo: anche il percorso che porta all’apertura viene definito dalle istituzioni.
Il Sud globale e lo stato delle procedure
La proposta prevede inoltre di sostenere lo sviluppo dell’IA nel Sud globale. Le esportazioni destinate al rafforzamento delle capacità, alla condivisione delle tecnologie e alla definizione congiunta di regole saranno agevolate nell’ambito dell’Organizzazione mondiale per la cooperazione sull’intelligenza artificiale, un organismo istituito dalla Cina. L’organizzazione è presentata come un contrappeso alle istituzioni legate all’IA guidate dall’Occidente.
Fino all’entrata in vigore delle regole definitive, le aziende dovranno registrare sul portale del ministero del Commercio le esportazioni interessate.
コメント