Os ministérios do Comércio e da Ciência e Tecnologia da China divulgaram uma proposta de revisão da lista de tecnologias cuja exportação é proibida ou restringida. A proposta abrange 23 áreas prioritárias, entre as quais modelos de grande escala, agentes de IA, clusters de computação e processamento de dados. A IA capaz de criar ou alterar autonomamente malware ficaria proibida de exportação, enquanto as tecnologias já públicas seriam excluídas. A proposta prevê também um mecanismo que permite autorizar a publicação de código aberto mediante simples registo. Trata-se ainda de uma proposta; as regras finais não estão definidas.
A rede de controlo abrange o «conteúdo», não o «desempenho»
O que se destaca nesta proposta é que o controlo não incide tanto sobre os próprios modelos, mas sobre todo o conjunto de tecnologias que os compõem. A lista inclui pesos, checkpoints, código-fonte, arquitetura e métodos de treino e inferência. A ideia é controlar não a venda do produto acabado, mas a transferência da receita e de toda a cozinha.
Os pesos são um conjunto de valores numéricos que constituem uma espécie de «memória» da IA, adquirida durante o treino. Com eles em mãos, é possível reproduzir o modelo praticamente por completo num ambiente próprio. É por isso que os países começam a centrar o controlo das exportações nos pesos.
Três critérios para que o controlo entre em vigor
Há três condições para que as tecnologias essenciais de um modelo fiquem sujeitas a controlo: ter sido utilizado, no treino, um volume de computação igual ou superior a 10^26 FLOPs; o número de parâmetros ser igual ou superior a 2 biliões; e o modelo figurar entre os dez melhores do mundo. Basta que se verifique uma destas condições para que fique abrangido.
A autoridade responsável pelo controlo das exportações determinará se um modelo está entre os dez melhores com base em classificações publicadas pelas principais entidades de avaliação e plataformas do sector, tanto na China como no estrangeiro. Entre os critérios referidos estão o desempenho global, tarefas específicas, segurança e dimensão da utilização a nível mundial. Não se pode ignorar que, além dos critérios numéricos, a proposta inclui um indicador dinâmico: a posição no ranking. Assim que um novo modelo entrar na disputa pela liderança, poderá passar a estar sujeito às restrições.
Também ficam abrangidos os modelos treinados com dados importantes
Há outro critério: os dados. Os modelos de grande escala treinados com «dados importantes» da China, definidos em leis como a Lei da Segurança dos Dados, e que prestem serviços com base nesses dados também ficam sujeitos ao controlo das exportações.
As exceções são definidas em pormenor. Os dados legalmente disponíveis ao público ficam excluídos. Além disso, é permitida a utilização de uma pequena quantidade, até 0,1%, desde que os dados tenham sido previamente limpos, não surjam nos resultados da IA e não reforcem significativamente a capacidade de investigação e desenvolvimento em tecnologias essenciais da área em causa. Ao estabelecer um limite numérico, a proposta deixa margem para a aplicação prática.
IA proibida e IA sujeita a restrições
A medida mais severa prevista na proposta é a proibição da exportação de IA ofensiva. Estão abrangidas as ferramentas de IA que escrevem ou alteram malware de forma autónoma para atacar infraestruturas críticas, forças armadas ou organismos governamentais.
Por outro lado, as ferramentas de IA que detetam vulnerabilidades de software não ficam totalmente proibidas, mas passam a estar sujeitas a novas restrições à exportação. A procura de vulnerabilidades é uma tecnologia que pode ser usada tanto para defender como para atacar. A distinção entre proibição e restrição parece refletir essa dualidade. Para o sector da cibersegurança, a questão prática será perceber até onde se estendem as restrições.
Uma via rápida para proteger o código aberto
Embora pareça uma proposta destinada a limitar as exportações, inclui também um acelerador. A publicação como código aberto de tecnologias de IA ou pesos sujeitos a restrições fica abrangida por um regime de autorização automática. O mesmo tratamento aplica-se à operação de centros de dados próprios no estrangeiro, ao envio de dados de conceção de chips para fabrico no estrangeiro, à investigação conjunta com parceiros estrangeiros e à participação na elaboração de normas internacionais. As exportações elegíveis são aprovadas assim que os documentos necessários forem apresentados.
Nos últimos anos, os modelos abertos originários da China passaram a ser amplamente utilizados por programadores de todo o mundo. Este procedimento deixa transparecer a intenção de não travar essa tendência. Além disso, as tecnologias de IA já divulgadas como código aberto ou em artigos científicos ficam fora do âmbito das novas regras. Em suma, aquilo que já foi publicado não será alvo de intervenção.
Distinguir entre utilizar e transferir
Na prática, a distinção baseada na forma de utilização deverá ter impacto. Mesmo os modelos sujeitos a restrições ficam fora do controlo das exportações quando são utilizados através de API, aplicações, sítios Web ou SaaS. O mesmo se aplica às versões leves que funcionam nos próprios dispositivos. Enquanto os utilizadores no estrangeiro os experimentarem numa conversa ou os integrarem nos seus serviços, não estarão a infringir as regras.
Por outro lado, a instalação de tecnologias sujeitas a restrições em servidores locais no estrangeiro exige uma licença de exportação normal. No entanto, se forem executadas numa plataforma de computação em nuvem no estrangeiro operada pela própria empresa, pode ser utilizado um procedimento simplificado. Ou seja, a distinção não depende de «quem acede», mas de «onde está a tecnologia propriamente dita».
Esta distinção tem implicações consideráveis para as empresas estrangeiras. Se a proposta for finalizada, a opção de integrar modelos chineses no seu próprio ambiente e operá-los ficará sujeita à obtenção de uma autorização.
O espelho dos Estados Unidos e o dilema da Europa
Dean W. Ball, que lidera a divisão de Futuros Estratégicos da OpenAI, considera que esta medida não significa que a China esteja a fechar os modelos de pesos abertos. Em vez disso, garante ao Governo margem para suspender modelos futuros, se necessário. Na sua leitura, trata-se de uma espécie de «imagem espelhada» dos controlos à exportação de pesos de modelos que os Estados Unidos já adotaram.
Se esta dinâmica se intensificar, é provável que as empresas norte-americanas que dependem de IA de pesos abertos passem a privilegiar modelos nacionais em detrimento dos chineses. A Europa fica numa posição mais difícil. A sua estratégia tem passado por executar modelos de pesos abertos em serviços de computação em nuvem dentro da região, preservando assim a sua autonomia. Mas, se a origem dos modelos abertos mais relevantes se concentrar nos Estados Unidos e na China, e se estes puderem ser suspensos a qualquer momento através de controlos à exportação, essa premissa fica abalada.
A palavra «aberto» dá a entender que qualquer pessoa pode utilizar a tecnologia livremente. No entanto, essa liberdade também depende das políticas do país de origem. Parece que estamos a entrar numa era em que não basta escolher entre abertura e controlo: até o percurso que conduz à abertura passa a ser definido por regras.
O Sul Global e o ponto de situação dos procedimentos
A proposta prevê também apoio ao desenvolvimento da IA no Sul Global. As exportações destinadas à capacitação, à partilha de tecnologia e à criação conjunta de regras serão facilitadas no âmbito da Organização Mundial para a Cooperação em Inteligência Artificial, uma estrutura criada pela China. Esta organização é apresentada como uma alternativa às instituições ligadas à IA lideradas pelo Ocidente.
Até à entrada em vigor das regras definitivas, as empresas terão de registar no portal do Ministério do Comércio as exportações abrangidas.
コメント