Meta anuncia a IA de pesos abertos «Muse Spark Open», com 816 mil milhões de parâmetros, e prevê a execução local em Mac

A norte-americana Meta anunciou, na quinta-feira, hora local, o modelo de pesos abertos «Muse Spark Open». Com 816 mil milhões de parâmetros e uma janela de contexto de um milhão de tokens, foi concebido para funcionar localmente em computadores Apple. Já começou a ser disponibilizado através de várias plataformas de API.

Funciona em Mac, mas não necessariamente no seu Mac

Ao ouvir «IA que funciona em Mac», é fácil imaginar que basta descarregá-la para o portátil que usamos atualmente e experimentá-la. Mas, neste caso, a realidade não é assim tão simples. Segundo as informações divulgadas, para executar localmente um modelo com 816 mil milhões de parâmetros são necessários pelo menos 1 TB de memória. Estamos num patamar muito diferente da memória de um portátil comum.

O ambiente apontado como ideal é um Mac Studio equipado com o chip M5 Ultra. É natural interpretar a demonstração deste modelo pela Meta não tanto como uma aposta na simplicidade, mas como uma possibilidade de trabalhar com modelos gigantes no próprio equipamento, em cima da secretária, sem os confiar à nuvem.

Ainda assim, o simples facto de essa possibilidade existir não é insignificante. Até agora, os modelos de dimensão extraordinária estavam do outro lado dos centros de dados. Agora começam a surgir no horizonte dos computadores de secretária. Mesmo com requisitos de execução elevados, é uma tendência que merece atenção.

Da IA que escreve código à IA que vê vídeo

O Muse Spark Open tem uma arquitetura multimodal nativa, capaz de lidar com imagens, entre outros conteúdos, e foi concebido para tarefas complexas de programação e trabalho com agentes. O trabalho com agentes consiste em realizar tarefas que não se limitam a responder uma vez a uma pergunta: o modelo define por si próprio várias etapas e avança com o trabalho.

A Meta afirma ter combinado o modelo com o seu terminal de IA para programação, «Muse Code», e utilizado-o em vários fluxos de trabalho com agentes. Um dos exemplos apresentados foi a correção de um cliente da rede social descentralizada Mastodon. Segundo a empresa, o modelo tratou de todo o processo: corrigiu erros, acrescentou funcionalidades e compilou o programa.

O modelo foi também utilizado para operar o software de edição de vídeo «DaVinci Resolve», onde conseguiu analisar os ficheiros e recortá-los. Do mundo do código às ferramentas profissionais de edição de vídeo, os casos em que a IA interage com aplicações no ecrã estão claramente a multiplicar-se.

O que acho particularmente interessante é que ambos os exemplos dizem respeito a tarefas realizadas num computador de secretária. Da IA que responde numa janela de conversação à IA que trabalha ao nosso lado, diante do computador. Talvez seja também esse o motivo para insistir na execução local em Mac.

O valor dos pesos abertos não se mede apenas pelo desempenho

Com base nos resultados de avaliação que publicou, a Meta afirma que o modelo supera outros modelos de pesos abertos de referência. Classifica-o ainda como o modelo de pesos abertos mais avançado dos Estados Unidos.

Mas a importância dos pesos abertos não se resume às classificações. Como os pesos — ou seja, o próprio conteúdo do modelo após o treino — são disponibilizados, estes modelos tendem a ser mais vantajosos em termos de custos do que os modelos fechados e permitem, em princípio, maior transparência sobre o seu funcionamento e mais flexibilidade de utilização.

Para as empresas, a escolha está entre a conveniência de utilizar o modelo através de uma API e executá-lo no próprio ambiente. A primeira opção permite uma implementação rápida; a segunda evita que os dados saiam da empresa. O requisito de 1 TB é um obstáculo considerável, mas algumas organizações que trabalham com desenvolvimento confidencial ou material de vídeo poderão concluir que o investimento compensa.

O Muse Spark Open acrescenta mais um elemento a considerar nessa decisão. Experimentar através da API e, se necessário, passar para a execução local. Esta abordagem em duas fases poderá tornar-se a forma habitual de trabalhar com IA de pesos abertos.