Meta, società statunitense, ha annunciato giovedì, ora locale, il modello open-weight «Muse Spark Open». Ha 816 miliardi di parametri e una finestra di contesto da un milione di token, ed è stato progettato pensando all’esecuzione locale sui computer Apple. È già disponibile tramite diverse piattaforme API.
Funziona su Mac, ma non necessariamente sul Mac che hai a disposizione
Sentendo parlare di «AI che funziona su Mac», è facile immaginare di poterla scaricare e provare sul portatile che si usa tutti i giorni. Ma in questo caso le cose non sono così semplici. Per eseguire localmente un modello da 816 miliardi di parametri, a quanto riferito, servono almeno 1 TB di memoria. Siamo su un ordine di grandezza diverso rispetto alla memoria di un normale portatile.
L’ambiente indicato come ideale è un Mac Studio con chip M5 Ultra. Con questo modello Meta non ha tanto mostrato una soluzione facile da usare, quanto piuttosto la possibilità di gestire un modello gigantesco sul proprio dispositivo, sulla scrivania, senza affidarlo al cloud: è questa, probabilmente, la chiave di lettura più naturale.
Ciò non toglie che questa possibilità sia tutt’altro che irrilevante. Finora i modelli di dimensioni eccezionali erano confinati ai data center. Ora iniziano ad affacciarsi sui computer desktop. Anche se i requisiti per eseguirli sono elevati, è una tendenza da non sottovalutare.
Dall’AI che scrive codice all’AI che guarda i video
Muse Spark Open ha un’architettura nativamente multimodale, in grado di gestire anche immagini, ed è stato sviluppato per attività di programmazione complesse e per compiti di tipo agentico. Per «tipo agentico» si intende un uso in cui l’AI non si limita a rispondere una volta a una domanda, ma pianifica autonomamente più passaggi e porta avanti il lavoro.
Meta spiega di averlo utilizzato insieme a «Muse Code», il proprio terminale per la programmazione assistita dall’AI, per diversi flussi di lavoro agentici. Tra gli esempi citati c’è la modifica di un client per il social network decentralizzato «Mastodon». Secondo Meta, il modello ha svolto l’intero processo: correggere un bug, aggiungere una nuova funzionalità e compilare il programma.
È stato utilizzato anche per operare con il software di montaggio video «DaVinci Resolve», dove avrebbe potuto esaminare i contenuti e ritagliarli. Dal codice agli strumenti di montaggio video professionali: le situazioni in cui l’AI interagisce con le applicazioni sullo schermo si stanno chiaramente moltiplicando.
Trovo particolarmente interessante che entrambi gli esempi riguardino attività svolte su un computer desktop. Si passa da un’AI che risponde in una finestra di chat a una che lavora al computer come un collega. Forse è proprio in questo scenario che va cercato il motivo per cui si punta sull’esecuzione locale su Mac.
Il valore dell’open-weight non si misura solo dalle prestazioni
Sulla base dei risultati delle valutazioni pubblicati, Meta sostiene che il modello superi gli altri principali modelli open-weight. Lo definisce inoltre il modello open-weight più potente disponibile negli Stati Uniti.
Il significato dell’open-weight, però, non si esaurisce nelle classifiche. Poiché vengono resi pubblici i pesi, cioè il contenuto stesso del modello addestrato, questi modelli possono offrire vantaggi di costo rispetto a quelli proprietari e garantire maggiore trasparenza sul loro funzionamento e flessibilità d’uso.
Per le aziende, il bivio è tra usarlo comodamente tramite API o installarlo e farlo funzionare nel proprio ambiente. La prima opzione è rapida da implementare; la seconda consente di non trasferire i dati all’esterno. 1 TB è una soglia elevata, ma in contesti che trattano materiale di sviluppo riservato o contenuti video potrebbe esserci chi ritiene che l’investimento valga la pena.
Muse Spark Open aggiunge un nuovo elemento da valutare. Si può provarlo tramite API e, se necessario, passare all’esecuzione locale. Questo approccio in due fasi potrebbe diventare il modo standard di utilizzare l’AI open-weight in futuro.
コメント