Meta 發表 8,160 億參數開放權重 AI「Muse Spark Open」，預計可在 Mac 上本機執行

美國 Meta 於當地時間週四發表開放權重模型「Muse Spark Open」。模型參數量達 8,160 億，情境視窗為 100 萬個 token，設計上預計可在 Apple 電腦上本機執行。目前已透過多個 API 平台開始提供。

能在 Mac 上執行，但未必是你手邊的 Mac

聽到「能在 Mac 上執行的 AI」，人們往往會想像只要下載到目前使用的筆電上就能試用。然而，這次的情況並沒那麼簡單。據稱，要在本機執行這款規模達 8,160 億參數的模型，至少需要 1TB 記憶體。這與一般筆電的記憶體容量相差一個數量級。

目前提出的最佳執行環境，是搭載 M5 Ultra 晶片的 Mac Studio。Meta 透過這款模型展現的，與其說是便利性，不如說是讓人能選擇不把大型模型交給雲端，而是在自己桌上的裝置端加以運用。這樣理解或許更貼切。

即便如此，「有這種選擇」這件事仍不容小覷。過去，超大型模型都在資料中心的另一端。如今，它們開始出現在桌上型電腦能力所及的範圍內。即使執行門檻很高，這個發展方向仍值得關注。

從寫程式的 AI，到看影片的 AI

Muse Spark Open 採用原生多模態設計，可處理包括影像在內的內容，並以複雜的程式開發工作和代理型任務為目標打造。所謂代理型，是指 AI 不會只回答一次問題就結束，而是能自行安排多個步驟並持續完成工作。

Meta 表示，該公司將模型與自家的 AI 程式開發終端工具「Muse Code」搭配，投入各種代理型工作流程。舉例來說，他們讓模型為去中心化社群網路「Mastodon」的用戶端進行修改，並稱模型完成了修復錯誤、加入新功能到建置程式等一系列工作。

此外，模型也用於操作影片剪輯軟體「DaVinci Resolve」，據稱能檢視素材並進行裁切。從程式開發到專業影片剪輯工具，AI 操控螢幕上應用程式的情境正不斷擴大。

我個人覺得有趣的是，這兩個例子都涉及桌面電腦上的工作。AI 正從在聊天視窗中回答問題，轉變成像坐在電腦前動手工作的同事。堅持在 Mac 上本機執行的用意，或許也與此有關。

開放權重的價值，不能只看效能

Meta 根據公開的評測結果，宣稱其效能勝過其他主要開放權重模型，並將這款模型定位為美國效能最強的開放權重模型。

不過，開放權重的意義不能只看排行榜。由於模型權重，也就是訓練完成後的模型本身，會對外公開，因此相較於封閉模型，通常更有利於降低成本，也更容易確保機制透明並靈活運用。

企業面臨的抉擇，在於透過 API 輕鬆使用，或將模型部署在自家環境中執行。前者導入速度快，後者則能避免資料外流。1TB 是一道很高的門檻，但對於處理機密性高的開發工作或影片素材的企業來說，仍可能有些情況會認為這筆投資值得。

Muse Spark Open 為這項評估增添了一個選項。先透過 API 試用，有需要時再部署到本機。這種兩階段的使用方式，或許會成為今後運用開放權重 AI 的標準模式。