MENU

Meta发布8160亿参数开放权重AI「Muse Spark Open」,面向Mac本地运行

Meta、8160億パラメーターのオープンウェイトAI「Muse Spark Open」を発表 Macでのローカル実行を想定

美国Meta于当地时间周四发布了开放权重模型「Muse Spark Open」。该模型拥有8160亿个参数,上下文窗口为100万Token,设计目标是在Apple电脑上本地运行。目前已通过多个API平台开始提供。

目次

能在Mac上运行,但不一定是你手边的Mac

听到“能在Mac上运行的AI”,人们往往会想到可以下载到正在使用的笔记本电脑上试用。但这次的情况并没那么简单。据称,要在本地运行这样一款拥有8160亿参数的模型,至少需要1TB内存。这与普通笔记本电脑的内存容量相差了一个数量级。

被列为理想运行环境的是搭载M5 Ultra芯片的Mac Studio。Meta借这款模型展示的,与其说是便捷性,不如说是另一种选择:无需把庞大模型交给云端,而是在自己桌上的设备上运行它。这样理解或许更为自然。

尽管如此,“存在这种选择”这一事实仍不可小觑。此前,超大型模型都在数据中心的另一端。如今,它们开始出现在桌面电脑能力所及的范围内。即使运行条件门槛很高,这一发展方向也值得关注。

从编写代码的AI,到理解视频的AI

Muse Spark Open采用原生多模态设计,可以处理图像等内容,面向复杂的编码任务和智能体工作流程打造。所谓智能体工作流程,是指AI不会只回答一次问题就结束,而是能够自行安排多个步骤并持续完成任务。

Meta表示,公司将该模型与自家的AI编程终端「Muse Code」搭配,用于各种智能体工作流程。Meta举出的例子是修改分布式社交网络「Mastodon」的客户端,包括修复故障、添加新功能以及完成构建。

据称,该模型还被用于操作视频编辑软件「DaVinci Resolve」,能够检查素材并进行裁剪。从代码领域到专业视频编辑工具,AI操作屏幕中应用程序的场景正在不断扩大。

我个人觉得有意思的是,这两个例子都涉及桌面电脑上的工作。AI正从在聊天窗口中给出回答,转变为像坐在电脑前动手工作的同事一样。坚持面向Mac本地运行,或许也与此有关。

开放权重模型的价值,不只看性能

Meta根据公布的评测结果称,该模型的性能超过其他主要开放权重模型,并将其定位为美国性能最强的开放权重模型。

不过,开放权重的意义不能只看排名。由于模型权重,也就是经过训练的模型本身,会向外公开,因此与闭源模型相比,它往往在成本方面更有优势,也更容易实现机制透明和灵活使用。

对企业而言,关键选择在于通过API便捷使用,还是将模型部署在自有环境中运行。前者部署迅速,后者则可以避免将数据传到外部。1TB内存是一道很高的门槛,但对于处理高度机密的开发工作或视频素材的团队来说,也可能会有人认为这笔投资物有所值。

Muse Spark Open为这项选择增加了一个参考。先通过API试用,有需要时再转到本地。这种两步式的使用方式,或许会成为未来使用开放权重AI的常见模式。

Meta、8160億パラメーターのオープンウェイトAI「Muse Spark Open」を発表 Macでのローカル実行を想定

この記事が気に入ったら
フォローしてね!

よかったらシェアしてね!

コメント

コメントする

目次