Meta于10月15日发布开放权重人工智能模型Muse Spark Open,并与苹果合作,针对Mac Studio优化该模型的本地运行方案。Meta表示,该模型拥有8160亿个总参数,其中每次推理实际激活的参数约为420亿,支持长达100万Token的上下文窗口,重点面向编程、复杂推理和AI代理任务。通过两台搭载M5 Ultra芯片、各配备512GB统一内存的Mac Studio,用户可以在桌面环境中运行这一规模庞大的模型,而不必完全依赖云端AI服务。

此次合作颇为引人注目。苹果与Meta过去在隐私政策、平台规则和应用生态等方面存在明显分歧,双方此次却共同推动开放权重模型在苹果硬件上的运行。Meta首席执行官马克·扎克伯格感谢苹果首席执行官约翰·特努斯参与合作,特努斯也公开表示,Muse Spark Open能够在桌面设备上高效运行,展示了Mac Studio在本地AI计算方面的潜力。

Muse Spark Open是Meta Muse模型系列中的开放权重版本。与只能通过远程服务访问的封闭模型不同,开放权重模型允许用户获取模型权重,并在符合许可条件的前提下自行部署。这为开发者、研究人员和企业提供了更大的运行环境控制权,也使他们能够根据自身需求调整推理流程。

该模型拥有8160亿个总参数,但采用了稀疏激活设计,每次推理只激活约420亿个参数。换句话说,模型并不需要在处理每个Token时都让全部参数参与计算,而是根据任务和输入内容调用相应部分。这种设计有助于降低推理计算量,但并不意味着模型可以只使用420亿参数所需的内存运行,因为完整模型的权重仍然需要存储或以其他方式进行管理。

上下文窗口是Muse Spark Open的另一项重要指标。该模型支持100万Token上下文,理论上可以在一次任务中处理非常长的文本、代码库或多份文档。对于软件工程任务而言,这意味着模型有机会同时参考大量源代码和相关资料,减少因上下文不足而遗漏关键信息的情况。不过,实际可用的上下文长度、处理速度和内存占用,仍然取决于具体运行配置与推理框架。