商业科技早报|2026-10-16
今日深读:为什么 Meta 要把 8160 亿参数的开源模型,塞进两台苹果 Mac 台式机里?
10月15日至16日,Meta 正式开源了迄今美国参数规模最大的原生多模态混合专家模型(MoE)Muse Spark Open,总参数量达 8160 亿,每次推理激活约 420 亿参数,支持 100 万 Token 上下文。比起模型参数本身,真正引发开发者社区震动的是它的硬件适配方案:Meta 与苹果团队直接开展底层工程协作,基于苹果自研的 MLX 机器学习框架发布了官方优化权重,使这个原本需要整柜数据中心服务器才能装下的巨型模型,首次可以直接在两台配备 512GB 内存的 Apple M5 Ultra Mac Studio 台式机上本地运行(Tech Insider 深度拆解、Mashable 报道)。
为什么 Meta 要花大力气去适配消费级工作站?算一笔显存成本账就清楚了。要完整装下 8160 亿参数的模型权重与百万级上下文缓存,硬件至少需要 500GB 到 900GB 的高速内存。在传统的英伟达数据中心体系里,企业必须采购一台插满 8 张 H200 或 B200 加速卡的服务器节点,单机采购成本高达 25 万至 35 万美元,且需要专业的机房供电与散热;而苹果 Mac Studio 采用 CPU 与 GPU 共享内存池的“统一内存架构(Unified Memory)”,两台 512GB 顶配机器通过高速雷电接口并联即可提供 1TB 内存池,硬件采购总价仅在 1.6 万至 2 万美元左右--不到英伟达方案的十五分之一,插上普通办公室插座就能跑。同时,Meta 也没有得罪英伟达,同步放出了针对 NVIDIA GB300 NVL72 机柜优化的 NVFP4 低精度权重,形成“写字楼桌面跑研发内测、数据中心跑高并发生产”的双轨分工。
对金融、律所及对代码外泄极度敏感的企业研发团队而言,这意味着不到两万美元就能在锁着门的办公室里拥有一套断网运行的顶级多模态大模型,彻底绕开云端 API 的数据合规审查。不过,“装得下”不等于“跑得快”,苹果芯片的内存带宽(约 800GB/s–1TB/s)仍远低于英伟达 HBM3e 显存(8TB/s),接下来最值得盯紧的实测指标,是这两台 Mac Studio 在处理超过 10 万字长文档时的真实首字延迟(TTFT)与每秒 Token 吐字速度。
行业快讯(过去24h最新动态-严禁与近3日重复)
• 【AI 云基建|Modal 年化营收破 10 亿美元,仅靠 Agent 沙盒就赚了 3 亿】:AI 原生无服务器算力平台 Modal 于 10月15日宣布年化经常性收入(ARR)突破 10 亿美元(同比暴增 15 倍),并以 157.5 亿美元估值完成 Accel 领投的 7.5 亿美元 D 轮融资;其中专门用于隔离运行大模型生成代码的 Sandboxes 单品年化收入已达 3 亿美元、累计拉起近 30 亿次容器,印证了安全执行沙盒已成为企业部署 Agent 最刚需的底层卖水生意(Futurum Group)。
• 【企业安全|ServiceNow 推出 AI Passport,用加密凭证给企业 Agent 发“工作证”】:针对调研中“100% 银行已使用 AI 但仅 24% 具备治理框架”的空白,ServiceNow 于 10月15日发布 AI Passport,通过密码学凭证在运行时动态校验每个智能体的授权范围,防止跨系统越权读写;同日 Freshworks 宣布收购 Torii,将 IT 服务管理直接延伸至企业影子 AI 支出治理(Futurum Insights)。
• 【端侧芯片|英伟达联手联发科出货 RTX Spark 超算芯片,Adobe 全家桶提速两倍】:10月16日英伟达正式出货将 Blackwell GPU 与 20 核 Grace CPU 封装在一起的 RTX Spark 芯片(支持 128GB 统一内存与 1 PFLOPS 算力),Adobe 同步完成 Photoshop 与 Premiere 底层重架构,使本地多模态编辑速度提升 2 倍、Frame.io 云端检索延迟降低 80%,正面回击苹果 Mac 在专业创意工作站市场的内存优势(Unite.AI)。
• 【网络安全|CISA 紧急警告 Ivanti 边界网关漏洞遭活跃利用,勒令限期修补】:美国网络安全和基础设施安全局(CISA)于 10月15–16日更新已知被利用漏洞目录(KEV),针对 Ivanti Connect Secure 等企业远程接入网关漏洞发出紧急指令,要求联邦机构与企业限期打补丁,严防攻击者将外网 VPN 设备作为跳板横向渗透内网核心资产(CISA 官方警报、The Hacker News)。
今日一言
“在本地跑大模型这件事上,决定企业能不能用得起的往往不是芯片的峰值算力,而是装下几千亿参数的那几百 GB 内存到底要花多少钱;苹果统一内存真正的杀伤力,是把三十万美元的数据中心显存门票,打成了两万美元的办公桌固定资产。”
