AI 快讯 | 284B 模型跑进 Windows 笔记本,前提写在「1.6-bit 量化」里

AI 快讯 | 284B 模型跑进 Windows 笔记本,前提写在「1.6-bit 量化」里

:fire: 一台 Windows 笔记本,本地跑起了 284B 模型。

但这个结论有个前提:模型经过 1.6-bit 量化。

演示给的是一台笔记本,和一句量化参数

硬件是 Surface Laptop Ultra:起价 2,599 美元,10 月 16 日发货,首款采用 Nvidia RTX Spark SoC——5120 / 6144 核 Blackwell GPU,最高 128GB LPDDR5x。

模型是 DeepSeek V4 Flash:284B 开源权重,经 1.6-bit 量化后约需 60GB 内存,可在 Windows PC 本地运行。

图 1:演示里的硬件与演示口径,以及缺的数据。自制信息卡。来源:微软与 NVIDIA 发布会的媒体报道(2026-10-08)。

质量与速度,一个数字都没有

这是厂商演示:量化后的质量损失没有公开数据,实际生成速度也没有。1.6-bit 是很激进的位宽,「装得下」和「能用」之间隔着的正是这两项。

所以在采信之前,值得问三件事:量化之后在你自己的任务上掉多少分、每秒能出多少 token、内存占用在你的机器上怎么算。

和两周前那次比,别直接换算成「翻倍」

10 月 4 日的 DGX Spark 64GB 是 4,999 美元、端侧最高跑 1000 亿参数,属于未量化的口径;这次是 284B 加 1.6-bit 量化。两次都在把端侧能装的规模往上推,但口径不同,不适合换算成「翻倍」。

图 2:两次端侧演示的对比。自制对比卡。来源:NVIDIA 官方博客(10-04)、微软与 NVIDIA 发布会的媒体报道(10-08)。

钱流向定制芯片,争议卡在「测的哪个版本」

  • Broadcom 为 OpenAI 定制芯片筹备超 500 亿美元融资:据《华尔街日报》,Apollo 与 Blackstone 在贷方之列,目标 2026 年底前敲定,但两家公司都没有确认。来源:《华尔街日报》(10-08)
  • Common Sense Media 与 OpenAI 就青少年模式的安全性起分歧:前者基于 4000+ 条提示词的报告称,ChatGPT 面对自杀、自伤等高风险话题时往往迟迟不通知家长;后者称测试未准确反映实际运作、要求重新测试。来源:Common Sense Media 报告、OpenAI 回应(10-08)

来源链接

官方来源

  • 微软与 NVIDIA 的硬件发布与演示(经媒体报道:Ars Technica)

独立来源

  • Broadcom 融资:《华尔街日报》
  • 青少年版争议:Common Sense Media 报告与 OpenAI 的回应