Reflection 产品团队首场 AMA:Beam 1.0 推理 token 约省 3 倍,小模型暂无时间表
Beam 1.0 上架 Hugging Face 一个月后,它背后的团队第一次正面回答社区提问。11 月 3 日 8–11 点(太平洋时间),Reflection 产品团队在 r/LocalLLaMA 办了首场 AMA,出席五人:Sanyam Bhutani 与 Florent Gbelidji(OSS 团队)、Chetan Tekur(PM)、Yufeng Guo(技术社区负责人)、Abby Reider(技术传播),回答从 u/reflectionai、u/init__27、u/yufengg 三个账号发出。贴子挂出后提问持续到第二天,研究方法论类问题被统一拦下——团队预告了第二场研究团队 AMA,专门留给他们。
Beam 1.0 硬参数(官方模型卡)
| 属性 | 数值 |
|---|---|
| 总参数 / 激活参数 | 501.3B / 23.4B(MoE,256 专家) |
| 层数 | 52(3 dense + 49 MoE) |
| 注意力 | Gated GQA + 滑动窗口注意力 |
| 上下文窗口 | 1M token |
| 词表 | 152k |
| 数值格式 | BF16 / FP8 / NVFP4 |
| 许可 | Apache 2.0 |
| 知识截止 | 2026-06-30 |
| 输入模态 | 纯文本 |
官方主打卖点是 token 效率:模型卡口径为「以约 3 倍更少的推理 token 达到与主流开放模型可比的解题主质量」,AMA 里官方口径放宽到 3–4 倍。对这个量级的模型来说,思考 token 是推理账单的大头,这项指标直接决定 agent 场景的边际成本。
技术问答里值得留意的细节
架构:一位自称团队成员的账号在 AMA 中透露了模型卡未写的配比——每 1 个全局注意力层(NoPE)配 5 个 512 token 窗口的滑动窗口层(RoPE),大部分层因此保持固定大小的 KV cache,只有全局层承担长程检索,这是 1M 上下文「实际可服务」的原因;架构选型经过预训练 scaling ladder 消融(单源待证:该账号未列入官方回答名单,细节待技术报告验证)。
训练规模:预训练 23.8T token(网络数据+专有授权数据);RL 阶段为大规模异步训练,官方给出「1 亿+ rollouts」的量级,并将其归结为「没有单一秘方,靠稳定到能撑住这个规模的基础设施」。技术报告已在路上,会展开方法论。
安全:官方称 Beam 在其自测的开放权重模型里,有害请求拒绝/重定向率最高(模型卡 Iris 评测:88.9%–89.7%),同时保持在安全-有用 Pareto 前沿;安全评测套件 ISE 计划开源。
Ollama Cloud 上的是量化版:有用户反馈 Ollama Cloud 上的 Beam 在调试类任务上过度自信、直接下结论,官方确认 Ollama Cloud、platform.reflection.ai 及其他推理服务商跑的都是量化版本,并邀请用户发邮件协助排查。这解释了部分「实测跑分与官方宣传不符」的落差——量化损失可能是一部分原因。
Harness:Beam 与 Pi、OpenCode、Hermes 等主流开源 harness 兼容;团队自研的 Mirror 之所以存在,官方给了两个理由——完全可控、能和模型协同调优,以及承载自有想法(单终端管理多个 worktree、扩展系统)。Beam-1.0 尚未训练过子 agent 编排,单一大上下文窗口的 agent 表现最好。
小模型:呼声最高,答复最虚
评论区出现频率最高的问题是「什么时候出小模型」——20B 级小 MoE、单卡可跑的 27–35B 段、DGX Spark/Strix Halo 能跑的 120B 段都有人点名。有用户直接说「不是人人都有 Sam Altman 那么多内存」。官方三次给出同一口径:「在探索,属于长期路线图」,没有时间表,没有承诺。
官方对「为什么先做大」的解释是:规模对 agent 与编码能力有影响,某个规模以下存在能力断崖;frontier 模型也是蒸馏小模型的来源,愿意在未来走蒸馏路线。这个「能力断崖」说法当场被用户反驳——Qwen3.8-27B 在多个榜单的表现说明中等规模并不弱。有用户给出更务实的建议:出 250–300B 的 Flash 变体(对标 GLM 5.3 Flash 的 320B-A18B),比 501B 原版更接近自托管用户的硬件。
生态现状对单卡用户不算友好:官方发布 BF16/FP8/NVFP4 三个版本,第三方量化一周内铺开(unsloth 与 bartowski 的 GGUF、REAP 255B 剪枝版等),但 501B 总参的模型最低配量化也在 200GB+ 量级,桌面级硬件无缘;官方 cookbook 里的蒸馏示例可以单卡微调出 4B 小模型,算是给本地玩家留的一条路。
合规需求是真实的市场缺口
AMA 里最一致的正反馈不是模型跑分,而是「终于有个非中文的开放权重选择」。有用户说行业里花大价钱买闭源 API,但「不被允许或不宜」运行中国开放模型;也有人提 FedRAMP 合规让公司无法用中文模型,想把 Beam 推荐给公司自托管。Reflection 的商业解释也压在这个点上:开放模型只是全栈的一层,公司从芯片到实施方案都有布局,服务要「主权 AI」的伙伴与企业——开源是获客面,企业服务才是收入面。
尖锐的声音同样存在:有人翻出 2024 年那个同名却翻车的 Reflection 70B 旧案提醒大家记住历史(官方未回应);有人直接问「会不会像某个非营利组织一样转向闭源」(官方未回应);还有人直言 Beam 1.0 与 sub-1T 的中文开放模型(GLM Flash、DeepSeek Flash)相比仍有差距——这类对比问题大多被引导到下一场研究 AMA。
下一步盯什么
按 AMA 口径,三件事在排队:详细技术报告(架构与训练方法论)、第二场研究团队 AMA(训练与数据问题专场)、下一代模型(官方确认「已经在训练」,多模态排在后续版本)。对本地部署用户,真正值得等的节点是小模型路线图从「探索中」变成实发布——在那之前,Beam 1.0 的 501B 只属于数据中心和多卡工作站。