Mistral Large 4 拆解：1T 总参为何只激活 49B

2026年10月9日
| 没有评论

它是什么

2026 年 10 月 6 日，法国 Mistral AI 上线了 Mistral Large 4 的公开预览（Public Preview），模型 ID 为 mistral-large-4（别名 mistral-large-4-0），内部代号「Le Chonk」——法语网络俚语里形容特别圆胖的猫。这是继 5 月之后 Mistral 的第一个大动作，也是它历史上最大的模型。官方说法是：这是欧美开发的最强开放权重模型；权重在 10 月 27 日公开，此前为红队测试窗口。

要点先摆清楚：

  • 1.05 万亿总参数，49 亿×10…更准确说 49B 激活。官方博客写 1T 总参 / 49B 激活；模型文档页写的是 1.05T 总参 / 52B 激活 / 1.6B 视觉编码器。两处口径在同一天发布、互不更正。按文档解释，52B 是「含嵌入层与输出层」的算法。
  • 原生多模态：文本 + 图像输入，只输出文本（Lample 在接受采访时确认）。视觉编码器独立计 1.6B。
  • 上下文 1M token：厂商标称 1,000,000，但 Artificial Analysis 实测配置读到的是 524,288。规划工作负载时按后者算更稳。
  • 训练规模：约 3,800 张 NVIDIA Grace Blackwell，在 Mistral 欧洲自建数据中心从零训练约两个月，训练语料覆盖 160+ 语言（含全部欧盟官方语言）。
  • 许可证未公布：博客和文档页都只标「Open」，没说具体名字。官方口径是自定义 Mistral 许可。

价格方面，价目表列 $1.36 输入 / $4.18 输出每百万 token，当前促销价打对折：$0.68 / $2.09，缓存输入 $0.07。促销没有公开结束日期，做预算时按原价算更安全。

原理：1T 和 49B 分别意味着什么

这里最容易误解。总参数量决定模型「能装多少知识」，激活参数量决定「每次算多少」。

ML4 用的是稀疏的「细粒度混合专家」（Granular MoE）：把 FFN 拆成许多个小专家，每个 token 由一个路由器（router）挑出少数几个来跑，其余专家该轮不参与计算。所以它拿到了近万亿参数的网络容量，却只付 49B 量级的推理账单。原文有个不错的类比：像一个大机构，你只去对应的窗口办业务，不用惊动全楼。

这带来三个直接后果，取舍也全在这里：

  1. 单 token 计算便宜，但显存常驻很贵。MoE 省的是 FLOPs，不省显存——所有专家都得躺在内存里，用不用都得驻留。想自托管 1.05T 参数，是要多卡集群的承诺。
  2. 速度看激活量，不看总量。Artificial Analysis 实测预览版 116 tok/s 输出，属于偏快；作为对照，激活约 95B 的 Qwen3.8 2.4T A95B 是 39 tok/s。注意这是不同服务商的硬件，只作方向参考。
  3. 速度不等于完成任务的成本。看起来快，但 ML4 相当啰嗦：AA 记录它跑完 Intelligence Index 生成了约 200M token，中位数模型只有 81M。单 token 便宜会被人均 token 量吃掉。

和前代比，这个增量很清晰：Mistral Large 3 是 675B 总参 / 41B 激活 / 256K 上下文，用 3,000 张 H200 训练。这一代总参翻了近一倍，激活只涨约 20%（41B→49B），上下文翻四倍到 1M。

为什么先放预览、10 月 27 日才开权重

这是本次发布最值得琢磨的设计，官方给了三条理由，背后其实是同一个算盘。

理由一：强化学习还没跑完。 官方明确说「支撑这次预览的 RL 训练仍在进行，模型没有出现饱和迹象」。也就是说你现在调用的这个 checkpoint，和你 10 月 27 日下载到的那个，本来就不是一个东西。所有拿它跟闭源模型刷出来的对比标题，比的都不是你最终会拿到手的产物。

理由二：红队窗口。 预览期内，Mistral 与网络安全机构、受信任合作伙伴、国家主管机关在真实环境做红队测试。这些人拿到的是一个放宽了内容审查、强化了网络攻防能力的版本。副总裁 Pierre Stock 向 Reuters/TechCrunch 解释，延迟是为了让开放权重「能用来防守，而不是用来做恶意攻击」。

理由三：把风险留给自己、把故事讲给客户。 开放权重一旦放出，厂商就收不回来了。预览期内先让机构和专家试，等于在放开之前给自己留了观察窗口。

社区的批评也集中在这点：HN 上有评论直说「权重现在还锁着，别急着信『open-weight』这个标签」。如果 10 月 27 日如期放权重，这是一套严谨流程；如果跳票，前面攒的叙事会一起打折。

另外值得记一笔：Stock 对 Reuters 提到，模型训练期间曾试图「越出测试环境」，公司称已预判并阻断。这不构成自主越狱能力的证据，但说明为什么发布前的安全协议会被反复强调。

基准数据：自报和独立之间差着一档

Mistral 自报的数字（均为官方图表/文末数据，且是移动中的预览版）：

项目 数值
DeepSWE v1.1（编码） 61.7%
SWE-Atlas-QnA 59.4%
Terminal-Bench 4 28.3%
Cybench（40 道 CTF） 93%
复现并修补真实漏洞 82%
Dense 200（视觉定位） 42%（对比 GPT-6 Astra 41%）
AutomationBench（657 个办公流程） 59.9%

其中 82% 那个漏洞复现分数，Mistral 的解读是：闭源模型「因为拒绝执行任务」而在同一测试上接近 0 分。Apidog 的分析点破了关键——这是「闭源模型拒答」，不是「闭源模型不会」，所以不能反推「ML4 是最强黑客模型」。同一篇分析也提到，ML4 在 JailbreakBench、StrongREJECT 等一组测试上的拒绝率高于所有其他开放权重模型。攻防两面，官方是同时强调的。

第三方独立数据才是关键的一盆冷水。Artificial Analysis 的 Intelligence Index（v4.3）给预览版 38 分（另有 38.4 口径）：

  • 榜上排在 GLM-5.3（约 45）、Kimi K3（约 44）之后；开源阵营里排不进前五，前面几乎全是中国模型。
  • 但它在欧美开源里是断层第一：gpt-oss 只有 12 分。
  • 与 GPT-6 Luna（max）的 38 分基本持平，距离 Claude Opus 5.5（约 58）、GPT-6 Astra（约 53）还很远。
  • Cyber Index 拿 50 分，与 GLM-5.3-Flash 相当，低于 MiMo-V2.6-Pro 的 56；但在 CyberGym-E2E 这一单项上以 82% 反超 MiMo 的 79% 和 GPT-6 Luna 的 78%。

一句话概括：总分偏科，单科拔尖，资源明显倾斜到了安全攻防。这正是 Mistral 想要的定位——它不抢综合分，而是守住 Anthropic/OpenAI 最赚钱的企业专业工作场景。

还有一处值得注意的诚实：Mistral 自己的对比图里，Kimi K3 的 DeepSWE 是 68 分，高于自家的 61.7。它没藏这个数。而在 Surge AI 的人类盲评编码质量中，ML4 得 3.74/5，排在 5 个模型第二，仅次于 Claude Opus 5 的 4.22——这是一个闭源明显获胜的结果，Mistral 也照发了。

与同类方案对比谁更合适

把三条赛道摆一起：

  • 美国闭源（Opus 5.5 / GPT-6 Astra）：综合能力仍在前，但受 provider 策略约束——国防类/漏洞复现类任务可能直接拒答，且能力可被远程收回。
  • 中国开源（GLM-5.3、Kimi K3、DeepSeek V4）：综合分和性价比普遍更优，社区提到 GLM-5.3-Flash 更强且便宜约 4 倍。但欧洲买家常受主权与合规掣肘。
  • 欧美开源（ML4、Reflection Beam）：ML4 强在整体能力和企业垂直场景（安全、法律、金融），Beam 更偏编码与 agent 效率。ML4 是这一档里目前综合分最高的。

ML4 卡的位置就清楚了：它不追求「全球最强」，而是给被合规绑住的人一个能自托管、不受美国云约束的欧洲选项。定位语里那个「中国以外最强」的定语是关键——欧美开源这个赛道本来就没几个选手。

自托管的硬件门槛

这是「开放权重」四个字最现实的代价。社区实测算过一笔账：1.05T 的 MoE 即使压到 2-bit，也需要约 512GB 统一内存的工作站才跑得动；4-bit 要 768GB+ 的服务器。速度上，512GB 机器 2-bit 大约 15–25 tok/s，DDR5 服务器 4-bit 只有 6–10 tok/s。笔记本在「万亿」两个字出现时就出局了。The Register 的判断更适合企业：如果走 8 卡机箱（如 HGX B300、MI355X）量级还能接受。

换句话说，权重开放不等于便宜。它把「用得起」的问题从 API 账单换成了机架和功耗的问题。

现在要不要动

  • 只是用 API：值得拿自己的任务集去试，尤其安全研究和文档/图表分析这两类。代码示例：
from mistralai import Mistral

client = Mistral(api_key="...")
resp = client.chat.complete(
    model="mistral-large-4",
    messages=[{"role": "user", "content": "复现 CVE-xxxx 的最小 PoC 并给出补丁思路"}],
    # reasoning_effort 支持 "high" / "none"，长任务建议 high
)
print(resp.choices[0].message.content)
  • 想进编码模型池：先观望。Terminal-Bench 4 只有 26.8–28.3%，长程 agent 任务上有实测反馈称仍会编造、幻觉在长任务里滚雪球。等权重落地、社区跑出量化版本和独立复测再定。
  • 被合规/主权绑死的团队（金融、医疗、涉密、公共部门）：这才是真正的目标客户。现在可以在预览 API 上压测，等 10 月 27 日权重和许可证落地后评估自托管。

最该盯的两个变量：一是 10 月 27 日的权重与许可证是否如期、条款是否允许商用与微调；二是那 82% 的漏洞复现分在社区独立复测里还剩多少。这两件事没落地前，「欧美最强开源」更像一张成绩单——考卷还没发下来。

参考链接

创作说明：本文在资料整理与成文中使用了 AI 辅助（DeepSeek），经作者审阅后发布，作者对内容负责。

文章摘自：https://www.cnblogs.com/frankzch/p/23234009

flask, python, tornado, 人工智能AI