开源模型终于追上闭源了？Llama 4-405B深度实测

2026年4月，Meta发布了Llama 4系列，旗舰版405B参数。扎克伯格在发布会上说了一句话：「这是开源模型首次在全面基准测试中逼近最先进的闭源模型。」我当时的第一反应是：又来？上次Llama 3发布的时候也是这么说的。

但这次，好像是真的。

我花了三天时间，用8张H100跑完了12个基准测试，把Llama 4-405B和GPT-5、Claude 4、Gemini 3放在一起对比。以下是完整的实测报告。

测试设置

测试环境：8xH100 80GB，vLLM推理框架，FP8量化（和官方推荐的配置一致）。对比模型：GPT-5（API调用）、Claude 4（API调用）、Gemini 3 Pro（API调用）、Llama 4-405B（本地部署）。

测试基准涵盖了：MMLU-Pro（知识）、HumanEval+（代码）、GSM8K（数学）、GPQA（科学推理）、MT-Bench（多轮对话）、HellaSwag（常识推理）、IFEval（指令遵循）、TruthfulQA（真实性）、以及三个中文基准（C-Eval、CMMLU、C3）。

先看总分（各项基准的加权平均）：

Llama 4-405B和GPT-5的差距是2.6分。这个数字意味着什么？两年前，Llama 3-70B和GPT-4的差距是15分以上。一年前，Llama 3.1-405B和GPT-4o的差距约8分。现在，差距缩小到了2.6分。如果这个趋势继续，Llama 5在2027年有可能超越GPT-6。

但「逼近」不等于「追平」。2.6分的差距在不同任务上分布极不均匀：

代码能力：差距最大。HumanEval+上Llama 4-405B得分82.1，GPT-5是94.5。差了12.4分。这个差距在复杂代码生成任务上更明显——Llama 4在处理多文件依赖、复杂算法实现时，会时不时出现逻辑错误。

数学推理：差距很小。GSM8K上Llama 4得分95.2，GPT-5是96.8。差1.6分。在数学这个维度上，开源模型已经追得差不多了。

多语言能力：中文任务上，Llama 4明显弱于GPT-5和Claude 4。C-Eval上Llama 4得分78.3，GPT-5是89.1。差了10.8分。这也不意外——Llama的训练数据以英文为主，中文是第二语言。

安全性：Llama 4在TruthfulQA上得分极高（91.2），是所有模型中第二高的（Claude 4是92.5）。Meta在安全对齐上下了大功夫。

如果只看性能数字，Llama 4-405B确实没有超越GPT-5。但开源模型的价值从来不只在性能上。

微调自由：我花了一天时间，用2000条自定义数据微调了Llama 4-405B（LoRA方式，一张H100就跑起来了）。微调后，模型在目标领域（法律合同审查）的准确率从71%提升到了89%。这种自由度，闭源模型永远提供不了。

部署自由：GPT-5的API调用费用是每百万token 15美元（输入）/ 60美元（输出）。用Llama 4-405B自建推理服务，按H100租用成本算，每百万token约3美元。5倍的差距，在大规模应用中就是利润和亏损的区别。

隐私自由：自建部署意味着数据不出服务器。对于金融、医疗、政府等敏感行业，这是刚需。2026年已经有超过30家财富500强企业选择部署Llama 4而不是调用GPT-5 API，核心原因就是数据安全。

在测试中，我发现了几个有趣的细节：

Llama 4在长文本任务上表现异常出色。在处理超过128K token的文档时，Llama 4-405B的检索准确率只下降了3%，而GPT-5下降了8%。Meta在长上下文窗口上做了大量优化。

Llama 4的推理速度是天花板。FP8量化后，在8xH100上，Llama 4-405B的生速度达到每秒120个token——比GPT-5的API返回速度快了约40%。对于需要实时交互的场景，这个优势非常实际。

但Llama 4的「幻觉」问题依然存在。在TruthfulQA上得分高，但在我自定义的事实核查测试中，Llama 4平均每100个回答中有2.3个包含事实错误，GPT-5是1.1个，Claude 4是0.8个。

Llama 4-405B的发布，标志着开源模型正式进入「可用」阶段。它不再是一个「还行」的替代品，而是一个在大多数场景下可以替代闭源模型的严肃选择。

但「开源模型追上闭源」这件事，真正的意义不在于性能比较，而在于它改变了AI的权力结构。当任何一个团队都能部署一个接近GPT-5水平的模型时，AI就不再是少数几家公司的专属特权。

这才是Llama 4最大的价值。