刷榜狂欢,能力幻觉
2026年,多模态AI的评测领域出现了一个"悖论":模型的评测分数越来越高,但实际应用中的表现却没有同步提升。GPT-5在MMMU基准上得分72.4,Gemini 3得分71.8,Claude 3.5得分68.5——三家都在"刷榜",但用户反馈却是:“AI还是经常看错、理解错、推理错。”
这是多模态AI的"评测危机":评测分数和实际能力之间,出现了巨大的"脱节"。
金句:多模态AI的评测,正在从"衡量能力"变成"表演能力"。模型在"刷榜"上越来越强,在"真实世界"中却没有同步变强。评测,正在失去它的意义。
评测危机的"三大根源"
根源一:数据集污染(Data Contamination)
2026年,多模态AI的评测数据集,正在被"污染"——模型的训练数据中,包含了评测数据集的图片和答案。模型不是在"理解"图片,而是在"回忆"图片——它见过这张图片,所以知道答案。
证据:当研究者用"新拍摄的图片"(确认不在训练数据中)替换MMMU的原始图片时,GPT-5的得分从72.4跌到了58.3——暴跌14.1分。Gemini 3的得分从71.8跌到了61.2——暴跌10.6分。
“刷榜"的分数,很大程度上是"记忆"的分数,而不是"理解"的分数。
根源二:评测任务过于简单
现有多模态评测任务,大多是"识别"和"描述”——“图片中有什么?"(物体识别)、“图片描述了什么?"(图片描述)。但真实世界中的多模态需求,是"推理"和"决策”——“根据这张医学影像,患者需要什么治疗?"(医学推理)、“根据这个交通场景,应该怎么驾驶?"(自动驾驶决策)。
评测任务和真实需求之间,存在巨大的"能力鸿沟”。
金句:评测在考"1+1=2”,但真实世界需要的是"微积分”。评测分数再高,也不代表模型能解决真实问题。
根源三:评测维度单一
现有多模态评测,只关注"准确率"——“模型答对了多少题?“但忽略了其他关键维度:推理速度(实时性要求)、鲁棒性(对抗噪声的能力)、安全性(是否会产生有害输出)、公平性(对不同群体的表现是否一致)。
一个"准确率高但推理慢"的模型,在自动驾驶中毫无用处。一个"准确率高但不安全"的模型,在医疗诊断中可能致命。
评测改革的"三条路径”
路径一:动态评测(Dynamic Evaluation)
不再使用"固定数据集”,而是使用"实时生成的数据"——每天生成新的评测图片和问题,确保模型无法"背答案"。2026年,Google DeepMind提出了"LiveBench"方案,用AI实时生成评测数据,从根本上杜绝"数据污染"。
路径二:真实世界评测(Real-World Evaluation)
不再评测"答题能力",而是评测"完成真实任务的能力"——让AI"帮医生读CT片"、“帮工厂质检产品”、“帮自动驾驶识别路况”,然后在真实场景中评估。
路径三:多维度评测(Multi-Dimensional Evaluation)
不再只评测"准确率",而是评测"准确率+推理速度+鲁棒性+安全性+公平性"——五维评测体系,给出综合能力评分。
金句:多模态AI的评测,需要一场"哥白尼革命"——从"模型中心"(评测模型在固定数据集上的表现)转向"任务中心"(评测模型在真实任务中的表现)。那一天,评测才能真正"衡量"能力。