合成数据：AI界的"捷径"
2026年，用GPT-5生成微调数据已经成为一种"流行做法"。逻辑很简单：GPT-5是世界上最强的模型，用它的输出作为训练数据，可以把开源模型"蒸馏"到接近GPT-5的水平。
成本对比：
- 人工标注：1000条数据，约¥2,000-5,000（每条¥2-5）
- GPT-5生成：1000条数据，约¥2（每条¥0.002）
成本降低1000倍。 但便宜的东西，往往有隐形的代价。
合成数据的"三宗罪"
罪一：模型偏差（Model Bias）
用GPT-5生成的数据微调出来的模型，输出会带有"GPT-5风格"——过于礼貌、过于结构化、缺乏真实感。
我们在客服场景中做了对比实验：
- 人工标注数据微调：模型输出自然、口语化，像真人客服
- GPT-5合成数据微调：模型输出过于结构化，开头总是"尊敬的客户，感谢您的咨询…"，结尾总是"如有其他问题，欢迎随时联系"
GPT-5合成的数据有一种"模板感"——它太"完美"了，完美得不真实。 真实场景中的对话是混乱的、口语化的、充满错误的。GPT-5生成的对话却是"教科书式"的。
罪二：多样性缺失（Diversity Loss）
GPT-5生成的数据缺乏"长尾"——它倾向于生成"最常见"的回复，而不是"最真实"的回复。
在我们的测试中，GPT-5生成的1000条客服对话中：
- 85%的回复使用了"感谢您的咨询"作为开头
- 72%的回复使用了"如有其他问题"作为结尾
- 只有3%的回复包含了"我不确定"、“让我查一下"等不确定性表达
真实场景中，不确定性表达（“我不确定”、“让我确认一下”）占了约20%。 但GPT-5几乎不生成这类表达——因为它被训练成"自信地回答问题”。
罪三：错误传播（Error Propagation）
GPT-5也有"幻觉"——它会自信地生成错误信息。当你用GPT-5生成的数据微调模型时，你也在"蒸馏"GPT-5的错误。
在我们的测试中，GPT-5生成的1000条医学问答数据中，约3%包含事实错误。3%看起来不多，但微调后的模型会"放大"这些错误——它学会了"自信地给出错误答案"。
合成数据什么时候能用？
合成数据不是"不能用"，而是"不能全用"。
适用场景：
- 简单任务（分类、情感分析、关键词提取）——合成数据效果接近人工数据
- 数据增强（扩充小数据集）——合成数据可以增加数据多样性
- 初始原型（MVP验证）——快速验证想法，确认方向后再投入人工标注
不适用场景：
- 需要领域专业知识（医疗、法律、金融）——合成数据可能包含事实错误
- 需要真实风格（客服、对话、创意写作）——合成数据太"模板化"
- 需要长尾覆盖（罕见场景）——合成数据只覆盖常见场景
2026年的最优方案：混合数据
混合数据 = 20%人工标注（核心数据）+ 80%合成数据（辅助数据）+ 人工审核。
为什么是20/80？
- 20%的人工数据提供了"真实感"——口语化、不确定性、长尾场景
- 80%的合成数据提供了"规模"——低成本扩充数据量
- 人工审核（对合成数据抽查10%）保证了"质量"——过滤GPT-5的错误
在我们的实验中，20/80混合数据微调的效果，达到了纯人工数据的90%——但成本只有纯人工数据的25%。 这是2026年性价比最高的方案。
合成数据的未来：Self-Play和Evol-Instruct
2026年，合成数据技术正在快速进化。两个值得关注的方向：
Self-Play： 让模型自己和自己对话，生成训练数据。不需要GPT-5，只需要一个开源模型。DeepSeek V4的训练数据中，很大一部分是用Self-Play生成的。
Evol-Instruct： 用GPT-5生成"种子数据"，然后用开源模型"进化"这些数据——增加复杂度、多样性、长尾覆盖。WizardLM就是基于Evol-Instruct方法训练的。
合成数据的未来不是"替代人工"，而是"与人工协同"。 AI生成数据，人类审核和修正数据。两者结合，才能产生高质量的训练数据。
结语：合成数据是"工具"，不是"银弹"
合成数据是2026年微调工具箱中最强大的工具之一——但它也是"双刃剑"。 用得好，可以省下90%的标注成本；用得不好，微调出来的模型可能比原始模型还差。
记住：合成数据的目标不是"替代人工"，而是"替代人工中重复、低价值的部分"。 人工做"质"（审核、修正、长尾），AI做"量"（生成、扩充）。这才是最优的协作方式。
数据来源：作者团队合成数据对比实验（2026年Q2），Evol-Instruct论文（WizardLM），Self-Play论文（DeepSeek）。