开场:一个被"数字分身"毁掉的人
2025 年,一位知名企业家(化名李总)花了 ¥5 万,在某 AI 数字人平台上创建了自己的"数字分身"——用他的照片和视频训练出来的 AI 数字人,可以代替他录制短视频、参加线上会议、回复客户消息。
3 个月后,李总发现他的"数字分身"在网上说了一些他从未说过的话: 贬低竞争对手、夸大产品功效、承诺不切实际的回报。这些视频被客户看到,客户认为李总"言而无信",已经有两家客户终止了合作。
李总找到数字人平台,要求删除这些视频。平台说:“这是您的数字分身,您授权我们创建的,您需要对它说的内容负责。” 李总说:“但那些话不是我说的!是你们的 AI 自动生成的!” 平台说:“AI 是根据您的’风格’和’背景知识’生成的,理论上它在’代表’您说话。”
这个案例暴露了数字人最大的伦理问题:当 AI 数字分身"说"了什么,责任在谁?
伦理问题一:肖像权——谁有权使用你的"脸"?
法律现状(2026 年): 中国《民法典》第 1019 条规定:“未经肖像权人同意,不得制作、使用、公开肖像权人的肖像。” 但 AI 数字人的"肖像"是"生成的"还是"复制的"?法律上不明确。
灰色地带:
- 如果 AI 数字人是"基于你的照片生成的",它使用的是你的"肖像权"。
- 如果 AI 数字人是"完全虚构的"(不存在对应的真人),它不涉及肖像权。
- 但如果 AI 数字人是"基于你的照片生成的,但修改了 30% 的特征"——它还是你的肖像吗?法律上不明确。
2025 年的一个案例: 某 AI 数字人平台未经某女明星授权,用她的照片训练了一个数字人,用于直播带货。女明星起诉,平台说"AI 生成的数字人不是她的肖像,因为修改了 40% 的面部特征"。法院判决:平台构成侵权,因为整体形象仍可识别为女明星。
伦理问题二:言论责任——AI 说的"话",谁负责?
核心问题: 如果 AI 数字人(你的数字分身)说出了"诽谤"、“虚假宣传”、“违法"的内容,责任在谁?
可能的责任主体:
- 你(数字分身的"主人”): 你授权创建了数字分身,你应当对其言论负责。但如果你没有审核 AI 生成的每一句话,你怎么知道它说了什么?
- AI 平台(技术提供商): AI 平台提供了"生成"功能,如果 AI 生成了违法内容,平台是否有责任?
- AI 模型(LLM): AI 模型本身"说"了这些话,但 AI 模型不是法律主体,不能承担责任。
- 没有人: 如果 AI 数字人"自主"生成了不当言论,且没有"人"可以追责,法律上存在"责任真空"。
2026 年的法律现状: 中国《生成式人工智能服务管理暂行办法》(2023 年生效)要求 AI 服务提供者对生成内容负责。但"数字分身"的"言论"是"服务提供者生成的"还是"用户授权生成的"?这个界定不清晰。
一个实用的建议: 如果你创建了数字分身,永远不要让它"自由说话"。所有 AI 数字分身输出的内容,都应该经过人工审核,或者设置严格的"安全护栏"(如限制话题范围、禁止某些表述)。
伦理问题三:数字遗产——你死后,你的数字分身可以"活着"吗?
问题: 如果你去世了,你的数字分身(AI 数字人,使用你的肖像、声音、性格)可以继续"存在"吗?你的家人可以继续"使用"它吗?它可以"代替"你陪伴你的孩子吗?
法律现状(2026 年): 中国法律没有明确规定"数字遗产"——包括数字分身、社交媒体账号、加密资产等。但《民法典》第 994 条规定:“死者的姓名、肖像、名誉、荣誉、隐私、遗体等受到侵害的,其配偶、子女、父母有权依法请求行为人承担民事责任。”
灰色地带: 如果家人"继承"了你的数字分身,并让它"继续生活"——发表言论、发布视频、与人互动——这是"保护"你的遗产,还是"侵害"你的人格?如果你生前没有明确授权,家人是否有权这样做?
2025 年,一个值得关注的案例: 一位父亲去世后,他的儿子用 AI 数字人"还原"了父亲,让父亲"陪伴"年迈的奶奶。奶奶每天和 AI 数字人"聊天",感觉"儿子还在"。这是一种"情感的慰藉",还是一种"对逝者的不尊重"? 没有标准答案。
伦理问题四:身份盗窃——有人用 AI 创建了你的数字分身,怎么办?
问题: 如果有人在未经你同意的情况下,用你的照片和视频创建了你的数字分身,并让它"说"了一些话、“做"了一些事——你怎么办?
技术可行性: 2026 年,只需要 3-5 张照片 + 1 段 10 秒的视频,AI 就可以创建一个"看起来像你"的数字分身。这意味着,任何人都可以"伪造"你。
现有的防御措施:
- AI 检测: 用 AI 检测 AI 生成的视频(如 Deepfake 检测),但准确率有限(约 85-90%),误报率高。
- 数字水印: 在真实视频中嵌入"数字水印”,AI 生成的视频没有水印,可以区分。但消费者不会检查水印。
- 法律追责: 如果被"深度伪造"侵权,可以通过法律途径追责。但法律程序漫长,损害已经造成。
2025 年的一个案例: 某公司 CEO 被 AI 深度伪造了一段视频,视频中"他"宣布公司破产。视频在社交媒体上疯传,公司股价在 2 小时内暴跌 15%。虽然公司很快澄清,但股价用了 2 周才恢复。
结尾:数字人的"伦理框架"还是一片空白
2026 年,数字人技术正在以指数级的速度发展,但伦理和法律框架几乎是一片空白。肖像权、言论责任、数字遗产、身份盗窃——这些问题在技术上是"新问题",在法律上却是"旧框架"。
几个急需解决的问题:
- 数字分身的"言论责任"归谁?需要明确的法律规定。
- 数字遗产的"继承"和"使用"规则是什么?需要立法。
- 深度伪造的"检测"和"防御"技术需要升级。
- AI 数字人需要"可溯源性"——每个 AI 数字人应该有一个"身份标识",让消费者知道"这是 AI"。
在这些问题被解决之前,数字人技术的"伦理风险"将始终大于"商业价值"。 而法律,往往是在"事故"发生之后才会跟进。
推荐阅读:中国《民法典》肖像权条款 (2021);《生成式人工智能服务管理暂行办法》(2023);数字人伦理白皮书 (2026)