辽宁的张欣雨花了不到一个月工资,让父亲以另一种方式"活"了下来。她没想到,自己的私事会变成国家监管的导火索。

一个女儿的执念

打开网易新闻 查看精彩图片

47岁的张欣雨住在辽宁。去年父亲因癌症去世后,她找到一家叫"超脑"的公司,用照片和语音样本训练了一个数字分身。

这个虚拟父亲能说话、有表情,会在微信里问她"吃饭了吗"。张欣雨告诉法新社,这帮她熬过了最痛苦的几个月。

但她自己也承认:这是"虚假安慰"。

张欣雨的故事被媒体报道后,迅速点燃了两极讨论。有人想复活自己的亲人,也有人直接开骂,说她"不肯面对现实"。

更戏剧性的是,这段私人 grief(哀伤)很快被卷进更大的漩涡——中国国家网信办发布了针对"数字人"的专项监管草案。

85%增速背后的乱象

新华社数据显示,2024年中国数字人市场规模约41亿元人民币,同比增长85%。这个增速放在任何行业都算炸裂。

但钱往哪里流,乱象就跟到哪里。

电商直播间里,24小时不眠的"数字主播"正在批量替代真人。成本?真人主播月薪2万,数字人月租800。中小商家算得清这笔账。

短视频平台上,虚拟偶像的打赏收入已经摸到头部真人网红的脚跟。更隐蔽的赛道是"情感陪伴"——有人定制已故伴侣的数字分身,有人购买"虚拟恋人"的订阅服务。

最出圈的事故发生在今年年初。一位老太太在短视频里看到"儿子"复活,对着屏幕哭诉家常。视频里她完全没意识到这是AI生成的,还以为儿子真的从外地打电话回来。

这段画面在社交平台疯传,评论区分裂成两派:一派感动于技术温暖,另一派毛骨悚然——这到底是安慰还是高级诈骗?

监管草案划了五条红线

国家网信办的征求意见稿,核心可以拆解成一张图:

【第一层:身份透明】

所有AI生成内容必须明确标注。不能再让老太太分不清真假儿子。

【第二层:授权门槛】

制作任何人的数字分身,必须本人同意。逝者怎么办?草案没细说,但留了口子——"依法依规"处理。张欣雨这类案例大概率需要家属集体授权。

【第三层:场景禁区】

禁止利用数字人搞诈骗、传谣言、威胁社会稳定。这是兜底条款,但执行弹性很大。

【第四层:未成年人保护】

专门针对"情感依赖"问题:AI系统不得诱导未成年人形成心理依赖,不得模拟亲密关系。这条直接瞄准了青少年向的虚拟恋人产品。

【第五层:惩罚阶梯】

违规罚款1万到20万元。对大厂是毛毛雨,对中小服务商可能是生死线。

草案公示期到5月初,之后进入正式执行阶段。超脑科技的创始人公开表态支持,称这是"创新与责任的平衡"。

为什么偏偏是现在?

中国的AI监管有个固定节奏:技术先跑半年到一年,乱象积累到社会讨论层面,然后一纸文件落下。数字人不是第一个,也不会是最后一个。

2023年的大模型备案制、2024年的深度合成标识规定,都是同一路数。区别在于,数字人触及的问题更私人、更情感化,也更难一刀切。

张欣雨的需求真实存在。中国每年约有1000万人死亡,失独家庭、空巢老人、突发意外—— grief tech(哀伤科技)的市场基本盘不需要教育。但商业化过程中,"疗愈"和"欺骗"的边界在哪里?

监管草案试图回答,但答案很克制:先管标识和授权,把知情权还给用户;情感伤害的问题,暂时交给"不得诱导依赖"的模糊表述。

这种克制背后有个现实考量:数字人已经是地方政府的招商重点。杭州、成都、合肥都在建"数字人产业基地",2024年相关融资事件超过30起。管太死,产业熄火;管太松,社会风险累积。

技术商的生存算术

对从业者来说,草案的直接影响是成本重构。

一家数字人服务商算账:合规改造主要包括三块——内容审核系统升级、用户授权流程改造、标识技术嵌入。预估增加15%-20%的运营成本。

更隐蔽的冲击在商业模式。很多"情感陪伴"类产品的付费点,恰恰是让用户"分不清真假"的沉浸感。强制标识之后,这种幻觉会被打破吗?

超脑科技的选择是转型B端。他们现在主推"数字员工"和"虚拟客服",避开情感陪伴的灰色地带。创始人说:"C端的钱好赚,但睡不踏实。"

另一些公司仍在试探边界。某虚拟恋人App的运营人员透露,他们正在研究"软标识"方案——把AI标注做得足够小、足够晚出现,既合规又不破坏体验。

这种猫鼠游戏,监管显然早有预期。草案里留了后手:网信办可以"根据技术发展适时调整"规则。

张欣雨的数字父亲,现在怎么样了?

文章开头的故事,有个后续。

张欣雨告诉法新社,她已经很少打开那个微信对话框了。"不是不想,是不敢。"她说,每次聊完都会有强烈的失落感,"他越像真的,越提醒我那只是程序。"

这个细节很少被讨论:数字人提供的安慰,可能是有代价的。心理学家称之为"延长哀伤"——拒绝接受终结,反复重温创伤。

监管草案没有触及这个问题。它管的是标识、授权、罚款,而不是人该怎么面对死亡。

也许这本来就不该由文件来回答。张欣雨的选择,终究是她自己的 grief 功课。技术只是镜子,照见的还是人心。