9 月 7 日,最高人民法院正式发布《关于依法审理涉人工智能纠纷案件的意见》,也是国内首部最高审判机构出台的人工智能司法裁判规则。
文件共 5 个部分、24 条,重点覆盖大众和产业高频场景:AI 幻觉、AI 换脸拟声、深度伪造、网络开盒、大数据杀熟、自动驾驶、模型训练等争议问题。
对整个 AIGC 行业而言,这份文件的重要价值,是补齐了过去两年的行业短板:把 AIGC“能用、但不敢放心用” 的模糊地带,逐步形成了可预判、可落地、可合规的清晰规则。既是行为边界,也是行业定心丸。
三大核心看点
看点一:AI 幻觉有追责,平台与使用者都要负责
大家都知道,AI 经常出现 “一本正经胡说八道” 的情况,也就是行业常说的 AI 幻觉。过去这类内容偏差,大多被归为技术问题,没有明确追责标准。
本次新规有效补齐了责任空白:生成式 AI 产出内容若侵害他人权益,权利人发起维权通知后,AI 服务平台未及时采取关停、整改等处置措施的,需要承担对应侵权责任。
同时明确:如果人为通过诱导性提示词,主动让 AI 生成侵权、不实内容,操作使用者需要承担主要责任。
对企业来说,风险并非 AI 本身出错,而是员工直接将 AI 生成内容对外输出、商用发布。但反过来,清晰的权责划分也降低了企业的试错顾虑:只要搭建完善的内部审核、内容复核机制,守住合规流程,就能安全、稳定地使用 AIGC 提效。规则越清晰,企业越敢投入。
看点二:换脸、拟声,划定明确商用红线
目前 AI 换脸、AI 智能拟声,已经广泛应用在品牌营销、短视频内容、虚拟人客服、影视创作等商业场景,也是行业侵权纠纷的高发领域。
新规对此做出了统一、明确的界定:
未经本人授权,利用 AI 生成他人虚拟形象并公开商用,构成肖像权侵权;
未经本人许可,抓取、训练、复刻他人声音用于商业场景,构成声音权益侵权;
借助 AI 虚拟形象、合成声音发布不实言论、诋毁他人,将涉及名誉权侵权。
更重要的是,《意见》新增了人格权侵害禁令机制。一旦出现 AI 换脸、拟声侵权,被侵权方无需走完漫长诉讼流程,可直接申请法院禁令,快速下架侵权内容、终止侵权传播,大幅提高维权效率。
这也意味着,所有涉及虚拟人制作、AI 音视频创作、品牌内容营销的业务,都需要把肖像、声音素材合规授权作为前置要求。
看点三:合法公开数据训练,明确合规空间
新规并非单纯约束行业,同时为产业创新预留了合理空间,给企业模型训练松绑。
规则明确:在合理范围内,使用已合法公开、且无明确反对声明的信息开展模型训练、微调迭代,一般不认定为侵权行为。
这是本次新规对企业的重要利好。过往很多企业手握大量行业语料、业务数据,却因规则模糊不敢用于模型训练,导致优质数据资源闲置。如今合规边界清晰,企业可盘活自有数据资产,将沉淀数据转化为 AIGC 落地、模型优化的核心生产力。
需要注意的是,合规前提是流程留痕、有据可依,把数据使用范围、素材来源、训练记录标准化留存,避免口头操作、无记录运营带来的潜在风险。
新规落地,AIGC行业的三重核心影响
1、合规能力,成为 AIGC 核心硬技能
过去大家只关心"能不能生成",现在要追问"生成的内容合不合法"。
提示词规范、内容风险审核、训练数据合规、商用场景风控,不再是附加能力,而是必备能力。
市场急需的,是同时懂 AIGC 实操、产业场景、合规规则的复合型人才,这类人才目前市场缺口明显,稀缺性持续走高。
2、AI 幻觉被规制,倒逼从业者提升专业度
过去简单的 “AI 生成 + 直接复用” 的工作模式,已经不再适用。新规落地后,AI 产出的不实内容、侵权内容,都会追溯对应责任。
这就要求 AIGC 从业者必须具备内容核验、风险甄别、问题修正的专业能力,彻底告别纯工具操作的浅层工作模式。企业也需要建立标准化的内容审核流程,实现事前风控、事中把控、事后溯源,规避合规风险。
专业门槛高了,但门槛越高,懂行的人越值钱。
3、AI 合规相关岗位,迎来明显增长
头部互联网、科技企业已经开始密集扩招 AI 合规相关岗位,薪资待遇处于行业较高水平:AI 合规专家、内容安全工程师、人工智能治理专员、AI 合规总监等岗位持续扩招。
这类岗位的共同点是:不需要深耕复杂算法,但要求懂 AI 能力边界、懂行业合规规则、能落地业务风控流程。
对企业而言,布局 AIGC 数字化转型,不能只追求技术落地,更要配齐合规能力,才能让 AI 技术稳定赋能业务,避免合规风险阻碍产业落地。
规则明确,价值重构
本次最高法新规的主要目的,不是限制 AI 技术发展,而是规范行业秩序、扫清商用障碍。
越是清晰的规则,越能带来稳定的行业预期。监管边界明朗后,野蛮生长的灰色玩法逐步退场,合规经营、深耕场景、注重质量的企业,将拥有更良性的竞争环境。
对从业者而言,行业规范化淘汰的是浅层工具使用者,成就的是兼具实操能力与合规思维的专业人才。提前掌握 AIGC 合规落地能力,也将在下一阶段竞争中占得先机。
未来 AIGC 赛道的核心分水岭,不再是 “谁会用工具”,而是 “谁能合规落地、稳定产出业务价值”。提前跑通合规体系、落地 AI 业务的企业,将稳步建立行业竞争优势。
关于科莱特
科莱特集团深耕AI数智化领域,以 “技术自研、企业赋能、人才深耕” 三位一体的核心战略,布局产品、行业解决方案及人才服务。我们将持续跟进 AI 司法政策与产业落地趋势,把权威规则、一线实战经验转化为标准化、可落地的能力体系,助力企业合规推进 AI 数字化转型,助力从业者把握 AIGC 行业长期机遇。
热门跟贴