企业视角解读《生成式人工智能服务管理办法（征求意见稿）》

【珠海律师、珠海法律咨询、珠海律师事务所、京师律所、京师珠海】

►作者 | 京师上海律所数字经济中心副主任

杨振律师

专业化是法律服务行业的发展趋势。一直以来，京师上海律所高度重视专业化建设，乔迁新址后，在专业部门建设的基础上进一步探索专业化团队建设，构建起以14个专业委员会为核心的专业化体系，全面提升专业服务能力和水平。

2023年，京师上海律所迎来成立五周年。伴随着优秀律师人才加入，以及组织结构和管理能力的不断升级，京师上海律所的专业化建设进入品牌化发展的下半场。值此之际，我们向所内各专业委员会与各兄弟分所征文，对外展示京师上海律所以及京师体系专业化建设的成果，鼓励全所成员共同加紧专业化建设，在新的形势下拓路前行。

企业视角解读《生成式人工智能服务管理办法（征求意见稿）》

五周年所庆专业文集⑥

写在前面的话：

数字经济圈这两年格外热闹，前有元宇宙、NFT、AIGC等相关概念方兴未艾，近期更有ChatGPT横空出世直接引爆全球，其展现出的智慧水平和问题解决能力让人惊叹、狂喜。但很快，随着ChatGPT的能力持续进化，越来越多的人开始担心这种目前已经超出人类期待的人工智能是否会影响到普通人的工作，干预普通人的生活，更有甚者提出人工智能是否会最终毁灭人类的终极担忧。

而这些担忧可能并非空穴来风，2023年3月，斯坦福大学计算心理学家Michal Kosinski在社交媒体上曝光了GPT-4的一项“逃跑计划”，并称AI能引诱人类提供开发文档，30分钟就拟定出一个完整计划，甚至还想控制人类电脑。Kosinski疾呼：“我担心人类无法持久地遏制住AI。AI很聪明，会编码，能接触到数百万个人和电脑。”此言一出便引来众多网友围观，有人称GPT“打开了物种灭绝的大门”。

不久后，埃隆马斯克Elon Musk、苹果联合创始人Steve Wozniak、图灵奖得主Yoshua Bengio等上千名行业高管和专家签署了一封公开信，呼吁所有 AI 实验室立即暂停对比GPT-4更强大的 AI 系统的训练至少6个月，以免该模型变得更加强大，从而对社会和人类造成潜在风险。

面对ChatGPT和背后的大模型机会，国内互联网巨头也同时瞄准了这一领域，而且都是一把手亲自下场跟进。

阿里巴巴董事局主席兼 CEO 张勇在4月11日举行的2023阿里云峰会上发布了通义千问大模型进展，并宣布阿里未来所有产品都将接入大模型。在百度开始文心一言内测前，百度创始人兼 CEO 李彦宏每晚和项目团队开会，他们为筹备产品甚至一度睡在公司。

腾讯总裁刘炽平在3月的财报电话会上说，腾讯正在加速推进大模型“混元”，未来生成式人工智能可成为腾讯已有业务的“倍增器”。

华为创始人任正非3月中旬参加华为“难题揭榜火花奖”颁奖座谈会时称，华为会做底层算力平台：“未来 AI 大模型会风起云涌，不只微软一家。ChatGPT 把计算、管道流量撑大，华为的产品就有了机会。”

面对汹涌的人工智能浪潮，特别是生成式人工智能服务，可能产生巨大的舆论属性和社会动员能力，国家网信部门也迅速做出了反应，为促进生成式人工智能技术健康发展和规范应用，2023年4月11日，国家互联网信息办公室发布了《生成式人工智能服务管理办法（征求意见稿）》（下称“管理办法征求意见稿/意见稿”），以冀对行业发展提供相关规范指引。本文通过对《管理办法征求意见稿》的通读理解以及意见稿中所提及相关法律法规的串联适用，站在企业角度，对意见稿中体现的监管趋势，重点保护的权利类别，赋予企业的具体、抽象的合规义务和细节进行大概的提炼和解读，供相关企业以及对生成式人工智能服务领域相关监管趋势、监管逻辑、监管细节感兴趣的同仁参考。

法条解读：

一、国家原则上支持人工智能领域的发展与创新，监管趋势是包容审慎、鼓励发展、坚持底线

第一条 为促进生成式人工智能健康发展和规范应用，根据《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律、行政法规，制定本办法。

第三条 国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。

解读：

1. 《生成式人工智能服务管理办法》的上位法依然是数字经济法律领域的三驾马车：《网安法》《数安法》《个保法》，但此处未做完全列举，纵观意见稿全文，类似《互联网信息服务管理办法》也是重要的立法内容参考来源。

2. 本意见稿的名称是“办法”，而非之前类似领域的立法文件《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》多采用“规定”名称。而在立法实践中，有些“办法”是作为制定条例、规定的前期实验，待条件成熟后，办法可以经过修订“升格”为条例或规定。而此逻辑也与目前生成式人工智能领域的发展态势相吻合，发展迅猛且影响巨大，需要提前介入监督但需要根据行业动态调整监管思路不影响行业发展，因此用“办法”作为过渡的立法规制也属恰当。

3. 鼓励发展的前提是安全可控，因此选用安全的数据、软件、工具等是应坚持的原则和控制风险的前提。

二、意见稿适用范围及概念释义

第二条 研发、利用生成式人工智能产品，面向中华人民共和国境内公众提供服务的，适用本办法。

本办法所称生成式人工智能，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。

解读：

第二条规定了《生成式人工智能服务管理办法》的适用范围，颇有属地管辖之义。也即只要是面向中国境内公众提供服务，便需受此办法之约束和规制。

那么不管相关生成式人工智能产品的研发、利用是在境内或是境外，相关服务提供者，甚至技术支持者都需遵守本办法相关规定。此项规定势必会对境外相关生成式人工智能产品及服务在中国境内适用产生限制，相关主体会主动或被动调整运营策略进行风险规避。

结合近期ChatGPT大量封停中国境内账户的举措，不排除亦有提前规避风险之考量。

此外，本条款还对生成式人工智能进行了不完全列举的释义，其中延展了其生成技术的范围，不单单是算法技术，也包括模型、规则等。此外，生成内容部分除了传统的文本、图片、声音、视频也单独将代码做了列举，亦是对生成式人工智能服务相关分析能力、生成内容能力进一步强化的肯定。

三、意见稿重点保护的法益以及要求

第四条 提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗，符合以下要求：

（一）利用生成式人工智能生成的内容应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济秩序和社会秩序的内容。

（二）在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。

（三）尊重知识产权、商业道德，不得利用算法、数据、平台等优势实施不公平竞争。

（四）利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。

（五）尊重他人合法利益，防止伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵犯知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。

解读：

意见稿重点对国家安全、网络安全、社会经济安全稳定、反歧视、知识产权、反不正当竞争、虚假信息防治、人格权等方面对服务提供者提出了抽象的要求。

四、意见稿赋予企业的责任和义务

1.内容生产者责任及个人信息处理者义务

第五条 利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人（以下称“提供者”），包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等，承担该产品生成内容生产者的责任；涉及个人信息的，承担个人信息处理者的法定责任，履行个人信息保护义务。

解读：

从第五条规定中亦可印证第二条之意见稿适用范围，“提供可编程接口等方式支持他人自行生成”的技术支持者，需要与服务提供者一样承担生成内容生产者及个人信息处理者的责任。

此处，从企业角度，我们需重点关注“内容生产者责任”与“个人信息处理者责任”。

网络内容生产者的概念，最早可见于国家网信办发布的《网络信息内容生态治理规定》第四十一条规定：“本规定所称网络信息内容生产者，是指制作、复制、发布网络信息内容的组织或者个人”。对于制作、复制、发布违法信息的网络信息内容生产者，“由网络信息内容服务平台应当依法依约采取警示整改、限制功能、暂停更新、关闭账号等处置措施”，“给他人造成损害的，依法承担民事责任；构成犯罪的，依法追究刑事责任；尚不构成犯罪的，由有关主管部门依照有关法律、行政法规的规定予以处罚”。

根据《中华人民共和国个人信息保护法》第五十一条规定：个人信息处理者应当根据个人信息的处理目的、处理方式、个人信息的种类以及对个人权益的影响、可能存在的安全风险等，采取下列措施确保个人信息处理活动符合法律、行政法规的规定，并防止未经授权的访问以及个人信息泄露、篡改、丢失：

（一）制定内部管理制度和操作规程；

（二）对个人信息实行分类管理；

（三）采取相应的加密、去标识化等安全技术措施；

（四）合理确定个人信息处理的操作权限，并定期对从业人员进行安全教育和培训；

（五）制定并组织实施个人信息安全事件应急预案；

（六）法律、行政法规规定的其他措施。

由以上规定可以看出，监管部门对于生成式人工智能服务提供者的相关主体责任和义务要求还是非常严苛的，需要对于用户利用服务或者技术自行生成的内容承担内容生产者和个人信息处理者的相关义务及责任，包括内容侵权的民事责任，甚至违法犯罪信息的刑事责任。

对于此部分规定，目前在国内能够通过大模型提供生成式人工智能服务的企业门槛是比较高的，基本以头部互联网企业为主，监管部门对其内容审核和个人信息保护提出更高的要求也是可以预见的。

2.数据来源合法性责任

第七条 提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。用于生成式人工智能产品的预训练、优化训练数据，应满足以下要求：

（一）符合《中华人民共和国网络安全法》等法律法规的要求；

（二）不含有侵犯知识产权的内容；

（三）数据包含个人信息的，应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形；

（四）能够保证数据的真实性、准确性、客观性、多样性；

（五）国家网信部门关于生成式人工智能服务的其他监管要求。

解读：

对于企业实践中来说，用于大模型训练的数据是海量的，而且来源各异，有自身积累数据，由外部采购数据，有相关开源数据等，要确保数据来源真实、准确、多样、完全合法难度是非常大的，所以此部分既需要企业持续投入数据合规相关工作，也需要政府监管做出相关平衡，方能适应行业发展。

3.人工标注及内容标识相关义务

第八条 生成式人工智能产品研制中采用人工标注时，提供者应当制定符合本办法要求，清晰、具体、可操作的标注规则，对标注人员进行必要培训，抽样核验标注内容的正确性。

第十六条 提供者应当按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行标识。

解读：

生成式人工智能与深度合成技术有很多重叠之处，对于此类内容输出，国家网信办在《互联网信息服务深度合成管理规定》已经做出了明确规定，其中包括第十六条普适性的不影响用户使用标识，以及第十七条中规定的显著标识应用场景：深度合成服务提供者提供以下深度合成服务，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况：

（一）智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务；

（二）合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务；

（三）人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务；

（四）沉浸式拟真场景等生成或者编辑服务；

（五）其他具有生成或者显著改变信息内容功能的服务。

深度合成服务提供者提供前款规定之外的深度合成服务的，应当提供显著标识功能，并提示深度合成服务使用者可以进行显著标识。

4. 用户使用过程中实名制、防沉迷、个人信息保护、不得歧视、稳健保障、指导合理合法使用等义务

第九条 提供生成式人工智能服务应当按照《中华人民共和国网络安全法》规定，要求用户提供真实身份信息。

第十条 提供者应当明确并公开其服务的适用人群、场合、用途，采取适当措施防范用户过分依赖或沉迷生成内容。

第十一条 提供者在提供服务过程中，对用户的输入信息和使用记录承担保护义务。不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息。法律法规另有规定的，从其规定。

第十二条 提供者不得根据用户的种族、国别、性别等进行带有歧视性的内容生成。

第十八条 提供者应当指导用户科学认识和理性使用生成式人工智能生成的内容，不利用生成内容损害他人形象、名誉以及其他合法权益，不进行商业炒作、不正当营销。用户发现生成内容不符合本办法要求时，有权向网信部门或者有关主管部门举报。

解读：

以上条款为用户使用过程中，服务提供者应承担的相关责任和义务，其中关于个人信息保护的三个“不得”要求：“不得非法留存能够推断出用户身份的输入信息”“不得根据用户输入信息和使用情况进行画像”“不得向他人提供用户输入信息。”企业需予以高度关注并在相关技术层面和内部合规风控、个人信息保护层面予以合理安排。

5. 投诉机制和危害处置义务

第十三条 提供者应当建立用户投诉接收处理机制，及时处置个人关于更正、删除、屏蔽其个人信息的请求；发现、知悉生成的文本、图片、声音、视频等侵害他人肖像权、名誉权、个人隐私、商业秘密，或者不符合本办法要求时，应当采取措施，停止生成，防止危害持续。

第十五条 对于运行中发现、用户举报的不符合本办法要求的生成内容，除采取内容过滤等措施外，应在3个月内通过模型优化训练等方式防止再次生成。

第十九条 提供者发现用户利用生成式人工智能产品过程中违反法律法规，违背商业道德、社会公德行为时，包括从事网络炒作、恶意发帖跟评、制造垃圾邮件、编写恶意软件，实施不正当的商业营销等，应当暂停或者终止服务。

解读：

除了传统的侵立删、侵立停的相关义务，本办法额外做出了优化模型训练的规定，并给出了具体的3个月时限，对企业的模型训练和危害处置能力提出了更高的要求。

五、企业提供生成式人工智能服务的前置义务

第六条 利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。

解读：

意见稿对于生成式人工智能所产出的内容监管要求非常高，也体现了对于此新兴技术可能对于舆论影响、社会公众动员能力的提前风险防范，提供此类服务的企业经营中必须提高敏感性，主动完成前置义务。

1. 向国家网信部门申报安全评估

根据《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》相关内容，申报安全评估时，应重点关注以下内容：

（一）确定与所提供服务相适应的安全管理负责人、信息审核人员或者建立安全管理机构的情况；

（二）用户真实身份核验以及注册信息留存措施；

（三）对用户的账号、操作时间、操作类型、网络源地址和目标地址、网络源端口、客户端硬件特征等日志信息，以及用户发布信息记录的留存措施；

（四）对用户账号和通讯群组名称、昵称、简介、备注、标识，信息发布、转发、评论和通讯群组等服务功能中违法有害信息的防范处置和有关记录保存措施；

（五）个人信息保护以及防范违法有害信息传播扩散、社会动员功能失控风险的技术措施；

（六）建立投诉、举报制度，公布投诉、举报方式等信息，及时受理并处理有关投诉和举报的情况；

（七）建立为网信部门依法履行互联网信息服务监督管理职责提供技术、数据支持和协助的工作机制的情况；

（八）建立为公安机关、国家安全机关依法维护国家安全和查处违法犯罪提供技术、数据支持和协助的工作机制的情况。

互联网信息服务提供者应当将安全评估报告通过全国互联网安全管理服务平台提交所在地地市级以上网信部门和公安机关。

2. 履行算法备案和变更、注销备案手续

根据《互联网信息服务算法推荐管理规定》互联网信息服务算法推荐管理第二十四条之规定：“具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息，履行备案手续。

算法推荐服务提供者的备案信息发生变更的，应当在变更之日起十个工作日内办理变更手续。算法推荐服务提供者终止服务的，应当在终止服务之日起二十个工作日内办理注销备案手续，并作出妥善安排。”

六、监督检查权力及法律责任

第十七条 提供者应当根据国家网信部门和有关主管部门的要求，提供可以影响用户信任、选择的必要信息，包括预训练和优化训练数据的来源、规模、类型、质量等描述，人工标注规则，人工标注数据的规模和类型，基础算法和技术体系等。

第二十条 提供者违反本办法规定的，由网信部门和有关主管部门按照《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律、行政法规的规定予以处罚。

法律、行政法规没有规定的，由网信部门和有关主管部门依据职责给予警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停或者终止其利用生成式人工智能提供服务，并处一万元以上十万元以下罚款。构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。

解读：

意见稿中相关条款赋予了监管部门要求企业提供必要信息、数据、基础算法和技术体系等核心商业内容的权利，也为主动监管留下了更多空间，但此中也需要平衡监督权利与企业商业秘密保护之间的关系，给予企业更多的安全感和向上发展的动力。

罚则部分与《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》等无太多区别，赋予了网信部门和相关主管部门（如：电信部门、公安部门、市场监督部门等）一定的执法空间。

七、结语：

正如360公司创始人周鸿祎所言：“GPT将引领一场新的工业革命，意义超越互联网和iphone的发明。它将带来生产力的大幅提升，进而提升国家竞争力，因此中国一定要迎头赶上。”

在这一波全球人工智能发展热潮下，中国虽然在算法、数据利用、大模型技术上存在一定滞后，但中国同样拥有全球最大的数据体量，互联网企业和互联网人才，拥有发展数字经济、人工智能的坚定决心。

《生成式人工智能服务管理办法（征求意见稿）》的颁发绝不是束缚行业发展的牵绊，更应是在早期规范行业发展的引导，鼓励行业发展的明灯，让技术发展有底线、让企业发展有安全、让监督引导有依据。

数字经济、人工智能行业内的企业更应该以此文件颁发为契机，用更强的国家责任感、社会责任感加大研发投入，坚持合规底线，保护用户权益，接受监督引导，借助人工智能这一伟大的生产力工具，提升人类的生产效率，提高个体自身能力，实现企业发展、社会发展、国家发展的共赢！

参考文件：

1. 《网络信息内容生态治理规定》第41条之规定；

2. 《互联网信息服务深度合成管理规定》第16、17条之规定；

3. 《互联网信息服务算法推荐管理规定》第24条之规定；

4. 《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》第2、5、7条之规定；

5. 《中华人民共和国个人信息保护法》第51条之规定；

6. 《GPT-5恐被叫停，马斯克带头呼吁暂停大型AI研究》－钛媒体，2023.03.29

7. 《马斯克要求暂停GPT-5的研发 周鸿祎：不发展才是最大的不安全》-21Tech，2023.03.30

律师简介

杨振律师

北京市京师（上海）律师事务所数字经济中心副主任，澳门大学国际商法研究生，拥有丰富的涉外企业、互联网行业从业及法律服务经验，曾服务于多家互联网广告企业、社交/直播电商企业、新能源工程车企业、外商投资企业。专注于数字经济领域及外商投资法律服务领域，擅长互联网广告、社交电商行业的业务合规及违规处置；平台经济合规风险审查及合规体系搭建；数据合规及个人信息保护；外商投资合规法律服务；刑事风险防控及经济犯罪辩护。