来源:市场资讯
(来源:中节能皓信CECEPEC)
近年来,AI正加速渗透至企业经营的核心环节。无论是生成式AI辅助办公与研发,还是算法介入招聘、信贷及医疗等关键决策,AI在提升效率的同时,也伴生了算法偏见、隐私泄露、内容安全及责任归属等风险。科技伦理已不再局限于技术研发的专业探讨,而是全面迈入企业治理与ESG管理体系。
面对日益严格的监管规则、资本市场的披露要求以及公众对负责任创新的期待,企业需要重新审视和管理AI带来的潜在影响。
内地交易所:将科技伦理纳入常规议题
2024年4月12日,沪深北三大交易所发布可持续发展报告相关指引(以下简称“指引”),正式将科技伦理纳入常规议题。这意味着,科技伦理已从企业内部的道德倡议,转变为与公司治理和信息披露紧密挂钩的合规动作。同时,指引引入了财务重要性与影响重要性的双重判断逻辑:
触及敏感领域的企业:
中国的碳/需结合自身业务场景进行实质性判断。若科技伦理议题具备财务重要性,应严格按照“治理—战略—影响、风险和机遇管理—指标与目标”四大要素进行规范披露。
关联度较低的企业:
若经评估认为科技伦理不具重要性,也需结合自身实际说明判断依据与结论。
监管趋势:科技伦理逐步从原则走向制度
我国已逐步形成涵盖科技伦理、人工智能、数据安全和个人信息保护等领域的监管体系。2022年,《关于加强科技伦理治理的意见》明确提出“伦理先行、依法依规、敏捷治理”等原则,并要求科技伦理敏感领域的相关单位根据实际情况建立科技伦理审查机制。2023年《科技伦理审查办法(试行)》进一步完善科技伦理审查制度,2026年4月发布的《人工智能科技伦理审查与服务办法(试行)》则进一步细化了人工智能科技伦理审查的适用范围和实施要求。
针对生成式AI
我国已出台《生成式人工智能服务管理暂行办法》,并于2025年进一步发布《人工智能生成合成内容标识办法》,持续完善相关治理要求。需要注意的是,相关规定的适用范围存在差异,企业应结合具体业务场景判断适用要求。
国际层面
OECD人工智能原则强调人权、公平、透明、可解释、安全和责任等基本原则;欧盟《人工智能法案》(EU AI Act)则建立基于风险的监管体系,对禁止性AI实践、高风险AI系统及通用人工智能模型等设置差异化要求。对于开展跨境业务的企业,还应结合AI系统的提供者、部署者、应用场景等因素判断是否受到境外监管要求约束。
企业如何建立科技伦理治理机制?
监管要求最终需要落实到企业自身的管理体系中。对于多数企业,可以从以下四个方面推进科技伦理治理。
01
明确治理责任
企业应根据AI应用规模和风险程度,明确董事会或管理层、科技伦理、法务合规、数据安全、信息技术、研发及业务部门的职责。对于涉及较高伦理风险的AI应用,可以建立专门审查机制,并将伦理风险评估纳入研发立项和产品上线流程。
02
开展全生命周期风险识别
科技伦理风险并不只存在于模型上线阶段。企业应覆盖数据采集、数据标注、模型训练、测试、部署和持续运营等环节,重点识别算法偏见与歧视、个人信息保护、数据来源合法性、知识产权、模型安全、内容安全以及人工干预等风险。对于招聘、金融、医疗等可能对个人产生较大影响的应用场景,还应重点评估AI决策可能造成的差异化影响,并建立必要的人工复核机制。
03
将科技伦理要求嵌入业务流程
科技伦理制度如果停留在原则和文件层面,很难真正发挥作用。企业可以将风险评估嵌入数据管理、模型测试、采购、产品上线和重大功能更新等流程,并根据风险等级设置审批、复核、监测和事件报告要求。对于使用第三方大模型或AI服务的企业,还需要将数据安全、个人信息保护、知识产权和伦理风险纳入供应商准入及评价机制。
04
建立监督、申诉与披露机制
企业需要建立AI相关风险监测和事件处置机制,并为受到AI决策影响的员工、客户和其他利益相关方提供必要的反馈与申诉渠道。在ESG信息披露方面,则可以围绕治理机制、风险识别、管理措施和成效进行披露,并结合企业实际情况设置科技伦理培训覆盖率、AI应用评估情况、AI相关投诉及处理情况等指标。需要强调的是,指标设计相比简单披露培训人数或制度数量,更重要的是体现企业是否识别关键风险,以及管理措施是否真正发挥作用。
企业如何披露科技伦理议题?
蚂蚁集团将技术治理与科技向善结合进行披露:
蚂蚁集团确立了"平等、尊重、可信、负责"四项原则,构建了从组织保障到技术落地的全链路治理体系。在组织层面,集团成立科技伦理委员会及医疗健康专家咨询委员会,联合清华、北大等权威机构开展前沿课题研究;在执行层面,将安全机制嵌入研发全流程,通过"数据去毒"、"安全护栏"及模型迭代闭环管控风险,并在医疗等高敏感场景建立事前、事中、事后的全流程风控体系。同时,依托"蚁天鉴"智能体安全方案与MCP扫描工具,强化智能化技术治理能力,并致力于提升大模型在医疗等场景的共情能力,实现了科技伦理从理论共识到技术实践的有效转化。
中兴通讯披露科技伦理议题全闭环管理:
中兴通讯确立了“安全、透明、公平、问责、弹性、隐私、准确和合规”的核心原则,并制定了“促进开发和使用安全、透明、负责任和可信赖的人工智能系统”的战略方针。在治理层面,公司成立了由CTO担任主任委员的科技伦理委员会,统筹制定伦理管理制度与审查评估,并于2025年增设数据合规审查委员以强化数据关键要素的管控;同时配套发布了《人工智能管理手册》及多项细分规范,对AI系统全生命周期的治理与安全进行标准化约束。在执行层面,公司建立了明确的风险与机遇管理机制,通过周期性伦理审查强化技术整合与风险防控,2025年共召开18次伦理审查会议并完成数十个AI项目审查,同时面向研发及规划专家开展多轮专项培训,有效实现了科技伦理从战略顶层设计到落地执行的全闭环管理。
随着AI成为企业日常经营中的通用工具,科技伦理已经不再只是人工智能企业的议题AI技术仍在快速发展,企业很难通过一套静态规则解决所有伦理问题。更重要的是建立持续识别和动态调整的治理能力,在推动技术应用的同时,对潜在风险保持必要的审慎。对于ESG管理者而言,科技伦理真正值得关注的,也不只是“报告里应该披露什么”,而是企业能否将科技伦理要求转化为可执行的治理机制,并通过实际管理成效证明其有效性。如欲了解更多信息,请随时与我们联系!
撰文:赵慧
审阅:梁瑀可
中节能皓信: 市场部
邮箱:inquiry@cecepec.com
参考来源:
1. 上海证券交易所:《上海证券交易所上市公司自律监管指引第14号——可持续发展报告(试行)》
2. 深圳证券交易所:《深圳证券交易所上市公司自律监管指引第17号——可持续发展报告(试行)》
3. 北京证券交易所:《北京证券交易所上市公司持续监管指引第11号——可持续发展报告(试行)》
4. 中共中央办公厅、国务院办公厅:《关于加强科技伦理治理的意见》
5. 国家新一代人工智能治理专业委员会:《新一代人工智能伦理规范》
6. 科技部等十部门:《科技伦理审查办法(试行)》
7. 国家互联网信息办公室等七部门:《生成式人工智能服务管理暂行办法 》; OECD:《Recommendation of the Council on Artificial Intelligence》
8. European Union:《Regulation (EU) 2024/1689(Artificial Intelligence Act)》
9. ISO/IEC 42001:2023,《Information technology — Artificial intelligence — Management system》
10. 《蚂蚁集团2025年可持续发展报告》
11. 《中兴通讯2025年可持续发展报告》
*本文所载资料内容仅供一般参考使用,由于政策更新及市场交替等因素,本集团不能保证这些资料在您收取时或日后仍然准确。本集团将不对任何在没有详细考虑相关情况及获取适当专业意见下,依据本文所载资料行事之行为承担任何责任。本文所载之所有内容,如文字,图形,图像,照片,标志,商标,数据和软件(“内容”)均受香港及其他地区的知识产权法及条约保护。第三方机构如欲转载文章,请原文转载不得修改,且标注来源。如需改动文章内容,请事先获得中国节能皓信书面同意。未经中国节能皓信事先书面许可,不得以任何方式使用商标和商号名称中国节能®,您不得出于促销或广告目的或其他目的或影响第三方的目的在任何公共媒体中提及中国节能皓信或其授权许可人的任何信息。如果您有任何意见或问题,请联系inquiry@cecepec.com。
(中节能皓信CECEPEC)
热门跟贴