来源:市场资讯
(来源:中国科协之声)
7月17日,2026世界人工智能大会暨人工智能全球治理高级别会议在上海开幕。在大会系列分论坛——“人工智能全球治理与可持续发展:挑战与应对”论坛上,全球人工智能创新治理中心发布“一鉴”伦理审查智能体系统2.0。一起来看都有哪些升级→
7月17日,上海,在2026世界人工智能大会暨人工智能全球治理高级别会议(WAIC 2026)系列分论坛——“人工智能全球治理与可持续发展:挑战与应对”论坛上,全球人工智能创新治理中心发布“一鉴”伦理审查智能体系统2.0。“一鉴”由中国科协—复旦大学科技伦理与人类未来研究院、复旦大学可信具身智能研究院牵头,联合哲学学院、生命科学学院、附属中山医院等协同研发,并获复旦大学科学技术研究院与上海人工智能实验室支持,致力于以人工智能赋能科技伦理审查,为负责任创新提供可解释、可追溯、可复核的智能辅助。项目充分发挥复旦大学综合性、研究型大学的学科优势,把哲学伦理、人工智能、公共治理和国际研究相结合,形成具有复旦特色的“AI+伦理治理”交叉创新体系。
“半亩方塘一鉴开,天光云影共徘徊”。“一鉴”寓意以科技之“镜”照鉴潜在风险,为科研创新守住伦理底线,守护生命尊严与公共利益。2025年,“一鉴”作为全球首个专为科技伦理审查打造的AI智能体系统亮相世界人工智能大会,率先探索人工智能赋能伦理审查的复旦路径。时隔一年,“一鉴”2.0发布,标志着复旦大学在科技伦理治理智能化、标准化和国际化方向上迈出新的关键一步。
科技创新加速,伦理治理先行
近年来,中国政府高度重视科技伦理治理,持续完善国家、区域/专业和机构三个层次的伦理审查体系:以国家科技伦理委员会及分领域专业委员会加强统筹指导,以区域或专业伦理审查中心提升协同服务能力,以高校、科研机构、医疗卫生机构和企业伦理委员会落实主体责任。伦理委员会是促进负责任研究和负责任创新的重要制度安排。进入AI for Science时代,人工智能深度嵌入科学发现、医学研究和社会治理,也带来更加复杂的伦理风险、规则冲突和责任边界问题。
从1.0到2.0:从基础研究拓展至人工智能医学
2025年发布的“一鉴”1.0版本,主要聚焦基础研究伦理审查,围绕受试者保护、知情同意、隐私安全、数据使用和风险受益评估等问题,形成基础的伦理风险识别和审查辅助能力。经过试点应用和专家反馈,1.0版本已具备一定的伦理分析、规则匹配和报告生成能力。
今年升级的“一鉴”2.0,重点扩展至人工智能伦理审查,尤其聚焦人工智能医学这一关键领域,回应《人工智能应用伦理安全指引1.0》关于开发、服务提供和使用环节伦理安全治理的要求。相较于1.0版本,2.0版本实现三大升级:
规则升级
围绕基础研究和人工智能医学两类已开展应用校准的审查场景,构建智能审查规则库;同时将生命科学、生物医药、医疗器械、器官移植、期刊论文伦理审查等方向作为知识储备和规则梳理对象,支持自定义规则配置、持续迭代和后续拓展。
智能体升级
基于专家反馈强化学习,聚焦基础研究和人工智能医学两大方向,实现智能体与领域专家在审查重点、评价尺度和专业表达上的深度对齐,持续提升专业审查能力。
应用升级
已在复旦大学科研院和国家人工智能应用中试基地(医疗领域,主体单位为复旦大学附属中山医院)开展试点应用,并完成国产算力平台私有化部署,提供覆盖审查全流程的在线审查系统和智能体辅助能力,提升审查效率和质量。
从知识底座到场景校准
此次升级的重点,不是简单扩大知识覆盖面,而是把知识建设、规则提取和专家校准结合起来。团队已阶段性整理法律法规、部门政策、伦理指南、技术标准、典型案例等1200余条高相关语料,形成面向医学伦理、人工智能伦理、科技伦理和科研诚信等方向的知识底座。所有材料均按照来源、发布机构、发布时间、生效与修订状态、现行有效性、适用场景、风险点、权威等级和版权授权状态等进行标准化,为模型提供可验证、可引用、可维护的专业知识来源。
科技伦理审查并非机械的规则匹配,而是一项高度依赖领域知识和专家经验的专业工作。真正的伦理审查能力,需要结合具体领域,通过专家校准与实践应用持续优化,实现与领域专家审查标准的深度对齐。
在“一鉴”2.0系统中,不同类型的数据发挥着不同的作用。规范指南用于构建知识库和规则库,典型案例用于构建风险警示库和教育案例库;而真正决定智能体审查能力的,是与具体审查场景相匹配的领域规则、专家标注和专家反馈数据,通过专家反馈强化学习持续实现与领域专家的深度对齐。
目前,“一鉴”2.0已完成基础研究和人工智能医学两大领域的专家反馈优化和应用校准。生命科学、生物医药、医疗器械、器官移植、期刊论文伦理审查等领域已完成知识储备和规则体系建设,后续将结合实际应用场景,逐步开展专家校准和专项优化,持续拓展智能体的专业审查能力。
可追溯、可复核、可验证
“一鉴”2.0的价值,在于让伦理审查从“经验辅助”走向“依据可追溯、过程可复核、能力可验证”。系统不是替代伦理委员会,而是帮助研究者与伦理专家更快定位风险、更准匹配规则、更清楚说明依据;同时支持本地化部署和安全管理,保障科研数据、医疗数据和审查材料安全合规。
审 核:张敬一
热门跟贴