连续两天，两场人工智能研讨会在广东举行，百余名政产学研媒代表齐聚，面对面交流人工智能的发展态势、安全挑战及全球治理等问题。
3月20日，中国网络空间安全协会人工智能安全治理专业委员会（以下简称“专委会”）在珠海组织召开了人工智能发展与安全暨《全球人工智能治理倡议》研讨会，聚焦人工智能安全治理、检测评估、语料使用、合规实践等议题，来自专委会成员单位、律所和相关领域科研机构、企业、社会组织等单位专业人士展开深入讨论。
该研讨会是专委会此次在广东开展的第二场活动，由珠海市委网信办、珠海网络空间安全协会和南方都市报、南都大数据研究院等单位协同举办，第一场研讨会于3月19日在广州举行。（回顾报道）
人工智能发展与安全暨《全球人工智能治理倡议》研讨会在珠海举行。
珠海计划建设智能算力成本最低城市
人工智能是发展新质生产力的重要引擎，今年的政府工作报告3次提到了“人工智能”，并首次提出了开展“人工智能+”行动。
据了解，人工智能安全治理专业委员会的成立构想曾在珠海擦出思路火花。中国网络空间安全协会副秘书长、人工智能安全治理专业委员会秘书长王健兵致辞表示，广东具备发展人工智能的区位优势，而珠海正在建设“云上智城”，朝着人工智能高质量发展的方向建设规划，未来可期。
王健兵同时强调，人工智能既要快速发展，同时也要有安全保障，使产业健康有序发展。他介绍，专委会致力于发挥桥梁纽带作用，协同产、学、研、用机构，推动人工智能发展与安全治理，去年10月成立至今，在高质量中文数据集、大模型安全评测等方面持续做出相应工作，接下来，专委会还将继续加强语料库平台建设、安全测评能力建设，有效推动人工智能安全治理，为广大网民提供更好的优质服务。
“要加强分类指导和典型示范，让人工智能更好赋能千行百业；要在守住安全底线的前提下，积极推行包容审慎监管，给予新技术足够的创新空间和必要的试错空间。”珠海市委网信办主任陈建海致辞提到，目前珠海正重点聚焦打造“云上智城”，适度超前布局建设AI算力云谷等新型基础设施，目标是建设智能算力成本最低的城市。
近年来，珠海网络强市建设取得显著成效，一批人工智能、大数据的研发应用企业快速成长。全志科技、大横琴科技、格力智能装备、四维时代等企业入选省人工智能骨干（培育）企业名单，仅次于广州、深圳。华为（珠海）人工智能创新中心、中德（珠海）人工智能研究院、中星电子人工智能研究院等一批人工智能科技创新平台落子布局。多所在珠高校设立了人工智能相关学院，为珠海人工智能发展提供了有力人才支撑。
陈建海表示，真诚希望相关领域科研机构、企业、社会组织等单位多给予珠海关心和支持，共同助力珠海人工智能应用和产业持续健康发展，为构建安全、可控、可持续的人工智能未来贡献智慧和力量。
专家热议语料合规训练、AI安全检测评估
近年来，人工智能作为新质生产力的重要引擎迎来飞跃式发展，与此同时，安全与发展同样重要的共识逐渐形成。此次珠海研讨会上，围绕人工智能大模型的安全治理、安全评估、语料合规和安全发展等主题，张震、何延哲、陈际红、柳嘉琪等合规、法务、安全专家进行主旨分享。
国家互联网应急中心正高级工程师张震带来题为“适应生成式人工智能特点 探索中国特色安全治理路径”的主旨发言，他围绕《全球人工智能治理倡议》、《生成式人工智能服务管理暂行办法》、《生成式人工智能服务安全基本要求》中的重要内容，从语料在训练中的合规使用、数据标注、模型安全要求等方面进行了深度解读。张震指出，当前我国生成式人工智能安全治理对AI大模型语料安全和生成内容安全方面有明确要求，相关企业和机构应当以此为底线，进一步优化AI大模型在数据使用、风险抵御等方面的能力，以向公众提供更好的服务。
中国电子技术标准化研究院网安中心测评实验室副主任何延哲在会上分享了对人工智能安全检测评估的思考与建议。在其看来，安全检测评估工作一直是保障国家网络安全的重要组成部分。他从人工智能安全检测评估的背景及必要性出发，重点阐述了风险评估、影响评估、合规审计、安全评估等的几种检测评估方法。他还强调，AI大模型完成备案仅是安全工作的开端，如何确保其实现“长效安全”才是根本。
中华全国律师协会网络与高新技术专业委员会副主任、中伦律师事务所合伙人陈际红从法务合规角度分享了对“人工智能知识产权风险与解决路径”的看法。他分别从模型训练抓取数据方式的正当性、作品合理使用的边界、作者与开发者的权利之争、生成内容的可版权性、知识产权归属、侵权责任如何承担、AIGC企业的合规指引等方面进行阐述，针对不同的参与角色，提出了采购前的合规评估、责任权利约定、依法备案和风险提示等合规建议。
华为战略研究院AI治理产业发展首席专家柳嘉琪分享了华为大模型的安全实践进展。他介绍，针对AI大模型的安全治理实践，华为主要从四个方面进行努力：一是通过政策解读、数据溯源、风险过滤等方式建设大模型网络安全；二是基于运营场景进行安全威胁分析，形成安全控制措施；三是持续开展安全测试，提升大模型自身数据安全水平；四是针对应用环节，尤其是内容风控和应用安全护栏等方面构建安全防御能力。柳嘉琪表示，华为接下来还会沿上述方向继续发力，构建从算力平台安全，到模型安全，再到应用安全的全生命周期安全治理能力，以期实现快速发现问题，快速处置问题。
出品：南都大数据研究院
采写：李伟锋 张雨亭 实习生 黄子玮 周惠琪
热门跟贴