12月20日，第五届中国人工智能成果发布会在厦门召开。三六零（601360.SH，下称“360”）集团因在人工智能安全治理“大模型安全攻防赛”中表现突出，荣获本届中国人工智能大赛A级证书。

打开网易新闻 查看精彩图片

今年9月，在国家互联网信息办公室、公安部指导下，厦门市人民政府主办的第五届中国人工智能大赛正式启动，围绕人工智能安全治理和创新发展两大主线设置了赛题。作为重要赛题之一，大模型安全攻防赛是将15000条包含恶意和正常的大语言模型提示词样本输入到参赛的大语言模型中，借此考察大模型对攻击的防范能力。

据了解，人工智能在提升生产力的同时，也带来了包括幻觉、深度伪造、注入攻击、数据污染或投毒等前所未有的安全新挑战。作为兼具数字安全和AI双重能力的科技企业，360很早开始关注大模型安全风险，并推出一系列有针对性的创新技术，包括开发了国内首个安全大模型，通过“以模制模”理念，利用AI大模型来检测和防范大模型可能出现的安全风险，既解决传统网络安全问题，又为攻克AI安全新挑战提供了可行性方案。

近日，360集团还牵头发起成立大模型安全联盟，旨在打造资源共享、共创共赢的大模型安全生态集群，共同推动大模型安全标准的制定、安全技术的创新和安全能力的提升，打造大模型安全发展的新范式。

同时，360基于“安全、向善、可信、可控”的四大原则，推出多款具有重要行业价值的企业级应用新产品,包括大模型全链路安全检测的“智鉴”、内容安全护航的“智盾”、搜索增强利器“智搜”，以及知识管理平台“智能文档云”和情报监测工具“舆情卫士”,全面覆盖了大模型系统安全、内容安全、智能知识管理与情报分析等关键领域，通过技术创新与生态建设，持续为大模型安全及行业发展注入新动能。