以下文章来源于阿里巴巴人工智能治理研究中心
一年一度的世界互联网大会,如互联网行业的“集雨器”,汇聚着一年间的技术突破与创新成果;又如一扇“开放之窗”,折射出全球互联网发展的万千气象。
在2024世界互联网大会乌镇峰会上,阿里巴巴展示了淘宝、钉钉、夸克、阿里云、达摩院等多个业务的创新成果。其中成立15年的阿里安全,凭借在AI安全、数据安全、数字水印等方面的技术能力吸引了来自全球的参观者来展台交流。
阿里安全自2009年成立以来,始终致力于打造世界顶尖的安全能力,为数字经济的健康发展提供强有力的保障。以“让消费者安心,让业务方、商家与合作伙伴省心,让监管单位放心,让作恶者灰心”为使命,从单一防御逐步演变为集技术研发、体系构建、规则制定与人才培养于一体的全方位安全管理体系。
阿里安全以技术创新为驱动,持续提升在AI安全、数据安全、数字水印及行业治理方面的核心竞争力,为数字经济的安全、可靠、可信赖、可用奠定了坚实基础。在本次大会展出了其在以上四方面的成果。
随着大模型技术的飞速进化,人工智能的发展进入了一个前所未有的临界点,标志着人类科技迈向一个崭新的时代。然而,随着大模型的广泛应用,随之而来的安全风险和挑战也日益严峻。为了应对这一挑战,阿里安全不断提升大模型的安全对齐水平,并完善模型生态管理机制,让用户放心、安心。
针对大模型,提出了大模型安全全链路解决方案,从安全评测、内生安全、外层围栏等多个层面应对大模型的内容安全和基础安全问题,确保大模型在应用上的合规性,以实现安全、可靠、可信赖、可用的人工智能。
面对大模型技术快速发展带来的数据安全挑战,阿里安全以全面的技术手段和严谨的法律合规实践为基础,构建了覆盖全链路的安全防护体系。在用户数据保护方面,阿里安全确保上传数据在未经用户授权的情况下绝不会被用于模型训练等场景;对于授权数据,则通过过滤清洗和安全加密技术处理,确保信息无法识别到特定个人。
在AIGC内容飞速增长的背景下,数字水印技术已成为保障内容安全和合规的重要工具。在本次展会上,阿里安全全面展示了其在数字水印领域的领先成果。通过在图像、视频等载体中嵌入隐秘信息,数字水印实现了对内容的标识、溯源与版权保护,有效防止信息泄露与内容侵权。
阿里安全在数字水印技术上的深厚积淀,既体现于其自主研发的70余项国内外专利,也体现在其在国内率先通过ChinaDRM和好莱坞Cartesian认证,同时牵头制定了多项国家及国际标准。这一技术在阿里集团内部有大量的落地应用,也已经通过阿里云对外输出,服务于多个行业标杆客户,为AI生成物的安全合规及其他场景下的溯源业务提供了可靠的技术工具。
在推动行业规范与治理方面,阿里安全通过撰写发布《人工智能治理系列丛书》、《阿里巴巴集团数据安全治理白皮书》,持续分享技术治理的框架与实践经验。本次大会重点展出的《大模型技术发展及治理实践报告》,聚焦大模型技术快速发展带来的机遇与挑战,探讨如何在推动技术应用的同时确保安全与可信治理。
在《阿里巴巴集团数据安全治理白皮书》内,阿里安全积极分享阿里巴巴集团及其业务公司在个人信息保护、数据治理等方面的最佳实践,形成兼顾安全合规与高效发展的数据安全治理框架。同时,阿里安全积极凝聚跨学科产学研伙伴,为人工智能的可持续发展提供理论支持与实践指导。这种知识分享不仅推动了行业治理的进步,也展现了阿里安全在技术自律与社会发展上的责任感。
从数据安全到数字水印技术,从全链路大模型安全解决方案到行业治理框架,阿里安全以技术创新与责任担当,在2024世界互联网大会乌镇峰会上全面展现了其推动AI发展的能力。未来,阿里安全会持续在AI领域的发展贡献新的力量,拥抱波澜壮阔的数字经济时代
版块介绍 —价值之探
技术如何更好地服务人类、促进社会进步,是我们需要进一步探索的价值。我们深挖技术背后的利益影响与人文关怀,探讨技术如何影响职业、教育、医疗、环保等各个社会领域,以及如何平衡技术进步与社会伦理的关系,共同寻找技术服务于人类福祉的最佳路径。
Reading
1、
2、
3、
4、
5、
6、
7、
8、
热门跟贴