近日,中国信通院云计算与数字化研究所发布《人工智能背景下数据安全八大发展趋势》,从数据责任、数据使用、数据流通、智能体安全四大维度,系统勾勒了AI时代数据安全的全景图。
人工智能正在重塑数据安全的底层逻辑——数据权属怎么分?模型训练的数据流向如何管控?智能体之间的信任又该如何建立?这些问题不再停留在技术讨论层面,而是正在成为产业实践中必须回答的"必答题"。
这份报告给出了八个明确判断。
一、制度底座:数据产权和责任模式正在重写
趋势一指向数据产权制度的重构——落实数据三权分置,将数据持有权、使用权、经营权进行差异化配置。AI时代传统权责结构难以适配新需求,"三权分置"正在成为各方共识,根据场景灵活配置规则,在权益平衡中释放数据价值。
趋势二则关注责任归属——数据安全责任正从"谁掌握谁负责"的静态划分,转向场景化动态适配。大模型时代"模型与控制权分离",责任边界趋于模糊,需要通过场景识别与控制权分析,实现精准的责任适配。
这两条趋势勾勒出一个清晰的信号:数据安全的制度地基正在被重新夯实,新的规则体系将从"被动合规"走向"主动适配"。
二、技术基座:机密计算与可信数据空间进入AI原生时代
报告将机密计算定义为数据"使用中安全"的新基建(趋势三)。借助硬件级可信执行环境(TEE),数据在运算阶段也能实现"可用不可见",这解决了多方协作、云上信任、模型保护等核心难题。机密计算已形成从底层硬件到云主机、开发框架、智能体的五大应用等级,正在成为AI时代全链路安全的底层支撑。
与此同时,可信数据空间正在迈向AI原生驱动的新阶段(趋势五)。智能体不再只是空间的"租户",而成为主动的安全执行者与治理守护者——治理从"静态合约"走向"自治与智治",推理从"人工规划"升级为"自主执行"。
趋势四则聚焦"模数共振"——大模型与数据在汇聚、训练、协同三个环节中,存在数据泄露与确权风险。报告提出三道防线:分类分级与机密计算筑牢汇聚安全;安全审查与权限管控强化训练防护;多方安全计算与身份验证确保跨主体协作安全。
三、跨境与智能体:AI时代的新安全命题
AI出海的合规挑战正在升级。报告提出以"来数加工"模式化解数据安全合规痛点(趋势六)——通过设立"数据保税区",实现境外数据入境处理后结果返回的全链路闭环。这不是简单的技术方案,而是涉及数据主权、跨境监管的制度创新。
在智能体层面,报告从两个维度给出解法:身份、权限、行为三维度构建智能体可信数据使用环境(趋势七),解决"谁在访问、能访问什么、数据去哪里"三个核心问题;零信任理念缝合多智能体协同的数据安全罅隙(趋势八),将验证从用户级下沉至操作级,基于"假设失效"管控每一次数据交互。
完整报告请见PDF,关注数秦科技回复【人工智能背景下数据安全八大发展趋势】,获得更完整的产业视角与政策解读。
热门跟贴