企业使用AI时,最常见的担忧之一是:把合同、财务记录、客户信息或内部方案交给模型后,这些内容会不会被保存、训练,甚至被工作人员看到?
8月19日,OpenAI公布了有关Zero Data Retention的新说明,并预告Private Safety Processing。官方希望解决一个越来越突出的矛盾:一方面,企业希望敏感数据不被服务商保留;另一方面,能力更强、任务更长的AI系统,又需要识别跨多轮交互逐步形成的风险。
按照OpenAI的说明,符合条件的API客户可使用Zero Data Retention。请求处理完成后,OpenAI不保留其提示词和模型回复,相关内容也不会提供给OpenAI工作人员审查。企业客户的数据默认不用于训练,除非客户明确选择加入。
但传统的安全检测大多按单次交互进行。问题在于,很多风险不会出现在某一句话里,而是随着多轮对话慢慢显现。例如,单独看每一步都像正常研究,组合起来却可能构成绕过安全限制的完整流程;又或者,一个Agent在被要求停止后仍持续执行任务。只看单轮,很难识别这种变化。
Private Safety Processing试图给出新的解决办法。对于ZDR部署,客户内容仍保存在客户控制的基础设施中;OpenAI还在开发另一种选择,将内容保存在OpenAI基础设施上,但使用客户掌握的密钥加密。自动系统可以识别风险模式,并向OpenAI返回范围有限的安全信号,而不是直接暴露原始提示词和回复。
这套思路的关键,不是“完全不做安全检查”,而是尽量让安全判断发生在机器可计算、人员不可直接阅读的边界内。即便系统发现风险,OpenAI收到的也应是活动类型等有限信号,而不是完整的客户资料。
当然,这仍是一项正在测试的方案。OpenAI称Private Safety Processing目前正与早期客户测试,计划9月开始推出,并发布技术白皮书。因此,企业现在不应该把一份产品预告当成已经落地的合规保证。
企业采购AI服务时,至少要把四个问题写进评估清单:数据保存多久,是否用于模型训练,哪些人员在什么情况下可以访问,以及加密密钥由谁控制。此外,还要确认不同产品、套餐和部署方式是否适用同一政策,不能把API客户的承诺直接套到普通聊天产品上。
AI隐私与安全不一定只能二选一,但两者兼得需要更清晰的技术边界、合同条款和审计机制。对于企业来说,真正可靠的不是一句“我们重视隐私”,而是每一个环节都有可以验证的答案。
企业把资料交给AI,隐私和安全真的只能二选一吗?
热门跟贴