“别把照片发给AI”，是真风险还是过度焦虑？|张国斌|网络信息|隐私保护

来源：市场资讯

（来源：北京时间北京时间）

最近，“不要随意把照片和视频发给AI”的话题登上了社交平台热搜，引发了大量用户的讨论。

在评论区，有人认为确需警惕，留言称“不上传核心敏感信息至关重要”；有人则表示不必过分焦虑，认为“不可避免会有隐私泄露，个人觉得无所谓”；还有人称“我只会拍照问问这个菜怎么做，以及让它帮忙挑水果”。

争论背后是一个现实问题：当生成式AI越来越普及，随手上传一张照片、一段视频，到底有多大的风险？面对日益强大的AI应用，我们到底该如何自处？

数据成了“燃料”？合规与否是安全底线

当我们勾选平台协议后，我们究竟授权了什么？

上海财经大学数字经济研究院副院长崔丽丽指出，平台通常会留存数据，用于模型的训练与应用的改进。用户在注册时往往会勾选一个个人信息授权选项，但一般而言非常简单，没有更详细进一步的说明。这意味着，很多人可能在不完全知情的情况下，就把自己的照片、视频乃至更敏感的信息“授权”了出去。

记者查询了国内几家主流人工智能应用的隐私政策后发现，对于“个人信息是否用于数据训练”这一选项，用户基本可以选择关闭，具体情况根据协议内容各有不同。但这项操作往往藏在多层菜单深处，需要进入隐私设置或账户管理界面手动操作或进一步联系。

DeepSeek”隐私政策

在大家关注的“AI生图”功能方面，也有相关提供图片生成服务的AI平台做出声明，“豆包”在其隐私政策中声称，该过程“不涉及任何生物特征信息的提取和处理”。“元宝”也在其隐私政策中声明“相关人像信息不会留存”。

既然数据留存较难避免，普通用户又该如何辨别并选择相对安全的AI平台？

崔丽丽建议，首选在官方备案的大模型。目前，国家网信办会对大模型进行备案审查，其中就包含了相应的个人信息与信息安全审查环节，这类平台相对更有保障。此外，提供模型服务的企业是否具有完备的工商登记注册，以及国外的主流大模型，也是判断可靠性的重要标准。最关键的是，用户应仔细留意平台在用户信息授权使用协议中，是否有明确且清晰的权责划分。

警惕“AI中转站”：极易被忽视的隐私“黑箱”

除了正规的大模型平台，目前市场上还充斥着大量被称为“AI中转站”的服务。中国计算机学会计算机安全专委会委员王媛媛对媒体表示，目前有一些国外大模型禁止部分国家和地区的用户注册使用，但这些用户又对大模型有比较强的使用需求，所以才衍生了中转站。

AI中转站”显示列表

形象地讲，“AI中转站”是用户和大模型之间的“中介”，可以帮助用户更便捷地调用多个AI大模型，一站式满足用户多样化使用需求。然而，这种看似便利的“中转站”，实则是当前最隐蔽也最容易被忽视的隐私泄露风险源。

崔丽丽进一步剖析了中转站的隐患：第一，模型API接口被封装后，用户使用的是不是自己选的模型，无从知晓，“可能存在挂羊头卖狗肉的情况”；第二，这类公司通常类似“二道贩子”，除了赚差价，不排除会留存用户数据做商业转化。尤其值得警惕的是，如果大模型平台是国外主体，还涉及数据跨境，“很多环节的安全不可控，风险隐患较多”；第三，这类服务商带有“灰色”成分，“在注册主体追索方面困难会比较大，不利于维权”。

国家安全部此前也专门发布提示，指出部分“AI中转站”缺乏正规数据加密与管控机制，有的甚至私自截留用户数据，倒卖给其他大模型厂商用于系统训练，造成用户隐私泄露。据提示，如发现有利用“AI中转站”窃取国家秘密或从事其他危害国家安全行为的可疑线索，请通过12339国家安全机关举报受理电话、网络举报受理平台（www.12339.gov.cn）、国家安全部微信公众号等举报受理渠道或直接向当地国家安全机关进行举报。

必要提醒，而非过度恐慌

面对“不要随意把照片和视频发给AI”的呼吁，这到底是过度恐慌还是必要提醒？

“这是必要提醒，而非过度恐慌。”半导体资深KOL、电子创新网CEO张国斌明确表示，这背后有真实的技术和案例支撑。当你上传一张自拍时，AI不仅能提取面部特征向量用于身份追踪，甚至可能将这些数据用于训练人脸识别模型。更危险的是，视频中包含的声纹、表情和口型，很容易成为不法分子伪造的原料，近年来频发的“AI换脸诈骗”便是明证。

在日常生活中，用户极易忽视的隐私泄露场景比比皆是。很多人以为只是“问个问题”，就让AI分析包含商业机密的工作文档和代码；觉得AI比医生方便，便上传包含身份证号和基因信息的医疗报告；只想让AI“分析一下”社交关系，就毫无顾忌地发送私人聊天截图。在处理证件照、生成个性化头像或使用AI修图时，用户可能因使用不当工具而泄露了大量敏感背景、面部数据和个人身份信息。