近日，有小红书用户发帖爆料称，在使用月之暗面旗下AI产品Kimi时遭遇了极其罕见且严重的“输出错乱”现象。
该用户表示，自己在上传一张仅包含三句英文的图片后，Kimi先是生成了完全无关的振动控制工程学图表解析；在被用户指出错误后，Kimi的重新回复竟直接输出了一份带有真实姓名、手机号、QQ邮箱及详细工作经历的中文简历。
相关帖子迅速发酵，目前已收获超1500点赞、570个收藏、近300条评论。
最新进展：
据爆料帖更新信息显示，被泄露简历的当事人已通过截图中的信息联系到发帖人，确认该简历是其本人私下发给Kimi的非公开文档。目前，发帖人已将涉事截图中的隐私信息厚码，并表示Kimi方面的产品经理已与其取得联系，正在协商解决，并希望博主删除此篇笔记。
该事件在评论区引发了关于大模型数据安全的广泛探讨。
多位技术背景网友指出，从表现形式来看，这大概率不是大模型“吐出”了底层训练数据，而是后端系统在处理高并发请求时出现了严重的“缓存串号”或“哈希碰撞”。
即系统在对多用户的对话进行Batch（批处理）后，分发结果时出现了标识符错乱，导致A用户上传的文档被错误地发送给了当前正在提问的B用户。
用户反响：
除了对技术归因的探讨，此次事件也直接触发了部分用户的信任危机。
评论区中不乏负面且客观的反馈，有网友对这种基础性数据隔离错误的出现直言：“离谱，真的离谱。”
更有出于对数据安全极度担忧的深度用户甚至开发者采取了实质性的避险动作，明确表态：“我已卸载注销Kimi，在调查结果没有出来之前，不会再使用官方提供的API和网页。”
新芒xAI评论
对于月之暗面而言，在凭借Kimi的“长文本”能力快速跑马圈地、狂揽用户的同时，此次事件或暴露出其在底层后端架构和安全风控上的“欠账”。
作为国内备受瞩目的头部AI独角兽，如果连最基本的高并发数据隔离都出现严重纰漏，其产品力的光环势必会被这种低级但致命的系统隐患所反噬。
无论此次风波的根本原因是底层模型的“记忆泄漏”，还是工程架构上的“缓存串号”，都暴露了当前AI大模型在应用层面临的严峻合规与安全挑战。
对于广大用户和职场人士而言，此次事件也是一堂极为生动的“安全课”：在当前大模型技术仍具“黑盒”属性、且多数产品用户协议中包含数据授权条款的背景下，切勿将未经脱敏的核心商业机密、个人真实简历、包含敏感信息的照片等直接上传至任何公有云AI助手。享受技术红利的前提，永远是先建好个人的隐私“防火墙”。
信息来源：
月之暗面泄露用户隐私！千万不要啥都发给ai 不知道为... http://xhslink.com/o/1blm8jyS7zM
先复制一下，打开【小红书】看看这篇好文！
【免责声明】
信息来源：本文所述事件、截图及评论均源自第三方社交平台公开信息。本账号仅作客观资讯转述与汇总，未进行直接技术验证，不对相关信息的绝对准确性负责。
客观中立：文中关于“缓存串号”等技术成因的探讨，仅代表部分网友的推测分析，不代表本账号的最终定性。实际情况请以官方调查声明为准。
无恶意贬损：本文旨在探讨行业动态并提示公众关注AI数据安全，绝无针对特定企业进行商业诋毁或侵犯其商业信誉及名誉权之意图。
侵权反馈：若涉事方认为引述内容存在事实偏差或侵权，请联系我们并提供证明材料，核实后将第一时间配合修改或删除处理。
热门跟贴