不是"AI幻觉",而是KV cache污染,用户数据隔离机制出现了严重漏洞
Kimi工作人员用"AI幻觉"来解释,但幻觉的核心特征是"编造",这个肯定不是,因为数据是真实的。接电话工作人员不一定懂底层技术。事件性质是,模型精确复现了训练数据或系统缓存中的真实记录。 最可能是原因是上下文缓存(KV Cache)污染。 大模型为了提升响应速度,会对用户对话的"中间计算结果"(KV Cache)进行缓存复用。很多用户对话一起跑,需要隔离数据。 Kimi应该是搞了多用户缓存共享,不同用户会话复用了同一块缓存池,但严格的数据隔离没做好。 第一个用户钟先生,上传简历进行求职咨询后,产生的KV Cache未被清空,被下一个用户张呈的翻译请求挖了出来。 这是一种编程bug,很严重。虽然不是主观数据泄密,但是客观上造成了泄密后果。用幻觉解释是推卸责任,说不通。 公司应该改程序消除bug,提升对用户数据的保密测试。 #止沸新闻解读官# - - - - - - - - - - - - - - - - - - - - -欢迎加入本圈子,每日发布各类最新军事政治资讯👇🏻👇🏻👇🏻点击下方“加入”即可👇🏻👇🏻
Kimi工作人员用"AI幻觉"来解释,但幻觉的核心特征是"编造",这个肯定不是,因为数据是真实的。接电话工作人员不一定懂底层技术。事件性质是,模型精确复现了训练数据或系统缓存中的真实记录。 最可能是原因是上下文缓存(KV Cache)污染。 大模型为了提升响应速度,会对用户对话的"中间计算结果"(KV Cache)进行缓存复用。很多用户对话一起跑,需要隔离数据。 Kimi应该是搞了多用户缓存共享,不同用户会话复用了同一块缓存池,但严格的数据隔离没做好。 第一个用户钟先生,上传简历进行求职咨询后,产生的KV Cache未被清空,被下一个用户张呈的翻译请求挖了出来。 这是一种编程bug,很严重。虽然不是主观数据泄密,但是客观上造成了泄密后果。用幻觉解释是推卸责任,说不通。 公司应该改程序消除bug,提升对用户数据的保密测试。 #止沸新闻解读官# - - - - - - - - - - - - - - - - - - - - -欢迎加入本圈子,每日发布各类最新军事政治资讯👇🏻👇🏻👇🏻点击下方“加入”即可👇🏻👇🏻


JPG
长图
JPG
长图
JPG
长图
JPG
长图
JPG
长图
JPG
长图
JPG
长图
JPG
长图
JPG
长图
JPG
长图