周三下午，一位用户打开TikTok，发现Charli D'Amelio对着镜头说话的视频，AI生成的文字摘要写着："各种蓝莓配不同配料的集合"。另一段训狗视频，被描述成"用单张纸精心折叠的复杂折纸艺术展示"。这不是恶作剧——这是TikTok官方测试的AI视频摘要功能，现在已经失控到平台不得不紧急踩刹车的地步。

据Business Insider报道，TikTok此前向部分用户测试AI驱动的视频文字摘要功能，希望用自动生成描述帮助用户快速了解内容。但测试结果堪称灾难：AI频繁出现严重"幻觉"，把视频内容识别得面目全非。平台现已决定收缩这项技术，仅保留识别视频中商品的功能，全面描述视频内容的计划暂时搁置。

打开网易新闻 查看精彩图片

社交媒体上随手一翻，翻车案例比比皆是。两张猫的照片，AI说是"展示多指灵活机械臂的人"；肯塔基赛马视频，变成"精美书法展示"；俯视角度拍摄的灰色平底锅烹饪画面，被写成"绿色表面上单个球弹跳滚动"。有用户在Reddit吐槽这些摘要"完全失控"，另一位则直言看到的是"与视频毫无关系的垃圾"。

更麻烦的是，这些离谱的AI摘要还会干扰视频原本的人工字幕。用户本想通过文字了解内容，却被错误的机器描述带偏，信息噪声反而增加了。在TikTok本就饱受虚假信息争议的背景下，这项技术让平台的可信度雪上加霜。

图像和视频识别向来是AI相对成熟的领域，TikTok的AI为何频繁翻车，具体原因尚不清楚——推测该功能至少部分时间是正常运行的，否则不会推进到用户测试阶段。但大规模暴露的问题说明，即便是科技巨头，在将AI集成到核心产品功能时，幻觉问题仍未解决。

这次收缩给行业提了个醒：AI摘要工具正被塞进越来越多的应用和设备，但错误率依然高到无法忽视。无论是短视频还是法律文件，如果依赖AI生成摘要，人工复核仍是必要步骤。TikTok的选择表明，在准确性无法保证时，缩小功能范围比硬着头皮上线更明智——毕竟，把明星认成蓝莓，用户不会觉得好笑。