近期，网络上流传一张图片，从图中微小舰岛推测这是一艘核动力航母。令人诧异的是，18 号福建舰刚服役不久，图片显示的竟是 20 号浙江舰，中间的 19 号航母毫无踪迹。
图片一经流出，众多自媒体迅速发布文章，煞有介事地详细解读下一代核动力航母命名为浙江舰的缘由、特性以及战斗力等内容。然而，无论是文章还是图片，均为虚假信息，是 AI 编造的假新闻。
若有人对此存疑，不妨看看更多 “证据”。除了浙江舰，还有广东舰、河北舰、吉林舰、天津舰等虚假舰名的图片，想要多少就能生成多少。即便认为平面图易修改，照片难以造假，也有看似逼真的照片，与之对应的文章更是能瞬间产出数万字。
当下，各类 AI 语言模型存在一个短期内难以攻克的问题 ——AI “幻觉”。具体表现为，AI 在生成内容时会 “夹带私货”。例如，在回答问题时编造不存在的资料、数据和信息，将其作为论据和参考资料；或是在思考过程中做出离奇错误判断，得出错误结论。
以简单的重量换算为例，按照正常逻辑，1 斤等于 0.5 公斤，45 斤应为 22.5 公斤，1 公斤约为 2.2 磅，所以 45 斤约是 49.5 磅。但某 AI 工具计算结果却是 45 斤差不多是 99 磅。再如，对于 “一根 5 米长、直径 3cm 的竹竿能否进入 2 米高 1 米宽的门” 这一简单问题，人类凭借常识都能给出肯定答案，可多个 AI 却无法正确作答。
在专业知识方面，AI 同样表现不佳。现实中，82 式步枪是上世纪 70 年代末由 208 所研制的 7.62 毫米口径自动步枪，性能与 81 式步枪相似。但因研发速度慢，定型时 81 式已准备装备部队，82 式最终未能列装。而某 AI 却将 82 式与后来的 87 式小口径步枪混淆，描述的特征几乎都是 87 式的，其他部分也多为乱编。此外，AI 还会出现 “左右脑互搏” 的情况，如询问 F - 35C 能否在福特号航母上弹射，同一 AI 两次给出的答案完全相反。
由于很多人缺乏对 AI 生成内容真假的辨识能力，已有人被 AI “坑” 过。知名网红 “李维刚” 曾遭遇平台 AI 助手自作主张以 1.3 万价格包下鱼塘的事件。同时，利用 AI 编造假消息的人毫无底线，编造的内容耸人听闻，传播速度极快。即便专业人士，有时也会被 AI “引经据典” 罗列专业术语的假内容蒙骗。
进入 2024 - 2025 年，利用 AI 编造假新闻的情况愈发普遍。如今年 8 月的 “中越联合军演，越南新步枪频繁卡壳被中国 191 吊打”，以及柬埔寨女子劫狱被营销号编造为 “为爱劫狱” 等事件，均是 AI 假新闻的典型案例。如今，自媒体不仅无需编写内容，连图片和视频都能靠 AI 生成。这些假消息在互联网反复传播抄袭，又被 AI 大模型学习，长此以往，互联网资料将充斥虚假信息，后果令人担忧。
热门跟贴