无论科技如何进步，保持独立思考的能力永远是最重要的。
文|祁 磊
东南大学计算机科学与工程学院、软件学院、人工智能学院副研究员，《科学画报》编委会人工智能专委会委员。
你在使用ChatGPT、DeepSeek等人工智能（AI）助手时，有没有遇到过这样的情况：AI给出的答案听起来头头是道，仔细一查却发现完全是错的？这就是“AI幻觉”。
01.
什么是AI幻觉
如果你问AI助手：“中国第一位登上月球的航天员是谁？”它可能会一本正经地回答：“是杨利伟，他在2003年成功登月。”这个答案听起来很有道理，但实际上完全是错误的——杨利伟确实是中国第一位进入太空的航天员，但他并没有登上月球——事实上，至今还没有中国航天员登陆月球。
这种AI编造出看似合理但实际错误的信息的现象，就叫作“AI幻觉”。就像人做梦时会看到不存在的事物一样，AI也会“幻想”出一些虚假的内容。更有趣的是，AI在“胡说八道”时表现得特别自信，用词准确、逻辑清晰，让人很容易相信。
02.
AI为什么会“一本正经地胡说八道”
要理解这个问题，我们先要了解AI是如何工作的。现在的AI大模型就像一个超级学霸，它“读”过互联网上数以亿计的文章、书籍和对话。但是，这个学霸有个特点：它并不真正理解这些内容的含义，而是在寻找词语之间的规律和模式。
AI回答问题的过程，本质上是在玩一个接龙游戏。当你提问时，AI会根据它学过的所有文本，预测接下来最可能出现的词语。就像我们玩成语接龙时，说出“一心一”后，对方会自然地接“意”。AI也是这样，它通过不断预测“下一个词应该是什么”来回答你的问题。
AI的“知识”来自训练数据，但这些数据中可能存在矛盾、过时或错误的信息。当AI需要回答一个问题时，它可能会把不同来源的信息随意拼接在一起。在文章开头的例子中，AI知道“杨利伟”和“中国航天第一人”有关，也知道“登月”是航天的重要成就，于是就可能错误地把这些信息组合起来，给出完全错误的答案。
AI之所以会产生幻觉，最根本的原因是AI并不真正理解现实世界。它不知道什么是“真”什么是“假”，只是在模仿人类的语言模式。就像一个外国人可能会说出语法正确但意思荒谬的中文句子，因为他只是在套用语法规则，而不理解实际含义。
03.
AI幻觉带来的风险
AI幻觉带来的最直接的风险就是使学习者在学习中被误导。如果你在写作业时完全依赖AI的答案，可能会把错误信息当作事实。例如，在历史作业中引用了AI编造的历史事件，或在地理作业中使用了错误的数据，这不仅会影响你的成绩，更会使你形成错误的知识体系。
过度依赖AI可能会让我们失去独立思考和判断的能力。如果总是不加验证地接受AI的答案，我们的批判性思维就会逐渐退化，变得容易轻信各种信息。
我们如果把AI生成的错误信息分享给其他人，就会成为虚假信息的传播者。在社交媒体时代，一条错误信息可能在几小时内传遍网络，造成广泛的误解。
在一些重要的情况下，如考试、投资、执行重要项目时，如果依据AI给出的错误信息做决策，可能会导致严重后果。
04.
技术层面的改进措施
科学家和工程师正在努力减少AI幻觉。他们在训练AI时加入更多高质量、经过验证的数据，并教会AI区分可靠和不可靠的信息源。就像老师会告诉你哪些是权威的参考书，哪些资料需要谨慎对待。
增加事实核查机制有助于减少AI幻觉。一些新的AI系统会在生成答案后进行自我检查，对比多个信息源，标注不确定的内容。这就像考试时的检查环节，使AI能自己发现和纠正一些明显的错误。
研究人员还尝试引入知识图谱，将结构化的、经过验证的知识库与AI结合，让AI在回答特定领域问题时能够参考权威数据。这相当于给AI配备了一本百科全书作为参考。
同时，越来越多的AI系统开始主动告诉用户“我对这个答案不太确定”或“这个信息需要进一步验证”。这种诚实的态度能帮助用户更好地判断信息的可靠性。
05.
我们该如何识别和应对
在AI时代，培养“AI素养”已成为每个使用者的必修课。这种素养的核心在于建立批判性思维，永远保持怀疑精神，不盲目相信AI提供的答案。特别是当涉及具体事实、数据、人名、时间、地点等信息时，我们都应该养成问一句“这是真的吗”的习惯。这个习惯很重要，你应该做到像过马路看红绿灯一样自然地发问。
其次，你应该像侦探一样查证信息。如果AI告诉你一个重要信息，别急着相信。你可以翻翻课本，问问老师，上网查查官方网站，或者用其他AI工具问同样的问题。如果答案都不一样，那就要小心了——这个信息很可能是错的。
最后，要把AI当成学习小助手，而不是你的大脑的替代品。AI就像一个会很多知识的朋友，可以帮你理解难懂的知识点，给你学习的灵感，帮你检查有没有写错别字。但是，千万不能让它直接帮你写作业，也不能把它说的每句话都当真。最重要的是，要用自己的大脑思考，AI只是帮助你学得更好的工具，真正的学习还是要靠你自己。
AI技术仍在快速发展，未来的AI会变得更加可靠和诚实。但无论技术如何进步，保持独立思考的能力永远是最重要的。AI是我们的工具和助手，而不是我们的大脑。
在这个AI时代，我们既要善于利用新技术带来的便利，也要保持清醒的头脑。记住，真正的智慧不是知道所有答案，而是知道如何寻找和验证答案。当你下次使用AI时，不妨把它当作一个知识渊博但偶尔会出错的朋友——感谢它的帮助，但也要用自己的判断力去甄别真伪。
让我们一起成为智慧的AI使用者，在AI时代保持人类独有的批判性思维和创造力。这不仅是为了避免被AI幻觉所误导，更是为了在未来的学习和生活中能够真正驾驭技术，而不是被技术所驾驭。
*本文刊登于《科学画报》2025年第10期，更多相关内容欢迎订阅。
全年订阅
热门跟贴