当算法越来越懂你的喜好，当AI能秒解难题，当虚拟与现实边界日渐模糊，我们是否思考过：AI技术究竟在将我们带向何方？
文|朱 葛
联想诺谛（北京）智能科技有限公司业务总监，《科学画报》编委会人工智能专委会常务委员。
01.
AI究竟在做什么
人工智能（AI）可以被理解为一个能够自我学习的工具。它需要摄入海量的数据作为“素材”（如图片、文字、声音），并从中寻找相似的规律，再按规律给出结果去解决问题。例如，相册能自动分辨人脸，照相机会自动美化照片，作业软件会提示错因，导航软件能估算到达时间，翻译软件能把外语换成母语，视频平台会推送用户可能感兴趣的内容……它的基本原理遵循“数据—模型—结果”的基本逻辑：系统通过输入数据来训练构建预测模型，再将该模型运用于新场景去输出最终的结果。这一机制使其在图像识别、路径规划、语言翻译及内容推荐等领域展现出强大能力。
然而，这种强大的能力伴随内在风险。由于AI的认知完全源于其所摄入的数据，若这些数据本身就存在一些缺陷，算法便会将这些缺陷系统性地复制并放大，这就是AI技术内在的双刃剑特性。在AI技术飞速进步的当下，我们的生活会因此“变糟”吗？我们又该如何应对？
02.
最容易“变糟”的三件事
在AI快速渗透日常的今天，人们最常感受到的“变糟”风险往往集中在3个层面，即信息失真、深度学习能力退化、自身注意力被分散。这些现象并非凭空出现，而是因为AI在带来方便的同时，也会把错误、偏见与诱惑一并放大。如果缺少辨别、思考和自我管理，这些小问题便可能逐渐积累，最终演变为真正的困扰。
首先，在信息层面，AI技术模糊了真实与虚构的边界。AI生成的图像、音频和新闻之所以具有迷惑性，是因为其算法能自动“补全”细节并“抹平”不协调之处，使伪造内容在视觉或听觉上显得顺理成章。要想不被其误导，我们需要建立“多重求证”的习惯：同一条消息至少找两个独立来源进行求证，看清发布时间、发布者和是否有权威机构背书。同时，我们可以从“侦探视角”审视内容细节，如影子方向、反光与倒影是否一致、手指数量是否正常、文字标识有无变形。此外，对明确标注“由AI生成”的内容应保持高度警觉，尽量遏制虚假信息的传播。
其次，在学习层面，AI工具误用可能导致深度学习能力的退化。有人把写作文、做题当成“索取标准答案”的过程，虽能短期内提升效率，却绕过了知识内化所必需的“回忆—表达—纠错”认知路径，导致知识难以转化为长期记忆。为此，我们倡导“三步学习法”：先独立思考并写出草稿，再借助工具查缺补漏并对比多种思路，最后亲自复核并用自己的语言重述答案。同时，应明确人机协作的边界，将AI工具用于资料搜集、提纲拟定，而核心解题思路与最终答案应由本人完成，并在作业中完整呈现思考与修订的痕迹，使思维过程可见、可评。
最后，在注意力层面，个性化推荐机制可能损害专注能力。个性化推荐如同一条永不停歇的传送带，系统如果追求“停留时间”，就会不断推送同质化的内容，让大脑频繁获得即时奖励，却逐渐丧失专注能力。长此以往，不仅课堂专注度下降、睡眠质量受影响，情绪调控也会更为困难。我们可以通过“时间与场景公约”来对冲这一趋势。例如：餐桌上不看屏，睡前30分钟停止看手机，卧室不放置电子设备；处理重要任务时开启“勿扰模式”，并结合“番茄工作法”训练专注力；在需要时，可启用青少年模式，借助系统功能合理设置使用时长、启用夜间护眼与内容分级，辅助实现自律。
03.
为什么会“变糟”
之所以会“变糟”，从技术本质看是因为AI缺乏价值判断的能力。AI被赋予了强大的“放大”能力，却未被赋予相应的价值判断力。它忠实地执行数据中的规律，无论这些规律是真理还是偏见。目前，AI技术的迅猛发展与相应社会规范的建设滞后形成了巨大落差。例如，使用说明写得含糊、年龄分级不够详细、标注“AI合成/生成”的位置不明显、真假识别与信息素养教育跟不上等，让错误信息、冲动转发和过度使用有了可乘之机。
更深层的原因在于核心目标偏离了正轨。许多系统被设定去追求“停留时间”和“点击量”，好比训练宠物只盯零食而不顾营养。为了让人多看一会儿，系统会源源不断地推送更相似的内容，即便代价是牺牲信息的真实性、观点的多元性与用户的心智健康。因此，化解“变糟”风险的核心在于实现“价值对齐”——将AI系统的设计目标与运行规则重新校准到与人类社会的长远福祉相一致的方向上。
04.
把“更糟”扭转为“更好”的三把钥匙
要化解AI带来的风险，将“更糟”扭转为“更好”，不能依赖单一措施，而需要一个由个人与家庭、学校与教师、平台与社会构成的协同治理体系。这三者如同三把钥匙，必须合力使用，才能同时锁定“便利”与“安全”。
第一把钥匙是个人与家庭。面对AI，我们首先要成为学习的主人，坚持“三步学习法”。在行为习惯上，建立“时间与场景公约”，以保护专注力与身心健康。在数据安全上，需秉持最小化原则，谨慎上传人脸、住址等敏感的生物与位置信息，对那些耸人听闻的消息，则要养成多查证的习惯，不做谣言传播的节点。
第二把钥匙是学校与教师。在教学规范方面，应正式将“人机协作”纳入教学流程，明确允许学生利用AI工具辅助构思，但必须同步提交完整的思考过程草稿、多方案对比及最终的订正反思，从而使学习过程可见、可评估。在能力构建方面，则需要开设系统的信息素养课程，讲清真假识别、引用标注与版权边界，让“会用、敢用、善用”成为基本能力。
第三把钥匙是平台与社会。平台方需要清晰标识AI合成内容，完善儿童模式与限时机制，优化推荐算法，从单纯追求用户“停留时间”转向促进内容的多样性、真实性与公益性。全社会亦需共同努力，将“安全、真实、公平、健康”凝练为主流价值，并将其作为衡量技术发展的核心标尺。
三把钥匙合力使用，便利得以保留，诱惑被有效降低，“更糟”就能一步步转成“更好”。
*本文刊登于《科学画报》2025年第12期人工智能专栏，更多相关内容欢迎订阅。
订购2026年《科学画报》
热门跟贴