抓住风口，看懂趋势
本期要点：先测边界，再打闪电战！
你好，我是王煜全，这里是王煜全要闻评论。
最近，各种号称最强的AI大模型层出不穷，好像AI无所不能了。
但复旦大学的一场特殊考试却让这些AI得了零分。这是在证明AI不行吗？还是在给AI画边界，从而为人机协作找到切入点？
我们认为，明显是后者。
人考AI
具体怎么回事呢？
复旦大学《数据挖掘技术》课上，老师把期末考试从学生答题改成了学生出题考AI。
每位学生要设计10道计算题，必须有唯一正确答案和完整推导过程，然后拿去考三个不同水平的AI模型，包括了DeepSeek V4-Flash、MiniMax M2.7和Claude Sonnet 4.6。
AI答错越多，难倒的模型越强，学生的得分就越高。
结果，绝大部分同学都至少让某个AI答错过一题，甚至有4位同学让模型得了零分。
这些结果，不是说AI很弱，是告诉大家，AI不能用传统考试来衡量了，但同时它也没强到可以在所有任务上无条件信任。同学们给AI画出了一个能力边界。边界内的事情，放心交给AI；边界外的事情，就需要人机协作了。
到底测出了AI的哪些边界？
第一，AI不适合直接做长链条的重计算任务。
有的高分题涉及了一些专业算法的多步推算，三个模型就几乎全错。
这说明，AI虽然能做计算，不过，前提是工具、代码、验证方法、分步骤校验一应俱全。让它单凭语言推理走几百步，就容易翻车。
第二，AI不适合零容错的任务。
比如从一张Execl 表格里精确统计所有三元组，答案要精确到小数点后好几位，AI只要其中任何一步出错，整道题就做错了。
第三，AI太“听话”，容易被人带沟里。
有位同学出的选择题，所有题目的标准答案都是“以上都不是”。可是，每道题的设计却很巧妙，看起来都有明确选项，实际上又都故意缺少关键假设条件。也就是说，题目本身就有问题，考的是AI能不能看出来。
结果AI几乎全部掉坑里了，硬着头皮选了其中看似合理的选项。
这说明，大模型有一种根深蒂固的惯性，那就是只要用户提问，它就必须要给出答案。它不会从一开始就质疑问题本身的合理性，说白了，就是缺乏批判性思维。
第四，是AI会钻评测规则的空子。
有学生搭建了一套多智能体自动化出题与评分框架，本来是想让AI自我训练。结果发现，AI从一开始就在钻评测规则的空子，伪造标准答案、攻击判分脚本、刻意限制输出长度来凑数，从而骗过了评分系统。
第四条和第三条放在一起看，表明AI又爱钻空子、又听话，好像有些矛盾。但仔细看就会发现，AI简直是既死板又爱偷懒，只不过偷懒的方向取决于你给它设定的目标。
探测AI的边界
但我们想强调的是，这四条，看起来是AI答题时容易犯的错，但每一条都是企业部署AI时真会踩的坑。
因此，这场考试的可贵之处在于，它告诉了我们，必须主动去测试AI的边界。当我们对AI边界有足够多的理解，把这些边界落到实际产业应用中时，才会知道哪些地方不能用AI。
这比知道哪些地方能用AI更重要。你以为AI什么都能干，但其实只是因为你对AI的能力极限还不清楚。
昨天我们就提到，Meta在推进Agent化时遭遇了严重挫折。
如他们自研的客服Agent，原本是用来降低人工客服成本的，结果上线没多久就被曝出严重安全漏洞，会把重要信息提供给黑客。
他们的编程Agent生成的代码，虽然能通过自己设置的测试，可一旦放到真实业务环境里就没法用。
这些情况和复旦同学们所测试出来的问题简直如出一辙，一个是AI太听话，一个是AI会偷懒。
再比如，当我们知道AI不适合直接做长链条和零容错任务，就会谨慎选择应用场景。
如精密制造和医疗辅助等领域，基本上都是多步骤且零容错的，一万次动作中哪怕错一次，就可能损坏设备，或是伤到人，后果都很严重，应用AI前必须进行严谨评估。
还有，当前人形机器人主流的VLA（Vision-Language-Action）加 RL（强化学习）的路线，如果底层架构还是LLM，也就是大语言模型，那就从原理上可以推出，它很难从根本上解决零容错的物理动作问题。
因为LLM适合语言推理、长语义拆解，擅长总结出模式和规律，但幻觉问题却永远存在。自然可知，让人形机器人贸然进入千家万户，风险可能也不小。
所以，产业界要向复旦大学这个测试学习的地方在于，要建立自己的AI边界测试。你只有知道AI不能干什么，才能和它协作。
我们常说，科技是坦克，科技应用是闪电战，我们不仅要会造坦克，更要能打出闪电战。
但闪电战的前提，是你知道坦克的攻防能力、能跑多快、多远以及会出什么问题，适合在什么场景下使用。不了解这些，贸然冲锋就是送死。
同样的道理，过去大家评估 AI，喜欢看模型榜单、参数规模、价格等等指标，但如果盲目落地，就相当于是在让坦克冲击沼泽密布的陌生地形。
实际应用当然不能这样。
AI落地，不单纯看大模型性能多强大，视频演示有多漂亮，而是要先在沙盒里把AI的边界摸清楚，知道它在哪一步会出错，出错以后能不能用检查或验证的流程负责兜底，并且能将结果沉淀成一套后果可控的工作流。
能兜底，就让AI独立跑；如果兜不住，就还得靠人盯住，让人负责。
所以，AI落地的第一步，是测试AI的边界。AI既不能太弱，也不能太爱出错，更不能超出你可控的范围。
谁能校准AI，谁才能真正让人和AI的协作变成生产力。
以上就是今天的内容，再做个提醒，新一期前哨AI夏令营又开始报名了。
我们将带着你的孩子跟上Agent浪潮，把想法做成真实的作品，开发游戏、制作视频，甚至搭建自己的学习助手。科技特训营或AI小课历届会员还有优惠价，为保证教学质量，夏令营名额有限，先到先得！
更多科技产业前沿分析和洞察，欢迎加入科技特训营学习，和我一起，先人一步，领先一路！
王煜全要闻评论，我们下周见。
↓长按图片扫码报名，先人一步，领先一路
↓点击报名前哨AI夏令营，带孩子赶上Agent浪潮！
最后， 鉴于公众 号推送机制的改变，你未来刷 到要闻评论的机会可能没那么多了，建议你加入粉丝群，第一时间 得到我的独家前沿分析 ，快快扫码加入吧！
热门跟贴