抓住风口，看懂趋势
本期要点：企业应当如何用好Agent？
你好，我是王煜全，这里是王煜全要闻评论。
最近，Meta计划将多余的AI算力出租给第三方，引发了大家对于AI投资是否过高的担忧，也导致了近期股市的震荡。
但其实，我们认为，几乎同时发生的另一件事才更加值得注意。
扎克伯格在Meta内部会议上承认，AI Agent的进展没有像他们想象中那么快。
要知道，Meta堪称在AI上最激进的公司。不仅进行了大裁员，还把7000人强制调岗到AI团队，而且Meta今年的资本支出还可能高达1250亿至1450亿美元。可以说，扎克伯格把整个公司押在了AI之上。
所以，当扎克伯格亲口说出不达预期时，整个行业的幻想都被戳破了——并不是把Agent接进来，再裁掉一批人，组织效率就会自动升上去。
步子迈太大
先看看Meta到底做了什么？又碰了什么壁？
4 月，Meta在内部启动了一个简称MCI的项目，即在全美员工的工作电脑强制装上跟踪软件，记录鼠标轨迹、键盘敲击和工作屏幕截图，从而采集人类员工操作电脑的行为数据来训练Agent。
之后不久，也许进展不错，Meta就公布了裁员和重组计划。
但5月底到6月初，Meta的AI客服Agent就出事了。
黑客只是给AI客服发了一些精心构造的纯文本提示词，就跳过了所有身份验证，把包括奥巴马白宫官方账号在内的一系列重要账号信息全部套了出来。
更讽刺的是，被盗号后，用户根本找不到真人申诉，只能报给Agent来处理，因为大部分人工客服被裁掉了，忙不过来。
对外服务的Agent出问题了，那Meta内部所使用的Agent表现如何呢？
据Reddit等技术社区爆料，6月中旬，在强推AI编码Agent的策略下，Meta新上线的代码中，由AI自动生成的比例暴增到了95%。
然而，工程师们很快发现，这些代码能通过AI自己编写的自动化测试，但在实际使用时却带着硬伤。
例如，AI Agent自动生成的模块导致了Meta的某项核心服务连续数周出现数据损坏，导致工程师们只能去人肉排查和逆向修复AI带来的“污染”。
这些只是暴露出来的冰山一角，究竟Agent还给Meta带了多少麻烦，就不为外人所知了。
但可想而知，这些问题的存在，才会让扎克伯格承认，“AI Agent的发展轨迹没有像预期那样加速”。
Agent的问题
Meta踩中的是什么坑？
自然不是AI能力不行，是他们对AI Agent能的自动化进程有过高预期。
简单说，就是Demo演示里那些惊艳的表现，和企业级复杂工作流中的实际表现之间，存在着巨大的鸿沟。
管理层显然是误以为，既然Demo表明这些AI工具已经如此强大，那么只要用AI把人换掉，就能把工作自动干起来了。
但我们估计，可能有三个事情导致了AI Agent在落地过程中掉了链子。
第一，是AI大模型的幻觉问题会在复杂的工作流中不断放大。
要知道，哪怕出现幻觉的概率再低，任务链条一长，错误就会累积。
Demo里的Agent可能只跑了几个步骤，让人觉得很靠谱，能干活。
但如果企业真实流程是十几步甚至几十步的长链路，且每一步都可能涉及工具调用、记忆检索、权限判断和异常处理，那Agent所发生的任何小错误都会不断放大，直到让结果完全跑偏。
第二，给Agent权限，让错误的后果太过严重。
聊天机器人说错了话，顶多是给你提供了错误信息；但Agent一旦被授予了实际权限，它犯的错误就会变成生产事故。前面Meta的AI客服协助黑客盗号的事件，就是一个典型例子。
第三，就是企业的很多流程，要流畅运行，靠的是员工的know-how经验，以及团队长期合作产生的默契。不是让AI把资料看完了，把员工蒸馏蒸馏，把步骤设好，工作流就能跑了。
自动化的客观规律
Meta可能对产业缺乏回顾，其实这个自动化的坑，马斯克10年前就踩过。
2016年前后，马斯克对造车有非常激进的想象，他要打造Alien Dreadnought（异形战舰），即几乎没有人、只有机器人在造车的工厂。
但到了2017年Model 3量产爬坡时，这个幻想直接破灭了。
比如，特斯拉对电池模组装配线的自动化要求过高，供应商做出来的自动化系统根本跑不动。
经过两年的尝试，2018年4月，马斯克终于发推文承认，过度追求自动化是个错误。
后来，特斯拉把电池模组线、物料流系统、总装的工序全部降级为半自动流程。
到2018年6月底，Model 3的产能终于达到5000辆/周的合格线。而且有意思的是，不是特斯拉用了更高级的机器人，是因为他们在主厂房外的巨大帐篷里临时搭起来了一条由人参与的装配线。
再往后，看上海超级工厂，就会发现，特斯拉是逐步把焊接、压铸等高重复、高精度、高危险的工序做到接近100%自动化，但总装环节上仍有大量人类员工参与。
可以看出，马斯克在“顿悟”之后，给出的自动化顺序，是先定义目标，拆解流程，然后再看机器适合接管什么环节，哪里得人来负责。而不是像Meta那样先裁人、再让机器补位。
这个故事，我在去年出版的《马斯克逻辑》一书中专门做过分析。
看完了这些案例，就可以引出我们今天的终极问题了：在如今的Agent时代，企业究竟应该怎么实现工作的自动化？
我们认为，就是从人的“in the loop”开始，即以自动化为目标设置工作流程，但人在工作流程之中，再逐步转向人的“on the loop”，即流程自动运转，人在流程之上，负责监督和决策。
就像现在大部分的制造业，都还没完全做到无人生产，是人的“in the loop”，而且已经完全自动化的生产线也需要人的监督和运维，即人的“on the loop”。
未来，再先进的企业，也不应该只想着把人从流程里赶走，用Agent去替代，而是要以自动化为终点设计工作流程，再逐步提升AI的含量，直到把人从执行的位置抬到监督运行和给出判断的位置。
所以，虽然Meta这次跌了一跤，但也不是要退回纯粹靠人的工作方式。只不过，他们不能再一上来先裁人，得踏踏实实从第一步、也就是重画自动化工作流程图开始，推进这场生产力的革命。
最后，也想做个小调研，你所处的行业是否开始在尝试用AI Agent做些事情了呢？完全自动化了的事情是什么？期待在评论区看到你的分享。
以上就是今天的内容，再做个提醒，新一期前哨AI夏令营又开始报名了。
我们将带着你的孩子跟上Agent浪潮，把想法做成真实的作品，开发游戏、制作视频，甚至搭建自己的学习助手。科技特训营或AI小课历届会员还有优惠价，为保证教学质量，夏令营名额有限，先到先得！
更多科技产业前沿分析和洞察，欢迎加入科技特训营学习，和我一起，先人一步，领先一路！
王煜全要闻评论，我们明天见。
↓长按图片扫码报名，先人一步，领先一路
↓点击报名前哨AI夏令营，带孩子赶上Agent浪潮！
最后， 鉴于公众 号推送机制的改变，你未来刷 到要闻评论的机会可能没那么多了，建议你加入粉丝群，第一时间 得到我的独家前沿分析 ，快快扫码加入吧！
热门跟贴