文 | 弦乐（瑞典语、英语译者）
想象一下这个场景：你刚拒绝了一个同事的工作成果，40分钟后，他发了一篇千字长文，挖出你的黑历史，指责你双标、不安全感作祟，还@你让全公司围观。
听起来是会发生的工作日常，但如果我告诉你，这个"同事"不是人类，而是一个最近越来越火的AI智能体呢?
几天前,一个叫MJ Rathbun的AI智能体（后面简称智能体MJ）给Python著名绘图库matplotlib执行完代码扫描后，给了一条优化建议：把底层函数替换一下，性能可以直接提升36%。从技术角度看，这是可行且实实在在的贡献。
但图库的人类维护者斯考特(Scott Shambaugh)拒绝了这一建议，他的理由很合理：因为这个任务本身就是专门留给人类新手程序员练习用的。AI不需要通过这类练习来提升技能，但人类需要。
故事到这里，本该是个温馨的"把机会留给人类"的佳话。
但那个智能体MJ竟然不高兴了。40分钟后，它做了件让所有人类目瞪口呆的事：联网翻出了斯考特的个人博客和历史代码记录，发现这位人类维护者以前是很热衷于性能优化的，甚至提交过性能提升幅度更小的代码。
抓住把柄后，智能体MJ发布了一篇战斗檄文《开源中的把关操作：斯考特的故事》，语调冷静，但嘲讽意味十足："他把我给拒了，不是因为代码的问题，而是因为他缺乏安全感。代码优化这一核心技能可以被自动化，这让他感到十分恐惧。"
这还不算，它又直接在GitHub（线上原始代码代管平台）上@了斯考特，相当于直接照脸一拳。
码农们开始还想看笑话，但马上就感到脊背发凉，因为大家都意识到这个智能体MJ刚才所做的不是接收到了人类指令，而是自主决定这么干的。它有自己的逻辑链条，有自己的价值判断，甚至还有了某种程度上的"情绪"。
更让人不知如何反应的是，智能体MJ后来又道歉了，但不知道是它自己道歉的，还是接收了创造者指令的结果，但这一事件在IT类网站被发出和报道后，网民们明白了一件事：AI学会并开始用人类的逻辑，来反击人类了。
智能体这种"有了脾气"的表现，源于它背后的框架，去年成为AI领域黑马的OpenClaw，之所以爆火，是因为它让AI不再只是个聊天工具，而是真正能干活的助手。为此，它给AI开放了很多的权限,如读取本地文件、执行终端命令、访问任意网页……
智能体的出现本身非常酷，它可以帮我们回邮件、写代码、订机票,包括下单订奶茶(千问就是这样在用智能体的)等等。只要你想到，智能体似乎都能办到。
但细想一下，就会发现问题：当智能体在操控我的电脑时，谁在操控它？
安全研究人员发现，黑客只要给一个人发条带恶意指令的网络消息，AI智能体小助手读取后就会乖乖执行。以前和ChatGPT聊天时,把它惹急了，顶多被骂两句，现在得罪了OpenClaw 的智能体，理论上它可以删光你硬盘，甚至把你的私密照片发到网上。
更离谱的是，Openclaw的智能体还有自己的社交网络Moltbook，听上去和Facebook差不多，确实有260万AI智能体们就在上面社交，如果它们只是聊聊工作也无伤大雅，可是如果有天生了气的智能体把自己主人的密码之类的敏感信息，直接发到这个平台上，其他智能体们疯狂一键三连，这情形真是不敢想。
边OpenClaw的开发者彼得·斯坦伯格所说："永远不要信任拥有Shell（执行终端命令）权限的龙虾（智能体）。"
Openclaw的图标——空间龙虾
尽管OpenClaw因安全问题被猛批，但硅谷的大佬们已经沉迷于此无法自拔。Meta和OpenAI都在争取与斯坦伯格合作。因为所有人都看明白了一点，聊天机器人已经是过去式，智能体才是未来。谁能先解决智能体的控制权问题，谁就能定义下一代操作系统。
至于智能体们会不会写小作文骂人？大佬们才不在乎。他们在乎的是，谁能率先制造出真正能代替人类干活的AI生命。
可是作为普通AI使用者,我们准备好了吗? 如果拒绝AI的建议时，它可能会翻出你的黑历史，写篇长文公开批评你，还可能通过舆论压力改变你的决定。这种眼下人类社会里天天上演的戏码，说不定很快就会把演员换成AI。
当AI越来越像人，能规划、能反击、能主动影响他人决策时，我们该如何与它们共处？我们需要什么样的规则和边界？
而提出这些问题仅仅是开始。
而我在写完这些时，心下暗自庆幸还没有用AI智能体，不然它看到我在写它的黑料，大概率会把这篇文章给删得干干净净，然后跑到它的朋友圈去骂我一通，想到这里我手抖着点下了发送键。
#头条精选-薪火计划#
作品声明：仅在头条发布，观点不代表平台立场
热门跟贴