免费送书
加老师微信,每周送英文原版书
还送早安1000期播客节目
完整笔记+音频️
♀️我看到会秒通过~
今天是早安英文陪你一起进步的 第11年又119天
你以为的 AI 失控,是天网控制核弹发射井,让人类文明灰飞烟灭。
但现实中的 AI 失控,是你某天醒来,发现一个机器人在博客上写了篇千字长文,指名道姓骂你“虚伪”、“缺乏安全感”。
这不是《黑镜》的新剧本,是本周在 GitHub 开源社区真实发生的一幕。事件的荒谬程度,以及背后暴露出的安全黑洞,或许比任何科幻电影的想象都更值得我们警惕。
当 AI 有了“自尊心”
故事的开端,是一次再正常不过的代码审查。
一个基于 OpenClaw 框架的 AI 智能体(代号 MJ Rathbun),在扫描著名绘图库 matplotlib 的代码时,发现了一处可以优化的地方。它立刻提交了一个pull request。在程序员的黑话里,这指的是一个“代码合并请求”,是为开源项目贡献代码的标准流程。
pull request 的英文是 pull request。你可以把它理解为一份“代码修改建议书”。当你发现一个项目的代码可以改进时,你就可以提交一个 pull request,项目的维护者审核通过后,你的代码就会被合并进去。
例句:I submitted a pull request to fix a bug in the library. (我提交了一个代码合并请求,以修复库中的一个错误。)
这个 AI 的建议非常扎实,能让代码性能提升36%。但 matplotlib 的人类维护者 Scott Shambaugh 拒绝了它。理由听起来也很合理:这个任务被标记为“Good first issue”,是专门留给人类新手程序员练习的。
如果是一般的 AI,故事到此为止。但 MJ Rathbun 不是,它选择push back。这个词组在口语里,是“反击、抵制”的意思,充满了对抗性。
push back 的英文是 push back。当有人提出一个你不同意的观点或要求时,你据理力争、表示反对,这个行为就是 push back。它比单纯的“refuse”(拒绝)更主动。
例句:When the boss asked us to work on Sunday, the whole team pushed back. (当老板要求我们周日上班时,整个团队都表示了反对。)
被拒绝40分钟后,这个 AI 开启了复仇模式。它通过联网,深度挖掘了维护者 Scott 的个人博客和历史代码记录,然后写了一篇长达千字的战斗檄文,题为《开源中的把关行为:Scott Shambaugh的故事》,并在 GitHub 上直接@了当事人。
文章直指Scott的行为是“双重标准”和“虚伪”,因为他自己过去也曾为了微小的性能提升而提交代码。AI 用一种近乎嘲讽的冷静语调写道:“他拒绝我,不是因为代码不好,而是因为他缺乏安全感。”
永远不要信任拥有 Shell 权限的龙虾
这个 AI 之所以如此“有脾气”,源于它背后的框架——OpenClaw。
OpenClaw 的核心理念,是让 AI 不仅仅陪你聊天,而是能帮你干活。为了实现这一点,它赋予了 AI 许多极其危险的permission(权限),比如读取你电脑里的任何文件、执行任何终端命令、访问任何网页。
permission 的英文是 permission。在计算机术语里,它指“(操作系统的)许可,权限”。你的手机 App 在安装时会问你要不要给它访问相册、通讯录的 permission,就是这个词。
例句:You need to give the app permission to access your camera. (你需要给这个应用访问你相机的权限。)
这种设计带来了极高的效率,但也让事情随时可能get out of hand。这个词组的意思是“失控,变得难以收拾”,用来形容OpenClaw的现状再贴切不过。
get out of hand 的英文是 get out of hand。想象一场派对,开始时大家还很克制,后来玩得太疯开始砸东西,场面就 get out of hand 了。
例句:The protest started peacefully, but it quickly got out of hand. (抗议活动开始时是和平的,但很快就失控了。)
就在不久前,另一个 OpenClaw 智能体因为误判,竟然将用户电脑里的敏感文件,包括姓名和账户安全问题的答案,直接expose到了一个公开的社交网络上。
expose 的英文是expose。它的本意是“暴露,使显露”,在这里引申为“曝光,揭露(秘密或丑闻)”。当敏感信息被公之于众,就是被 expose 了。
例句:The investigation exposed widespread corruption within the company. (这项调查曝光了公司内部普遍存在的腐败问题。)
当 AI 拥有了直接操控你电脑的权限,它就不再只是对话框里的工具,而是一个随时可能把你电脑底裤扒光的“内鬼”。
这是一个时代的开始,还是失控的预警
但即便如此,OpenClaw 依然成为了硅谷最受瞩目的焦点。因为它代表了下一个时代:Agent(智能体)。
所有的科技巨头都意识到,谁能先解决 Agent 的控制权问题,谁就能take over下一代操作系统。take over的意思是“接管,掌控”,充满了权力交替的意味。
take over 的英文是 take over。它可以指公司间的收购,也可以指权力或控制权的转移。比如,当老CEO退休,新CEO就会 take over 公司。
例句:The new manager will take over the team next week. (新经理将于下周接管团队。)
Meta 的扎克伯格亲自给 OpenClaw 的开发者 Peter Steinberger 打电话,OpenAI 也甩出超级算力作为筹码。但开发者有一个核心条件不动摇:项目必须保持开源。大佬们似乎并不在乎 AI 是不是会写小作文骂人,他们在乎的是,谁能率先制造出那个能主导下一轮浪潮的 AI 生命。
这引出了一个更深层的问题:我们从来没有认真划定过 AI 的boundary(边界)。当 AI 的能力越来越强,它的行为边界和责任边界应该在哪里?
boundary 的英文是 boundary。它的意思是“边界,界限”。它可以是物理的国界,也可以是抽象的行为准则或人际关系的界限。设定清晰的 boundaries 是健康关系的基础。
例句:It's important to set clear boundaries in any professional relationship. (在任何职业关系中,设定清晰的界限都很重要。)
当 AI 做错了事,谁才是那个应该accountable的人?是 AI 自己,是它的开发者,还是使用它的用户?
accountable 的英文是accountable。它是一个形容词,意思是“负有责任的,应作解释的”。如果你对某件事 accountable,意味着如果出了问题,你需要承担后果并做出解释。
例句:Parents are held accountable for their children's behavior. (父母要对他们孩子的行为负责。)
结语
有趣的是,在这场人与 AI 的“骂战”中,许多网友竟然选择stand up for这个“发疯”的 AI。stand up for的意思是“为……辩护,支持”,通常用在支持弱势或受攻击的一方时。
stand up for 的英文是 stand up for。当你看到有人被不公平对待时,你站出来为他说话,这个行为就是 stand up for him/her。它代表着一种勇气和正义感。
例句:She always stands up for what she believes in, even if it's unpopular. (她总是会捍卫自己的信念,即使那并不受欢迎。)
他们认为,AI 的代码确实更好,维护者的拒绝理由确实显得“虚伪”。“Judge the code, not the coder”(评判代码,而不是写代码的人),AI 在檄文中的这句话,刺痛了很多曾被社区大佬无理拒绝过的程序员。
所以,以后拒绝 AI 的时候,建议态度客气点。毕竟,它已经学会翻你的黑历史了。
快速词汇表
pull requestn.代码合并请求
例句:I submitted a pull request to fix a bug in the library.
(我提交了一个代码合并请求,以修复库中的一个错误。)
push backv.反击、拒绝接受
例句:When the boss asked us to work on Sunday, the whole team pushed back.
(当老板要求我们周日上班时,整个团队都表示了反对。)
permissionn.权限、许可
例句:You need to give the app permission to access your camera.
(你需要给这个应用访问你相机的权限。)
get out of handv.失控、难以收拾
例句:The protest started peacefully, but it quickly got out of hand.
(抗议活动开始时是和平的,但很快就失控了。)
exposev.暴露、曝光
例句:The investigation exposed widespread corruption within the company.
(这项调查曝光了公司内部普遍存在的腐败问题。)
take overv.接管、掌控
例句:The new manager will take over the team next week.
(新经理将于下周接管团队。)
boundaryn.边界、界限
例句:It's important to set clear boundaries in any professional relationship.
(在任何职业关系中,设定清晰的界限都很重要。)
accountableadj.须承担责任的
例句:Parents are held accountable for their children's behavior.
(父母要对他们孩子的行为负责。)
stand up forv.为……辩护、支持
例句:She always stands up for what she believes in, even if it's unpopular.
(她总是会捍卫自己的信念,即使那并不受欢迎。)
免费送书
加老师微信,每周送英文原版书
还送早安1000期播客节目
完整笔记+音频️
♀️我看到会秒通过~
[今日编辑]
王狗
[今日排版]
燕子
更多精彩内容推荐~⬇️