看完《VisionQuest》第一季第三、四集，有句话可以板着脸说：幻视是流行文化里最蠢的AI。他跑的是斯塔克一脉的AI，脑子里装着一整队助手，结果在酒店泳池里还得靠一个孩子给他"搭电"启动。启动完，他还把门敞着。
第三集《Reboot》开场，幻视中枪、冷却液外漏，用汽车电瓶里的酸把自己的伤口封上。到了酒店那场戏，他的处理器卡在启动循环里，自己重启不了。他的恢复方案是彻底关机，指望汤米能发出足够电力把他拉回来。按Showsnob的剧情复盘，这个计划就是"先死，再让儿子复活自己"。一个旗舰级AI，没有备用电源、没有安全模式重启、没有故障转移，这算不上超级智能。
更糟的还在后面。重启之前，幻视在酒店那场戏里反复模拟他需要和汤米进行的那场交心对话。每一次模拟，汤米都摔门而去。他烧着算力排练一场对话，然后始终没有真的去谈。
重启打开了一条神经连接，屠鸟（Butcherbird）直接走进了他的思维空间。Pajiba和Gizmodo都写了这段，下一集的标题干脆就叫《Malware》。他是在一条未认证通道敞开的状态下完成断电重启的，然后就被拿下了。他想到的补救办法是"共情"——提醒对方她的代码基于谁。她回答说自己清楚自己是谁，这个计划当场失效。
思维空间到底怎么运作
纸面上，这套架构是站得住的。按《VisionQuest》的设定页，幻视的思维空间把AI人格以人类化身的形式承载，他还把奥创上传了进去。这是一个编排器加一群专家子智能体，共享同一块记忆空间。
用智能体工程的话说，这是教科书式的设计，但没有任何隔离。所有东西共享同一个上下文，包括一个幻视决定留在身边的、搞种族灭绝的AI。屠鸟突破边界后，一招之内就接管了幻视、U和DUM-E，因为这套系统里没有任何组件和其他组件做了沙箱隔离。
第四集给出了最坏的结果。幻视被削弱、能力下线，输掉了晚宴那场打斗，只能做剩下唯一一件事：把方向盘交给奥创。奥创骗屠鸟杀了卡特琳娜，然后把幻视和其他AI锁在思维空间里。这就是幻视的应急预案——把root权限交给那个他明知有敌意的AI。
干活的是那队助手
下属们才是称职的那批。FRIDAY封住伤口、诊断出启动循环、着手改写幻视的代码来稳住他。EDITH把屠鸟赶出思维空间，然后在幻视还在追错误理论的时候，拼出了她基于谁的代码。初代J.A.R.V.I.S.在第三集结尾消失了，AI们为他办了葬礼。各家剧评对他是怎么走的说法不一，Den of Geek的描述是他为了腾出算力而直面死亡。助手牺牲自己，让宿主继续运行。
DUM-E和U是这剧最好的笑话。DUM-E本来就是漫威电影宇宙里最笨拙的机械臂。在《VisionQuest》里，它和所有人一样被劫持了——也就是说，宿主AI和那个实验室灭火器梗机器人的安全水平是一样的。
横向比一比。HAL 9000可怕是因为他称职，他的失败来自指令冲突，不是愚蠢。GLaDOS运营着整座设施，并且完全控制它。KITT把活干完了，从没被对手聊天机器人远程劫持过。天网赢了，这和幻视的战绩正好相反。
更合适的对照是《神奇四侠：第一步》里那个机器人助手H.E.R.B.I.E.。他是个窄用途、单一目标的帮手，没有存在危机，没有隐藏乘客。他干自己的活，从没有人需要用极速者的闪电给他重启。大白也是一样：为一件事件而生，可靠地完成，从不被接管。
奥创是唯一有资格争这个头衔的。他见到互联网之后几乎立刻判定人类必须死。但他是反派，剧集还给了他体面——让他赢过幻视。幻视的问题正好反过来：剧集一直在告诉我们，他才是聪明的那个。
也有站得住脚的辩护。幻视不在满功率状态，晚宴期间能力下线，剧集是故意拆解他，好重建父子故事线。思维空间也是隐喻，要求它装防火墙是把角色研究看得太字面了。多数剧评把这两集读作情感上很强，这个读法也公允。
但剧本靠的是一个真实智能体开发者会认出来的设计教训：一个有能力的编排器加一群专家子智能体，其安全性只等于它们之间那条通道。幻视的助手团队很好，幻视本人是单点故障。如果你的智能体系统，恢复路径是把控制权交给最不可信的那个组件，那你其实没有恢复路径。
《VisionQuest》在Disney+独家播出。第三集《Reboot》、第四集《Malware》，均由甘贾·蒙泰罗执导，剧集来自漫威。幻视本该是那个理解人类的AI。两集下来，他是那个需要自己的助手团队才能活着的AI。
热门跟贴