就在全球AI三大巨头罕见联手呼吁“放缓AI研发”的同一个周末，Anthropic CEO Dario Amodei坐到了CBS的镜头前，说出了AI可能对人类带来的风险。9月13日，Amodei接受专访，主持人直接抛出问题：AI真的可能在不远的将来杀死我们所有人吗？
Amodei表示，已有人尝试利用AI研发生物武器、增强病毒传染性，这是他每天醒来都要面对的事情。“就在两天前，我们发布了一份报告，内容是关于有人滥用AI模型来研发生物武器。我每天早上醒来都会读到这类威胁报告，有人试图用我们的模型来研发生物武器。我当然不想为此负责。”
他还提到，Anthropic的生物学安全防护之严格，以至于“几乎每天都有人在社交媒体上嘲笑我，生物学专业的学生抱怨说模型没法用”。他的回应是：“我宁愿被嘲笑，也不愿某天醒来发现有人用Claude杀了一群人。”
不过，他反对关闭AI模型这种“一刀切”的方式放缓AI。如果一个AI模型足够强大，它可能关都关不掉。他说道，“不是说我们今天需要恐慌，也不是说要把一切都关掉。但我们需要确保我们的安全防护、理解能力和控制能力，能够跟上技术发展的速度。”
Amodei在访谈中用指数曲线来描述当前的位置：“这项技术在指数级增长，1、2、4、8、16、32，我们现在处于曲线开始变陡的那个弯道上。”他坦言，即便是他自己，也没有完全预料到进展会如此之快：“即使我一直在对自己说这件事，我也没有真正体会到，当进展真的这么快的时候，实际感受会是什么样的。”
第一步是嵌入式第三方评估员。“我提议引入嵌入式外部评估员，来自第三方非营利机构，或者未来某天来自政府机构，他们可以观察我们训练和运行模型的全过程。”他将其比作食品检查员。当主持人追问技术变化如此之快，食品检查员能跟得上吗？Amodei的回答颇具意味：“他们能做的事情之一，就是告诉我们他们能跟上的速度。这可能成为设定技术推进速度上限的因素之一。”
第二步是多家公司共同制定安全标准。“各公司需要共同制定发布安全标准，也许还包括发布节奏的标准。但要做到这一点，必须有政府参与进来。”第三步是政府必须在场。“我们谈论的是产品发布速度是否安全的问题。我们需要在政府在场的情况下进行这场对话。”
对于“AI终止开关”这一概念，Amodei持审慎态度。“能够停用、限制或关闭AI模型的想法，不是唯一的解决方案。如果一个AI模型足够强大，它可以规避关闭尝试，我们在模拟中也见过这种情况。所以它可能根本不起作用。”他用“瑞士奶酪模型”来解释他的安全哲学：“没有任何一件事能保护我们免受AI风险，我们必须在整个链条上都保持谨慎。”
对于参议员提出的“禁止人工超级智能法案”，Amodei明确表示不认同完全禁止的路线：“完全禁止不是正确的方向。我们永远无法获得那些难以置信的好处，永远无法获得医疗突破，这让我无法接受。”
访谈时，主持人问：面对人类命运可能处于危险之中的局面，你感受到多少个人责任？Amodei的回答罕见地带有私人色彩。
“我父亲死于丙型肝炎，那种病在他去世时大约有40%的治愈率，他不是被治愈的那一个。就在他去世后几年，一种能将治愈率提升至95%的药物被发明出来了。我自己也曾患早期癌症，如果我生活在1950年，我可能已经死了。所以我深切感受到推动这项技术带来好处的重量。”
他同时强调，这不应该只是他一个人或Anthropic一家公司的责任：“这比我们所有人都要大。我们需要找到一种方式，让每个人都能在这件事上有发言权。我不希望人们感到无力。我不希望他们觉得几家公司只是在为所欲为。”
对于前员工批评Anthropic和OpenAI“都没有负责任地行事”，Amodei回应称，这位前员工也说过，他认为Anthropic是主要参与者中最负责任的。他真正指出的，和我正在指出的是同一件事：我们所有人都身处的这种结构性困境。
主持人最后问：对于坐在家里使用Claude或ChatGPT的普通用户，你想说什么？Amodei说：“首先，这是一项伟大的技术，有很多积极用途。我们每周有数亿人在使用我们的技术做美好的事情。但我不会对你撒谎。确实存在真实的危险。我认为这个行业对人们撒谎太久了，一直把这项技术呈现得尽可能正面。我们从来没有这样做，但行业里太多公司这样做了。所以，从说真话开始。真相是：风险是真实的。”
他最后说：“这是人类历史上最重要的技术事件之一，我们所有人都必须参与其中。”
你觉得Amodei这番警告，是真心担忧还是公关话术？AI风险离普通人到底有多远？评论区聊聊你的判断，顺手点个赞转发出去，让更多人看到造AI的人正在怕什么。
热门跟贴