一位曾在Anthropic任职的研究员，把一句警告带到了纽约市议会面前：人类可能会失去对AI的控制。

这位研究员名叫Jacob Coxon。他告知纽约市议员这一判断，并将出席该市关于AI"kill switches"（紧急关停机制）的听证会作证。

打开网易新闻 查看精彩图片

一边是警告，一边是法案

与这场听证会同步推进的，是一项正在准备中的法案：在纽约市本地销售的每个AI模型，都必须先通过外部验证。

没有通过验证就销售或部署，代价是明确的——每次罚款2.5万美元。

把这两件事放在一起看，逻辑并不复杂：一边有人在提醒失控风险，一边有人在给"能不能卖"设一道外部关卡。

至于这道关卡具体怎么验、由谁来验、听证会上会听到什么，目前都还没有更多信息。