谷歌DeepMind首席执行官德米斯·哈萨比斯于周二在X平台发文，呼吁建立一个新的监管机构，专门负责监督前沿AI模型的发布。这篇题为《前沿AI框架与新时代的曙光》的文章，主张参照金融业监管局（FINRA）的模式，成立一个"标准机构"，负责测试前沿AI模型并制定发布最佳实践规范。
文章写道："初期阶段，前沿实验室将在模型发布前最多30天，自愿将模型提交给标准机构进行审查。一旦评估协议被证明切实有效，正式化进程将随之跟进，届时前沿模型须通过审查方可在美国市场部署。各实验室还将与标准机构合作，共同应对发布后出现的关键安全漏洞。"
这一拟议体系将在美国政府此前对Anthropic的Mythos和OpenAI的Sol所进行的临时审查基础上加以完善。上述两次审查因技术专业性不足、模型发布决策过程不透明等问题而饱受批评。按照哈萨比斯的设想，相关职能将移交给一个新的独立机构——该机构将获得美国政府背书，但由AI行业提供资金，并独立运营。
AI监管问题目前仍具争议，在科技行业和特朗普政府层面均未形成共识。白宫AI顾问、知名风投机构a16z普通合伙人斯里拉姆·克里希南近期明确表示，行政部门内不会设立AI监管机构，"不会有针对AI的FDA"。
将标准机构定位为类似FINRA的自律组织，或许能为上述顾虑提供一条出路。哈萨比斯设想该机构由来自行业内部的开源领域代表和技术专家组成，所需资金由各AI实验室共同承担，以确保机构能够吸引并留住专业人才。该机构甚至可以将部分评估工作外包给日益壮大的AI安全研究群体，使其能够专注于特定类型的风险评估。
哈萨比斯强调："这一方案的优势在于，它将以技术为核心导向，同时兼顾创新支持与负责任行为的激励机制。它的设计目标是紧跟这一领域的加速发展节奏，随时应对已识别的最大风险，并可在形势需要时进一步强化监管力度。"
Q&A
Q1：哈萨比斯提议的AI标准机构与FINRA有什么关系？
A：哈萨比斯建议参照FINRA（金融业监管局）的模式建立AI标准机构。FINRA是金融行业的自律监管组织，由行业出资、独立运营。哈萨比斯认为，AI标准机构也可以采用类似结构——获得美国政府背书，由AI实验室提供资金，独立于政府之外运营，从而在技术监管与行业创新之间取得平衡。
Q2：这个AI标准机构会如何审查前沿模型？
A：按照哈萨比斯的设想，初期阶段前沿AI实验室将在模型发布前最多30天，自愿提交模型供标准机构审查。审查协议成熟后，将推进正式化，届时前沿模型须通过审查才能在美国市场部署。此外，各实验室还需与机构合作，共同处理模型发布后出现的关键安全漏洞。部分评估工作也可能外包给专业的AI安全研究机构。
Q3：特朗普政府对AI监管机构持什么态度？
A：特朗普政府整体上对设立AI监管机构持保留态度。白宫AI顾问、a16z普通合伙人斯里拉姆·克里希南明确表示，行政部门内部"不会有针对AI的FDA"，即不会在政府层面专门设立AI监管机构。正因如此，哈萨比斯将标准机构定位为行业自律组织，以期绕开政府直接介入的争议。
热门跟贴