继此前有消息称，《前沿人工智能模型安全创新法案》（SB 1047法案）已在加利福尼亚州的州议会通过，该州州长Gavin Newsom将在9月30日前决定签署或否决该法案后。近日有消息显示，Gavin Newsom否决了这一法案。据悉，SB 1047法案此前曾被认为是美国最全面的人工智能安全管理政策之一。
在相关报道中显示，Gavin Newsom称SB 1047法案是“善意的”，但他在一份声明中表示，该法案将“对最基本的功能实施严格的标准”，但监管应该基于“经验证据和科学”。
据了解，SB 1047法案旨在为训练成本超过1亿美元，或者达到一定算力的开发者制定安全标准，确保人工智能大模型的安全开发。该法案要求大型前沿人工智能模型的开发者采取预防措施，例如部署前测试、模拟黑客攻击、安装网络安全保障，以及为举报人提供保护等。这些措施是为了确保开发者的技术不会造成“严重伤害”，比如大规模人员伤亡或5亿美元以上的财产损失。
此外，SB 1047法案还赋予州检察长在开发者不遵守规定时提起诉讼的权力，特别是在出现持续威胁的情况下，例如人工智能接管电网等系统时。这一法案还要求开发者聘请第三方审计师来评估他们产品的安全性，并为举报人工智能滥用行为的举报人提供额外保护。
有相关消息显示，在过去的几个月里，SB 1047法案遭到了许多相关公司和风险投资者的强烈反对。例如OpenAI首席战略官Jason Kwon就曾在一封反对SB 1047法案的信中写道，“人工智能革命才刚刚开始，加利福尼亚州作为全球人工智能领导者的独特地位正在推动该州的经济活力，SB 1047法案将威胁到这种增长，减缓创新的步伐，并导致该州世界级的工程师和企业家离开到其他地方寻找更大的机会”。
有知情人士透露，在Gavin Newsom决定拒绝SB 1047法案，是因为其只适用于规模大、昂贵的人工智能模型，其他小规模模型则不受监管。但规模，成本较小的人工智能模型可能同样存在问题，因此他更希望有一个涵盖所有模式的监管框架。
上述知情人士还表示，Gavin Newsom希望明年通过与人工智能研究人员和其他专家的合作制定新的法案，从而以更全面的方式解决否决SB 1047法案所带来的担忧，即人工智能以其设计者虽然无意，但最终造成经济或其他损害。
值得注意的是，上月中旬Gavin Newsom已签署多项与人工智能监管相关的法案，其中有3项是关于管控人工智能生成的Deepfake（深度伪造）或其他欺骗性内容，另外2项则是关于保护公众人物的数字肖像权。
【本文图片来自网络】
热门跟贴