最后时刻，美国AI监管“里程碑”法案被否决了

tayun

①美国人工智能（AI）监管“里程碑”在最后一刻被美国加利福尼亚州州长纽森（Gavin Newsom）否决了；

②“SB 1047法案”，全称“前沿人工智能模型安全创新法案”。该法案是首批要求AI开发人员对其技术造成的任何严重损害负责的法案之一。

据报道，美国人工智能（AI）监管“里程碑”，在最后一刻被美国加利福尼亚州州长纽森（Gavin Newsom）否决了。这项名为SB 1047的法案此前被认为是美国最全面的AI安全管理政策之一。

“SB 1047法案”，全称“前沿人工智能模型安全创新法案”。该法案是首批要求AI开发人员对其技术造成的任何严重损害负责的法案之一。该法案于今年2月被提交给加州议会，引起很大争议。8月19日，加州立法机构公布了法案修订版。

纽森称这项立法是“善意的”，但他在一份声明中表示，它将“对最基本的功能实施严格的标准”。他说，监管应该基于“经验证据和科学”，并指出他自己签署的关于人工智能的行政命令和监管该技术的其他法案，这些法案围绕已知风险（如深度造假）对技术进行监管。

提出该法案的加州民主党参议员Scott Wiener称，纽森的否决“对所有相信监管大企业的人来说都是一个挫折”。他在X上发帖称，“结果大家都不那么安全了。”

何为SB 1047？
SB 1047法案旨在为训练成本超过1亿美金或者达到一定算力的开发者制定安全标准，确保人工智能大模型的安全开发。该法案要求大型前沿人工智能模型的开发者采取预防措施，例如部署前测试、模拟黑客攻击、安装网络安全保障，以及为举报人提供保护等。

这是为了确保他们的技术不会造成“严重伤害”，比如大规模人员伤亡或5亿美金以上的财产损失。另外，在该州运营的人工智能App开发商还需要概述在人工智能模型出现问题时关闭它们的方法，这实际上是一个“强行终止开关”。

此外，该法案还赋予州检察长在开发商不遵守规定时提起诉讼的权力，特别是在出现持续威胁的情况下，例如人工智能接管电网等政府系统；该法案还要求开发商聘请第三方审计师来评估他们的安全实践，并为举报人工智能滥用行为的举报人提供额外保护。

争议频频
在过去的几个月里，该法案遭到了许多主要科技领袖、初创企业和风险投资家的强烈反对。他们表示，这代表着政府对一项仍处于起步阶段的技术的过度关注，可能会扼杀该州的科技创新，并将人工智能企业赶出该州。

“人工智能革命才刚刚开始，加州作为全球人工智能领导者的独特地位正在推动该州的经济活力，”OpenAI首席战略官Jason Kwon上个月在一封反对该立法的信中写道：“SB 1047法案将威胁到这种增长，减缓创新的步伐，并导致加州世界级的工程师和企业家离开加州，到其他地方寻找更大的机会。”

OpenAI认为这样的政策应该在联邦而不是州一级实施。纽森最近则表示，他担心该法案可能会对人工智能发展产生“寒蝉效应”。

包括前众议院议长南希·佩 洛西（Nancy Pelosi）、美国众议员Ro Khanna、旧金山市长London Breed等政界人士也对该法案表示反对，这与科技行业的担忧相呼应，即该法案可能会阻碍加州在人工智能创新方面的领导地位。

但该法案也赢得了人工智能领域一些主要企业的支撑。例如，埃隆·马斯克出人意料地表达了他的支撑，尽管他说这是一个“艰难的决定，会让一些人感到不安”。

参议员Wiener则针对批评人士为该法案进行了辩护，强调其条款仅适用于成本超过1亿美金的大型模型训练企业，这将豁免大多数较小的初创企业。

这位议员还表示，虽然他会支撑联邦立法，但国会在监管科技方面一直行动迟缓，在缺乏国家行动的情况下，他认为加州有责任发挥领导作用。

来源：36kr