李飞飞反对，马斯克支持，加州监管法案即将尘埃落定

机器之心报道

编辑：张倩、小舟

历时半年的SB1047法案投票将于近日迎来大结局。

「这是一个艰难的决定，会让一些人感到不安。但是，综合考虑所有因素，我认为加州或许应该通过SB1047人工智能安全法案。二十多年来，我一直是人工智能监管的倡导者，正如我们对任何对公众存在潜在风险的产品/技术进行监管一样。」刚刚，马斯克发了这样一则推文。

马斯克提到的SB1047全称是「SafeandSecureInnovationforFrontierArtificialIntelligenceAct（《前沿人工智能模型安全创新法案》）」，旨在为高风险的AI模型建立明确的安全标准，以防止其被滥用或引发灾难性后果。

具体来说，该法案旨在从模型层面对人工智能进行监管，适用于在特定计算和成本阈值之上训练的模型。但如果严格按照规定的计算和成本阈值来算，现在市面上所有主流的大型模型都会被认为存在「潜在危险」。而且，法案要求模型背后的开发公司对其模型的下游使用或修改承担法律责任，这被认为会给开源模型的发布带来「寒蝉效应」。

该法案于今年2月份在参议院被提出，随后一直争议不断。很多科学家认为，法案的条款过于不合理，将对科技创新造成毁灭性的影响。前段时间，李飞飞亲自撰文，阐述了法案可能带来的诸多不利影响。加州大学的数十名师生签署了联名信，以反对这一法案（参见《李飞飞亲自撰文，数十名科学家签署联名信，反对加州AI限制法案》）。

在反对声浪如此高涨的当下，马斯克的态度多少有点出人意料。毕竟一旦法案通过，他创建的xAI所训练的Grok系列模型也会被纳入监管范围，而且研发进度也可能受到影响。

与此同时，他的竞争对手OpenAI最近宣布反对该法案，转而支持替代法案。

SB1047将于本周在州立法机关进行投票。如果在8月31日立法会议结束前获得通过，它将被提交给州长GavinNewsom，他将在9月30日之前签署或否决该法案。

OpenAI：人工智能革命才刚刚开始，SB1047将逼走世界级人才

前段时间，OpenAI发布了一封公开信，反对SB1047法案。公开信指出，该法案将损害人工智能行业的创新，而且该问题的监管应该来自联邦政府，而不是各州。

OpenAI首席战略官JasonKwon在信中写道：「人工智能革命才刚刚开始，加州作为人工智能全球领导者的独特地位正在推动该州的经济发展。SB1047将威胁这种增长，减缓创新步伐，并导致世界级的工程师和企业家离开该州，在其他地方寻找更大的机会。」

据一位知情人士透露，由于担心加州监管环境的不确定性，OpenAI暂停了关于扩大其旧金山办事处的对话。

法案起草者、加州参议员ScottWiener在一份声明中为拟议中的立法进行了辩护，并表示OpenAI的信「没有批评法案中的任何一项条款」。他还表示，关于人工智能人才离开该州的论点「毫无意义」，因为该法律将适用于任何在加州开展业务的公司，无论其办公室位于何处。

Anthropic、Hinton、Bengio支持SB1047

其实，在OpenAI发布公开信之前，SB1047已经经过了一番修改，以安抚科技公司，主要修订如下：

据悉，部分修改意见由另一家人工智能科技公司Anthropic提出。最近，该公司公开表示支持修订后的法案，但也并非毫无保留。

「根据我们的评估，新的SB1047已经有了很大的改进，我们认为它的好处可能超过成本，」AnthropicCEODarioAmodei在8月21日给加州州长GavinNewsom的一封信中说。「然而，我们对此并不确定，该法案的某些方面对我们来说似乎令人担忧或模棱两可。」

除了Anthropic和马斯克，SB1047还获得了包括GeoffreyHinton和YoshuaBengio在内的知名人工智能研究人员的支持，他们强调了平衡创新与安全的重要性。Hinton称赞该法案方法合理，强调了需要有针对强大人工智能系统风险的立法。

对于两位好友的看法，和他们一起获得2018年图灵奖的YannLeCun表示完全不同意。他既不相信现在的大模型能达到超人水平，也不认为超级AI必然主宰人类。在他看来，李飞飞反对，马斯克支持，加州监管法案即将尘埃落定现在对AI进行严格监管还为时过早。

支持标记AI生成的内容

虽然反对SB1047，但其实大部分AI研究者、科技公司并非完全反对监管，而是反对SB1047里的监管方法。

例如，在对人工智能生成的内容进行标记方面，加州一项法案最近就取得了新进展。

据TechCrunch报道，OpenAI、Adobe和微软已支持加州一项法案——AB3211，该法案要求科技公司对人工智能生成的内容进行标记。

AB3211法案将于八月进行最终投票。该法案要求人工智能生成的照片、视频和音频剪辑的元数据中包含水印。许多人工智能公司已经这样做了，但大多数人不阅读元数据。AB3211法案还要求Instagram、X等大型在线平台以普通网友可以理解的方式标记人工智能生成的内容。

OpenAI、Adobe和微软是内容来源和真实性联盟（C2PA）的成员。从今年早些时候开始，OpenAI已经向由DALL・E3、ChatGPT和OpenAIAPI创建和编辑的图像中添加了C2PA元数据。

值得注意的是，商业软件联盟BSA（成员包括Adobe、微软等）在4月份曾表示反对AB3211法案，他们在致加州立法者的一封信中称该法案「不可行」且「过于繁重」。然而，该法案的修正案似乎改变了他们的想法。

不过，科研人员对SB1047法案的态度似乎没这么容易转变。特别是，以OpenAI为代表的科技公司一直持反对意见。SB1047法案的最终投票结果可能会在人工智能行业激起一些风浪。

参考链接：

https://techcrunch.com/2024/08/26/elon-musk-unexpectedly-offers-support-for-californias-ai-bill/

https://techcrunch.com/2024/08/26/openai-adobe-microsoft-support-california-bill-requiring-watermarks-on-ai-content/

https://x.com/elonmusk/status/1828205685386936567

https://campustechnology.com/Articles/2024/08/26/Anthropic-Announces-Cautious-Support-for-New-California-AI-Regulation-Legislation.aspx?Page=2