加州立法机构批准一项法案，提议全面限制人工智能

州议会批准了这项名为 SB 1047 的法案，该法案要求大型人工智能公司在向公众发布系统之前对其系统进行安全测试。该法案还赋予州检察长起诉人工智能制造商的权力，以弥补其技术造成的严重伤害，如死亡或财产损失。

州长加文·纽森尚未表明他对这项立法的立场，并面临来自科技行业众多人士的强烈压力，要求否决该法案。拟议的法规已卷入一场关于如何监管人工智能的激烈争论，而根据你问谁，人工智能可能给人类带来巨大的好处，也可能带来巨大的危害。

该法案的共同起草人、民主党参议员斯科特·维纳 (Scott Wiener) 在一份声明中表示：“议会迈出了真正历史性的一步，积极主动地确保一项激动人心的新技术在发展的同时保护公众利益。”

如果该法案获得签署成为法律，该州将成为监管近年来蓬勃发展的人工智能技术的旗手，尤其是随着类人聊天机器人和逼真的图像和视频生成器的推出。尽管欧盟已经制定了《人工智能法案》，但美国尚未通过任何限制使用面部识别软件等风险较高的技术的法律。

州参议院已经通过了该法案，本周将再次投票表决，提出新的修正案，这被视为程序性步骤。纽森先生随后将在 9 月 30 日之前审议该法案，在此期间，科技高管、风险投资家、学者和联邦立法者将展开游说。

纽瑟姆的办公室没有立即回应置评请求。

埃隆·马斯克本周在其社交媒体网站 X 上发帖称，这是一个“艰难的决定”，但“综合考虑”，他支持对人工智能进行监管和该法案，因为该技术可能对公众构成风险。去年，马斯克创立了人工智能公司 xAI，他还是电动汽车制造商特斯拉的首席执行官，该公司利用人工智能实现自动驾驶。

该法案的其他支持者表示，如果没有防护措施，人工智能可能会带来灾难性的后果。它可能会被用来推动生物战，或者通过虚假宣传推翻民主选举和政府。

蒙特利尔大学计算机科学教授 Yoshua Bengio 和因人工智能安全问题离开谷歌的著名人工智能研究员 Geoffrey Hinton 在给纽森的信中写道：“政府现在就如何开发和部署这些强大的人工智能系统所做的选择，可能会对加州当前和未来的几代人以及全世界产生深远的影响。”

跳过‍‍

批评人士已加紧开展活动，向纽瑟姆施压，要求他否决该法案。

包括前众议院议长南希·佩洛西在内的多位国会议员已致信纽瑟姆，警告他该法案可能会损害人工智能的发展。他们表示，这项技术仍处于起步阶段，现在判断人工智能系统如何证明其是否安全还为时过早。

佩洛西女士在上周发表的一封公开信中写道：“我们国会中的许多人认为，SB 1047 法案虽然用意良好，但却是错误的。”

本月，旧金山的维纳先生对该法案进行了几项修改，以安抚Anthropic、OpenAI、Meta 和谷歌等科技行业的批评者。他放弃了成立专门负责人工智能安全的新机构的提议。他还削弱了公司的责任，这样他们只会因实际危害而不是潜在危害而受到惩罚。

反对人工智能法案的人担心，该法案可能会扼杀创新，阻碍初创企业的发展。他们认为，该法案将阻止科技巨头与其他企业和软件开发商共享其人工智能底层软件代码——这种做法被称为开源。

https://www.nytimes.com/2024/08/28/technology/california-ai-safety-bill.html