加州议会推进严厉AI法规 矽谷抗议

美国加州议会正推进一项严厉管制人工智能(AI)技术的法案，强制科技公司必须遵守严格的安全框架，包括向有待成立的新州立机构保证，不会开发具「危害能力」的AI模型；开发者亦须设立一个「紧急停止开关」(kill switch)，可立即关闭强大的AI模型。但该法案引发矽谷大小企业的不满和抗议，担心可能会给AI开发者带来无法承受的责任风险，有人声称它将逼使AI初创企业离开加州。

加州州议会正在考虑对在该州运营的科技公司引入新限制的提案，包括三大AI初创公司OpenAI、Anthropic、Cohere，以及由Meta等科技巨头运营的大型语言模型。该法案已于上月在州议会参议院通过，将于8月在州众议院表决。法案要求加州的AI相关企业，向将于加州科技部内成立的部门「前沿模式部」，披露是否符合AI新规例，并保证他们不会开发具有「危害能力」的AI模型，例如用来制造生化武器、核武器，或协助网络攻击。根据草议的《前沿人工智能（AI）系统安全保障创新法案》，开发者必须报告其安全测试情况，并引入「紧急停止开关」来紧急关闭其模型。如果企业不遵守这些要求，可能会被起诉并面临民事处罚。
忧给开发者无法承受责任

但这项法案已引发矽谷的风险投资者、科企创办人、普通员工反弹，担心法案会给AI开发者带来无法承受的责任，他们无法保证自己的服务不被坏人滥用。有人声称它将逼使AI初创企业离开加州，并阻止Meta等平台操作「开放原始码」（Open Source）模型。该法案可能会逼使一些大型AI公司改变其运营方式。
大型公司或改变运营方式

这项法案由非牟利组织AI安全中心（CAIS）共同发起，得到AI先驱辛顿（Geoffrey Hinton）和本吉奥（Yoshua Bengio）的支持，他们担心AI可能对人类生存造成威胁。提出法案的民主党州参议员维纳说：「我希望AI成功，创新继续，但让我们尝试在任何安全风险之前先行一步。」批评者则指责维纳的法案限制过多，给开发者，尤其是小型AI公司的开发者带来了高昂的合规负担。曾在Google和中国百度公司领导AI项目的著名电脑科学家吴恩达说：「它为科幻风险创造了巨大的责任， 因此，任何敢于创新的人都会感到恐惧。」

其中一项激烈批评，是法案损害「开放原始码」模型的开发者（开发者将原始码提供给公众审查和修改），为他们带来无法承受的负担，难以保证其服务不会被坏人滥用。维纳说，他正计划对法案进行修订，「开放原始码」开发者将不对「经过（他人）大量微调」的模型承担责任。

另一项修正是法案只适用于「训练成本至少为1亿美元」的大型模型，因此不会对大多数小型初创企业产生影响。然而，矽谷的一位资深风险投资人表示，他们已经收到企业创办人询问，是否需要因为潜在的立法而离开加州。