最近，加州州长加文・纽森否决了一项备受争议的AI安全法案，引发了科技界和政界的热议，也为AI监管的未来走向投下了一记重磅炸弹。
这项由民主党州参议员斯科特・维纳提出的法案，原本旨在为迅猛发展的AI技术设立安全guardrails。它要求对开发成本超过1亿美元或需要特定计算能力的先进AI模型进行安全测试，并要求开发者提供"关闭开关"。此外，该法案还计划建立一个州级机构，专门监督"前沿模型"的开发。
图源备注：图片由AI生成，图片授权服务商Midjourney
然而，纽森认为这项法案过于宽泛，没有充分考虑AI系统在高风险环境下的部署情况和敏感数据的使用。他指出，法案对所有大型系统都施加了严格标准，甚至包括一些最基础的功能，这可能会扼杀创新。
纽森的决定得到了科技行业的普遍支持。谷歌、微软、OpenAI和Meta等科技巨头此前都对该法案表示了担忧，认为它可能会将AI公司赶出加州，抑制创新。"进步商会"等行业联盟也对否决表示赞赏，强调加州的科技经济一直在竞争和开放中蓬勃发展。
然而，法案的支持者，包括特斯拉CEO埃隆・马斯克在内，对这一决定表示失望。维纳参议员认为，这个决定让加州变得更不安全，也意味着那些正在创造极其强大技术的公司将不受任何约束。他强调，行业的自愿承诺是无法强制执行的，往往对公众没有好处。
尽管否决了这项法案，纽森并非完全反对AI监管。他表示已经咨询了生成性AI的顶尖专家，以帮助加州制定更切实可行的规范，并强调将继续与立法机关合作推动AI立法。他还签署了一项单独的法案，要求州政府评估生成性AI对加州关键基础设施可能造成的威胁。
这一事件发生在美国国会关于AI监管立法陷入停滞，而拜登政府正在推动相关监管提案的背景下。纽森警告说，如果国会不采取行动，加州独立行动的必要性可能会加大。
AI技术的快速发展带来了前所未有的机遇和挑战。一方面，生成性AI能够根据开放性提示生成文本、照片和视频，展现出巨大的创新潜力;另一方面，它也引发了诸如就业流失、选举干扰，甚至可能导致灾难性后果的担忧。
纽森的决定反映了在AI监管问题上寻求平衡的艰难。如何在保护公众安全和促进技术创新之间找到恰当的平衡点，将是政策制定者面临的一大挑战。
未来，我们可能会看到更多针对specific scenarios和高风险应用的targeted regulations。同时，政府、科技公司和公众之间的对话和合作将变得越来越重要。只有通过多方共同努力，我们才能够在享受AI带来的便利的同时，有效管控其潜在风险。
