加州出台新法，AI 深伪与演员克隆将被严格监管

在最近的一次签署仪式上，加州州长加文・纽森（Gavin Newsom）宣布了一系列针对人工智能(AI)行业的新法律，这些法律在全国范围内都是相对严格的。这次新规共包括五项内容，其中三项专门针对可能影响选举的 AI 深伪技术，另外两项则涉及好莱坞演员的声音和形象克隆。

图源备注：图片由AI生成，图片授权服务商Midjourney

新法 AB2655要求大型在线平台，如 Facebook 和 X，必须对与选举相关的 AI 深伪内容进行删除或标记，同时还要提供举报渠道。这意味着，如果这些平台不遵守法律，候选人和公职人员可以寻求法律救济，确保平台的合规性。

接下来，新法2355要求披露 AI 生成的政治广告。这条法规的出台，或许会让一些候选人在发布 AI 深伪内容时更为谨慎。

比如，特朗普今后可能不能随意在社交媒体上发布 Taylor Swift 为其代言的虚假视频，毕竟她实际上支持的是哈里斯。而在国家层面，联邦通讯委员会（FCC）也已经提议类似的披露要求，并且已经将使用 AI 生成声音的机器人电话定为违法。

最后的两条新法，AB2602和 AB1836，是在演员工会 SAG-AFTRA 的推动下通过的。新法 AB2602规定，制作公司在生成演员的 AI 声音或形象之前，必须先获得演员的同意。同时，AB1836则禁止在没有遗产同意的情况下，制作已故演员的数字复制品。这一规定旨在保护已故演员的权益，防止其形象被随意使用。

除了这几项新法，加州州长纽森目前还在考虑其他几项与 AI 相关的法案，其中最引人注目的便是 SB1047。

该法案引发了一些争议，反对者认为其可能对开源社区产生负面影响。在与 Salesforce 首席执行官马克・贝尼奥夫（Mark Benioff）进行对话时，纽森似乎对此表达了担忧。目前他还有两周的时间来决定是否签署或否决该法案。