在当今,深度伪造和合成媒体由于生成式人工智能(gen AI)的发展而愈加普遍。为了应对这一挑战,许多组织正在努力完善数字水印技术,以便追踪内容的来源。

尽管目前还没有一个组织完全成功,但 “内容来源和真实性联盟”(C2PA)正在壮大其成员队伍。C2PA 宣布,亚马逊已成为该组织的新一届指导委员会成员。

亚马逊强势加盟C2PA!致力于如何识别 AI 生成的内容真伪!  第1张

C2PA 是一个隶属于 Linux 基金会的开放性技术标准机构,旨在通过制定技术标准来应对网上虚假信息的盛行。该组织由 Adobe 共同创立,负责维护 “内容凭证” 这一方法,旨在提高数字内容的来源透明度。内容凭证能够显示某个内容是如何以及何时生成或修改的。C2PA 希望将内容凭证发展为一个行业标准。

加入 C2PA 后,亚马逊承诺将把内容凭证与其企业 AI 图像生成器 Titan Image Generator 的版本一和二关联起来。亚马逊表示,借内容凭证消费者将能够验证 AI 生成内容的来源真实性。

此外,亚马逊还计划在其 AWS Elemental MediaConvert 服务中添加来源工具,这是一项用于大规模码内容以供广播和多屏幕分发的文件处理服务。这样一来,新闻机构、体育广播公司和内容聚合者等客户在分享视频内容时,能够核实其来源。

AWS 的生成 AI 副总裁 Vasi Philomin 表示,由 Titan 生成的图像默认都含有隐形水印,这将有助于减少虚假信息的传播。他还指出,加入 C2PA 并采纳内容凭证,标志着亚马逊在推动负责任的 AI 创新道路上迈出了重要一步。

不过,C2PA 的成员名单引发了一些数字内容认证组织的关注。今年七月,数字内容认证机构 Numbers Protocol 及其他区块链和 AI 组织共同成立了 “创意起源联盟”,这是一个 “、透明且去中心化的替代方案”,旨在为所有成员提供平等的发言权,并让创作者参与决策。

该联盟的成立是由于 Adobe 的一项服务条款更新,引发了创作社区对大公司的担忧。创意起源联盟希望在隐私和开源技术方面为小型声音发声,将自己定位为 C2PA 的 “巨人”。

划重点:

🌟 亚马逊加入 C2PA,致力于提高 AI 生成内容的来源透明度。

🔍 内容凭证将帮助用户验证数字内容真实性,减少虚假信息传播。

🤝 创意起源联盟成立,旨在为小型创作者提供平等的声音,挑战 C2PA 的影响力。