随着真实的人工智能生成的照片和视频在网上激增，科技公司和监管机构正在竞相开发识别虚假内容的工具。
对计算机生成的图像进行水印处理是一种常见的解决方案，它以隐藏元数据的形式添加了一个不可见的标志，有助于揭示图像是使用生成人工智能工具创建的。但研究人员发现，这种水印有一个主要缺陷：对抗性技术可以很容易地去除它。
现在，主要的相机制造商正在提出一种不同的方法——在某种程度上恰恰相反：在“真实”照片中嵌入水印。
尼康、索尼和佳能最近宣布了一项联合倡议，将数字签名纳入直接从其高端无反光镜相机拍摄的图像中。据日经亚洲报道，这些签名将集成日期、时间、GPS位置和摄影师详细信息等关键元数据，以加密方式证明每张照片的数字来源。
尼康表示，它将在即将推出的专业无反光镜相机系列中推出这一功能；索尼将发布固件更新，在其目前的无反光镜相机中插入数字签名；佳能计划在2024年推出内置认证的相机，并在当年晚些时候推出视频水印。
据日经报道，其目标是为摄影记者、媒体专业人士和艺术家提供无可辩驳的证据，证明他们的图像的可信度。防篡改签名不会随着编辑而消失，应该有助于打击网上错误信息和欺诈使用照片的行为。
为了支持这一点，两家公司合作制定了一个名为“验证”的可互操作数字签名开放标准。一旦到位，使用适当硬件拍摄的照片将能够免费在线检查，这样人们就可以确定照片是否真实。
如果人工智能生成的照片试图在没有真实签名的情况下通过验证系统，则会被标记为“无内容凭据”
该计划没有追溯性地标记人工智能内容，而是直接在原始位置验证真实照片。但与任何其他水印系统一样，它的成功将取决于广泛采用（更多的硬件制造商加入了该标准）和经得起时间考验的实现（代码不断发展以保持不可破解）。
据Decrypt报道，最近的研究表明，反水印技术也可能损害嵌入的签名，使当前的水印方法变得无用。然而，这只会使带水印的图像不带水印，因此人们检测其人工性的工具较少。
虽然反水印技术可能会从真实照片中删除真实性签名，但这比从人工智能生成的假图像中删除水印问题更小。为什么？如果从人工智能deepfake中去除水印，则可以更容易地将伪造的内容视为真实内容。然而，如果验证签名是从真实照片中截取的，那么剩余的图像仍然由相机捕获——它不是来自生成模型。尽管它失去了加密证明，但底层内容仍然是真实的。
这种情况下的主要风险与属性和权限管理有关，而不是内容的真实性。这张照片可能被误认或在没有适当许可的情况下使用，但它并不会固有地误导观众对其所代表的现实的认识
OpenAI最近宣布了一款人工智能驱动的深度伪造检测器，声称其对图像的准确率为99%。然而，人工智能检测器仍然不完善，并面临着不断升级，以超越生成技术的发展。
最近深度伪造技术的激增确实让人们关注到了这种策略的必要性。正如我们在2023年看到的那样，区分真实内容和捏造内容的需求从未像现在这样迫切。政客和科技开发商都在争先恐后地寻找可行的解决方案，因此这些公司的一点帮助肯定会受到赞赏。
由Ryan Ozawa编辑。
微信里点“发现”，扫一下二维码便可将本篇文章分享至朋友圈