近几个月来，从人工智能生成的图像中识别真实照片变得越来越困难。人工智能生成器的进步速度如此之快，以至于即使是经验丰富的用户也常常难以分辨他们看到的是真实图像还是某个生成模型生成的图像。因此，谷歌决定向公众开放一款工具，以显著帮助用户检测相似内容。这款工具名为 SynthID Detector，其最大的优势在于它不仅可以识别谷歌人工智能生成的内容，还可以识别一些竞争对手工具生成的内容。那么，这对粉丝来说意味着什么呢？ App尤其令人感兴趣的是，这家加州巨头很快也将跻身受扶持企业之列。
您可能感兴趣
只需上传图片、视频或音频即可
SynthID检测器的工作原理非常简单。用户访问网站 SynthID.com用户登录后上传图片、视频或音频文件，即可检查其是否由人工智能生成。该工具会检查内容中是否存在一种特殊的数字水印，这种水印在内容创建时就已经嵌入其中。与传统水印不同，这种水印肉眼不可见，因此不会对最终的照片或视频造成任何失真。 Pro 然而，该验证系统是可识别的。
谷歌于 2023 年推出了 SynthID 技术，并于去年开始向部分记者和其他专业人士开放该检测器。现在，谷歌正向全球所有用户开放该功能，但目前仅支持英文。除了谷歌工具创建的内容外，它还可以识别来自其他来源媒体的相关水印。 OpenAI例如英伟达或Kakao。在不久的将来，预计还将支持使用人工智能工具创建的内容。 App星期一。
但它并非完美的AI检测器
虽然这项新功能乍看之下非常有趣，但它也存在一个相当大的局限性。SynthID 检测器无法自动识别任何由人工智能生成的图像。它仅适用于包含兼容数字水印的文件。因此，如果有人使用不支持 SynthID 技术的工具创建虚假照片，检测器可能无法检测到。所以，检测结果为阴性并不意味着该图像就是真实的。
另一个局限性在于，该工具无法区分内容是完全由人工智能创建还是仅经过人工智能编辑。例如，如果有人拍摄了一张真实照片，然后使用人工智能工具修改了其中的某些细节，检测器也会发出人工智能使用警告。因此，需要正确解读检测结果。此外，谷歌还要求用户登录，并且根据 Ars Technica 服务器提供的信息，预计每位用户每天大约会被检测十次。
不过，谷歌当时公布的数据很有意思。自推出 SynthID 以来，谷歌表示已为超过 180 亿张图片和视频以及 240 万年的音频录音添加了隐形水印。现在，用户也可以通过谷歌搜索进行内容验证。 Gemini 或者 Chrome 浏览器，每天要进行超过一百万次的检查。
您可能感兴趣
我认为这是朝着正确方向迈出的一步。互联网上充斥着人工智能内容，能够轻松验证可疑照片或视频的来源几乎对每个人都很有用。然而，需要注意的是，SynthID Detector 并非万能的真伪检测器，而只是一种识别特定类型数字签名的工具。即便如此，它仍然可以成为一个非常有用的助手，尤其是在其他主要技术公司逐步加入支持之后。
