区分真实照片和人工智能生成的图像变得越来越困难。因此，Meta公司推出了一款新的网络工具，可以识别图像是否使用其最新的人工智能技术创建或编辑过。该系统使用一种不可见的数字水印，该公司表示，即使经过裁剪、压缩、调整大小或创建新图像，该水印也能保留下来。 screenshotu.
隐藏水印，用于显示图像来源
这项新技术名为“内容印章”（Content Seal），Meta 正在将其应用于使用新型 Muse Image 生成模型创建的内容。与 Meta AI 工具的某些旧版本不同，生成的图像上不会出现任何可见的徽标或其他标记来表明其人工来源。
相反，人工智能生成的信息通过一个不可见的数字水印直接隐藏在图像中。用户可以将文件上传到该公司新推出的基于网络的工具，查看内容认证系统是否能够识别该水印。
Meta 表示，该技术旨在即使在正常图像编辑后也能保留水印，因此即使有人裁剪、压缩、更改分辨率或创建原始文件的新版本，检测功能也应该有效。 screenshot.
该工具利用元人工智能识别创建和编辑操作。
据该公司称，检测结果为阳性表示该图像是使用 Meta AI 应用或 meta.ai 网络服务创建或编辑的。反之，检测结果为阴性则表示该文件很可能未使用这些服务进行处理。
初步实际测试表明，该系统既能识别完全生成的图像，也能识别仅使用人工智能编辑过的照片。该检测甚至适用于…… screenshot原始创建的内容，这在将图像进一步分享到社交网络的情况下尤其重要。
然而，这项新功能存在一个相当明显的局限性。目前，该检测工具无法普遍判断图像是否由人工智能生成。它只能识别新版 Muse Image 模型所使用的内容印章。
因此，如果用户上传的图片是使用其他生成器甚至旧版 Meta AI 生成的，该工具可能无法检测到其来源。在测试中，它也无法识别一些在旧版 Meta AI 对话中生成的图片。所以，这并非一个通用的 AI 检测器，而主要用于验证特定内容是否来自 Meta 的最新工具。
该公司目前还在研发一种名为 Muse Video 的全新生成模型。该模型将利用人工智能技术创建和编辑视频，据 Meta 公司称，未来将会推出。内容认证也将逐步扩展到此类内容。未来，这款新的检测工具不仅可以验证图像的来源，还可以验证使用该公司人工智能系统创建或编辑的视频的来源。
技术与竞争标准不兼容
另一个限制是内容印章与一些用于标记 AI 内容的其他技术不兼容，例如 SynthID 或 C2PA 内容凭证标准。
Meta 目前使用自己的解决方案，该方案主要在其生态系统内运行，这可能会使创建一个通用系统变得复杂，而该系统本可以轻松验证内容的来源，无论内容是由哪个公司或 AI 模型创建的。
令人惊讶的是，这项新功能目前尚未直接集成到 Meta AI 应用中。如果用户尝试询问助手某张图片是否由人工智能生成，该应用可能无法提供明确的答案。目前，这项检测功能需要通过一个独立的网页工具才能实现。Meta 尚未宣布何时以及是否将图片检测功能直接集成到其应用中。
这款新工具还有一个相当出人意料的功能。Meta 会限制用户每天可以执行的检查次数。上传多张图片后，可能会出现警告，提示已达到每日限额。
目前尚不清楚该公司为何限制验证次数，也不清楚单个用户的具体限制是多少。鉴于该工具旨在验证内容的真实性，如果使用频率较高，这种限制可能会非常令人恼火。
Meta回应了对人工智能内容标注的批评
该公司过去曾因其平台上人工智能生成内容的标签标注方式而受到批评。Meta的监事会今年警告称，他们认为该公司在对其人工智能内容使用数字水印方面不够一致。
内容认证和新的检测工具或许是对人工智能生成的逼真内容日益增多的一种应对措施。随着生成模型的不断改进，普通用户将越来越难以分辨他们看到的是真实照片还是计算机生成的图像。
这项新技术目前当然还不是解决此问题的万能方案，但它指明了科技公司未来几年可以发展的方向。他们不再仅仅试图根据外观来识别人工智能内容，而是可以将关于其来源的不可见信息存储在创建的文件中，以便日后进行验证。
