OpenAI表示它可以检测由自己的软件制作的图像

我们都认为我们非常擅长识别人工智能制作的图像。这是背景中奇怪的外星文字。这些奇怪的错误似乎违反了物理定律。最重要的是，那些可怕的手和手指。然而，技术在不断发展，用不了多久我们就无法分辨什么是真实的，什么是虚假的。行业领导者 OpenAI 正试图通过以下方式解决这个问题：创建检测图像的工具集由其自己的 DALL-E 3 生成器创建。结果好坏参半。

该公司表示，它可以在 98% 的时间内准确检测 DALL-3 生成的图片，这非常棒。不过，也有一些相当大的警告。首先，图像必须由 DALL-E 创建，而且它并不是该块上唯一的图像生成器。互联网上充斥着它们。根据数据由OpenAI提供，该系统仅成功地对其他制作的图像进行了百分之五到百分之十的分类。

此外，如果图像被以任何方式修改，它就会遇到麻烦。对于诸如裁剪、压缩和饱和度变化之类的微小修改来说，这似乎并不是什么大问题。在这些情况下，成功率较低，但仍在可接受的范围内，约为 95% 至 97%。然而，调整色调后，成功率下降至 82%。

现在事情变得非常棘手。该工具集在用于对经历更广泛变化的图像进行分类时遇到困难。 OpenAI 甚至没有公布这些情况下的成功率，只是简单地指出“但是，其他修改可能会降低性能。”

这令人失望，因为今年是选举年，绝大多数人工智能生成的图像将在事后进行修改，以便更好地激怒人们。换句话说，该工具可能会识别出乔·拜登在椭圆形办公室里睡着的图像，周围都是一袋袋白色粉末，但在创作者在哭泣的秃鹰或其他什么东西上加上一堆愤怒的文字和 Photoshop 后就无法识别了。

至少 OpenAI 对其检测技术的局限性是透明的。它还允许外部测试人员访问上述工具来帮助解决这些问题，据报道华尔街日报。该公司与好朋友微软一起，向一个名为“社会复原力基金，希望扩大人工智能教育和素养。

不幸的是，人工智能搞砸选举的想法并不遥远。它现在正在发生。已经有AI 生成的选举广告和不诚实的图像使用这个循环，并且有可能未来还有更多当我们慢慢地、慢慢地、慢慢地(慢慢地)爬向十一月。