千万人围观「烧焦婴儿」图片,伯克利教授辟谣:AI图片检测器无用

2023-10-16 14:59  今日头条

AI图像生成技术近年来得到了快速发展,其生成的图片逼真程度已经让许多人难以分辨真伪。然而,这也给我们带来了一系列问题:

如何判断一张图片是否是由AI生成的?AI图像检测工具的可靠性如何?本文将带你一起探讨这些问题。最近,

一张被称为「烧焦婴儿」的照片在网络上引起了轩然大波。这张照片被人们怀疑是由AI生成的,于是使用AI图片检测器进行了验证。然而,令人惊讶的是,

不同的检测结果居然相互矛盾,既有AI也有人类。这引发了人们对于AI图像检测工具的质疑。UCBerkeley的Hany Farid教授表示,

AI图像生成器生成的图片往往有着高度结构化的形状和直线特征。如果一张图片中的形状和直线看起来非常完美,那么几乎可以确定这张图片不是由AI生成的。

这与他在一篇论文中提到的理论相符。他通过对几个AI图像检测工具进行测试,发现它们都认为这张照片不是AI生成的。然而,AI图像生成技术不断进化,

越来越难以辨别。以前被认为是人类无法完成的任务,如投射阴影、平行线会聚等,现在AI也可以完成。这使得AI图像检测工具变得越来越不靠谱。针对这一问题,

Optic推出了一个名为「AIorNot」的工具,用于判断一张图片是否是由AI生成的。这个工具可以检测人眼无法察觉的伪影,如亮度和颜色的变化。

据该公司表示,该工具的准确率可以达到95%。然而,随着AI图像生成技术的不断发展,「AIorNot」的准确率已经下降到了88.9%。除了Optic,

还有许多其他公司也提供了类似的AI图像检测工具,如SensityAI、Fictitious.AI、Originality.AI等。

它们使用不同的算法和方法来判断图片的真实性。然而,随着AI图像生成技术的不断演进,这些工具的可靠性仍然存在一定的风险。

面对AI图像生成的快速发展和越来越难以辨别的图片,我们应该如何保护自己免受虚假信息的影响?首先,我们应该增强对于真实和虚假图片的鉴别能力。

了解AI图像生成技术的局限性,对于不符合常规规律的图片要保持警惕。其次,我们可以借助AI图像检测工具来辅助判断。尽管这些工具并非完美,

但它们仍然可以提供一定的参考。AI图像生成技术的发展是一个双刃剑。它为我们带来了便利和乐趣,同时也引发了一系列风险和问题。我们需要不断探索和改进,

才能更好地应对这一挑战。让我们理性地讨论并寻找解决方案,以确保AI技术的发展能够为人类带来更多的福祉。人工智能对于生成逼真的图像已经取得了巨大的进展,

但是在这个过程中,也出现了一些问题。最近,一张教皇穿着白色羽绒服的照片在网络上引起了轩然大波。根据人工智能的分析,这张照片有87%的概率是由人类创作的。

然而,仔细观察这张照片,就会发现一些明显的痕迹,表明它其实是由人工智能生成的。首先,我们可以看到照片中教皇的手试图抓住一个不太像咖啡杯的东西,

旁边还有污迹。这个细节区域显示出明显的模糊和不完整。其次,教皇佩戴的十字架并不是直角形状,上面还刻着一个像是用黏土雕刻的耶稣。最后,

眼镜与脸部的阴影也不一致。这些细节都表明这张照片是由人工智能生成的。为了解决这个问题,

一家名为Hive的人工智能公司开发了一款免费的AI生成的内容检测器。他们在数百万张图像上进行了训练,预计可以准确检测到大约95%的AI生成的图像。

与其他图像识别工具相比,这个AI检测器在识别共享图像方面表现更好。然而,仅仅依靠这些检测工具是不够的。我们需要在模型训练阶段设定好一些限制,

以确保人工智能图像生成器不会滥用。一些人工智能图像生成器已经限制了一些内容的生成,比如知名公众人物的图像。此外,

数字水印也是增强生成式人工智能安全性的重要手段之一。微软、谷歌等科技巨头已经在产品中使用数字水印来确保图像的来源和真实性。

数字水印可以嵌入到图像的像素中,人眼无法察觉,但可以通过特定的算法进行检测和识别。这样一来,我们就可以轻松地判断一张图像是否是由人工智能生成的。

此外,还有一种新的技术叫做SynthID,它使用了深度学习模型来进行水印和识别。这两个模型可以一起训练,以提高水印的隐蔽性和识别的准确性。然而,

尽管出现了这些技术和工具,我们仍然需要保持警惕。在人工智能模型不断迭代发展的同时,我们很难保持对假图像的识别能力。因此,我们需要更多的研究和创新,

以确保人工智能在图像生成方面的安全性和可靠性。