如何判断一张照片是否是 AI 生成的照片
如何判断一张照片是否是 AI 生成的照片
人工智能驱动的图像生成系统使假照片变得如此难以检测，以至于我们需要人工智能来捕捉它们。
你看过的照片表达的事情可能并非事实，美国前总统唐纳德特朗普上周并没有被捕，教皇也没有穿一件时尚、亮丽的白羽绒服。 这些照片是人工智能系统的成果，轩辕传奇礼包人工智能根据如何做好一个管理者用户的文本提示创建图像。这些程序已经发展得非常快非常好——并且现在足以让不知情的观察者上当受骗。
那么持怀疑态度的观众如何才能发现可能由 DALL-E、Midjourney 或 Stable Diffusion 等人工智能系统生成的图像呢？每个AI图像生成器在其可信度以及可能泄露其算法的迹象方面各不相同。 例如，人工智能系统在历史上一直在努力模仿人手，并产生了带有太多手指的残缺不全的附属物。 然而，随着技术的进步，Midjourney V5 等系统似乎已经解决了这个问题——至少在某些例子中是这样。 总体而言，专家表示不是不可能，但也很难将来自最佳生成器的最佳图像与真实图像区分开来。
“就AI 图像生成器的能力而言，这非常惊人，”宾夕法尼亚州立大学研究媒体技术心理影响的研究员 S. Shyam Sundar 说： “在过去一年左右的时间里，图像生成能力有了巨大飞跃。”
Sundar指出，这种能力飞跃背后的一些因素包括可用于训练此类AI系统的图像数量不断增加，以及数据处理基础设施和界面的进步，使普通互联网用户可以使用该技术。结果是人工生成的图像无处不在，并且“几乎无法检测出来”他说。
前期工程费最近的一项实验强调了人工智能的欺骗能力。英国兰开斯特大学专注于数字技术的心理学家索菲·南丁格尔 (Sophie Nightingale) 与人合著除夕七大禁忌了一项研究，测试在线志愿者是否能够区分由名为 StyleGAN2 的人工智能系统创建的类似护照的头像和真实图像。结果令人沮丧，即使在2021年底研究人员进行实验时也是如此。“平均而言，人们的表现几乎都是偶然的”，南丁格尔说。 “基本上，我们正处于这样一个地步，它是如此逼真，以至于人们无法可靠地感知这些合成面孔与实际、真实面孔之间的区别。” 尽管人类为AI提供了一些帮助（研究人员对 StyleGAN2 生成的图像进行分类，只选择最逼真的图像），但Nightingale表示，希望将此类程序用于邪恶目的的人也可能会这样做。
在第二次测试中，研究人员试图帮助测试对象提高他们的AI检测能力。他们在参与者回答后标记每个答案的正确或错误，他们还让参与者阅读检测人工生成图像的建议，从而提前做好准备。该建议强调了AI算法经常出错并创建不匹配耳环的领域，例如，或者将一个人的牙齿弄混在一起。Nightingale还指出，算法通常难以创建比普通背景更复杂的东西。但即使增加了这些功能，参与者的准确度也只提高了大约 10%，她说——而且生成试验中使用的图像的人工智能系统已经升级到一个新的改进版本。
禁止驶入标志具有讽刺意味的是，随着图像生成技术的不断改进，人类免于被人工智能系统愚弄的最佳防御可能是另一个人工智能系统：一个经过训练可以检测人造图像的系统。专家表示，随着 AI 图像生成技术的进步，算法比人类更能检测机器人创造的一些微小的像素级指纹。
威斯康星大学麦迪逊分校的计算机科学家Yong Jae Lee表示，创建这些AI侦探程序的工作方式与任何其他机器学习任务的工作方式相同。“你收集一组真实图像，你还收集一组人工智能生成的图像”，李说。 “然后你可以训练一个机器学习模型来区分这两者。”
自我工作评价Lee和其他专家表示，这些系统仍然存在重大缺陷。大多数此类算法都是根据来自特定AI 生成器的图像进行训练的，无法识别由不同算法生成的假货。（Lee 说他和一个研究团队
正在研究一种方法，通过训练检测器来识别是什么使图像真实，从而避免这个问题。）大多数检测器也缺乏用户友好的界面，这些界面吸引了很多人尝试生成人工智能系统。
此外，AI检测器将始终努力跟上AI图像生成器的步伐，其中一些图像生成器包含类似的检测算法，但将它们用作学习如何降低其虚假输出的检测方式。南加州大学计算机科学研究副教授Wael AbdAlmageed 表示：“生成图像的AI系统与检测AI生成图像的AI系统之间的竞争将是一场军备竞赛。” “我认为短期内不会有任何一方获胜。”
AbdAlmageed表示，没有任何方法能够捕捉到每一张人工制作的图像——但这并不意味着我们应该放弃。他建议社交媒体平台需要开始在他们的网站上对抗人工智能生成的内容，因为这些公司比个人用户更有能力实施检测算法。
用户需要更加怀疑地评估视觉信息，在分享之前询问它是虚假的、人工智能生成的还是有害的。“作为人类，我们从小就认为眼见为实，”AbdAlmageed 说，“那不是真的了，眼见不为实。”

版权声明：本站内容均来自互联网，仅供演示用，请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198，我们将在24小时内删除。