自从人工智能爆炸以来，深度伪造图像也大幅增加，其中一个人的肖像被交换或使用机器学习算法操纵。深度伪造就像数字领域的变色龙，将现实与虚构融合在一起，无缝展示人工智能实力。然而，你会很高兴地知道，与这些极具说服力的伪造品的斗争远未失败。促进创建深度伪造的同一人工智能 （AI） 正在加倍进行深度伪造检测以暴露它们，特别是通过使用 AI 图像检测系统。
随着OpenAI新ChatGPT-4 Vision技术的推出，该技术现已集成到聊天机器人中，使其能够分析上传的图像。它是否有能力检测缺陷，帮助您在AI生成的水中的真实情况之间做出选择？
Deepfake 技术采用机器学习算法，尤其是深度学习技术，来操纵或生成图像、音频和视频内容。结果往往非常真实，以至于很难区分原始和修改。风险很高——想象一下，公众人物正在做或说他们从未做过的事情，或者你认识的人以数字方式插入到妥协的情境中。
ChatGPT 可以检测到深度伪造吗？
如果您有兴趣了解有关 ChatGPT 的深度伪造识别功能的更多信息，将很高兴知道 All About AI 创建了一个快速演示，测试其正确检测使用 AI 工具创建的深度伪造图像的能力。
，如果您想知道 AI 如何创建和检测深度伪造，让我们深入了解机制。这一领域的人工智能研究是多方面的，跨越计算机视觉，计算机视觉是计算机科学的一个分支，专注于训练机器解释视觉信息，以及人文学科，其中考虑了这些技术的社会和伦理影响。
检测深度伪造
要了解人工智能系统如何检测深度伪造，必须掌握深度伪造创建的障碍：
- 概括：高质量的深度伪造需要数小时的目标镜头进行训练。目标是最大限度地减少训练时间和数据，同时仍保持高输出质量。
- 配对训练：传统的监督模型需要配对数据，这意味着一个示例输入及其所需的输出。这使得培训过程变得复杂且资源密集。
- 身份泄露：通常，控制重演的演员身份可能会“泄漏”到生成的人脸中，从而导致不一致。
- 遮挡：当面部的某些部分（例如嘴巴或眼睛）被遮挡时，伪像可能会扭曲最终输出。
- 时间连贯性：在视频中，保持一致的帧流而不闪烁或抖动对于真实感至关重要。
人工智能研究人员目前正在通过各种技术来应对这些挑战，从图像分割到时间一致性调整。
揭露深度伪造的反机制
那么，人工智能如何被用来揭露和揭露这些复杂的数字深度伪造图像和视频呢？以下是研究人员目前正在探索的几个领域，以帮助遏制这一趋势。然而，随着人工智能技术变得越来越好，创建深度伪造图像的过程也越来越好。
- 纹理分析：深度伪造通常难以准确复制人体皮肤和其他特征的微小纹理。先进的人工智能检测系统可以发现这些不一致之处。
- 帧到帧的一致性： 深度伪造可能在单个帧中表现出色，但在一系列帧的表达式平滑过渡方面却步履蹒跚。AI检测算法可以识别这些故障。
- 生理信号：信不信由你，人工智能可以捕捉到人类行为的自然细微差别，比如眨眼的速度或微妙的呼吸模式，而深度伪造往往无法令人信服地复制这些。
- 视听差异：有时音频与深度伪造中的视频不完全同步。AI 检测工具可以标记这些不匹配。
- 元数据分析：虽然不是直接的基于人工智能的方法，但检查图像或视频的元数据有时可以揭示文件是否经过了重大操作，从而作为一种补充检测技术。
道德和社会考虑
关于深度伪造的讨论并没有随着人工智能检测而结束，因为技术界也关注道德考虑，包括使用肖像的个人的同意以及可能滥用错误信息。因此，随着人工智能的不断发展，它创造和揭露深度伪造的能力也将随之发展，使我们永远处于数字猫捉老鼠的状态。但就目前而言，请放心，用于创建深度伪造的相同工具正在被武器化以揭示它们，从而阐明了人工智能的潜力和陷阱之间的细微界限。
