连深度伪造专家都不再相信自己的眼睛

当专家也无法相信自己的眼睛

想象一下，你花费数年时间训练自己识别AI生成面孔中的细微缺陷——略微错误的光线、模糊的耳朵、看起来不太真实的牙齿。现在想象一下，你不得不承认这些训练都已不够用了。这正是一位深度伪造检测专家告诉WBUR的：他不再相信自己的眼睛。

这不是一个人失去信心的故事，而是关于合成媒体技术已经到达何处的信号——以及对于训练远不如他的我们意味着什么。

多年来，标准建议是仔细观察：检查发际线、注意不自然的眨眼、观察脸部边缘。当深度伪造有明显接缝时，这个建议是合理的。而如今，它越来越不可靠。

这位专家的承认为何如此重要：

人类审阅者倾向于捕捉旧一代的伪造痕迹：

但现代模型已基本解决了这些问题。人类现在难以捕捉的包括：整个视频帧的微纹理一致性、肉眼不可见的像素噪声统计规律等。

由于仅凭人眼检查已不再足够，结构化方法比以往任何时候都更重要。在分享或依据任何媒体采取行动之前，请使用以下决策树：

第1步 — 来源核查

这个媒体来自哪里？发布账号是否经过验证，并与之前的行为一致？

第2步 — 交叉核实

是否有独立媒体对此进行了报道？真正有新闻价值的事件几乎总是在数小时内就有多个独立来源。

第3步 — 情境情感核查

这个媒体是否旨在让你感到紧迫、愤怒或恐惧？情感强度是旨在快速传播的合成媒体的常见特征。

第4步 — 技术信号核查

通过生成概率风险信号的工具运行该媒体。DeepFakeCheck 分析图像、视频、音频和文本的深度伪造风险指标。请记住，自动检测器——包括此工具——可能产生误报和漏报。风险评分是信号，不是判决。

第5步 — 决策

适用于任何重要媒体的实用清单：

DeepFakeCheck 为图像、视频、音频和文本提供深度伪造风险检测。初次使用无需注册，包含有限的免费使用额度。

WBUR引用的专家描述的不是个人失败，而是一个技术转折点。当训练最为深入的人说问题已超出人类感知能力时，这是一个集体问题，需要集体解决方案：更好的工具、更好的媒体素养教育、平台级别的标注。

我们的眼睛——无论多么敏锐——已不再是可靠的最终检验手段。

来源