Deepfake检测大赛的获胜者仍然有三分之一是错的

Facebook开展的一项竞赛显示，尽管有大量的实践，但计算机很难区分正版视频和Deepfake视频。大约有2114名参与者为此竞赛提交了35,000个Deepfake计算机模型，能够发现假冒产品的平均成功率是70%，最好的是83%。

这些分数是基于使用Facebook为比赛创建的100,000个视频的公共数据集(称为Deepfake Detection Challenge(DFDC))得出的。当使用一组以前从未见过的100,000个视频以及一些额外的技术使它们难以判断时，这些计算机模型所能做到的最好是65%。

人工智能技术已经自动化了许多计算机难以完成的任务，例如转录人类语音，筛选垃圾邮件，在自拍照中添加该过滤器等。但是，人工智能的缺点是一直在使用它来创建可映射的深层视频一个人的声音风格，并在另一个人的视频中显示。这样的东西可以用于宣传和虚假新闻，并且可以在被发现和揭穿之前传播开来。

DFDC于2019年9月由微软，Facebook，亚马逊和牛津大学，麻省理工学院，康沃尔大学和加州大学伯克利分校等大学启动。组织者支付了3500名演员的费用来制作视频，然后对其进行修改以生成100,000个公开视频，供参赛者用来训练其AI模型。挑选了这3500名演员来代表各种性别，种族，年龄，肤色等。

DFDC的结果是巨大的，也是有问题的，尤其是在即将于11月举行的美国大选前夕。专家说，尽管大多数深造的伪造品都不令人信服并且很容易被发现，但是这些深造的影片的存在可能使选民怀疑他们遇到的任何影片的可信度并破坏竞选活动。

提示可以帮助检测深度欺诈吗?

“当研究团体希望以挑战的结果为基础时，我们所有人都应该更广泛地思考，并考虑超越分析图像和视频的解决方案。考虑，出处和其他信号可能是改进Deepfake检测模型的方式，” Facebook研究人员在博客文章中说。

Deepfake的研究仍在进行中，竞赛组织者计划发布原始视频，供该领域的新工作使用。Facebook说：“这将帮助AI研究人员开发新一代的检测方法，以推动该领域的技术发展。”