Facebook到禁止DeepFake视频

Facebook是删除和禁止使用人工智能（AI）创建或操纵的DeepFake视频，在其先前的问题上逆转。

社会媒体平台政策的变化由其全球政策管理副总裁Monica Bickert，博客帖子宣布。

“在全球范围内，我们一直在推动与50多名全球专家的对话，具有技术，政策，媒体，法律，公民和学术背景，以告知我们的政策制定和改善检测操纵媒体的科学，”她说。

“由于这些伙伴关系和讨论，我们正在加强我们对被确定为Deepfakes的操纵视频的政策。前进，如果符合以下标准，我们将删除误导式操纵介质：

“已经编辑或综合 - 除了对清晰度或质量的调整 - 以普通人来说并不明显，并且可能会误导有人认为视频的主题是他们实际上没有说的话语。”或者：

“这是人工智能或机器学习的产品，将内容替换为视频，使其似乎是真实的。”

但是，新策略包含一些漏洞。值得注意的是，它不会扩展到覆盖“是模仿或讽刺的内容，或者仅仅省略或改变单词的次数”。

javvad malik，安全意识倡导者，他说他不相信Facebook的新政策将实现任何东西。“除了模仿和讽刺被排除可能意味着大多数人都可以争辩说任何被标记的视频只是打算讽刺，”他说。

“在不使用深伪技术的情况下可以操纵视频，”马利克说。“将不同镜头的反应拼接在一起，改变音频，甚至视频的速度，可以大大改变原始视频的消息。”

似乎暗示使用传统编辑技术制作的大量假目视频 - 包括由2019年大选领先的保守派传播的劳动力的keir Starmer的adoctored视频，并使我们发言者南希鹈鹕的镜头仅仅通过放慢减速电影 - 仍然是允许的。

Facebook非常拒绝删除佩洛西的视频，即使在突出的共和党人分发之后，虽然它确实采取措施降级剪辑在新闻源中的可见性并附上第三方实况检查的链接。

当时，一个Facebook发言人表示，该平台正在努力努力在鼓励自由表达和促进安全和真实的社区之间的良好平衡“。

虽然没有真正广泛的超越创造的例子，但要证明他们可以被创造出来，但Deepfakes被视为一种可行的和新兴的安全威胁，以及弯曲在线误导的人的潜在破坏性武器 - 或者在企业背景下进行目标网络钓鱼攻击。

许多评论员预计2020年的Deepfake内容中的激增，因为美国的齿轮很可能是本次历史上最受欢迎和陷入困境的总统选举之一。

DeepFake视频使用两个AI系统制作 - 被称为发电机和鉴别者 - 基本上彼此冲突。在实践中，这被称为生成的对抗性网络（GaN）。

生成器创建一个视频剪辑，即鉴别器AI必须识别真实或假。如果鉴别器准确，则发电机会学会有关如何在未来创建视频剪辑的重要信息。

从理论上讲，随着AIS彼此学习，DeepFake内容的质量将改善人类观察者可能无法准确地确定真实的点，而不是。