行业新闻与博客

Facebook 已宣布计划禁止 Deepfake 视频。

该公司全球政策管理副总裁 Monika Bickert 在博客中承认，“尽管这些视频在互联网上仍然很少见，但随着视频使用量的增加，它们对我们的行业和社会构成了重大挑战。”

Bickert 表示，“误导性受控媒体”如果已被编辑或合成（超出了清晰度或质量的调整范围），将以普通人不熟悉的方式被删除，并且可能会误导某人以为该视频的主题说出了他们实际上没有说过的话。如果视频是 AI 或机器学习的产品，并且它们将内容合并，替换或叠加到视频上，则它们也会被删除，从而使视频看起来是真实的。

比克特说：“这项政策并不适用于模仿或讽刺的内容，或仅为了省略或更改单词顺序而被编辑的视频。” “这种方法对我们的策略至关重要，我们在与专家的对话中特别听到了这种方法。

“如果我们仅删除事实检查人员标记为虚假的所有操纵视频，这些视频仍将在互联网或社交媒体生态系统中的其他位置提供。通过将其保留并标记为假，我们为人们提供了重要的信息和上下文。”

ESET 网络安全专家杰克·摩尔（Jake Moore）表示，发现深度虚假的难度越来越大，需要 AI 来帮助检测它们。假冒名人或有权势的人的视频可能极具操纵性，在某些情况下会造成极大的破坏性影响。Facebook 大胆宣称要禁止在平台上发布所有此类虚假视频，因为用于识别它们的软件仍处于不成熟阶段，需要更多的研究才能有效。 

“大多数视频在登陆社交媒体之前都经过了某种方式的修改，因此存在潜在的假阳性问题，甚至使许多真正的假冒产品流经网络。我们不仅需要更好的软件来识别这些数字控制的视频，而且还需要使人们意识到我们正在迈向一个我们不总是相信我们所看到的东西的时代。”

Facebook 参与了 Deepfake 检测，去年发起了 Deep Deep Fake Detection Challenge，并与路透社合作，通过免费的在线培训课程帮助媒体识别 Deepfake 和操纵媒体。 

本文由机器译制：https://www.infosecurity-magazine.com/news/Facebook-remove-deepfake/