Facebook研讨新算法：遏制deepfake换脸行为并追踪其来源

虽然目前 Deepfakes 换脸伪造状况在 Facebook 上并不是很突出，但这家社交网络巨头正加大对该技术的研讨力度，以防备潜在的将来要挟。经过和密歇根州立大学（MSU）多位学者的合作，Facebook 创造了一种逆向设计深度假象的方法：分析人工智能生成的图像，以揭示创造它的机器学习模型的辨认特征。

图片来自于 The Verge

这项工作非常有用，由于它可以协助 Facebook 追踪在其各种社交网络上传播 Deepfakes 的不良分子。这些内容能够包括错误的信息，但也包括未经赞同的色情内容--这是 Deepfakes 技术的一个令人懊丧的常见运用。如今，这项工作仍处于研讨阶段，还不预备部署。

目前在该范畴的研讨曾经可以确认哪些是人工合成的脸，哪些是真实的脸。不过由密歇根州立大学 Vishal Asnani 指导的团队进一步推进了这项研讨，确定了未知模型的架构特征。这些特征被称为超参数（hyperparameters），在每个机器学习模型中都要像发动机的零件一样停止调整。总体而言，它们在完成的图像上留下了独特的指纹，然后可以用来辨认其来源。

Facebook 研讨担任人塔尔·哈斯纳（Tal Hassner）告诉 The Verge，辨认未知模型的特征非常重要，由于 Deepfakes 软件非常容易定制。假如调查人员试图追踪他们的活动，这有能够让不良行为者掩盖他们的踪迹。

Hassner 表示：“让我们假设一个不良行为者正在生成许多不同的 Deepfakes，并在不同的平台上向不同的用户上传。假如这是一个以前没有人见过的新的人工智能模型，那么我们过去就无法停止判别了。如今，我们可以说‘看，这里上传的图片，那里上传的图片，都来自同一个模型’。假如我们可以查获[用于生成内容的]笔记本电脑或计算机，我们将可以说‘这就是罪魁祸首’”。

哈斯纳将这项工作与法医技术相提并论，即经过寻觅所产生的图像中的形式来确定哪种型号的相机被用来拍摄照片。他说：“不过，不是每个人都能创造本人的相机。而任何有合理阅历和标准计算机的人都可以炮制出他们本人的模型，生成 Deepfakes”。