此前DeepFake换脸在全球引发轩然大波。从生成足以以假乱真的名人不雅观视频开端，许多运用者将这个“换脸神器”当成了视频造假东西，并通过交际网络将虚伪信息传达到全世界。DeepFake等技能呈现不只提高了换脸的实在性，其敞开源代码的方法更是降低了将该等技能滥用于虚伪信息制作和传达门槛。
事实上，大约30%通过AI换脸的组成相片、组成视频是人类仅凭肉眼无法辨认的，很简单被当作实在信息进行再次传达。这已成为一个亟待处理的社会性问题，面临这个问题，咱们应该以及可以做些什么？微软亚洲研讨院给出了处理计划。
除了DeepFake，市场上存在多种换脸技能，不同算法生成的图画成果千差万别，难以运用同一个换脸区分模型处理一切换脸技能的进攻。与此同时，换脸区分模型还需求对现在不存在、但未来或许呈现的换脸技能也具有判别力，怎么去猜测未来换脸技能的发展方向，提早设防，也是重要课题。
现在，最常被运用的AI换脸算法有三种：DeepFake、FaceSwap和Face2Face。其间，DeepFake根据咱们所熟知的GAN技能，关于它所生成的脸，人类的辨认率大约为75%*。FaceSwap是一个学习重建脸部特征的深度学习算法，可以对给出的图片进行模型替换，人类关于此类换脸的辨认率也是75%左右*。Face2Face则是用其他实在的人脸去替换本来的人脸，不触及人脸的生成，关于它制作的脸，人类的辨认率只要41%*。作为现在学术界最大的组成视频数据库之一，由慕尼黑技能大学创立的FaceForensics数据库涵盖了通过以上三种换脸算法修改的揭露视频，以供学术研讨运用。
多年来，微软亚洲研讨院在人脸辨认、图画生成等方向都具有业界抢先的算法和模型。在CVPR 2018上，微软亚洲研讨院视觉核算组宣布了论文“Towards Open-Set Identity Preserving Face Synthesis”，其间的技能可以使用敞开数据会集的数据，逼真地组成保存图中人脸身份信息的图画。深沉的技能堆集让研讨员们对“进攻方”的技能原理有着更深入的了解，然后可以更有针对性地研制换脸区分算法。
图1：微软亚洲研讨院开发的模型别离提取蒙娜丽莎和赫本图片中的身份信息和特点信息进行组成
因而，微软亚洲研讨院研制的换脸区分算法，根据FaceForensics数据库的测验成果均逾越了人类肉眼的辨认率以及此前业界的最好水平*：关于DeepFake的辨认率达到了99.87%，关于FaceSwap的辨认率为99.66%，关于Face2Face的辨认率为99.67%。
表1：针对已知换脸算法的辨认测验成果
更重要的是，一般的换脸区分计划需求针对每一种换脸算法研制专门的换脸区分模型，想要区分一张图画的真伪，需求逐一测验一切模型。微软亚洲研讨院的算法则可以用一个通用模型，去区分不同类型的换脸算法所制作的脸。与此同时，研讨员还对人脸组成时难以处理的细节进行检查，如眼镜、牙齿、头发边际、脸部概括，将它们作为算法重视的要点，然后进步辨认精确率。比较其他同类技能，来自微软亚洲研讨院的换脸区分算法很好地处理了应对动态起伏大、有遮挡、有表情改变的图画的难题。
除了精确辨认已知算法组成的图画，换脸区分的另一大应战是应对没有呈现的新算法。将现有的换脸区分算法直接用于新算法时，它们的有效性往往会明显下降。为此，微软亚洲研讨院提出了一种通用换脸区分方法。为了更好地调查这一算法对不知道换脸算法的区分能力，研讨团队用实在图画对模型进行了练习，再让其区分多种不知道换脸算法生成的图画。试验成果表明，与基线算法比较，新算法对各类换脸算法的辨认率均有大幅提高。跟着研讨团队对模型的进一步优化，通用区分模型一定能越来越精确地协助咱们应对新算法所带来的问题和应战。
表2：针对不知道换脸算法的辨认测验成果
在微软看来，要构建可信赖的AI，有必要遵从以下六大准则：公正、牢靠和安全、隐私、容纳、通明、职责。微软内部还成立了人工智能道德道德委员会（AETHER），协助微软应对AI带来的道德和社会影响。
