2017 年底，国外论坛出（chū）现的一（yī）个ID 为“deepfakes”的用户发布了通（tōng）过机器（qì）学习来更换视频人脸的人工智能算法，一脚踢开了（le）人工智能换脸大门（mén）。不过当时该技（jì）术的使用门槛（kǎn）还比（bǐ）较高，需要编译代（dài）码等操（cāo）作（zuò）。

而一（yī）个月后，有人将他公开的的算法加以（yǐ）改造推出简易版人工智能换脸工具（jù）“FakeApp”，这次，就（jiù）算是普通用户，也能（néng）够顺（shùn）利操（cāo）作（zuò）。

随（suí）着（zhe）换（huàn）脸（liǎn）技术的升级及相关（guān）应用（yòng）的开源，换脸（liǎn）用途也从最初（chū）的娱乐逐渐演变成（chéng）犯罪工具，引发了（le）人们越来（lái）越多对人（rén）工智能换脸的（de）担（dān）忧。

首先是对于（yú）信息的（de）真实性形成严峻的挑战。PS 发明后，有图不（bú）再（zài）有真相；而人工智能换脸技术的出现，则让图像（xiàng）也开始变得镜花水月（yuè）了起来：这对于本（běn）来就假消息（xī）满（mǎn）天飞的（de）互联网（wǎng）来说，无疑会（huì）造成进（jìn）一步的信任崩（bēng）坏。

其次，这会大大增加（jiā）侵犯肖像权的可能，没人（rén）愿意自己（jǐ）的脸庞出现在（zài）莫名其（qí）妙的视（shì）频（pín）当（dāng）中，此前就有（yǒu）在某成人（rén）视频（pín）网站上，某女（nǚ）星的脸被“安”在了成（chéng）人视频女主（zhǔ）角脸上的（de）报道，这将给女星的名誉带来极大（dà）的负面影（yǐng）响。

鉴于这项技（jì）术所（suǒ）带来（lái）的（de）伦（lún）理问题和潜在威胁，先进的 DeepFake 检（jiǎn）测技术将非常重要。

在（zài）以（yǐ）前（qián）的研（yán）究中，DeepFake 视频检测主（zhǔ）要专注于在（zài）具备强监督标（biāo）注的情（qíng）况（kuàng）下，如何较好地检测到 DeepFake 图像或者人脸。

现在，阿里（lǐ）安全（quán）图灵实验室（shì）和（hé）中科（kē）院计（jì）算所（suǒ）合（hé）作完成的一项研究更加关注现（xiàn）实中广泛存在的（de）问题：部分攻击（篡（cuàn）改）的（de）视频，即（jí）视频中（zhōng）只有（yǒu）部分人脸（liǎn）被篡改了（le）。

具体来（lái）说，该（gāi）研究提出了基于多实例学（xué）习的 DeepFake 检测框架（jià），将（jiāng）人脸和（hé）输入视频分别当（dāng）作多（duō）实（shí）例学习 （Multiple Instance Learning， MIL） 里（lǐ）的实例和包进行检测（cè）。

然而，传（chuán）统的（de）多实例学习存在梯度消失问题。为此，研究人员提（tí）出了 Sharp－MIL （S－MIL），将多个实例的聚合由输出层提前（qián）到特征层，一方面使（shǐ）得聚（jù）合更加灵活，另一方面（miàn）也利用伪造检测的目标（biāo）函数直接指（zhǐ）导实（shí）例级深度表征的学习，从而缓解传（chuán）统多实例学习面临的梯（tī）度消失难题。该研究通过（guò）理论证（zhèng）明了 S－MIL 可以缓（huǎn）解传统 MIL 存（cún）在的梯（tī）度消失问题（tí）。

研究（jiū）人员表示，除了部分换脸（liǎn）检测任务（wù）之外（wài），该（gāi）研究成果对（duì）于一般（bān）性的视频多实例学习与标注（zhù）技术研（yán）究也具有（yǒu）重要的启发意义，而人工智能换脸技术及其检测技术也值（zhí）得我（wǒ）们持续关（guān）注。