编者按：本文来自微信公众号 AI鲸选社qvod快播电影，作家：杨晓鹤，创业邦经授权转载。

Deepfake（深度伪造）再度掀翻热搜，韩国网友还是来到微博求援！

事情缘由是最近一周，韩国警方发现了某加密软件中存在，大量与学校、病院、部队接洽的涉案酬酢媒体群组，哄骗Deepfake（深度伪造）期间换脸合成色情相片和视频，参与用户多达22万东说念主。经初步探询，受害者80%为女性。

最新音尘是，文娱公司JYP针对旗下女团TWICE 的deepfake视频作念出回复，默示将聘任法律行动。 但许多东说念主认为并不可改变近况，是以他们来到国内号令关注。

其实，AI换脸不是最近刚出现的期间，而是越来越以伪乱真，越来越多模态。固然，AI换脸识别期间也在赶紧发展，跟着AI换脸的胁迫越来越大，这场攻防大战正越来越强烈。

此前在8月28日的并吞天时分，网友用Deepfake 期间换脸马斯克，直播取得上万东说念主打赏，紧接着浙江大学与阿里安通盘共同研发了一种新式东说念主脸心事保护决策——FaceObfuscator。

看似东说念主脸保护期间出现强力护盾，但期间抵挡从来不是一簇而终。6年前，AI换脸期间启动兴起，但那时候东说念主物色彩还比拟僵硬，也无法用于直播场景中，当今AI换脸期间还吵嘴常锻真金不怕火。

“以后我的手机是不是被捡到，就能被刷脸掀开了？”“手机的刷脸支付到底还能不可用”，“谁来保护我的心事，尤其是女性权利。”等各式公论的声息也越来越强烈。

万东说念主打赏AI马斯克，AI防护也进一步

“hi， how are you，I'm musk。 ”这是AI换脸的马斯克在直播，他的直播间非常火热，换脸马斯克一边展示大火箭模子，一边合手合手我方的脸。

这位主播我方王人笑得不行，他是没思到恶果非常传神，甚而许多连线的粉丝默示根柢无法分散真假，上万东说念主给这位主播打赏。

这位“马斯克”也瑕瑜常博学，对SpaceX、Tesla的Cybertruck、AI期间、Neuralink等期间王人了然入怀，还关爱肠给一位刚毕业的学生呈报了一些职责提出。

AI换脸的马斯克能在直播间栩栩余生，那以后直播间中马云、刘强东、黄仁勋、乔布斯就王人随时能出现。直播间出现这些名东说念主AI分身，可能对高知的东说念主群胁迫不大，生怕『AI勒东』等愈加泛滥。

公开数据暴露，斥逐2024年，还是有8名长的非常像勒东的网红，被拿起公诉。然则，许多大姨到此还不认为我方被骗，认为那些骗他钱的假勒东便是本东说念主，惹得勒东躬行号令上圈套的大姨们不要持续服气，他不会私信聊任何东说念主。

下千里市集对一个相像的明星王人执着得服气，何况是AI换脸的明星，毕竟AI不错将长相和声息好意思满复刻。

并且这项期间也在迅速白菜化，一位AI行业东说念主士告诉鲸哥，当今 GitHub上，有进步 3000 个与 “AI换脸”期间干系的存储库，许多外网的灰色酬酢频说念中更多。这些“AI换脸”也十分低廉，价钱最低的“AI换脸”视频只需要2 好意思元，而需求复杂的一个“深度伪造”视频要100好意思元起。

当今，国际许多币圈东说念主用假马斯克作念代言告白，灰色业务有些爆发；国内则是针对下千里市集诈骗行动居多。

2023年，呼和浩特一位男士就被这么的AI换脸视频电话，欺骗去了40多万元。被骗东说念主默示，我方从没思到视频对面的微信好友居然是AI换脸的。

当今情况不相同了，就在AI马斯克直播的并吞天qvod快播电影，一项应酬这种这种乱象的期间也被发布。

8月28日，针对东说念主脸特征重构心事胁迫，浙江大学与阿里安通盘共同研发了一种新式东说念主脸心事保护决策——FaceObfuscator[2]。

据公布，FaceObfuscator 在六个公开东说念主脸数据集上进行了测试，实验收尾表明，其无法被重构为东说念主脸图像，灵验保护了东说念主脸隐，在 COS（余弦相似度）和 SRRA（重放膺惩成效劳）标的上进展优异，显赫镌汰了重构膺惩的成效劳。

不详来说，"FaceObfuscator"便是一种用来暧昧或者隐敝东说念主脸的器用或期间。举例，在监控视频中，可能会使用FaceObfuscator来暧昧掉路东说念主的脸部，以保护他们的心事不被骚扰。

FaceObfuscator 可应用于监控识别、刷脸支付、门禁考勤等场景，就业于安防、金融、陶冶等多个行业限制。固然，这项期间确乎还存在一个问题，便是直播间中的换脸，无法识别和防护。

毕竟直播间中的换脸，并莫得什么开导需要去考证，惟有不雅众以为像就行。这一轮AI大战，AI换脸凭借更多场景，让AI识别在这一场景中窝囊为力。

作念AI安防的顶象科技里面东说念主士告诉鲸哥，“直播间AI换脸，过去最常用的识别材干是让其合手下鼻子，AI马斯克直播敢合手脸，就讲解这个辨别材干不是太实用了。”

但辨别形状并不是莫得了，这就需要更多的期间决策，融入各式酬酢家具中。

多轮攻防斗争，AI换脸抵挡螺旋飞腾

最早是在2018年，国际考虑东说念主员创建了一个假的奥巴马演讲视频，这部视频面部色彩传神，口型与音频也比拟同步。

那时这个视频领受的是生成抵挡蚁集(GANs)，GANs一度是最流行的AI换脸期间。它包含两个神经蚁集：一个生成器和一个判别器。生成器安妥创建假图像，而判别器则试图分散真假。通过阻挡的抵挡考验，系统随机生成越来越传神的换脸恶果。

这时期，基于GANs期间的AI换脸最闻明的软件是DeepFaceLab，这款软件其实是基于特定需求研发，它被平凡用于一些好莱坞电影中的殊效场景。

但很快这项期间就被扩散，从影视圈向极客、灰产等圈层发展，违纪的换脸视频作品和用于欺骗的换脸而已也启动从推而广之。

这时期，谢却方主要有2种形状辨别AI换脸。第一是视觉特征分析，考虑东说念主员开导了算法来检测换脸视频中的不当然特征，如不一致的眨眼频率、不当然的面部纹理等。

那时Facebook与密歇根州立大学融合开导的DeepFake检测挑战赛，便是为了眩惑期间东说念主员参赛，为这项期间保驾护航。

第二项技巧是音频-视频不一致性检测：由于许多换脸视频使用原始音频，考虑东说念主员开导了算法来检测唇动与音频的轻微不一致。

谷歌也在2019年发布了一个包含3000多个Deepfake视频的数据集，用于考验检测算法，其中就包括音视频同步性分析。

11ABCD

这一时期， 期间的留心技巧主要依靠AI换脸视频期间还不锻真金不怕火，谢却方挑选出不当然、不匹配的践诺片断，以此来判断视频的真假，说真话照旧挺难的。

时分来到2020年，AI换脸行业出现了一种名为神经渲染（Neural Rendering）的期间，随机在视频会议中及时进行高质料的换脸。

这项期间随机从单张2D图像重建3D面部模子，然后将其应用到标的视频中，终了更当然的换脸恶果。

由于脸部数据被数字重建，这时候东说念主的各式色彩表面上王人不错被数字生成，防御的难度进一步增大。是以谢却方的主要技巧，启动借助数字财富确权期间，来保护人人的脸部心事。

2020年，一家名为Truepic的公司推出了基于区块链的图像考证系统，被一些新闻机构用于考证新闻图片的真正性。通过在区块链上记载原始视频的哈希值，不错考证视频是否被转换。

这项期间王人是针对稀奇东说念主脸视频的保护，大部分原始视频王人不可能被数字确权，是以保护的范畴太小了。

时分参加到2024年，AI换脸从图片、视频走进了直播间，AI换脸期间还是白菜化。尤其在加密软件中的换脸行恶，则愈加闲静。此次韩国Deepfake事件，就被称为“N号房2.0事件”，各方王人在恭候探询收尾。

你的脸部数据安全，不啻需要期间看守

时分拨回到2020年，“扫描一次东说念主脸，给用度50元，统统保护心事前提下使用。』那时在北京的西二旗近邻，许多AI创业公司蚁集东说念主脸数据，价钱很低廉。

这些CV（计较机视觉）公司哄骗东说念主脸数据更正算法模子，更多大公司试图找平台融合方进行数据融合。投资东说念主李开复曾口误说，帮旷视科技搭桥支付宝，哄骗后者东说念主脸数据考验了大模子，导致两家公司王人非常急切，支付宝也急促辟谣莫得给过其他家公司数据。

不可否定，那时候东说念主脸识别期间发达后，录像监控、手机屏幕识别、扫脸考证、扫脸支付等业务王人启动赶紧发展。

在生成式东说念主工智能大火的今天，AI换脸期间迅速在民间流传，视频电话欺骗，复刻东说念主脸支付，各式欺骗行恶行径启动防不堪防。

在期间的阻挡迭代眼前，谢却方恒久惩办缺陷。改日会霎时出现何种期间，让AI换脸更容易和更传神，王人是无法预思的事情。因此不可全指望期间，平台的参与也至关进犯。

国度在2019年出台法例，条目Deepfake践诺必须表明"非真正"字样。尔后，主流互联网平台也启动参与这场AI换脸攻防战。

2022年前后，抖音和视频号等平台上，启动条目AI视频制作方主动象征是AI生成，或者是平台教导可能是AI作品。

一位从事AI好意思女生成的制作方告诉鲸哥，过去用SD期间生成真东说念主好意思女，每天王人有上千的私信，他们以为这是真东说念主好意思女，其中不乏一些脱落信息。而在象征为AI生成后，私信数目就启动急剧下降，当今不外百了，他过去是靠引流到私域卖货，当今得探究用AI换脸直播了，这一类型也正在被严打。

凭据抖音安全中心的统计，本年1月于今，还是有7.3万个账号因为涉嫌诈骗而被收回了直播权限。许多时候，抖音条目AI制作的践诺必须作念出显赫象征。

腾讯平台上的酬酢和视频家具，也非常需要AI辨别。是以，腾讯云也推出换脸甄别（Anti-Deepfake，ATDF）期间，哄骗AI期间反制换脸、合成脸这类AI期间的挥霍，并提供对视频图像中的东说念主脸进行全面分析的就业。

平台行动传播的渠说念，最进犯的技巧是领有其换脸后积蓄的粉丝、打赏等答复财富，是以哄骗封禁账号等技巧，使得乱用期间的东说念主瞻前顾后，是当下最灵验的打击体式。

而抛开直播间的AI换脸，市面上的企业，则更多哄骗第三方安全就业，打击AI换脸的考勤、骗保等等事件。。

顶象品级三方为银行、保障等公司提供的安全决策，则是在开导环境监测、东说念主脸信息、图像辨别、用户行动、交互情状等许多维度信息进行概括辨别。里面东说念主士告诉鲸哥，他们甚而发现了一个集团上10万东说念主次存在哄骗诞妄形象打卡行动，集团耗费上亿元。

如今，AI换脸期间被灰色利益饱读吹，改日还会赶紧进化，而防护方只可在后头见招拆招，是以更多需要每个东说念主进步安全警惕，不是每个『马斯克』王人是果然马斯克。

本文为专栏作家授权创业邦发表qvod快播电影，版权归原作家所有。著述系作家个东说念主不雅点，不代表创业邦态度，转载请接洽原作家。如有任何疑问，请接洽editor@cyzone.cn。