2017年底，deepfake换脸技术出现以来，各种使用AI技术造假的视频层出不穷。而且随着技术的进步，造假视频已经变得越来越真假难辨，也引发了全球范围内的担忧。对此，国家互联网信息办公室、文化和旅游部、国家广播电视总局联合印发了《网络音视频信息服务管理规定》(以下简称《规定》)，自 2020 年 1 月 1 日起施行。
《规定》中第十条至第十三条均针对利用深度学习、虚拟现实等，新技术制作的非真实音视频进行了规定：
《规定》对基于深度学习、虚拟现实等的新技术新应用制作、发布、传播非真实音视频信息服务从五个方面进行了规范。
一是进行安全评估。“网络音视频信息服务提供者基于深度学习、虚拟现实等新技术新应用上线具有媒体属性或者社会动员功能的音视频信息服务，或者调整增设相关功能的，应当按照国家有关规定开展安全评估。”
二是明确标识要求。“网络音视频信息服务提供者和网络音视频信息服务使用者利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播非真实音视频信息的，应当以显著方式予以标识。”如果发现上述音视频无明显标识，应当立即停止传输该信息，以显著方式标识后方可继续传输该信息。
三是规范新闻信息传播。“深度伪造”音视频不得制作、发布、传播虚假新闻信息。转载音视频新闻信息的，应当依法转载国家规定范围内的单位发布的音视频新闻信息。
四是加强技术保障。要求网络音视频信息服务提供者应部署应用违法违规音视频以及非真实音视频鉴别技术，发现音视频信息服务使用者制作、发布、传播法律法规禁止的信息内容的，应当依法依约停止传输该信息，采取消除等处置措施，防止信息扩散，保存有关记录，向有关部门报告。
五是建立辟谣机制。发现网络音视频信息服务使用者利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的，应当及时采取相应的辟谣措施，并将相关信息报主管部门备案。
所以，今后无论是服务提供商，还是普通用户，都要谨慎、合法合规地制作和使用换脸视频了。
“改变”世界的deepfake遭限制
2017 年底横空出世的 DeepFake 技术，虽然不是第一个实现换脸的技术，但却是将 AI 假视频带入大众视野的先驱。这是一种基于深度学习的伪造技术，适用于修改图片和影像，可以实现人脸的移花接木。哪怕是动图或视频中的人物，也可以被替换成毫不相干的另一个人。
换脸：
换身体：
换动物：
DeepFake 的走红要归功于脑洞大开的网友，他们在色情视频中引入了 DeepFake 技术，将其中女主角的脸，替换成了一些当红女明星的脸，盖尔·加朵、艾玛·沃特森、斯嘉丽·约翰逊和泰勒·斯威夫特等大牌女星都难逃一劫，纷纷被替换到了不可描述的场景中。
不过，出于恶搞精神也好，猎奇心态也罢，这些人无疑是滥用了 DeepFake 技术，对当事人造成了伤害，而且维权无门。饱受其害的“黑寡妇”斯嘉丽就曾在公开场合表达了自己的愤怒和无奈。
鉴于其造成的恶劣影响，对于deepfake等基于深度学习的AI技术，全球都在想办法应对。
很多社交平台都开始封杀 DeepFake 视频。该技术的开发者也在 GitHub 上呼吁，“不要将 DeepFake 的换脸技术用于色情视频，它的价值并不在此。”
此前，推特发布了首个反deepfake策略草案，并征集公众意见。根据这个草案，如果一份deepfake伪造的内容威胁到某人的人身安全或可能造成严重伤害，将会被删除。
包括微软、Google等国外公司也在研究如何自动鉴别换脸视频。
AI造假视频，也是最近几个月美国国会中最有争议的话题之一。此前，美国国际战略研究中心（CSIS）发布报告称，伪造信息正在通过互联网迅速传播，破坏了民主进程。
来自人民看点的报道中写道：
Deepfake被认为是一种破坏民主的工具。美国情报界发布的2019年全球威胁评估（Worldwide Threat Assessment）中就警告称，恶意攻击者或战略竞争对手可能会使用deepfake技术或类似的机器学习技术来创建看似逼真但其实是伪造的图片、音频和视频文件来加大针对美国和其盟友的活动的影响。
CNBC网站在其报道中称，“deepfake”将成为“2020年美国总统选举中的大事件”。就像2016年的“虚假新闻”一样，“deepfake”视频将在2020年的美国大选中，掀起更强大的血雨腥风。
2019年7月，美国弗吉尼亚州也发布了禁止deepfake滥用的禁令：未经当事人允许分享他人的裸露视频、照片属于违法行为，无论该照片或视频是真实的还是伪造的。
2019年10月，美国加州州长Gavin Newsom签署AB-730法令，明确指出，如果散布伪造的信息使公众对政治人物的言论、行动产生错误或有害的印象，将是犯罪行为。
换脸「重灾区」B 站：9 月发布审核规范
AI 换脸，在国内带起节奏的，还当属日渐崛起的 Bilibili（以下称“B 站”）。今年年初，刷屏的杨幂换脸黄蓉视频，也正是出于 B 站。
针对这次杨幂换脸视频走红网络的事件，知名律师回应，此举涉及到换脸人物的肖像权、名誉权，而且一旦被用于不良和作恶视频，后果会很严重。
鉴于此，制作该视频的 UP 主，很快就发表道歉声明并将视频下架。但这没有能阻挡 AI 换脸进军 B 站的势头。很快徐锦江换脸雷神、海王等各种视频在 B 站出现。
截至目前 B 站上 AI 换脸视频都可以搜索，多以娱乐为主。
不过，有消息称，从 11 月 10 日开始，B 站对含有“AI 换脸”的用户名和用户介绍，进行了整治，带有“AI 换脸”的用户名全部重置命名。
但尽管如此，贴有“AI 换脸”标签的视频依然不断更新。神奇的 B 站，对换脸视频，又是怎么去审核的呢？
细翻之后发现，B 站的官方运营账号，早在 9 月就发布过关于 AI 换脸视频的规范。
在这份审核规则说明中提到：“不再对此类内容进行推荐、禁止排行榜和热门位置的展示”，同时表示会关注法规和规章制度，对审核规则进行调整。
记者访谈 B 站审核相关的工作人员，得到确认：Up 主仍可以发布，但目前不做任何推荐，未来政策可能会调整。
换脸 App ZAO：遭质疑后，已修改用户协议
如果说，之前换脸技术仍然掌握在少数人手中，那么今年 8 月，由陌陌出品的换脸 App ZAO，彻底降低了这项技术的门槛，换脸完全成为“傻瓜式”操作。“仅需一张照片”，每个人都可以瞬间“附身”剧中演员，成为大片主角。
简易、有趣的换脸视频制作，让这款软件迅速霸屏。但是很快，一夜爆红之后，ZAO 的用户协议也立即引起一片质疑声。
当时，ZAO 的用户协议不仅让 ZAO 可免费使用并修改用户的肖像，还可以将它任意授权给第三方。具体内容如下：
用户协议（2019.8 月版）中第六条的第一、二款引起很大争议
在大家的质疑以及工信部约谈之后，ZAO 很快对用户协议做了修改。
对比用户协议修改前后，会明显看到，原本旧版用户协议中，第六条第一款中的要求用户“同意授予 ZAO完全免费、不可撤销、永久、可转授权和可再许可的权利，包括但不限于可以对用户内容进行全部或部分的修改与编辑”等内容已被删除，并针对肖像权的保护做了“特别提示”。
ZAO 在最新版用户协议（于 2019.12.3 查询）中表示不会存储个人面部特征信息
其实，AI 技术的进步无疑是一件利大于弊的事情，技术本身不存在原罪。只不过我们必须制定配套的规则、规范和保护措施，才能有效避免技术滥用的情况发生，并且将发生时的损失降到最低。而新规定的出台，无疑给那些游走在危险边缘地带的人敲响警钟，让技术不再被用滥用。
武汉维识教育科技有限公司创立于“武汉·中国光谷”，公司以工业机器人、智能机器人为主要载体，专注于智能工程技术领域的多维教育，已建立完善详尽的人工智能、机器人工程及智能制造工程专业整体解决方案，旨在推动人工智能及机器人工程领域的知识科普和专业教育。
支付宝收款码
微信收款码
参与评论 (0)