对于“AI换脸”这类技术 网信办出手了！

还记得去年曾经爆红的换脸应用吗？只需要上传一张正面照，就可以看一众大佬一边晃着头，一边唱洗脑神曲。

凭借魔性视频在社交软件上的火爆，该软件Avatarify去年2月一度问鼎中国区App Store应用免费榜榜首。但不到一个星期，Avatarify就被App store中国区下架。

为了规范相关活动，国家互联网信息办公室今天发布了《互联网信息服务深度合成管理规定(征求意见稿)》。

业内人士认为，新规有助于引导技术向上向善，促进深度合成技术依法合理有效利用。

深度合成技术是什么？

对于深度合成技术，网民们应该并不陌生。早在2019年，一款名为“ZAO”的换脸App就曾红极一时。通过这款App，用户只要上传一张自己的正脸照，就能将电影片段中演员的脸换成自己的脸，从而在熟悉的影视作品中，与明星偶像同台“飙戏”。

不论是Avatarify还是ZAO，都来自更早以前的deepfake开源技术，依托大数据和人工智能深度学习机制，基于数据算法和人脸数据库，对既有视频或图片中的人物面部图像进行替换，它们获得的人脸数据越多，替换后的图像视频也就越逼真。

以上互联网深度合成技术的出现，对于电影、纪录片等艺术创作有着一定的积极意义，却也使得篡改或生成高度逼真且难以甄别真伪的音视频内容成为可能，如果对相关技术的使用不加以限制，将会带来无穷的安全隐患。

深度合成服务提供者

应当建立辟谣机制

征求意见稿首先明确了深度合成技术的定义。该技术是指利用以深度学习、虚拟现实为代表的生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术，包括但不限于：

(一)篇章生成、文本风格转换、问答对话等对文本内容进行生成或者编辑的技术；

(二)文本转语音、语音转换、语音属性编辑等对语音内容进行生成或者编辑的技术；

(三)音乐生成、场景声编辑等对非语音内容进行生成或者编辑的技术；

(四)人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等对图像、视频内容中人脸等生物特征进行生成或者编辑的技术；

(五)图像增强、图像修复等对图像、视频内容中非生物特征进行编辑的技术；

(六)三维重建等对虚拟场景进行生成或者编辑的技术。

征求意见稿明确了深度合成服务提供者主体责任，要求深度合成服务提供者对使用其服务所制作的深度合成信息内容，通过有效技术措施添加不影响用户使用的标识，依法保存日志信息，使深度合成信息内容可被自身识别、追溯。

征求意见稿要求，深度合成服务提供者应当建立健全辟谣机制，发现深度合成信息服务使用者利用深度合成技术制作、复制、发布、传播虚假信息的，应当及时采取相应的辟谣措施，并将相关信息报网信等部门备案。

国家互联网信息办公室人士表示，网络空间是亿万民众共同的家园，互联网信息服务深度合成活动在服务用户需求、改进用户体验的同时，也被一些不法分子用于制作、复制、发布、传播违法信息，诋毁、贬损他人名誉、荣誉，仿冒他人身份实施诈骗等违法行为，不仅损害人民群众的切身利益，甚至危害国家安全和社会稳定，迫切需要划定“底线”“红线”，规范发展互联网信息服务深度合成活动，维护网络空间良好生态。

一位互联网行业的从业人员接受上证报采访表示，彼时因为ZAO被紧急叫停，监管政策未明朗，很多互联网公司都不敢进行深度合成技术的投资。新规发布后，技术的用法明确了，按照要求开展业务就不会面临突然被叫停，预计很多公司会重启深度合成技术的研发。

该人士也提出，此前，深度合成技术主要应用在搞笑视频等方面，还没有创造太大的正面价值。接下来，全行业还要在内容领域进行创新，致力于让新技术造福社会。

（文章来源：上海证券报）

关键词： AI换脸 网信办 技术 Avatarify 中国区 就可以看 洗脑 神