从ZAO到Avatarify，不变的底层技术、不变的安全风险。

 

点击上方蓝字 可以订阅哦！Avatarify，一款近日急速登顶App Store总榜的App（目前已被App Store下架）当然，你可能并没有听过这款App的名字，但如果近几天打开抖音、快手等短视频平台，以“蚂蚁呀嘿，蚂蚁呀呼，蚂蚁呀厚，蚂蚁呀哈哈……”为背景音乐的晃头特效视频正席卷而来。

诸多明星纷纷加入这场晃头潮流，截至3月2日15时，#蚂蚁呀嘿#话题在抖音平台已经拥有25.8亿次的播放量

而制作这种特效视频，就需要Avatarify由于该软件的服务器在国外，一些特效需要使用加速器来获得，这又带火了腾讯加速器剪映则是得益于“蚂蚁呀嘿”的高热度，大量用户在抖音上发布视频制作教程，均涉及到剪映的部分功能，因此剪映也成为近期下载量高升的App之一。

（App Store 3月1日排行）有文章溯源称，让照片动起来，需要一项名为一阶运动模型（First Order Motion Model）的技术，这项技术原理借鉴了意大利特伦托大学的一项研究从实际出发，目前Avatarify的变脸功能还处于初级阶段，从视频效果即可见，脸部动作时会产生某种空间扭曲，因此“以假乱真”还不太可能，不过这并不影响大众娱乐的需求——因为操作起来非常简单。

过往，类似的特效技术需要一定的计算能力，而制作一段“蚂蚁呀嘿”视频只需走三步：一是导入手机照片；二是导入视频效果样片；三是一键保存当然，能让这段“魔性”的视频火遍抖音的关键在于，只要将自己或者名人的照片上传后，就能生成超出普遍认知的表情，再配上“蚂蚁呀嘿”的音效，可谓洗脑又环绕。

甚至于有文章预测：“凭借着换脸特效这‘一招鲜’，Avatarify能‘吃’多久？”文章表示，这类软件的技术含量并不高，“做出这一特效有很多开源方案”火得让人心慌上一次让换脸技术风靡社交媒体的软件还是2019年9月上线的“ZAO”，这款软件将对于普通用户来说极高的专业性工作门槛直接拉低到没有，只需一部手机、一张自拍就可以将多种影视场景中主角的脸换成自己的脸。

伴随燎原之势而来的，是人们对于AI换脸技术的质疑，“我的照片如果泄露，会突破人脸识别技术吗？”这个问题的提出是此种基于深度伪造（Deepfake）的换脸技术，使得任何人的脸都可能出现在色情、暴力、政治等虚假视频中，甚至可以达到以假乱真的地步。

那么在这种“以假乱真”之上，在如今人脸识别基本上成为高级安全认证手段的社会环境中，“我是不是我”的疑问就成为舆论焦虑Avatarify与ZAO的功能看起来正好相反，但内里技术“换汤不换药”微信公众号“刺猬公社”指出，名誉权、肖像权、知识产权，是深度伪造技术可能构成侵权的三大“重灾区”。

在关于“蚂蚁呀嘿”的舆论反馈中，不少媒体更进一步，直接列出了“上传自己清晰的正面照片”的五点风险：个人信息或遭泄露、“丢脸”可能导致“丢钱”、存在侵权可能性、一不小心“丢清白”、“换脸”没门槛当心“被贷款”。

从诸多如何制作“蚂蚁呀嘿”视频的需求出发，网购平台“蚂蚁呀嘿全家福特效图片视频代做动画效果”服务随之而来，收费5-20元不等东方网有评论称，对于网络平台商家来讲，即便代为制作并不违法，也可以说“赶上了这个风口”，能够借机赚一笔，但是在具体操作中也须防范由此导致的法律风险。

比如，保护好消费者的数据和隐私；比如有必要做好使用警示，并增强使用的安全性媒体的担心不无道理，毕竟在2020年7月，就曾有媒体曝光，一些电商平台正以5毛钱一份出售匹配了身份信息的人脸数据（更详细一点的信息包也就卖3块钱），而帮助不法分子将照片活化的工具和教程也仅仅售卖35元。

至此，我们整理一下换脸技术蕴含的风险：一是涉嫌侵权，可能包含名誉权、肖像权、知识产权等；二是隐私，可能涉及生物信息泄露带来的资产安全乃至人身安全等；三是数据，可能包含数据倒卖、数据保护与存储等而在此之上的风险在于，社会信任难题、社会管理难题等。

司法中流露出对“脸”的安全诉求在被誉为“人脸识别第一案”的杭州野生动物世界“刷脸”入园纠纷中，关于采用人脸识别的必要性和安全性是争议的焦点中国社科院科学技术和社会研究中心主任、研究员段伟文在接受《商学院》采访时表示，这起案件的意义在于，让社会对人脸识别技术滥用情况引起重视。

当事人把这种焦虑变成了行动，既维护自己的权利，也通过媒体引起了社会关注和讨论无独有偶，据微信公众号“每日经济新闻”报道，近日大洋彼岸的美国加州一名联邦法官正式批准Facebook侵犯用户隐私案的和解协议，Facebook需要向伊利诺伊州近160万用户发放赔偿。

事件起因于2015年，Facebook在未经用户同意的情况下，使用面部识别技术扫描用户上传的照片，用以创造和存储面部数据（用户反应家庭住址等信息也被放到了Facebook的识图功能之中），违反了伊利诺伊州的《生物特征信息隐私法案》。

负责审理这起案件的法官詹姆斯·多纳托（James Donato）将这份和解协议称为“消费者在激烈竞争的数字隐私领域里的一场大胜”Facebook首席产品隐私官米歇尔·普罗蒂(Michel Protti)则表示，和解协议给Facebook带来了新的责任水平。

两起案件，前者探讨了智慧社会中人脸识别在生活中泛化的必要性相关问题，后者表达出互联网平台在处理用户数字隐私方面的现状与边界在每经文章的评论中，不少网民表示“国内请跟上”，这也透露出一种公众、用户、消费者等群体对规制互联网平台获取人脸信息的呼唤。

对换脸技术-深度伪造的监管早前，就已有不少国家开始对深度伪造进行监管，例如英国在线危害白皮书（Online Harms White Paper）表明英国确实计划进行监管美国也曾在2020年选举前对深度伪造新闻的管制组织听证会。

更早前的2017年，纽约州提交的Bill A08155法案似乎是打击深度伪造的法律第一步步骤，但这些提案目前尚未形成法案需要指出的一点在于，深度伪造、Deepfake这个词本身有着“自黑”的成分在，但其仍具有积极的应用价值，甚至已经在商业场景中落地并实践。

例如电影行业的后期制作阶段，“逆龄特效”在《惊奇队长》中就得到应用游戏和时尚行业也可能受益，打个比方，《头号玩家》中依据自己的脸建立虚拟形象此外，教育、医疗等领域也均可能收益很多情况下，技术的问题还应由技术来解决，因此在面对新技术时，应秉承“科技向善”的原则，对其不法应用层面做出相应监管与规制，而非扼杀与封禁。

2020年12月，中共中央印发《法治社会建设实施纲要（2020-2025年）》指出，将制定完善对网络直播、自媒体、知识社区问答等新媒体业态和算法推荐、深度伪造等新技术应用的规范管理办法综合各方观点来看，

对深度伪造的监管与治理应集中在以下五个方面：首先，加强对社会各界的教育宣传有专家认为，应提升全社会对于深度伪造可能带来的问题的重视，逐步提高用户的防范意识和鉴别能力，以批判性的眼光看待音视频资料并进行多方检索印证。

其次，用技术对抗技术助推对抗技术的研发有助于解决目前治理面临的技术困境，赛迪智库认为，相关部门在加强管理的同时，应大力促进第三方监测机构开展深度伪造监测鉴别业务，鼓励企业加大对鉴别技术研发的投入第三，加强行业规范与自律。

有观点认为，科技公司，特别是那些运营社交媒体平台的公司，应将声音和图像篡改/修改纳入其对抗虚假信息的策略新闻机构也应提升新闻真实的核验体系，将虚假信息（包括深度伪造）的影响降至最低第四，探索多方共治模式。

清华大学陈昌凤指出，深度伪造是人工智能技术进步的产物之一，探索出以智能技术方式治理深度伪造的政府与社会组织的参与模式，有可能有更好的效果第五，将深度伪造技术纳入安全风险评估框架赛迪智库认为，应充分评估该技术目前的发展状况、适用领域和范围，未来发展方向和应用趋势，以及对国家安全和政治安全的影响、对公民个人权益的损害等。

作者：人民网新媒体智库研究员 曲晓程编辑：陈海玲 | 责编：朱玉萍

你点的每个赞，我都认真当成了喜欢

免责声明：本站所有信息均搜集自互联网，并不代表本站观点，本站不对其真实合法性负责。如有信息侵犯了您的权益，请告知，本站将立刻处理。联系QQ：1640731186