要闻:问吧精选｜爆火一天却被灭，玩ZAO的你被ZAO玩了吗？

本篇文章1996字，读完约5分钟

你想和偶像恋爱吗？ 你想和戏骨一样的框架演戏吗？ “zao”有助于实现你的梦想——只有一张照片，出演天下的精彩戏剧！ 这个名为“zao”的变脸软件诞生于过去的本周末，满足了广泛的戏剧精和粉丝的日常幻想 客户只要自己拍照，就可以取代赵丽颖、李现、赵薇、吴亦凡等大明星的脸，生成以自己为主角的视频剪辑。 从《小欢喜》到《亲爱的爱》，从《还珠格格》到《甄嬛传》，包含了电视剧、韩剧、古典电影的各种场景。 所以问问你的微信力矩吧。 李现她6人，玛丽莲梦露5人，花千骨4人，吕秀才3人，就像戏剧精比赛一样。 但是玩得很开心后，网民们平静下来了。 这个真的安全吗？ 不会泄露自己的个人消息吗？ 刷牙付款盛行后不会被偷吗？？ 这次提问主题主要是我是很棒的实验室安全研究员宋宇昊，毕业于上海交通大学新闻安全专业，在新闻安全领域工作了10年，研究方向主要包括移动网络、物品互联网、人工智能等行业 当初收集了成千上万张照片和运行代码改变了脸，现在在手机app上放一张照片就可以改变脸了。 改变脸越来越方便了，值得注意的是，脸识别是实名认证的辅助。 改变ai脸的隐私安全风险是多少？ 欢迎大家和我一起讨论！ ai变脸成风，隐私放在哪里？ @王民州: al变脸的隐私安全风险有多大？ 宋宇昊: ai换脸技术的风险不是侵犯隐私。 是取得脸部图像，在大部分场景中公开脸部图像的新闻。 @我的一个澎湃朋友:换脸后，可以洗脸付款等场景吗？ ？ 宋宇昊:有些低质量的刷脸支付方案不排除可能被画面上播放的面部视频欺骗，但自古以来成熟的技术就能抵抗这种攻击。 例如，苹果手机的faceid发射结构光扫描3d脸的形态，2d视频无法欺骗这种技术。 主流的刷脸支付制造商也采用了推广同样的技术 @圣域光影:我想各种骗子又增加了工具，你觉得怎么样？ 宋昙:是的。 技术是一把双刃剑 @澎湃网络用户ejmy7j :不仅仅是隐私吗？ 会引起犯罪吗？ 宋昙:是的。 与隐私问题相比，滥用技术带来的危害可能更大。 变脸的录像有可能被用于网络暴力、报复、欺诈、谣言等坏目的 即使是经过严格审查的健康录像，特定的场景也可以侮辱特定的人物 这是因为改变ai脸的技术需要相应的法规和道德制约 @周星:支付宝( Alipay )的刷脸危险吗？ 又能模拟声音吗？ 宋宇昊:声音、图像、视频被合成模拟，近年来伪造越来越方便，但这不是新的风险 这是因为对成熟的产品来说，技术上有一定的对抗防御手段。 在流程设计上，验证机制不仅依赖于打磨脸部和声音，还依赖于多个要素的组合 @熊:还有什么危险吗？ 宋宇昊:任何互联网上的网站，和app一样，任何新闻只要进入互联网(服务器上)，就不在客户的控制范围之内。 服务器上要留多久，要留多久，怎么解决，完全由运营商决定。 因为在进入哪个消息之前，我会考虑这个供应商自己是否会做坏事，是否有能力保护顾客数据，这个消息是否不适合向别人透露。 ai换脸真的没什么用吗？ @晨曦:你好，这个ai换脸的创新是基于什么目的？ 这种应用的潜在风险很明显，无法控制，层出不穷 积极的意义在哪里呢宋宇昊:视频换脸技术的第一个应用场景是电影作品的制作，将实际不能演出的角色(比如去世)替换成电影 随着近年来ai技术的迅速发展，改变视频的面貌不需要找好莱坞专家的房间，个人顾客可以轻松制作 这是因为它可能衍生出其他应用程序场景，如WeChat的力矩共享娱乐、个性化广告和虚拟试穿。 @我的澎湃朋友:用换脸的app技术很难实现吗？ 宋昙:因为有开源项目，所以参考别人的源代码，制作自己换脸的应用程序并不难。 但是，现在开源项目必须使用数百张照片和视频截图，训练几个小时，才能得到更好的换脸效果 为了迅速生成一张照片，技术能力需要很多改善 ▲为了保护客户的安全你有什么？ @吾悠:用什么约束客户合同的各种陷阱？ 宋昙:客户协议样式条款中，有无效条款的，该客户协议没有法律效力 法律法规必须把侵害客户权益的霸王条款纳入无效条款的范畴 @不巴拉巴拉的一棵树: ai改变脸在法律意义上一定对对方显示了非常可靠的意思。 这意味着从事法律活动需要更谨慎的观察能力。 但是，筛选这种技术决不是普通公民或一些商主体能做到的。 也就是说，民法重视探索民事主体，重视保护交易自由、维持市场活力的立法意图 如果做出限制这种法律关系破坏行为的立法决策，现在的技术能进行普及支援，比较有效地抑制吗？ 宋宇昊:鉴别ai的换脸视频和鉴别伪造照片一样，普通市民不容易做到，但司法方面专家可以认识(比较现在ai的换脸技术水平)。 对非专家来说，这意味着需要更新常识，不能再默认视频了。 正如多年前ps、美图等工具的普及一样，大家不再信任默认的图像 听到宋先生这样的解答，网民们似乎松了一口气。 但是，小编还是要提醒大家，换脸是有风险的，玩的时候需要注意，结果大家都是“需要脸”。