论文部分内容阅读
这两天，微信朋友圈和微博都被一个名为“Zao–逢联造戏”的换脸APP刷屏。
上传一张照片，就能把诸多明星塑造的角色换成自己的脸，漫威系列的“绯红女巫”，《泰坦尼克号》中小李子扮演的“杰克”，或是《喜剧之王》里的“柳飘飘”。
只需幾秒，便可跨越AI换脸的高难技术门槛，实现和偶像互动飙戏的美梦，如APP宣传语所说，“只需一张照片，出演天下好戏”，很难不让人心动。截至9月1日晚，该APP已经在苹果商店免费榜排行第一。
有法律专业人士提出，该产品涉及侵犯著作权、肖像权、隐私权等诸多法律问题，有用户表示“自己莫名成了权利侵犯者或受害人，不知道注销（账号）后是否能保护自己的肖像权”。但也有网友不惧隐患，直言“只要能和偶像同框，不怕风险”。
引发这场讨论的根源是Zao隐藏在用户协议中的霸王条款，一方面过度攫取用户授权，另一方面涉嫌侵犯肖像权，并甩锅给用户。
在最初的用户协议中，第6条第1款规定：“在您上传及/或发布用户内容以前，您同意或者确保实际权利人同意授予Zao及其关联公司以及Zao用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利，包括但不限于可以对用户内容进行全部或部分的修改与编辑。”
也就是说，用户同意将自己的肖像授权给Zao，即便有一天肖像被再次转卖也无能为力。
同时，协议第7条第7款写明：“若您侵害他人名誉权、肖像权、知识产权等合法权利的……Zao可以诉诸行政执法机构或司法机关，追究相应法律责任。若因您违反本协议或Zao平台的其他规则导致任何第三方损害的，您应当独立承担法律责任并承担损害赔偿责任；Zao及其关联公司遭受损失的，您也应当一并赔偿。”
翻译过来就是，如果有人起诉被侵犯了肖像权，Zao可以说技术无罪，侵权的是玩换脸游戏的用户。
这让上一秒还在感叹“科技改变生活”的网友坐不住了，Zao也马上对协议作出了修改，新版用户协议中删除了“不可撤销”“完全免费”“永久”等字样，但问题仍未解决。
“我一直认为‘AI换脸’隐藏了不可回避的法律问题，所以看到Zao出现后，很好奇他们是如何解决的，很遗憾，他们并没有解决。”北京炜衡律师事务所一级合伙人、律师李昆蔚说，协议修改后，侵犯著作权、公众人物肖像权的问题仍没有解决，同时，用户在注销账号后，动态和静态肖像是否可以删除，为什么区别对待公众人物肖像和普通人的肖像，“这些问题需要Zao来回答，也是我发问的初衷，目前还没有收到Zao法务的回复。”李昆蔚说。
换脸技术本身并不新奇，在美国好莱坞已经存在了20多年。2016年上映的《星球大战外传：侠盗一号》还原了《星球大战4》（1977年）中总督塔金的角色，但其扮演者彼得·库欣早在22年前就去世了，特效团队为此找来一位长相酷似彼得的演员进行面部表情捕捉，然后用计算机动画（CG）技术将塔金复活。不过卢克斯影业和迪士尼表示，在制作《星球大战外传》时已经取得了彼得家人和产权继承人的同意。
将“换脸”推到风口浪尖的是一系列融合了AI技术的“假视频”。
2017年12月，一个名为“深度伪造”（deepfakes）的用户在美国论坛Reddit上发布了多段色情视频，不同的是，他让电脑学习好莱坞女明星的图像资料，然后把女明星的面部移植到色情片女主角脸上，近乎完美地实现了动态换脸，这引发了大量讨论和抨击，最后以账号被封告终。
不过，AI换脸并未消失，用户“深度伪造”随后直接开源了项目代码，更多效仿者随之而来，为了纪念他，便用他的名字代称“AI换脸”技术。据说，Zao也是基于“深度伪造”开源代码开发出来的，但Zao并不是第一个。
2018年1月，一个名为FakeApp的软件上线，可实现“一键换脸”，视频内容也是千奇百怪，包括恶搞美国总统特朗普，或是将自己的脸贴到好莱坞明星的脸上。虽然Reddit明令禁止换脸视频和图片在该网站传播，但仍有超过9万名用户在Reddit上传播这类视频。
今年6月13日，美国众议院情报委员会召开关于人工智能深度伪造的听证会，公开谈论了深度伪造技术对国家、社会和个人的风险及防范和应对措施。美国外交政策研究所研究员克林特·瓦茨认为，深度伪造技术对美国2020大选具有潜在威胁——若放任伪造视频扩散，则会对美国民主选举产生不良影响，挫伤选民的积极性。
“AI换脸技术是成熟的，之所以没有被推广，就是因为还有很多法律、伦理问题没有讨论清楚。”李昆蔚说，“Zao现在的盈利方式还不清楚，但要是为了赚钱，去做一些钻法律空子的事情，从而伤害了广大用户，是行不通的。”
除了侵权问题，还有网友担心，既然人脸识别已经在支付场景得到应用，面部信息泄露，是否会导致账户被盗刷？对此，支付宝安全中心8月31日发布公告：“不管换脸软件多逼真，都无法突破刷脸支付。”支付宝安全中心表示，刷脸支付采用的是3D人脸识别技术，在进行人脸识别前，也会通过软硬件结合的方式进行检测，来判断采集到的人脸是否是照片、视频或者软件模拟生成的，能有效地避免各种人脸伪造带来的身份冒用情況。
瑞士科学家在一篇论文中就首次对人脸识别方法检测Deepfake的效果进行了较为全面的测评，尝试用最前沿的人脸识别系统去识别假视频，结果错误率高达95%。
《人民法院报》官网微博评论道：“试用任何一款新型软件的时候一定要认真阅读用户协议，多留个心眼，保护好自己的各项权益。”
“我不知道我们能否为此做好充分准备，但是我们还可以做更多的工作，确定敌人的计划和意图，尽早找出并揭露它，告知公众他们需要关注什么，应当做什么，而不仅仅忽略他们所看到的一切。”美国众议院情报委员会听证会主席亚当·希夫表示。
虽然没有一招制胜的方法，但阻止深度伪造负面影响蔓延的方法有很多，诚如马里兰大学法学教授丹尼尔·希特龙在上述听证会上总结的，对深度伪造的内容不能一竿子打死，很多深度伪造的合成媒体内容具有存在的正当性，而对影响国家安全、公共安全、民主政治的虚假信息才需要加强监管和规制。涉及刑事犯罪和一般网络侵权的深度伪造适用不同的规制，监管应区别对待，美国相关立法目前主要从刑事犯罪角度对深度伪造予以规制。
（摘自《中国新闻周刊》2019年第33期，作者为该刊记者。标题有改动）
上传一张照片，就能把诸多明星塑造的角色换成自己的脸，漫威系列的“绯红女巫”，《泰坦尼克号》中小李子扮演的“杰克”，或是《喜剧之王》里的“柳飘飘”。
只需幾秒，便可跨越AI换脸的高难技术门槛，实现和偶像互动飙戏的美梦，如APP宣传语所说，“只需一张照片，出演天下好戏”，很难不让人心动。截至9月1日晚，该APP已经在苹果商店免费榜排行第一。
有法律专业人士提出，该产品涉及侵犯著作权、肖像权、隐私权等诸多法律问题，有用户表示“自己莫名成了权利侵犯者或受害人，不知道注销（账号）后是否能保护自己的肖像权”。但也有网友不惧隐患，直言“只要能和偶像同框，不怕风险”。
引发这场讨论的根源是Zao隐藏在用户协议中的霸王条款，一方面过度攫取用户授权，另一方面涉嫌侵犯肖像权，并甩锅给用户。
在最初的用户协议中，第6条第1款规定：“在您上传及/或发布用户内容以前，您同意或者确保实际权利人同意授予Zao及其关联公司以及Zao用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利，包括但不限于可以对用户内容进行全部或部分的修改与编辑。”
也就是说，用户同意将自己的肖像授权给Zao，即便有一天肖像被再次转卖也无能为力。
同时，协议第7条第7款写明：“若您侵害他人名誉权、肖像权、知识产权等合法权利的……Zao可以诉诸行政执法机构或司法机关，追究相应法律责任。若因您违反本协议或Zao平台的其他规则导致任何第三方损害的，您应当独立承担法律责任并承担损害赔偿责任；Zao及其关联公司遭受损失的，您也应当一并赔偿。”
翻译过来就是，如果有人起诉被侵犯了肖像权，Zao可以说技术无罪，侵权的是玩换脸游戏的用户。
这让上一秒还在感叹“科技改变生活”的网友坐不住了，Zao也马上对协议作出了修改，新版用户协议中删除了“不可撤销”“完全免费”“永久”等字样，但问题仍未解决。
“我一直认为‘AI换脸’隐藏了不可回避的法律问题，所以看到Zao出现后，很好奇他们是如何解决的，很遗憾，他们并没有解决。”北京炜衡律师事务所一级合伙人、律师李昆蔚说，协议修改后，侵犯著作权、公众人物肖像权的问题仍没有解决，同时，用户在注销账号后，动态和静态肖像是否可以删除，为什么区别对待公众人物肖像和普通人的肖像，“这些问题需要Zao来回答，也是我发问的初衷，目前还没有收到Zao法务的回复。”李昆蔚说。
换脸技术本身并不新奇，在美国好莱坞已经存在了20多年。2016年上映的《星球大战外传：侠盗一号》还原了《星球大战4》（1977年）中总督塔金的角色，但其扮演者彼得·库欣早在22年前就去世了，特效团队为此找来一位长相酷似彼得的演员进行面部表情捕捉，然后用计算机动画（CG）技术将塔金复活。不过卢克斯影业和迪士尼表示，在制作《星球大战外传》时已经取得了彼得家人和产权继承人的同意。
将“换脸”推到风口浪尖的是一系列融合了AI技术的“假视频”。
2017年12月，一个名为“深度伪造”（deepfakes）的用户在美国论坛Reddit上发布了多段色情视频，不同的是，他让电脑学习好莱坞女明星的图像资料，然后把女明星的面部移植到色情片女主角脸上，近乎完美地实现了动态换脸，这引发了大量讨论和抨击，最后以账号被封告终。
不过，AI换脸并未消失，用户“深度伪造”随后直接开源了项目代码，更多效仿者随之而来，为了纪念他，便用他的名字代称“AI换脸”技术。据说，Zao也是基于“深度伪造”开源代码开发出来的，但Zao并不是第一个。
2018年1月，一个名为FakeApp的软件上线，可实现“一键换脸”，视频内容也是千奇百怪，包括恶搞美国总统特朗普，或是将自己的脸贴到好莱坞明星的脸上。虽然Reddit明令禁止换脸视频和图片在该网站传播，但仍有超过9万名用户在Reddit上传播这类视频。
今年6月13日，美国众议院情报委员会召开关于人工智能深度伪造的听证会，公开谈论了深度伪造技术对国家、社会和个人的风险及防范和应对措施。美国外交政策研究所研究员克林特·瓦茨认为，深度伪造技术对美国2020大选具有潜在威胁——若放任伪造视频扩散，则会对美国民主选举产生不良影响，挫伤选民的积极性。
“AI换脸技术是成熟的，之所以没有被推广，就是因为还有很多法律、伦理问题没有讨论清楚。”李昆蔚说，“Zao现在的盈利方式还不清楚，但要是为了赚钱，去做一些钻法律空子的事情，从而伤害了广大用户，是行不通的。”
除了侵权问题，还有网友担心，既然人脸识别已经在支付场景得到应用，面部信息泄露，是否会导致账户被盗刷？对此，支付宝安全中心8月31日发布公告：“不管换脸软件多逼真，都无法突破刷脸支付。”支付宝安全中心表示，刷脸支付采用的是3D人脸识别技术，在进行人脸识别前，也会通过软硬件结合的方式进行检测，来判断采集到的人脸是否是照片、视频或者软件模拟生成的，能有效地避免各种人脸伪造带来的身份冒用情況。
瑞士科学家在一篇论文中就首次对人脸识别方法检测Deepfake的效果进行了较为全面的测评，尝试用最前沿的人脸识别系统去识别假视频，结果错误率高达95%。
《人民法院报》官网微博评论道：“试用任何一款新型软件的时候一定要认真阅读用户协议，多留个心眼，保护好自己的各项权益。”
“我不知道我们能否为此做好充分准备，但是我们还可以做更多的工作，确定敌人的计划和意图，尽早找出并揭露它，告知公众他们需要关注什么，应当做什么，而不仅仅忽略他们所看到的一切。”美国众议院情报委员会听证会主席亚当·希夫表示。
虽然没有一招制胜的方法，但阻止深度伪造负面影响蔓延的方法有很多，诚如马里兰大学法学教授丹尼尔·希特龙在上述听证会上总结的，对深度伪造的内容不能一竿子打死，很多深度伪造的合成媒体内容具有存在的正当性，而对影响国家安全、公共安全、民主政治的虚假信息才需要加强监管和规制。涉及刑事犯罪和一般网络侵权的深度伪造适用不同的规制，监管应区别对待，美国相关立法目前主要从刑事犯罪角度对深度伪造予以规制。
（摘自《中国新闻周刊》2019年第33期，作者为该刊记者。标题有改动）