论文部分内容阅读
国务院《新一代人工智能发展规划》曾指出，人工智能是影响面广的颠覆性技术，可能冲击法律和社会伦理，带来侵犯个人隐私、挑战国际关系准则等问题，将对政府管理、经济安全和社会稳定乃至全球治理产生深远影响。我们在拥抱人工智能时代的同时，也要警惕技术发展可能带来的潜在风险和对司法实践带来的挑战。
人工智能技术的飞速发展，在经济增长、社会进步、国际政治经济等领域都产生了重大而深远的影响。国务院在《新一代人工智能发展规划》中提出，我国将围绕包括司法管理在内的社会治理的热点难点问题，促进人工智能技术应用，推动社会治理现代化。在第三届世界互联网大会智慧法院暨网络法治论坛上，最高人民法院院长周强指出：“（中国）将积极推动人工智能在司法领域的应用。”人工智能等新技术与法律领域的融合发展已成为不可阻挡的时代潮流，司法改革如何与新一轮科技革命相结合，成为了当代司法工作者亟需面对的全新课题。
有鉴于此，由北京互联网法院主办、中国知识产权杂志协办的“创新与冲突一一人工智能的法律挑战与司法应对”研讨会在京召开。会上，来自法律理论界和实务界的专家学者以及各大互联网公司的代表，就“人工智能产业战略及行业应用现状”“人工智能带来的立法及司法挑战”“人工智能给著作权保护带来的挑战及司法应对”等内容进行了深入研讨。
人工智能促进司法的便利化
早在2017年，国务院就倡导实现智慧法庭，包括建设集审判、人员、数据应用、司法公开和动态监控于一体的智慧法庭数据平台，促进人工智能在证据收集、案例分析、法律文件阅读与分析中的应用，实现法院审判体系和审判能力智能化。而在2018年9月设立的北京互联网法院中，这些美好愿景已经成为了现实。北京互联网法院张雯院长表示，作为技术和司法深度融合的法院，一方面有很多人工智能技术的司法应用，用技术赋能司法，解放法官生产力;另一方面，也受理了很多涉及互联网前沿问题的新类型案件，需要法官们关注技术、了解产业，发挥司法裁判的价值引领作用。
今年4月初，China IP记者一行人有幸跟随姜颖副院长参观北京互联网法院，法院的高科技基础设施、智能化办案流程，都让大家啧啧称奇。据北京互联网法院李经纬副院长介绍，北京互联网法院在建设之初就顺应互联网和人工智能发展趋势，积极探索人工智能的司法应用空间，真正实现全业務网上办理、全流程依法公开、全方位智能服务：通过人脸识别技术，辅助实现诉讼主体身份验证，打造“立-审-执”全流程在线的电子诉讼平台;运用语音转文字系统，实现语音数据的智能转化，实现无传统书记员情境下的笔录制作;实现辅助办案系统和诉讼服务系统的智能化。
司法领域的智能化实践，让大家真切感受到人工智能对于提升司法的公正和效率的强大助力，也看到了未来人工智能与司法实践深度融合的广阔前景。
人工智能亦给司法带来挑战
国务院《新一代人工智能发展规划》曾指出，人工智能是影响面广的颠覆性技术，可能冲击法律和社会伦理，带来侵犯个人隐私、挑战国际关系准则等问题，将对政府管理、经济安全和社会稳定乃至全球治理产生深远影响。李经玮副院长告诉Chma IP记者，在拥抱人工智能时代的同时，我们也要警惕技术发展可能带来的潜在风险和对司法实践带来的挑战。
挑战一：人工智能与个人信息保护
人工智能给我们的生活带来便利，但这同时也意味着我们需要让渡部分隐私信息。中国网民权益保护调查报告显示，去年，我国有84%的网民受到个人信息泄露带来的不良影响，这引发了关于人工智能与个人信息保护的广泛讨论。应当看到，技术更新迭代是推动社会进步的重要力量，人们不能因为技术发展中出现的阶段性问题而因噎废食。但从我国个人信息的法律保护现状来看，我国关于个人信息安全的规定散见于《民法总则》《刑法》《网络安全法》《消费者权益保护法》《电子商务法》等法律条文中，虽然从数量上似乎形成了一定的规模，但尚未构成一个完整、系统、条理清晰的体系。如何规范数据的收集、储存、利用行为，如何平衡人工智能大数据的使用与个人信息权利的保护，避免数据的泄露和滥用，我国还需从司法角度进一步予以厘清和明确。
挑战二：人工智能的运用与消费者权益保护
提高人工智能的智能化水平，离不开对大数据的采集和使用。目前，各类网络平台以持续收集的用户个人信息、交易记录为基础，可以依托大数据分析为用户进行个人画像，进而有针对性地推送商业信息，这被称为“精准营销”。但在这种情况下，如何才能使消费者的权益得到最大限度的保护？虽然《电子商务法》对“大数据杀熟”行为进行了一定的规制，如其中第十八条规定，“电子商务经营者根据消费者的兴趣爱好、消费习惯等特征向其提供商品或者服务的搜索结果的，应当同时向消费者提供不针对其个人特征的选项，尊重和平等保护消费者合法权益”，但如果平台利用人工智能技术实施了“大数据杀熟”，当事人应如何进行举证？会不会因此导致合同无效，或是效力待定的后果？消费者是否拥有申请确认合同无效或行使撤销权的权利？虽然目前此类实例并不多，但其引发的法律问题在实践中必然会出现，值得我们深入思考及应对。
挑战三：人工智能与知识产权保护
2017年5月，微软“小冰”创作的诗集《阳光失了玻璃窗》正式出版，这是人类历史上第一部完全由人工智能机器人创作的作品，打破了人类的“垄断”。之后，人工智能作曲机器人Amper创作的专辑《IAMAI》问世，Google公司人工智能创作的六幅画作被高价拍卖等事件，再次挑战了人类对人工智能机器人的认知，引发了人们对人工智能创作之知识产权保护的思考：首先，人工智能创作物的法律属性尚未确定。著作权要求创作物必须具备独创性、可复制性、经济性等特征，体现的是创作者的智力成果。人工智能机器人的创作物到底是不是作品、是否应当纳入知识产权保护的客体范围等问题，目前还未有明确结论。其次，人工智能创作物的著作权归属也是一个聚讼纷纭的问题。如果人工智能机器人的创作物受版权保护，那么其版权应该归谁所有？是人工智能机器人本身，还是人工智能机器人的发明人？且人工智能创作物的“创作”过程往往涉及多个主体的合作，编写程序的程序员、投入资金和海量大数据的投资人、智能机器人的终端使用者等都是参与者，这比传统著作权的产生过程更加复杂、多元，作品与创作人的关系也被“稀释”，单个创作人体现于作品中的个性更加模糊，这一现象需要在法律实践中认真加以甄别。 挑战四：人工智能的侵权责任
2016年11月，深圳曾发生机器人小胖“暴走”并打砸玻璃致人受伤事件。同年，美国加州Google无人驾驶汽车与大巴相撞。类似案件所引发的侵权责任认定和责任承担，一直受到学界的高度关注。关于人工智能机器人造成的他人财产、人身损害，是否应该按照《民法总则》《侵权责任法》《产品责任法》《合同法》等确定生產者或管理者的侵权责任？无人驾驶汽车（“人工智能+车”）模式下发生的交通事故，与司机手动驾驶（“人+车”）模式下发生的交通事故在责任类型上是否存在一定差异？近年来，各国也在不断探索更多的法律规制措施，但我国法律在此方面仍存在缺失。
挑战五：人工智能与法律人“抢饭碗”
前不久，在英国科学家举办的一次人机较量中，一位人工智能律师（CaseCruncher Alpha）击败了来自剑桥大学的100名法律专业学生。此事件引发了公众特别是法律界人士对人工智能取代律师及法官职业的担忧。人工智能在法律领域击败人类，对法律界人士来说意味着什么？作为延续至今的人类最古老的职业之一，法官会被人工智能所取代吗？既然司法活动要求的是理性而非感性，那么依靠纯粹理性算术逻辑推演的机器人是否在司法活动上更胜法官一筹？这些问题都将成为未来业界关注与讨论的重点。
包容审慎 赢得主动
对于人工智能带来的挑战，李经纬副院长则表示，在标准化、要素化的简单案件中，人工智能的确可以用高效率的手段解决案多人少的矛盾，也可以通过建立一种标准化的裁判基准或者模型，减少司法任意性，促进公正司法。但这种作用只能是辅助性的作用，当面对复杂案件时，纠纷所涉及的价值衡量与价值选择，并不能简单量化为人工智能所依赖的数据积累与计算，还需要依赖于法官的经验和理性判断。司法过程不只是理性逻辑的堆砌，还需要兼顾法、情、理的融合，实现法律效果与社会效果的统一。
AI与司法，未来已来。作为法律人，我们应当密切关注社会现实，秉持理性主义精神面对人工智能时代提出的新课题，充分认识和拥抱科技为法治带来的结构性变革，以“开放创新包容审慎”的态度，在司法实践领域的深刻变革中赢得主动权。通过整合多学科力量，建立健全保障人工智能健康发展的法律法规和制度体系，我们有理由相信，科学技术的智慧之光与法律制度的理性之光，将在人工智能时代交相辉映。
人工智能技术的飞速发展，在经济增长、社会进步、国际政治经济等领域都产生了重大而深远的影响。国务院在《新一代人工智能发展规划》中提出，我国将围绕包括司法管理在内的社会治理的热点难点问题，促进人工智能技术应用，推动社会治理现代化。在第三届世界互联网大会智慧法院暨网络法治论坛上，最高人民法院院长周强指出：“（中国）将积极推动人工智能在司法领域的应用。”人工智能等新技术与法律领域的融合发展已成为不可阻挡的时代潮流，司法改革如何与新一轮科技革命相结合，成为了当代司法工作者亟需面对的全新课题。
有鉴于此，由北京互联网法院主办、中国知识产权杂志协办的“创新与冲突一一人工智能的法律挑战与司法应对”研讨会在京召开。会上，来自法律理论界和实务界的专家学者以及各大互联网公司的代表，就“人工智能产业战略及行业应用现状”“人工智能带来的立法及司法挑战”“人工智能给著作权保护带来的挑战及司法应对”等内容进行了深入研讨。
人工智能促进司法的便利化
早在2017年，国务院就倡导实现智慧法庭，包括建设集审判、人员、数据应用、司法公开和动态监控于一体的智慧法庭数据平台，促进人工智能在证据收集、案例分析、法律文件阅读与分析中的应用，实现法院审判体系和审判能力智能化。而在2018年9月设立的北京互联网法院中，这些美好愿景已经成为了现实。北京互联网法院张雯院长表示，作为技术和司法深度融合的法院，一方面有很多人工智能技术的司法应用，用技术赋能司法，解放法官生产力;另一方面，也受理了很多涉及互联网前沿问题的新类型案件，需要法官们关注技术、了解产业，发挥司法裁判的价值引领作用。
今年4月初，China IP记者一行人有幸跟随姜颖副院长参观北京互联网法院，法院的高科技基础设施、智能化办案流程，都让大家啧啧称奇。据北京互联网法院李经纬副院长介绍，北京互联网法院在建设之初就顺应互联网和人工智能发展趋势，积极探索人工智能的司法应用空间，真正实现全业務网上办理、全流程依法公开、全方位智能服务：通过人脸识别技术，辅助实现诉讼主体身份验证，打造“立-审-执”全流程在线的电子诉讼平台;运用语音转文字系统，实现语音数据的智能转化，实现无传统书记员情境下的笔录制作;实现辅助办案系统和诉讼服务系统的智能化。
司法领域的智能化实践，让大家真切感受到人工智能对于提升司法的公正和效率的强大助力，也看到了未来人工智能与司法实践深度融合的广阔前景。
人工智能亦给司法带来挑战
国务院《新一代人工智能发展规划》曾指出，人工智能是影响面广的颠覆性技术，可能冲击法律和社会伦理，带来侵犯个人隐私、挑战国际关系准则等问题，将对政府管理、经济安全和社会稳定乃至全球治理产生深远影响。李经玮副院长告诉Chma IP记者，在拥抱人工智能时代的同时，我们也要警惕技术发展可能带来的潜在风险和对司法实践带来的挑战。
挑战一：人工智能与个人信息保护
人工智能给我们的生活带来便利，但这同时也意味着我们需要让渡部分隐私信息。中国网民权益保护调查报告显示，去年，我国有84%的网民受到个人信息泄露带来的不良影响，这引发了关于人工智能与个人信息保护的广泛讨论。应当看到，技术更新迭代是推动社会进步的重要力量，人们不能因为技术发展中出现的阶段性问题而因噎废食。但从我国个人信息的法律保护现状来看，我国关于个人信息安全的规定散见于《民法总则》《刑法》《网络安全法》《消费者权益保护法》《电子商务法》等法律条文中，虽然从数量上似乎形成了一定的规模，但尚未构成一个完整、系统、条理清晰的体系。如何规范数据的收集、储存、利用行为，如何平衡人工智能大数据的使用与个人信息权利的保护，避免数据的泄露和滥用，我国还需从司法角度进一步予以厘清和明确。
挑战二：人工智能的运用与消费者权益保护
提高人工智能的智能化水平，离不开对大数据的采集和使用。目前，各类网络平台以持续收集的用户个人信息、交易记录为基础，可以依托大数据分析为用户进行个人画像，进而有针对性地推送商业信息，这被称为“精准营销”。但在这种情况下，如何才能使消费者的权益得到最大限度的保护？虽然《电子商务法》对“大数据杀熟”行为进行了一定的规制，如其中第十八条规定，“电子商务经营者根据消费者的兴趣爱好、消费习惯等特征向其提供商品或者服务的搜索结果的，应当同时向消费者提供不针对其个人特征的选项，尊重和平等保护消费者合法权益”，但如果平台利用人工智能技术实施了“大数据杀熟”，当事人应如何进行举证？会不会因此导致合同无效，或是效力待定的后果？消费者是否拥有申请确认合同无效或行使撤销权的权利？虽然目前此类实例并不多，但其引发的法律问题在实践中必然会出现，值得我们深入思考及应对。
挑战三：人工智能与知识产权保护
2017年5月，微软“小冰”创作的诗集《阳光失了玻璃窗》正式出版，这是人类历史上第一部完全由人工智能机器人创作的作品，打破了人类的“垄断”。之后，人工智能作曲机器人Amper创作的专辑《IAMAI》问世，Google公司人工智能创作的六幅画作被高价拍卖等事件，再次挑战了人类对人工智能机器人的认知，引发了人们对人工智能创作之知识产权保护的思考：首先，人工智能创作物的法律属性尚未确定。著作权要求创作物必须具备独创性、可复制性、经济性等特征，体现的是创作者的智力成果。人工智能机器人的创作物到底是不是作品、是否应当纳入知识产权保护的客体范围等问题，目前还未有明确结论。其次，人工智能创作物的著作权归属也是一个聚讼纷纭的问题。如果人工智能机器人的创作物受版权保护，那么其版权应该归谁所有？是人工智能机器人本身，还是人工智能机器人的发明人？且人工智能创作物的“创作”过程往往涉及多个主体的合作，编写程序的程序员、投入资金和海量大数据的投资人、智能机器人的终端使用者等都是参与者，这比传统著作权的产生过程更加复杂、多元，作品与创作人的关系也被“稀释”，单个创作人体现于作品中的个性更加模糊，这一现象需要在法律实践中认真加以甄别。 挑战四：人工智能的侵权责任
2016年11月，深圳曾发生机器人小胖“暴走”并打砸玻璃致人受伤事件。同年，美国加州Google无人驾驶汽车与大巴相撞。类似案件所引发的侵权责任认定和责任承担，一直受到学界的高度关注。关于人工智能机器人造成的他人财产、人身损害，是否应该按照《民法总则》《侵权责任法》《产品责任法》《合同法》等确定生產者或管理者的侵权责任？无人驾驶汽车（“人工智能+车”）模式下发生的交通事故，与司机手动驾驶（“人+车”）模式下发生的交通事故在责任类型上是否存在一定差异？近年来，各国也在不断探索更多的法律规制措施，但我国法律在此方面仍存在缺失。
挑战五：人工智能与法律人“抢饭碗”
前不久，在英国科学家举办的一次人机较量中，一位人工智能律师（CaseCruncher Alpha）击败了来自剑桥大学的100名法律专业学生。此事件引发了公众特别是法律界人士对人工智能取代律师及法官职业的担忧。人工智能在法律领域击败人类，对法律界人士来说意味着什么？作为延续至今的人类最古老的职业之一，法官会被人工智能所取代吗？既然司法活动要求的是理性而非感性，那么依靠纯粹理性算术逻辑推演的机器人是否在司法活动上更胜法官一筹？这些问题都将成为未来业界关注与讨论的重点。
包容审慎 赢得主动
对于人工智能带来的挑战，李经纬副院长则表示，在标准化、要素化的简单案件中，人工智能的确可以用高效率的手段解决案多人少的矛盾，也可以通过建立一种标准化的裁判基准或者模型，减少司法任意性，促进公正司法。但这种作用只能是辅助性的作用，当面对复杂案件时，纠纷所涉及的价值衡量与价值选择，并不能简单量化为人工智能所依赖的数据积累与计算，还需要依赖于法官的经验和理性判断。司法过程不只是理性逻辑的堆砌，还需要兼顾法、情、理的融合，实现法律效果与社会效果的统一。
AI与司法，未来已来。作为法律人，我们应当密切关注社会现实，秉持理性主义精神面对人工智能时代提出的新课题，充分认识和拥抱科技为法治带来的结构性变革，以“开放创新包容审慎”的态度，在司法实践领域的深刻变革中赢得主动权。通过整合多学科力量，建立健全保障人工智能健康发展的法律法规和制度体系，我们有理由相信，科学技术的智慧之光与法律制度的理性之光，将在人工智能时代交相辉映。