论文部分内容阅读
摘 要：党的十九大报告提出要建设智慧社会，引发了我们对数字人权的思考。智慧社会下的人工智能除了满足人们对美好发展的需要，也产生了诸如算法黑箱、算法歧视、隐私侵犯、数字沟泓等与人权问题紧密相关、亟待解决的问题。以此为切入点，立足智慧社会发展的客观现实和人性诉求，从人工智能治理中数字人权的保护现状、存在问题、促进发展几个方面出发，在数字人权保护机制等方面进行深刻研究，进而为其发展提供法治化保障。
关键词：智慧社会;人工智能;数字人权;法治保障
1 人工智能治理中数字人权的保护现状
“智慧社会就是数字化、网络化、智能化深度融合的社会”，在此时期智能互联网也蓬勃发展，产生了诸如人工智能、云计算等新时代的产物，利用算法、代码等技术，人们可以突破物理疆域的限制，跨越了 “虚拟，现实” 的两重空间和人的 “生物，数字” 的双重属性，实现了数字身份及行为的远程临场。
1.1 虚拟—现实双重空间的交互发展
如今数字社会的快速进步和人工智能技术的迅速发展，背后是一场信息革命，即从工业社会向信息社会的转型，它以网络技术的发展为依托，缔造了一个超越空间的新型社会，促进了互联网、大数据、人工智能的交融发展，引导人们进入了信息化和智慧化的生活。人们从现实的物理空间走进了虚拟的电子空间，网上交易、群聊通信、学习娱乐，人工智能的发展使人们通过网络连接的方式就可以形成生活的方方面面，从而导致虚拟—现实双重空间的交互发展的现状。
1.2 生物—信息双重属性的叠加融合
随着人工智能的迅猛发展，现实与虚拟的交互，国家和社会的混同，海量数据的相互交换，通过网络中留下的一串串数字脚印，形成了每个人特有的“数据画像”。这样，人们就在天然的生物属性之外，获得了数字属性，从“生物人类”迈向“数字人类”，塑造了数字时代中生物-信息的双重人性。可以说，在智能互联网时代，海量数据不断融合，网络个人信息涵盖了从摇篮到坟墓的所有私人生活，就这样，一个“数字人”正在渐渐涌现。在这种情况下，数字鸿沟、算法黑箱、算法歧视等问题在不断发展，这实际上是复制和控制了通过数字渠道连续获得的数字信息。人们的个人兴趣、购买习惯等正在被一条条数据描绘着，源源不断的汇入大数据分析中，从而构成一个具有双重属性的社会信息网络。
1.3 算法权力的边界模糊
在数字时代，有关公民的个人信息转换成代码数据储存在网络空间中，人们不得不置身于大数据的虚拟空间中，公民逐渐成为一整个信息共同体，而为了社会经济的整体发展，相对的又不得不赋予平台一些“准公权力”，如规则制定权、审查权、管理权和处分权等。因此，数据和信息成为重要的新型资产，而算法也从最初的“提炼自这个世界，来源于这个世界”，转向“开始塑造这个世界”。而网络服务提供者利用人工智能等技术手段对这些数据进行系统的整理分析，从而对这些相关个人或群体及其行为得出相应的推断，比如一些商业群体就会通过对海量数据的分析得出个人的喜好、需要后对用户投放精准推送并因此获取巨大的商业利益。可以说，在“数据化+智能化”的“互联网+”时代，正是由于嵌入了数字和人工智能的元素，传统的权利和义务发生了根本的变化。
2 人工智能治理中数字人权保护存在的问题
2.1 算法崛起带来法律挑战
人工智能的发展，使得“信息”成了数字社会中的关键因素，信息化重组带来的风险几乎贯穿整个社会的演进发展，信息不再受到主权国家的绝对控制，而由条条信息数据的算法也越来越多的应用在决策和辅助场合。但是，算法黑箱、算法歧视等都暗含在算法的崛起之下。2018年的“Facebook丑闻”事件中，剑桥分析作为一家大数据分析公司，通过数据分析定义不同用户，其中成为“可说服者”的用户会成为平台的重点分析对象，平台会对其社交媒体活动信息做大数据分析，并以此计算出最容易让他们转变心意的广告方式，进而进行准对性的广告投放。平台及网络服务提供者正是运用算法来帮助甚至直接决定人们的决策权，这直接侵犯了人类决策的知情权。
2.2 “公共暴露”侵犯个人隐私
自20世纪初开始，从“对隐私权的侵犯已经不需要物理的、强制性侵入”，到“隐私的合理期待”（公共暴露），隐私权保障逐渐由住宅扩展到公共场所、从强调“场所”转向关注“人”。在当今社会，人们频繁的通过网络数据的方式完成生活中的各种交互，大数据、云计算、人工智能等越来越多的渗透在日常生活中的方方面面。因此，人们逐渐陷入了海量数据的漩涡中，失去了对个人信息权力的掌控。另一方面，随着大数据分析的发展，人们可以根据大数据的推荐选择自己需要的产品，但是这其中却掺杂了过多的第三方意愿。比如说，商家可以通过刷单、购买权重等方式提高自己在平台中的搜索地位从而让自己成为消费者的选择，在这种不知不觉中，人们自以为的需求产品其实变成了根据大数据运算后结合商家利益的推荐产品，人们正在慢慢失去自己的自主选择权。
与此同时，在当下的数字社会的发展中网络空间也逐渐成了人们生活的“第二个空间”，通过网络空间的技术架构，网络犯罪实现了“全球脱域”而游走在世界各地。而随着互联网时代网民基本素质的整体提升和网络技术门槛的逐渐降低，“公共暴露”的范围逐渐扩大，这在某一方面来说使得新型网络犯罪更多，犯罪者通过一些简单的技术链接就可以获取到人们的个人信息并进而将其用作犯罪的道具，致使新型网络犯罪率逐年升高，进一步侵害个人隐私权。据2019年公安部数据显示，全国最大访客营销案中的犯罪嫌疑人非法获取和储存公民个人相关信息约1000万余条。面对上述新型网络犯罪行为，如果可以提前设防，就可以防患于未然，保护公民个人信息和社会安全。
2.3 算法权力偏颇引发数字沟鸿
一般情况下，代码提供者会根据法律及伦理道德等多方面结合的实际要求提供具有提前约束力的代码规则供社会公共使用。此外，网络服务提供者也会在用户接入前提前设计相关用户协议以约束网民个体、网络组织等活动，以达到稳定网络秩序的预期功效。在实际操控中，普遍的情况是，代码设计者及网络服务提供者拥有对代码系统的绝对控制权，通过提前审查等方式管理网络秩序，履行信息网络安全管理的公法义务。但是，“内容过滤软件则会限制用户的自由浏览、沟通及表达。”代码设计者和网络服务提供者在实践中为了降低成本、获取更高利益、逃避监管责任等原因，其中立性越发偏失，比如，通过提升点击率和知名度，可以扩展用户份额以及增加广告收入，这是服务商的主要经营方式，为此目的，利益驅使下的服务商不惜牺牲公民权利和公共利益。实际网络生活中，不顾他人隐私权肆意炒作、利用网络用户个人注册信息进行不当牟利等情况数不胜数。在大数据时代，掌握信息流不只是掌握现金流，更可能意味着一种“信息独裁”。可以说，普通公众基本上无法得知自己在多大程度上、哪一方面被掌控，信息不对称的现象普遍而广泛，形成了实实在在的“数字沟泓”。 3 增进人工智能治理中数字人权的保护发展
3.1 提高数字人权的社会价值
数字化发展的时代，物理意义上的人正在向算法意义上转变，即“数字人”。因此，目前的当务之急是在公共政策中倡导“无数字，不人权”的概念和“数字人权”的价值。这一方面要求做到以人为本，坚持这一核心理念，对公民的数字化权利和自由加以保障，另一方面也要求在技术上逐步实现算法的透明化，如通过赋予个体相关数据权利来规制算法，让公民可以更好地享有或使用个人权利。
3.2 公法—私法携手并进
在迅猛发展的信息社会中，信息网络逐渐从桌面互联网发展到移动互联网，如今，移动支付、信息通信、媒体网络等渗透在生活的方方面面，已成为人们的生存条件和生存能力，特别是随着“互联网+教育”“互联网+医疗”“互联网+文化”“互联网+法治”等的融合，人类已经进入一个崭新的秩序领域，即由法律和技术构建的以互联网为中心的法律秩序。基于數字时代中生物-信息的双重人性，促进公法—私法平衡发展。一方面，加强公民人格权的保护，在我国《宪法》中把人格权作为公民基本权利加以规定。另一方面，《民法典》以设专编的方式加强对人格权的法律保护。《民法典》第990条首次明确界定人格权，规定“人格权是民事主体享有的生命权、身体权、健康权、姓名权、名称权、肖像权、名誉权、荣誉权、隐私权等”以及“自然人享有基于人身自由、人格尊严产生的其他人格权益”，并详细规定了各项人格权利的内容。而国家及立法机关也从未停下探索的脚步，预计在2020年出台相关网络安全治理法律，建立健全完备的保护公民个人信息的法律体系，为公民个人信息安全保驾护航。
3.3 平衡发展数字权益
数字时代的到来开启了智慧社会，而我国面临公民的数字权益发展不均衡的问题。随着人工智能的发展，共享经济正在慢慢渗透到我们的生活中。从汽车共享、私有财产共享、创意共享等，人们正在进入“无共享，不生活”的时代，分享经济的价值可谓巨大，影响深远。在这种时代趋势下，算法成为主导人们生活的新动力，运用算法的计算，一方面可以方便人们的生活，让人们可以跨越时间和空间的阻拦，足不出户便可以享受到时代的便利：另一方面，在时代的红利之下也要看到其中的缺陷，虚拟空间的算法偏颇正在造成越来越多的数字沟鸿，这就要求我们运用合理原则和比例原则，真正做到平衡发展数字权益，探寻“共建共治共享”的法治社会。
参考文献
[1]马长山.司法人工智能的重塑效应及其限度[J].法学研究，2020，（4）.
[2]陈福胜，杨昌宇.智能互联网时代法律关系客体的扩张——基于新兴权利问题的思考[J].黑龙江省政法管理干部学院学报，2019，（1）.
[3]刘新年.大数据时代下，如何保护隐私权[N].检察日报，2013-5-6.
[4]张文龙.全球信息技术中的网络犯罪及其治理[J].学术交流，2015，（3）.
[5]赵玉林.构建我国互联网多元治理模式——匡正互联网服务商参与网络治理的“四大乱象”[J].中国行政管理，2015，（1）.
[6]张文显.构建智能社会的法律秩序[J].东方法学，2020，（5）.
关键词：智慧社会;人工智能;数字人权;法治保障
1 人工智能治理中数字人权的保护现状
“智慧社会就是数字化、网络化、智能化深度融合的社会”，在此时期智能互联网也蓬勃发展，产生了诸如人工智能、云计算等新时代的产物，利用算法、代码等技术，人们可以突破物理疆域的限制，跨越了 “虚拟，现实” 的两重空间和人的 “生物，数字” 的双重属性，实现了数字身份及行为的远程临场。
1.1 虚拟—现实双重空间的交互发展
如今数字社会的快速进步和人工智能技术的迅速发展，背后是一场信息革命，即从工业社会向信息社会的转型，它以网络技术的发展为依托，缔造了一个超越空间的新型社会，促进了互联网、大数据、人工智能的交融发展，引导人们进入了信息化和智慧化的生活。人们从现实的物理空间走进了虚拟的电子空间，网上交易、群聊通信、学习娱乐，人工智能的发展使人们通过网络连接的方式就可以形成生活的方方面面，从而导致虚拟—现实双重空间的交互发展的现状。
1.2 生物—信息双重属性的叠加融合
随着人工智能的迅猛发展，现实与虚拟的交互，国家和社会的混同，海量数据的相互交换，通过网络中留下的一串串数字脚印，形成了每个人特有的“数据画像”。这样，人们就在天然的生物属性之外，获得了数字属性，从“生物人类”迈向“数字人类”，塑造了数字时代中生物-信息的双重人性。可以说，在智能互联网时代，海量数据不断融合，网络个人信息涵盖了从摇篮到坟墓的所有私人生活，就这样，一个“数字人”正在渐渐涌现。在这种情况下，数字鸿沟、算法黑箱、算法歧视等问题在不断发展，这实际上是复制和控制了通过数字渠道连续获得的数字信息。人们的个人兴趣、购买习惯等正在被一条条数据描绘着，源源不断的汇入大数据分析中，从而构成一个具有双重属性的社会信息网络。
1.3 算法权力的边界模糊
在数字时代，有关公民的个人信息转换成代码数据储存在网络空间中，人们不得不置身于大数据的虚拟空间中，公民逐渐成为一整个信息共同体，而为了社会经济的整体发展，相对的又不得不赋予平台一些“准公权力”，如规则制定权、审查权、管理权和处分权等。因此，数据和信息成为重要的新型资产，而算法也从最初的“提炼自这个世界，来源于这个世界”，转向“开始塑造这个世界”。而网络服务提供者利用人工智能等技术手段对这些数据进行系统的整理分析，从而对这些相关个人或群体及其行为得出相应的推断，比如一些商业群体就会通过对海量数据的分析得出个人的喜好、需要后对用户投放精准推送并因此获取巨大的商业利益。可以说，在“数据化+智能化”的“互联网+”时代，正是由于嵌入了数字和人工智能的元素，传统的权利和义务发生了根本的变化。
2 人工智能治理中数字人权保护存在的问题
2.1 算法崛起带来法律挑战
人工智能的发展，使得“信息”成了数字社会中的关键因素，信息化重组带来的风险几乎贯穿整个社会的演进发展，信息不再受到主权国家的绝对控制，而由条条信息数据的算法也越来越多的应用在决策和辅助场合。但是，算法黑箱、算法歧视等都暗含在算法的崛起之下。2018年的“Facebook丑闻”事件中，剑桥分析作为一家大数据分析公司，通过数据分析定义不同用户，其中成为“可说服者”的用户会成为平台的重点分析对象，平台会对其社交媒体活动信息做大数据分析，并以此计算出最容易让他们转变心意的广告方式，进而进行准对性的广告投放。平台及网络服务提供者正是运用算法来帮助甚至直接决定人们的决策权，这直接侵犯了人类决策的知情权。
2.2 “公共暴露”侵犯个人隐私
自20世纪初开始，从“对隐私权的侵犯已经不需要物理的、强制性侵入”，到“隐私的合理期待”（公共暴露），隐私权保障逐渐由住宅扩展到公共场所、从强调“场所”转向关注“人”。在当今社会，人们频繁的通过网络数据的方式完成生活中的各种交互，大数据、云计算、人工智能等越来越多的渗透在日常生活中的方方面面。因此，人们逐渐陷入了海量数据的漩涡中，失去了对个人信息权力的掌控。另一方面，随着大数据分析的发展，人们可以根据大数据的推荐选择自己需要的产品，但是这其中却掺杂了过多的第三方意愿。比如说，商家可以通过刷单、购买权重等方式提高自己在平台中的搜索地位从而让自己成为消费者的选择，在这种不知不觉中，人们自以为的需求产品其实变成了根据大数据运算后结合商家利益的推荐产品，人们正在慢慢失去自己的自主选择权。
与此同时，在当下的数字社会的发展中网络空间也逐渐成了人们生活的“第二个空间”，通过网络空间的技术架构，网络犯罪实现了“全球脱域”而游走在世界各地。而随着互联网时代网民基本素质的整体提升和网络技术门槛的逐渐降低，“公共暴露”的范围逐渐扩大，这在某一方面来说使得新型网络犯罪更多，犯罪者通过一些简单的技术链接就可以获取到人们的个人信息并进而将其用作犯罪的道具，致使新型网络犯罪率逐年升高，进一步侵害个人隐私权。据2019年公安部数据显示，全国最大访客营销案中的犯罪嫌疑人非法获取和储存公民个人相关信息约1000万余条。面对上述新型网络犯罪行为，如果可以提前设防，就可以防患于未然，保护公民个人信息和社会安全。
2.3 算法权力偏颇引发数字沟鸿
一般情况下，代码提供者会根据法律及伦理道德等多方面结合的实际要求提供具有提前约束力的代码规则供社会公共使用。此外，网络服务提供者也会在用户接入前提前设计相关用户协议以约束网民个体、网络组织等活动，以达到稳定网络秩序的预期功效。在实际操控中，普遍的情况是，代码设计者及网络服务提供者拥有对代码系统的绝对控制权，通过提前审查等方式管理网络秩序，履行信息网络安全管理的公法义务。但是，“内容过滤软件则会限制用户的自由浏览、沟通及表达。”代码设计者和网络服务提供者在实践中为了降低成本、获取更高利益、逃避监管责任等原因，其中立性越发偏失，比如，通过提升点击率和知名度，可以扩展用户份额以及增加广告收入，这是服务商的主要经营方式，为此目的，利益驅使下的服务商不惜牺牲公民权利和公共利益。实际网络生活中，不顾他人隐私权肆意炒作、利用网络用户个人注册信息进行不当牟利等情况数不胜数。在大数据时代，掌握信息流不只是掌握现金流，更可能意味着一种“信息独裁”。可以说，普通公众基本上无法得知自己在多大程度上、哪一方面被掌控，信息不对称的现象普遍而广泛，形成了实实在在的“数字沟泓”。 3 增进人工智能治理中数字人权的保护发展
3.1 提高数字人权的社会价值
数字化发展的时代，物理意义上的人正在向算法意义上转变，即“数字人”。因此，目前的当务之急是在公共政策中倡导“无数字，不人权”的概念和“数字人权”的价值。这一方面要求做到以人为本，坚持这一核心理念，对公民的数字化权利和自由加以保障，另一方面也要求在技术上逐步实现算法的透明化，如通过赋予个体相关数据权利来规制算法，让公民可以更好地享有或使用个人权利。
3.2 公法—私法携手并进
在迅猛发展的信息社会中，信息网络逐渐从桌面互联网发展到移动互联网，如今，移动支付、信息通信、媒体网络等渗透在生活的方方面面，已成为人们的生存条件和生存能力，特别是随着“互联网+教育”“互联网+医疗”“互联网+文化”“互联网+法治”等的融合，人类已经进入一个崭新的秩序领域，即由法律和技术构建的以互联网为中心的法律秩序。基于數字时代中生物-信息的双重人性，促进公法—私法平衡发展。一方面，加强公民人格权的保护，在我国《宪法》中把人格权作为公民基本权利加以规定。另一方面，《民法典》以设专编的方式加强对人格权的法律保护。《民法典》第990条首次明确界定人格权，规定“人格权是民事主体享有的生命权、身体权、健康权、姓名权、名称权、肖像权、名誉权、荣誉权、隐私权等”以及“自然人享有基于人身自由、人格尊严产生的其他人格权益”，并详细规定了各项人格权利的内容。而国家及立法机关也从未停下探索的脚步，预计在2020年出台相关网络安全治理法律，建立健全完备的保护公民个人信息的法律体系，为公民个人信息安全保驾护航。
3.3 平衡发展数字权益
数字时代的到来开启了智慧社会，而我国面临公民的数字权益发展不均衡的问题。随着人工智能的发展，共享经济正在慢慢渗透到我们的生活中。从汽车共享、私有财产共享、创意共享等，人们正在进入“无共享，不生活”的时代，分享经济的价值可谓巨大，影响深远。在这种时代趋势下，算法成为主导人们生活的新动力，运用算法的计算，一方面可以方便人们的生活，让人们可以跨越时间和空间的阻拦，足不出户便可以享受到时代的便利：另一方面，在时代的红利之下也要看到其中的缺陷，虚拟空间的算法偏颇正在造成越来越多的数字沟鸿，这就要求我们运用合理原则和比例原则，真正做到平衡发展数字权益，探寻“共建共治共享”的法治社会。
参考文献
[1]马长山.司法人工智能的重塑效应及其限度[J].法学研究，2020，（4）.
[2]陈福胜，杨昌宇.智能互联网时代法律关系客体的扩张——基于新兴权利问题的思考[J].黑龙江省政法管理干部学院学报，2019，（1）.
[3]刘新年.大数据时代下，如何保护隐私权[N].检察日报，2013-5-6.
[4]张文龙.全球信息技术中的网络犯罪及其治理[J].学术交流，2015，（3）.
[5]赵玉林.构建我国互联网多元治理模式——匡正互联网服务商参与网络治理的“四大乱象”[J].中国行政管理，2015，（1）.
[6]张文显.构建智能社会的法律秩序[J].东方法学，2020，（5）.