论文部分内容阅读
本文共分为五个部分,笔者从算法歧视的概述、算法歧视对平等权的威胁、算法歧视产生的原因、算法歧视的域外规制以及探索规制算法歧视的中国路径这几个方面对实践中越来越突出的算法歧视问题进行深入的探讨。第一章,算法歧视概述。在第一节中,笔者认为应该分别算法和歧视这两个概念,在此基础之上,我们可以进一步理解算法歧视的内涵。在第二节中,笔者分析了算法歧视的特征,算法歧视主要有机制化和隐蔽性这两个特征。在第三节中,笔者对算法歧视的类型和表现进行了论述,根据算法歧视是否与个人的身份属性有关,我们可以把算法歧视分为两个类别。首先,涉及身份属性的算法歧视,它主要包括种族歧视、性别歧视和人脸歧视。其次,不涉及身份属性的算法歧视,这一部分主要有价格歧视和排名歧视。第二章,算法歧视对平等权的威胁。第一,笔者论述了算法歧视造成的歧视识别危机。首先,笔者指出算法造成的歧视使得人们识别隐性歧视的行动变得更加困难。其次,笔者以美国的种族歧视为例进一步深入探讨了这个问题。最后,笔者认为,在人工智能时代,民众越来越习惯于牺牲个人的基本权益来获取便利,这种情况会导致歧视识别的阈值越来越高。第二,平等权保护模式面临危机,笔者认为就目前的平等权保护机制而言,算法歧视从三个方面对它产生威胁,即算法歧视分别对立法规范造成冲击,此外,它还对行政监管提出挑战,最后,平等权的司法救济也受到威胁。第三章,算法歧视产生的原因。笔者认为算法歧视主要来源于训练数据,具体而言,是数据偏见和数据代理这两个因素共同导致了算法歧视。在第一节中,笔者的观点是因为算法从研发到投入使用的整个生命周期都具有强烈的数据依赖性,所以数据中存在的偏见必然和算法歧视密切相关。除此之外,笔者引入“反馈循环”来阐释算法歧视如何进一步强化了现实社会中的社会偏见,具有创新性。在第二节中,笔者分析了个人敏感数据如何通过寻找代理来发挥作用,并以流行的机器学习为例进一步分析数据的代理机制。第四章,算法歧视的域外规制。因为算法歧视是一个全球性问题,所以通过考察其他国家或地区的实践,我们能够从中获得有益的经验。作为对算法歧视进行法律规制的先行者,欧盟选择了以数据保护为中心的治理路径,2018年5月正式生效的《通用数据保护条例》产生了超越国界的影响,该条例主要从数据净化和提供算法知情权这两个维度对算法歧视进行规制。而美国则选择尊重现有法律框架,美国政府认为算法歧视同样适用于传统的平等保护条款。在此基础上,美国国会制定了《2019年算法问责法案》,该法案要求算法控制者进行“自动化决策系统影响评估”,这个制度的本质是要求算法设计者加强自我审查。第五章,探索治理算法歧视的中国路径。笔者认为,鉴于中国治理算法歧视的实践还处在起步阶段,笔者尝试探索治理算法歧视的中国路径,从技术、审查和补救这三个维度来完善治理算法歧视的解决方案。笔者认为当算法歧视产生实质的危害后果后,应当回归传统的侵权法,对算法控制者进行事后追责。我们可以借鉴美国法律实践中采用的“差别性影响标准”来对算法歧视进行法律识别。就算法歧视的归责原则而言,笔者考虑采用无过错责任,同时,为了减轻算法控制者的负担,笔者建议建立算法赔偿基金会,以此来转移算法控制者的风险负担。