论文部分内容阅读
摘 要：随着人工智能与教育应用的深度融合，人工智能的教育伦理问题逐渐引起人们的关注。文章发端于对技术向善美好图景的伦理目标审度，站在技术哲学立场分析人工智能教育伦理的逻辑起点，从伦理旨趣、建构依据、实践路向等方面探讨人工智能教育伦理实现的可能性、合理性和有效性问题。研究发现，教育领域中的技术向善关键是要建立“人-技术-教育”的内在一致性，通过生成技术道德化引导教育主体的道德行为和伦理规范，形成主体与技术联结的道德共同体，最终实现智能技术手段与人本教育价值的统一。
关键词：人工智能;教育伦理;伦理规范;技术哲学;道德物化
近年来，随着人工智能技术（Artificial Intelligence，简称AI）在各领域的融合应用日趋广泛，人工智能的伦理问题也逐渐引起人们的关注。自2019年起，社会各界开始相继采取积极策略应对AI伦理风险。日本颁布了《以人类为中心的人工智能社会原则》，提倡正确看待“人机关系”，构建安全应用的“AI-Ready社会”;欧盟委员会发布的《人工智能伦理准则》提出以“可信赖”的人工智能为愿景准则，以提升人们对AI产业的信任;我国新一代人工智能治理专业委员会发布的《新一代人工智能治理原则》强调要发展“负责任”的人工智能，旨在协调AI发展与治理的关系，确保人工智能安全可控可靠。可见，推动技术向善、建构人工智能伦理规范成为未来人工智能发展的重要议题。反观教育领域，人工智能在教育中的创新应用也影响了原有的教育生态，面对“AI+教育”融合后引发的一系列伦理问题，作为教育者需厘清人与技术的关系，建构AI教育伦理规范，实现人工智能赋能教育信息化持续健康发展的美好图景。本文将站在技术哲学立场，回溯人工智能教育伦理的逻辑起点，即从“何谓向善”、“何以可能”、“何以可为”三个方面探讨人工智能技术应用于教育的伦理目标及其实现，核心在于教育领域需要什么样的人工智能技术、为什么可以实现以及怎样建构这种伦理规范。
一、何谓向善：人工智能教育伦理的内在旨趣
首先，我们需明确教育人工智能的伦理旨趣。换言之，教育应用中究竟什么样的人工智能是符合伦理规范的，这是我们在建构AI教育伦理规范之前需要讨论的元问题。该维度之审视既包含对已有伦理失范现象的总结反思，又涵盖对未来教育人工智能发展的美好构想。
（一）伦理问题的实然表征：技术异化导致教育生态失衡
从尼尔·波兹曼的技术垄断论到西尔弗斯通的技术反向驯化，再到唐娜·哈拉维的后人类主义赛博格隐喻，似乎都在提醒人们警觉媒介时代的技术性压迫，防患人文价值的失落。反观“AI+教育”生态，人工智能凭借其高性能、精准化的技术优势为教育领域带来了新的生机，实现了个性化学习、智能导师、自适应推送、大数据分析、智慧校园管理等智能化功能，填补了传统教学的不足。然而，人们对智能技术的过度依赖也将滋生某些潜在的伦理风险。从浙江小学生佩戴“紧箍咒”监测头环事件到美国亚马逊语音机器人Alexa失控吓人事件，人工智能这面现实“黑镜”使人们再次陷入科技侵蚀生活的恐慌，进而反思并寻求技术伦理的制约，重构人工智能的伦理秩序。特别是将人工智能引入教育实践更需要伦理道德的引导，由于教育试错的成本太高，一旦使用不慎将会对学生个人、社会发展造成不可估量的负面影响。从已有的实践经验来看，目前教育人工智能的伦理失范现象大多集中表现在这几个方面：一是数据泄漏、个人隐私安全、算法可表征化、机器情感识别、人类意识极限等技术层面问题;二是师生角色定位、人机关系模糊、主观能动性降低、代际数字鸿沟、人格培养片面等主体层面问题;三是教学模式固化、数据主义评价、教育价值偏颇、社会责任缺失等教育层面问题。整体而言，人工智能在教育应用中的伦理问题可表征为“主体-技术-教育”之间的角色博弈，当技术一方被过分倚重时将会引发整个教育生态的失衡。人工智能的教育伦理问题其实是人对技术伦理和教育伦理的综合考量，教育者在技术应用过程中需研判三者之间的权重关系，避免技术异化剥夺教育主体对教育现实的参与，从而致使教育形态异化。
·教育基本理论·论技术向善何以可能
（二）伦理规范的应然追求：建立教育中技术的合目的性
虽然学界对AI介入教育的不良效应存在不少质疑与批判，但究竟理想语境下的“可信任”、“负责任”、“友好的”教育人工智能是怎样的一幅图景、技术向善之谓“善”具体内涵指向什么还悬而未决。确立人工智能教育伦理规范是当代教育变革的应然要求，也是我们亟待解决的首要问题。苏格拉底指出善的意义在于和谐、秩序、有益的、有用的;柏拉图将善的理念比喻为理念世界的太阳，是知识和真理的源泉;亚里士多德把善看作隐藏在事物中的内在目的，符合其内在目的就是善，反之即不好，他将这种自足目的的实现、实践理性的对象称为“幸福”。[1]“善”的意义在古希腊三杰的哲学演绎下逐渐明晰，康德在此基礎上提出了以人的意志自由为出发点的至善学说，并认为“善”是德性与幸福的统一。德性是指人一向都能遵循道德法则而行动的状态，幸福即是对“一切偏好的满足”，前者是理性追求的对象，后者是感性的欲求。[2]当我们不断平衡这两种反思概念之间的内在张力，这种价值与目的的一致性即为合目的性。合目的性的理论意蕴指出事物的形成与发展取决于其内在必然性，善的理念在于人们寻求达成共识的共通感，从而形成目的与价值、形式与质料、知性与理性的统一。因此，从应然视角来看，教育场域中的技术向善归根结底应是联结技术手段与教育价值的内在一致性，技术的内在目的需与教育的最终追求相吻合，才能达到实现人们幸福生活的至善境界。在人、技术、教育三者构成的生活世界中，如若过于强调技术的价值将导致工具理性对价值理性的僭越，若过于注重知识技能的灌输将造成教师主体性的弱化和学生人格培养的缺失。唯有建立“人-技术-教育”的内在一致性，匡正人工智能介入教育的合目的性，才能使“技术向善”的教育世界洞见可能。 二、何以可能：人工智能教育伦理的建构依据
在明确人工智能教育伦理的应然追求基础上，我们将进一步对技术向善何以可能的存在逻辑进行考察与追问，即探讨其伦理规范建构的合理性问题。为建构“人-技术-教育”的内在一致性，在此分别从技术本身、人技关系、教育价值等视角逐一分析。
（一）技术本质论：技术意向性引导技术道德化
荷兰技术哲学家彼得·保罗·维贝克（Peter - Paul Verbeek）基于“后人类主义”视角提出“道德物化”思想，认为技术自身具有道德意蕴，为实现技术向善的理想境遇提供一种新的伦理实践进路。传统的技术伦理学立足于人本主义的立场，将技术视为工具性角色;当代技术哲学发生了后现象学的转向，技术中介理论揭示了技术设计中的内在道德维度，表明技术总是有助于基于道德决策构建人的行为和解释。[3]维贝克认为当一个技术物被使用时它就促进了人与现实的牵连，并且技术物共塑着人在其世界中如何被呈现以及世界如何呈现给他们，使用中的物能被理解为人与世界关系的调解者，积极主动地共塑着人在其世界的方式：人的知觉和行动、体验和存在。[4]即是说，技术人工物作为道德能动者能够对人类产生伦理引导和规范作用，通过知觉调解和行为调解影响人对现实世界的感知以及道德行为。技术调解作用肇始于“技术意向性”概念，即技术物在组织知觉过程中的“指向”，技术物通过规定使用技术时该如何行动的脚本来调节行动。技术不是中性的工具，它在人与世界的关系中发挥着主动性作用，也有学者将由技术的意向结构所规定的这种价值取向称为“技术的逻辑”。[5]维贝克从理论和实践两个层面解释了“道德物化”的背景，一是理论上抛弃了传统技术伦理学二元论框架下的工具主义路径，将技术物纳入伦理学的评估范畴之中;二是指明实践中可将抽象的道德理念融入技术设计之中，在人们的使用情境中进行引导和规范。[6]
教育应用中的人工智能作为现代技术的一种表现形式，同样具有技术意向性特质，人工智能在被使用过程中的指向是否“向善”是评判该技术是否符合伦理规范的维度之一。智能导师系统、自适应学习系统、大数据学情分析等“AI+教育”应用需把握其在研发与使用过程中是否具备道德导向，若能为优化教育教学而生、为减轻师生负担而用，且不存在伤害人们利益的风险，则从技术本身视角来看是符合伦理规范的。而像“监测头盔”这类极具争议的智能技术，虽设计初衷是为了收集学习行为数据以改善教学，但实际运用中破坏了学生的隐私安全，把活生生的人当作机器一样测量有悖人性伦理，那就可能变成“戴着”服务学习的“帽子”、实则束缚人们的工具。这种看似合理的人工智能应用却存在技术导致的偏见与歧视，人的外在附属物对人的奴役在以某种看似合理化的形式支配着人的存在。[7]故此，为实现“人-技术-教育”的内在一致性，首先应从技术自身道德化做起，从技术自身出发劝导人们遵守道德规范，指向教育本质与人的发展，规避技术异化的伦理风险。
（二）人技关系论：复合意向性塑造道德共同体
随着智能技术的广泛应用，人与技术的关联也日趋内化，在人与技术共在的语境中人自身的本质和技术的本质产生伦理维度的构连，包含人对技术的伦理审视，以及技术对人类伦理观念的调节。[8]维贝克认为意向性存在于人与非人之中，不仅技术具有意向性，人也具有意向性，它们彼此关联的“人—技术”整体构成了“复合意向性”。“复合意向性”是将技术的意向性延伸到人类意向性的扩增形式，它将人与技术间的解释学关系“人→（技术—世界）”扩展为“人→（技术→世界）”，形成一种复杂的人与非人元素在一起的混合关系。在后现象哲学看来，我们都是被技术“调节”的人，技术调节着我们的体验、认知和行为，也帮助我们重新审视伦理价值判断。美国哲学家唐·伊德将人与技术的关系分为四种，即具身关系、解释学关系、它异关系和背景关系。维贝克在伊徳的四种关系基础上提出了第五种“人—技术”关系，即“赛博格关系”，他将人和技术看作不可分割的整体，从而描述为“（人/技术）→世界”的表达式。[9]一直被认为科幻世界里才存在的人与机器的融合体正在成为现实，技术不再调节人类行动和决策，而是与人类主体混合在一起，导致了技术介入人类后形成主观与客观、人与非人、身体与非身体交织在一起的后人类主义——“赛博格”的混合实体。[10]因此，道德决策不是单方面仅由人或技术物做出的，而是由人与技术人工物共同作用的结果。人本身就是具有道德能动性和德性差异化的个体，而技术物的道德意蕴有助于引导人的道德决策，从道德调节到技术调节，人与技术要建立起内在关联，共同承担起社会责任，共同遵守道德规范。
一般来说，人与机器之间的异化关系主要表现为两种形式，即“人的机器化”和“机器的拟人化”，其症结在于二元论视角下导致的人与技术的分离，当技术凌驾于人类主体之上就会导致以假乱真的紊乱，当人们过于依赖技术手段会致使人类智能的机械化。正所谓，造出像人一样的机器并不可怕，可怕的是培养出像机器一样的人。[11]将人工智能引入教育实践需正确把握人与技术的依存关系，一方面人工智能可以帮教师分担一些重复性的知识传递工作，提高教学效率;另一方面，有关知识创造等创新性工作则离不开人类智能的参与，教育主体的独特性无可取代。人工智能与人类智能应取长补短、互相配合，将使用者的自主性裹挟技术价值，组成相互关联、具有共同愿景的道德共同体，才能使教育效益最大化，形成一个完整的、平衡的、伦理自洽的教育活动。
（三）教育价值论：技术介入教育的同质化发展
此前，我们谈到人工智能的教育应用需统一技术手段与教育价值的内在一致性，故此需进一步厘清智能技术时代教育價值的本质内涵。古希腊时期奴隶主阶段的思想家主张培养“治国人才”的精英教育;中世纪在宗教控制下的经院式教育关注知识传统的继承，忽略人性、推崇神学;到文艺复兴、启蒙运动时期，卢梭等教育家提倡追求人的自由、平等、理性的自然教育;直到19世纪的自由教育，康德、黑格尔等哲学家高举“理性”大旗，认为人是理性的主体和最终目的;20世纪前期，实用主义哲学代表杜威提出教育即经验的不断改造，注重人与社会的相互作用。可见，17世纪后到20世纪之前，教育哲学的主题大体被设定为认识论问题，研究主体如何超越自身臻达客体，以完成对世界的认识;而后人们意识到人的存在被认识遮蔽的现实，哲学家海德格尔、萨特、雅斯贝尔斯等从关注认识问题转向至人的存在问题，开始在存在视域中研究真理问题。[12]随着社会历史的发展，回溯教育思想的演变，可以看出人的主体性地位正得到不断提升，他们从被动获得教育意识到主动选择教育权利，人的发展逐渐成为衡量教育价值的根本尺度。教育虽具有社会性、文化性、政治性和经济性等多元化价值，可不论是哪种教育观，教育的教育性价值地位不可否认。换言之，教育是培养人的活动，促进人的发展是教育的基本目的和功能。[13] 人工智能时代，新兴技术在教育领域中的融合应用需立足教育本质的价值追求，唯有以“造福人类、服务社会、促进人的全面发展”为内在伦理尺度，才能与教育生态共同可持续发展。教育培养的是公民，理想的公民在承担公共事务和责任时要具有基本道德能力、理性能力和个人的基本美德。[14]现代技术作为具有意向性的道德能动者可以引导和解释人们道德实践的方式，使其自身更合乎道德、遵照伦理的被设计与被应用。因此，“人工智能+教育”面临的伦理挑战在于技术与教育是否同质化发展。对工具理性的盲目崇拜会致使“以人为本”的价值理性被遮蔽，为规避风险而“因噎废食”、放弃使用技术也将走向另一个文明倒退的极端。当智能技术遵循道德规范的同时推动教育实践持续优化，教育的道德化发展离不开人工智能的辅助监督，二者在良性互动中逐渐达到内在本质趋于一致，教育与技术日趋一体化，则技术向善的愿景才得以可能，是实现教育之真、善、美统一的逻辑前提。
三、何以可为：人工智能教育伦理的实践路向
既然技术向善不是遥不可及的“海市蜃楼”，那么我们作为教育者该如何在教育活动中把握和实践这种技术规范性？基于“AI+教育”美好圖景的可行性与局限性分析，我们进而深入探寻教育实践中的具体行动指南，在技术道德化的理论视角下，分析人工智能教育伦理实践的可能路径。
（一）预设教育产品道德脚本，开展设计与引导的调节行动
技术调解理论将技术伦理的考量从效果阶段前置到设计环节，从外部治理深入至内部建构，走向主客体互相调节的设计哲学。“道德法则在我们心中，也在我们的技术中，为了阐述我们行动的正确性、信任感和延续性，我们需要增加技术的隐我，即技术背后隐藏的某种自我。”[15]行动者网络理论提出者拉图尔强调，可以将伦理注入技术设计之中来调节人的行为，通过技术中介构筑基本的道德框架。他提出“脚本”的概念来描述技术物对人们行为的影响，如同电影或剧场演出的脚本，技术规定其使用者在使用它们时该如何行动。譬如，马路减速带的脚本是“当你靠近我时，请减速”;一个塑料纸杯的脚本是“用后请扔掉我”。产品设计的脚本是在设计语境与使用语境之间建立联系，从技术被使用的角度来设计产品，利用技术产品自身的局限性来约束使用者的行为范畴。脚本规定了技术调解的情境性，设计者需授权技术物的道德能动者角色，并为其设计展开引导人类行为的现实情境，使人们在特定情境下不自觉地遵守其脚本隐藏的道德规范。
基于该技术实体论立场，我们可延续这种“激励”或“抑制”的技术调解机制，将技术的向善性融合于教育人工智能产品的设计之中，通过赋予技术人工物合乎伦理的价值取向，间接构建AI教育伦理规范。例如，当运用人工智能采集学生学情数据时，需有提前征求学生意愿的程序，以保护他们的隐私安全;当学生长时间使用技术学习而可能造成疲劳性身体损伤时，需通过技术设置提醒使用者劳逸结合、合理规范学习时间;在智能评价学生学习效果时，应综合考量学生的学习态度和隐性知识获得，而非单凭某次测验成绩做出判断，其内在设计脚本应是何种教育价值观的体现;当学生利用智能教育产品自动生成作业而侵犯到他人权益时，可依托问责追踪的技术以培养学生的社会责任感和法律意识。智能教育产品的设计者需了解用户需求与使用场景，深谙当下社会文化与法律责任，立足公正良善的设计动机赋予技术产品向善的道德脚本，从当前的设计活动投射到后续的使用过程中，将产品或技术的预期影响与用户行动决策结合起来，在技术源头上促进引导教育中人们的伦理实践。
（二）优化具身学习设计应用，融合主体与技术的双重逻辑
后现象学进路下的技术哲学经验转向超越了现象主义的主客二分，伊徳继承和发展了海德格尔的“上手”与“在手”状态，开始关注人与技术之间的关联而非将人类主体与技术客体作为独立实体进行思考。他提出的“人—技术”四种关系中，具身关系是最基本、最常见的一种形态，引领了当代技术哲学研究的“身体转向”。人与技术的具身关系表明人的知觉经验由于技术中介而发生改变，人通过技术认识世界，技术作为身体的延伸显现自身存在价值，二者形成融为一体的统一体。[16]不论是梅洛-庞蒂的“手杖”还是伊徳的“眼镜”都阐释了人的技术性存在，技术具身使得技术成为人体的一部分，影响着人与外部世界的关系。在道德物化的分析视野下，人与技术构成了相互规约的道德共同体，技术具身是技术伦理的前提和归宿，通过强化技术与人的具身关系有助于形成内在道德目标的同一性，融合主体意识与技术实践的双重行动逻辑。
人工智能技术赋能下的智慧教育实现了学习者多感官信息协同下的身体参与，使得具身学习成为日益普及的一种新学习理念。特别是虚拟现实技术将学习中的具身关系体现得淋漓尽致，通过模拟人体的视觉、听觉、触觉等多模态信息，借助可穿戴设备将学习者代入充满各种可能的虚拟世界，并与虚拟场景中的对象进行实时互动，从而产生身临其境的学习体验。当学习者感觉不到技术的存在、虚拟现实技术“透明化”地发挥作用时，人与技术就构成了一种具身关系。[17]智能技术支持下的具身学习，一方面将人类认知植根于身体行动，通过技术手段调动学习者的在场体验感，提升课堂教学效果;另一方面将教育主体与智能技术视作行动一致的共同体，通过技术的道德设计与合理应用引导主体的行为规范。因此，优化智能技术的具身体验是实现教育人工智能伦理规范的方式之一。技术设计者需强化学习者与技术设备的交互性，让学生在使用过程中产生技术透明的“上手”状态，潜移默化地发挥技术道德化作用，保障规范行为的自然发生。
（三）技术赋能教育道德环境，加强内在与外在的双向建构
道德物化实现的关键不仅在于技术的设计情境，还与技术的使用情境密切相关。技术哲学家伯格曼认为技术人工物的设计本是为了减轻人们负担，但这一减负作用也削弱了人们参与现实的机会，降低了人与技术产品交互的亲密度，鼓励人们在使用技术过程中建立二者之间的纽带关系。技术在社会调节中扮演了说服者与被说服者的双面角色，隐性的行为规范和道德原则物化在人工技术物中使人类自我意识得到外在显现，而外在的技术评估与伦理原则也将有助于技术自身发展的规范化，从内而外，相辅相成，共同构成主体与技术之间相互作用的道德环境。鉴于此，技术道德化的实现路径不能只落脚于技术的设计、开发等初始阶段，更应伴随技术的选择、使用、管理、评估等各个环节，从而形成完整持续的伦理规范体系。 因此，在教育活动中，我们不仅需要依靠技术的内在调节作用影响人的道德行为，还要通过技术评价、技术管理、问责机制等外在约束手段强化技术使用过程中的向善性。如今，人工智能技术的变革应用也为教育场域带来了许多新问题。例如，当人工智能代替了教师的部分工作时，机器输出的智能化决策和自动化行为后果由谁负责;具有情感功能的强人工智能能否代替教师的培养和陪伴;基于计算主义的智能评价体系是否符合应然的育人本质等。面对这些新的伦理挑战，我们需重新审视人工智能和教育之间的交互作用，重塑人工智能在教育应用中的伦理秩序和评价指标，形成内在指向与外在约束相互依存的道德环境，是实现“人工智能+教育”健康发展的双重保障。具体而言，要根据不同的教育场景、教学内容和学习群体选择合适的人工智能技術和产品;明确该技术由谁使用、怎么使用和使用时的注意事项;建立伦理失范后的问责机制、明晰人工智能教育的社会责任与价值观念等;制定出符合教育人工智能伦理规范的评价指标，供技术开发者和教育者参考和衡量。
综上所述，要实现技术向善的美好图景关键在于建立“人-技术-教育”的内在一致性，技术与人、技术与教育价值逻辑相互规约，共同构成教育场域中技术向善的逻辑起点。本文通过对人工智能教育伦理向度的思考，探寻教育中技术向善的可能性、合理性和有效性，面对智能技术介入教育的伦理困境，呼吁挖掘技术推动道德进步的物化驱动力，真正达到技术手段与教育价值的内在统一。
参考文献：
[1]高原.论康德的至善学说[D].长春：吉林大学，2013.
[2]李科政.康德的至善观念：德性与幸福的统一[N].中国社会科学报，2019-10-15（2）.
[3]陈炜，刘郦.劝导技术道德化实践探索[J].自然辩证法研究，2020，36（1）：44-49.
[4][9]彼得·保罗·维贝克.将技术道德化：理解与设计物的道德[M].闫宏秀，杨庆峰，译.上海：上海交通大学出版社，2016：9-13，175-179.
[5]吴国盛.技术哲学讲演录[M].北京：中国人民大学出版社，2016：9.
[6]陈凡，贾璐萌.技术伦理学新思潮探析：维贝克“道德物化”思想述评[J].科学技术哲学研究，2015，32（6）：54-59.
[7]冯锐，孙佳晶，孙发勤.人工智能在教育应用中的伦理风险与理性抉择[J].远程教育杂志，2020，38（3）：47-54.
[8]闫宏秀.可信任：人工智能伦理未来图景的一种有效描绘[J].理论探索，2019（4）：38-42.
[10]HARAWAY D.A Cyborg Manifesto：Science，Technology，and Socialist-Feminism in the Late Twentieth Century[M].New York：Routledge.1991：81-149.
[11]孙田琳子，沈书生.论人工智能的教育尺度：来自德雷福斯的现象学反思[J].中国电化教育，2019（11）：60-65.
[12]石中英.教育哲学[M].北京：北京师范大学出版社，2007：20.
[13]袁振国.当代教育学[M].北京：教育科学出版社，2004：65.
[14]金生鈜.教育的多元价值取向与公民的培养[J].教育理论与实践，2000（8）：2-8.
[15]LATOUR B.Morality and Technology：The End of the Means[J].Theory，Culture & Society：Explorations in Critical Social Science，2002（19）：254-255.
[16]唐·伊徳.技术与生活世界：从伊甸园到尘世[M].韩连庆，译.北京：北京大学出版社，2012：79.
[17]孙田琳子.虚拟现实教育应用的伦理反思：基于伯格曼技术哲学视角[J].电化教育研究，2020，41（9）：48-54.
（责任编辑 刘第红）
关键词：人工智能;教育伦理;伦理规范;技术哲学;道德物化
近年来，随着人工智能技术（Artificial Intelligence，简称AI）在各领域的融合应用日趋广泛，人工智能的伦理问题也逐渐引起人们的关注。自2019年起，社会各界开始相继采取积极策略应对AI伦理风险。日本颁布了《以人类为中心的人工智能社会原则》，提倡正确看待“人机关系”，构建安全应用的“AI-Ready社会”;欧盟委员会发布的《人工智能伦理准则》提出以“可信赖”的人工智能为愿景准则，以提升人们对AI产业的信任;我国新一代人工智能治理专业委员会发布的《新一代人工智能治理原则》强调要发展“负责任”的人工智能，旨在协调AI发展与治理的关系，确保人工智能安全可控可靠。可见，推动技术向善、建构人工智能伦理规范成为未来人工智能发展的重要议题。反观教育领域，人工智能在教育中的创新应用也影响了原有的教育生态，面对“AI+教育”融合后引发的一系列伦理问题，作为教育者需厘清人与技术的关系，建构AI教育伦理规范，实现人工智能赋能教育信息化持续健康发展的美好图景。本文将站在技术哲学立场，回溯人工智能教育伦理的逻辑起点，即从“何谓向善”、“何以可能”、“何以可为”三个方面探讨人工智能技术应用于教育的伦理目标及其实现，核心在于教育领域需要什么样的人工智能技术、为什么可以实现以及怎样建构这种伦理规范。
一、何谓向善：人工智能教育伦理的内在旨趣
首先，我们需明确教育人工智能的伦理旨趣。换言之，教育应用中究竟什么样的人工智能是符合伦理规范的，这是我们在建构AI教育伦理规范之前需要讨论的元问题。该维度之审视既包含对已有伦理失范现象的总结反思，又涵盖对未来教育人工智能发展的美好构想。
（一）伦理问题的实然表征：技术异化导致教育生态失衡
从尼尔·波兹曼的技术垄断论到西尔弗斯通的技术反向驯化，再到唐娜·哈拉维的后人类主义赛博格隐喻，似乎都在提醒人们警觉媒介时代的技术性压迫，防患人文价值的失落。反观“AI+教育”生态，人工智能凭借其高性能、精准化的技术优势为教育领域带来了新的生机，实现了个性化学习、智能导师、自适应推送、大数据分析、智慧校园管理等智能化功能，填补了传统教学的不足。然而，人们对智能技术的过度依赖也将滋生某些潜在的伦理风险。从浙江小学生佩戴“紧箍咒”监测头环事件到美国亚马逊语音机器人Alexa失控吓人事件，人工智能这面现实“黑镜”使人们再次陷入科技侵蚀生活的恐慌，进而反思并寻求技术伦理的制约，重构人工智能的伦理秩序。特别是将人工智能引入教育实践更需要伦理道德的引导，由于教育试错的成本太高，一旦使用不慎将会对学生个人、社会发展造成不可估量的负面影响。从已有的实践经验来看，目前教育人工智能的伦理失范现象大多集中表现在这几个方面：一是数据泄漏、个人隐私安全、算法可表征化、机器情感识别、人类意识极限等技术层面问题;二是师生角色定位、人机关系模糊、主观能动性降低、代际数字鸿沟、人格培养片面等主体层面问题;三是教学模式固化、数据主义评价、教育价值偏颇、社会责任缺失等教育层面问题。整体而言，人工智能在教育应用中的伦理问题可表征为“主体-技术-教育”之间的角色博弈，当技术一方被过分倚重时将会引发整个教育生态的失衡。人工智能的教育伦理问题其实是人对技术伦理和教育伦理的综合考量，教育者在技术应用过程中需研判三者之间的权重关系，避免技术异化剥夺教育主体对教育现实的参与，从而致使教育形态异化。
·教育基本理论·论技术向善何以可能
（二）伦理规范的应然追求：建立教育中技术的合目的性
虽然学界对AI介入教育的不良效应存在不少质疑与批判，但究竟理想语境下的“可信任”、“负责任”、“友好的”教育人工智能是怎样的一幅图景、技术向善之谓“善”具体内涵指向什么还悬而未决。确立人工智能教育伦理规范是当代教育变革的应然要求，也是我们亟待解决的首要问题。苏格拉底指出善的意义在于和谐、秩序、有益的、有用的;柏拉图将善的理念比喻为理念世界的太阳，是知识和真理的源泉;亚里士多德把善看作隐藏在事物中的内在目的，符合其内在目的就是善，反之即不好，他将这种自足目的的实现、实践理性的对象称为“幸福”。[1]“善”的意义在古希腊三杰的哲学演绎下逐渐明晰，康德在此基礎上提出了以人的意志自由为出发点的至善学说，并认为“善”是德性与幸福的统一。德性是指人一向都能遵循道德法则而行动的状态，幸福即是对“一切偏好的满足”，前者是理性追求的对象，后者是感性的欲求。[2]当我们不断平衡这两种反思概念之间的内在张力，这种价值与目的的一致性即为合目的性。合目的性的理论意蕴指出事物的形成与发展取决于其内在必然性，善的理念在于人们寻求达成共识的共通感，从而形成目的与价值、形式与质料、知性与理性的统一。因此，从应然视角来看，教育场域中的技术向善归根结底应是联结技术手段与教育价值的内在一致性，技术的内在目的需与教育的最终追求相吻合，才能达到实现人们幸福生活的至善境界。在人、技术、教育三者构成的生活世界中，如若过于强调技术的价值将导致工具理性对价值理性的僭越，若过于注重知识技能的灌输将造成教师主体性的弱化和学生人格培养的缺失。唯有建立“人-技术-教育”的内在一致性，匡正人工智能介入教育的合目的性，才能使“技术向善”的教育世界洞见可能。 二、何以可能：人工智能教育伦理的建构依据
在明确人工智能教育伦理的应然追求基础上，我们将进一步对技术向善何以可能的存在逻辑进行考察与追问，即探讨其伦理规范建构的合理性问题。为建构“人-技术-教育”的内在一致性，在此分别从技术本身、人技关系、教育价值等视角逐一分析。
（一）技术本质论：技术意向性引导技术道德化
荷兰技术哲学家彼得·保罗·维贝克（Peter - Paul Verbeek）基于“后人类主义”视角提出“道德物化”思想，认为技术自身具有道德意蕴，为实现技术向善的理想境遇提供一种新的伦理实践进路。传统的技术伦理学立足于人本主义的立场，将技术视为工具性角色;当代技术哲学发生了后现象学的转向，技术中介理论揭示了技术设计中的内在道德维度，表明技术总是有助于基于道德决策构建人的行为和解释。[3]维贝克认为当一个技术物被使用时它就促进了人与现实的牵连，并且技术物共塑着人在其世界中如何被呈现以及世界如何呈现给他们，使用中的物能被理解为人与世界关系的调解者，积极主动地共塑着人在其世界的方式：人的知觉和行动、体验和存在。[4]即是说，技术人工物作为道德能动者能够对人类产生伦理引导和规范作用，通过知觉调解和行为调解影响人对现实世界的感知以及道德行为。技术调解作用肇始于“技术意向性”概念，即技术物在组织知觉过程中的“指向”，技术物通过规定使用技术时该如何行动的脚本来调节行动。技术不是中性的工具，它在人与世界的关系中发挥着主动性作用，也有学者将由技术的意向结构所规定的这种价值取向称为“技术的逻辑”。[5]维贝克从理论和实践两个层面解释了“道德物化”的背景，一是理论上抛弃了传统技术伦理学二元论框架下的工具主义路径，将技术物纳入伦理学的评估范畴之中;二是指明实践中可将抽象的道德理念融入技术设计之中，在人们的使用情境中进行引导和规范。[6]
教育应用中的人工智能作为现代技术的一种表现形式，同样具有技术意向性特质，人工智能在被使用过程中的指向是否“向善”是评判该技术是否符合伦理规范的维度之一。智能导师系统、自适应学习系统、大数据学情分析等“AI+教育”应用需把握其在研发与使用过程中是否具备道德导向，若能为优化教育教学而生、为减轻师生负担而用，且不存在伤害人们利益的风险，则从技术本身视角来看是符合伦理规范的。而像“监测头盔”这类极具争议的智能技术，虽设计初衷是为了收集学习行为数据以改善教学，但实际运用中破坏了学生的隐私安全，把活生生的人当作机器一样测量有悖人性伦理，那就可能变成“戴着”服务学习的“帽子”、实则束缚人们的工具。这种看似合理的人工智能应用却存在技术导致的偏见与歧视，人的外在附属物对人的奴役在以某种看似合理化的形式支配着人的存在。[7]故此，为实现“人-技术-教育”的内在一致性，首先应从技术自身道德化做起，从技术自身出发劝导人们遵守道德规范，指向教育本质与人的发展，规避技术异化的伦理风险。
（二）人技关系论：复合意向性塑造道德共同体
随着智能技术的广泛应用，人与技术的关联也日趋内化，在人与技术共在的语境中人自身的本质和技术的本质产生伦理维度的构连，包含人对技术的伦理审视，以及技术对人类伦理观念的调节。[8]维贝克认为意向性存在于人与非人之中，不仅技术具有意向性，人也具有意向性，它们彼此关联的“人—技术”整体构成了“复合意向性”。“复合意向性”是将技术的意向性延伸到人类意向性的扩增形式，它将人与技术间的解释学关系“人→（技术—世界）”扩展为“人→（技术→世界）”，形成一种复杂的人与非人元素在一起的混合关系。在后现象哲学看来，我们都是被技术“调节”的人，技术调节着我们的体验、认知和行为，也帮助我们重新审视伦理价值判断。美国哲学家唐·伊德将人与技术的关系分为四种，即具身关系、解释学关系、它异关系和背景关系。维贝克在伊徳的四种关系基础上提出了第五种“人—技术”关系，即“赛博格关系”，他将人和技术看作不可分割的整体，从而描述为“（人/技术）→世界”的表达式。[9]一直被认为科幻世界里才存在的人与机器的融合体正在成为现实，技术不再调节人类行动和决策，而是与人类主体混合在一起，导致了技术介入人类后形成主观与客观、人与非人、身体与非身体交织在一起的后人类主义——“赛博格”的混合实体。[10]因此，道德决策不是单方面仅由人或技术物做出的，而是由人与技术人工物共同作用的结果。人本身就是具有道德能动性和德性差异化的个体，而技术物的道德意蕴有助于引导人的道德决策，从道德调节到技术调节，人与技术要建立起内在关联，共同承担起社会责任，共同遵守道德规范。
一般来说，人与机器之间的异化关系主要表现为两种形式，即“人的机器化”和“机器的拟人化”，其症结在于二元论视角下导致的人与技术的分离，当技术凌驾于人类主体之上就会导致以假乱真的紊乱，当人们过于依赖技术手段会致使人类智能的机械化。正所谓，造出像人一样的机器并不可怕，可怕的是培养出像机器一样的人。[11]将人工智能引入教育实践需正确把握人与技术的依存关系，一方面人工智能可以帮教师分担一些重复性的知识传递工作，提高教学效率;另一方面，有关知识创造等创新性工作则离不开人类智能的参与，教育主体的独特性无可取代。人工智能与人类智能应取长补短、互相配合，将使用者的自主性裹挟技术价值，组成相互关联、具有共同愿景的道德共同体，才能使教育效益最大化，形成一个完整的、平衡的、伦理自洽的教育活动。
（三）教育价值论：技术介入教育的同质化发展
此前，我们谈到人工智能的教育应用需统一技术手段与教育价值的内在一致性，故此需进一步厘清智能技术时代教育價值的本质内涵。古希腊时期奴隶主阶段的思想家主张培养“治国人才”的精英教育;中世纪在宗教控制下的经院式教育关注知识传统的继承，忽略人性、推崇神学;到文艺复兴、启蒙运动时期，卢梭等教育家提倡追求人的自由、平等、理性的自然教育;直到19世纪的自由教育，康德、黑格尔等哲学家高举“理性”大旗，认为人是理性的主体和最终目的;20世纪前期，实用主义哲学代表杜威提出教育即经验的不断改造，注重人与社会的相互作用。可见，17世纪后到20世纪之前，教育哲学的主题大体被设定为认识论问题，研究主体如何超越自身臻达客体，以完成对世界的认识;而后人们意识到人的存在被认识遮蔽的现实，哲学家海德格尔、萨特、雅斯贝尔斯等从关注认识问题转向至人的存在问题，开始在存在视域中研究真理问题。[12]随着社会历史的发展，回溯教育思想的演变，可以看出人的主体性地位正得到不断提升，他们从被动获得教育意识到主动选择教育权利，人的发展逐渐成为衡量教育价值的根本尺度。教育虽具有社会性、文化性、政治性和经济性等多元化价值，可不论是哪种教育观，教育的教育性价值地位不可否认。换言之，教育是培养人的活动，促进人的发展是教育的基本目的和功能。[13] 人工智能时代，新兴技术在教育领域中的融合应用需立足教育本质的价值追求，唯有以“造福人类、服务社会、促进人的全面发展”为内在伦理尺度，才能与教育生态共同可持续发展。教育培养的是公民，理想的公民在承担公共事务和责任时要具有基本道德能力、理性能力和个人的基本美德。[14]现代技术作为具有意向性的道德能动者可以引导和解释人们道德实践的方式，使其自身更合乎道德、遵照伦理的被设计与被应用。因此，“人工智能+教育”面临的伦理挑战在于技术与教育是否同质化发展。对工具理性的盲目崇拜会致使“以人为本”的价值理性被遮蔽，为规避风险而“因噎废食”、放弃使用技术也将走向另一个文明倒退的极端。当智能技术遵循道德规范的同时推动教育实践持续优化，教育的道德化发展离不开人工智能的辅助监督，二者在良性互动中逐渐达到内在本质趋于一致，教育与技术日趋一体化，则技术向善的愿景才得以可能，是实现教育之真、善、美统一的逻辑前提。
三、何以可为：人工智能教育伦理的实践路向
既然技术向善不是遥不可及的“海市蜃楼”，那么我们作为教育者该如何在教育活动中把握和实践这种技术规范性？基于“AI+教育”美好圖景的可行性与局限性分析，我们进而深入探寻教育实践中的具体行动指南，在技术道德化的理论视角下，分析人工智能教育伦理实践的可能路径。
（一）预设教育产品道德脚本，开展设计与引导的调节行动
技术调解理论将技术伦理的考量从效果阶段前置到设计环节，从外部治理深入至内部建构，走向主客体互相调节的设计哲学。“道德法则在我们心中，也在我们的技术中，为了阐述我们行动的正确性、信任感和延续性，我们需要增加技术的隐我，即技术背后隐藏的某种自我。”[15]行动者网络理论提出者拉图尔强调，可以将伦理注入技术设计之中来调节人的行为，通过技术中介构筑基本的道德框架。他提出“脚本”的概念来描述技术物对人们行为的影响，如同电影或剧场演出的脚本，技术规定其使用者在使用它们时该如何行动。譬如，马路减速带的脚本是“当你靠近我时，请减速”;一个塑料纸杯的脚本是“用后请扔掉我”。产品设计的脚本是在设计语境与使用语境之间建立联系，从技术被使用的角度来设计产品，利用技术产品自身的局限性来约束使用者的行为范畴。脚本规定了技术调解的情境性，设计者需授权技术物的道德能动者角色，并为其设计展开引导人类行为的现实情境，使人们在特定情境下不自觉地遵守其脚本隐藏的道德规范。
基于该技术实体论立场，我们可延续这种“激励”或“抑制”的技术调解机制，将技术的向善性融合于教育人工智能产品的设计之中，通过赋予技术人工物合乎伦理的价值取向，间接构建AI教育伦理规范。例如，当运用人工智能采集学生学情数据时，需有提前征求学生意愿的程序，以保护他们的隐私安全;当学生长时间使用技术学习而可能造成疲劳性身体损伤时，需通过技术设置提醒使用者劳逸结合、合理规范学习时间;在智能评价学生学习效果时，应综合考量学生的学习态度和隐性知识获得，而非单凭某次测验成绩做出判断，其内在设计脚本应是何种教育价值观的体现;当学生利用智能教育产品自动生成作业而侵犯到他人权益时，可依托问责追踪的技术以培养学生的社会责任感和法律意识。智能教育产品的设计者需了解用户需求与使用场景，深谙当下社会文化与法律责任，立足公正良善的设计动机赋予技术产品向善的道德脚本，从当前的设计活动投射到后续的使用过程中，将产品或技术的预期影响与用户行动决策结合起来，在技术源头上促进引导教育中人们的伦理实践。
（二）优化具身学习设计应用，融合主体与技术的双重逻辑
后现象学进路下的技术哲学经验转向超越了现象主义的主客二分，伊徳继承和发展了海德格尔的“上手”与“在手”状态，开始关注人与技术之间的关联而非将人类主体与技术客体作为独立实体进行思考。他提出的“人—技术”四种关系中，具身关系是最基本、最常见的一种形态，引领了当代技术哲学研究的“身体转向”。人与技术的具身关系表明人的知觉经验由于技术中介而发生改变，人通过技术认识世界，技术作为身体的延伸显现自身存在价值，二者形成融为一体的统一体。[16]不论是梅洛-庞蒂的“手杖”还是伊徳的“眼镜”都阐释了人的技术性存在，技术具身使得技术成为人体的一部分，影响着人与外部世界的关系。在道德物化的分析视野下，人与技术构成了相互规约的道德共同体，技术具身是技术伦理的前提和归宿，通过强化技术与人的具身关系有助于形成内在道德目标的同一性，融合主体意识与技术实践的双重行动逻辑。
人工智能技术赋能下的智慧教育实现了学习者多感官信息协同下的身体参与，使得具身学习成为日益普及的一种新学习理念。特别是虚拟现实技术将学习中的具身关系体现得淋漓尽致，通过模拟人体的视觉、听觉、触觉等多模态信息，借助可穿戴设备将学习者代入充满各种可能的虚拟世界，并与虚拟场景中的对象进行实时互动，从而产生身临其境的学习体验。当学习者感觉不到技术的存在、虚拟现实技术“透明化”地发挥作用时，人与技术就构成了一种具身关系。[17]智能技术支持下的具身学习，一方面将人类认知植根于身体行动，通过技术手段调动学习者的在场体验感，提升课堂教学效果;另一方面将教育主体与智能技术视作行动一致的共同体，通过技术的道德设计与合理应用引导主体的行为规范。因此，优化智能技术的具身体验是实现教育人工智能伦理规范的方式之一。技术设计者需强化学习者与技术设备的交互性，让学生在使用过程中产生技术透明的“上手”状态，潜移默化地发挥技术道德化作用，保障规范行为的自然发生。
（三）技术赋能教育道德环境，加强内在与外在的双向建构
道德物化实现的关键不仅在于技术的设计情境，还与技术的使用情境密切相关。技术哲学家伯格曼认为技术人工物的设计本是为了减轻人们负担，但这一减负作用也削弱了人们参与现实的机会，降低了人与技术产品交互的亲密度，鼓励人们在使用技术过程中建立二者之间的纽带关系。技术在社会调节中扮演了说服者与被说服者的双面角色，隐性的行为规范和道德原则物化在人工技术物中使人类自我意识得到外在显现，而外在的技术评估与伦理原则也将有助于技术自身发展的规范化，从内而外，相辅相成，共同构成主体与技术之间相互作用的道德环境。鉴于此，技术道德化的实现路径不能只落脚于技术的设计、开发等初始阶段，更应伴随技术的选择、使用、管理、评估等各个环节，从而形成完整持续的伦理规范体系。 因此，在教育活动中，我们不仅需要依靠技术的内在调节作用影响人的道德行为，还要通过技术评价、技术管理、问责机制等外在约束手段强化技术使用过程中的向善性。如今，人工智能技术的变革应用也为教育场域带来了许多新问题。例如，当人工智能代替了教师的部分工作时，机器输出的智能化决策和自动化行为后果由谁负责;具有情感功能的强人工智能能否代替教师的培养和陪伴;基于计算主义的智能评价体系是否符合应然的育人本质等。面对这些新的伦理挑战，我们需重新审视人工智能和教育之间的交互作用，重塑人工智能在教育应用中的伦理秩序和评价指标，形成内在指向与外在约束相互依存的道德环境，是实现“人工智能+教育”健康发展的双重保障。具体而言，要根据不同的教育场景、教学内容和学习群体选择合适的人工智能技術和产品;明确该技术由谁使用、怎么使用和使用时的注意事项;建立伦理失范后的问责机制、明晰人工智能教育的社会责任与价值观念等;制定出符合教育人工智能伦理规范的评价指标，供技术开发者和教育者参考和衡量。
综上所述，要实现技术向善的美好图景关键在于建立“人-技术-教育”的内在一致性，技术与人、技术与教育价值逻辑相互规约，共同构成教育场域中技术向善的逻辑起点。本文通过对人工智能教育伦理向度的思考，探寻教育中技术向善的可能性、合理性和有效性，面对智能技术介入教育的伦理困境，呼吁挖掘技术推动道德进步的物化驱动力，真正达到技术手段与教育价值的内在统一。
参考文献：
[1]高原.论康德的至善学说[D].长春：吉林大学，2013.
[2]李科政.康德的至善观念：德性与幸福的统一[N].中国社会科学报，2019-10-15（2）.
[3]陈炜，刘郦.劝导技术道德化实践探索[J].自然辩证法研究，2020，36（1）：44-49.
[4][9]彼得·保罗·维贝克.将技术道德化：理解与设计物的道德[M].闫宏秀，杨庆峰，译.上海：上海交通大学出版社，2016：9-13，175-179.
[5]吴国盛.技术哲学讲演录[M].北京：中国人民大学出版社，2016：9.
[6]陈凡，贾璐萌.技术伦理学新思潮探析：维贝克“道德物化”思想述评[J].科学技术哲学研究，2015，32（6）：54-59.
[7]冯锐，孙佳晶，孙发勤.人工智能在教育应用中的伦理风险与理性抉择[J].远程教育杂志，2020，38（3）：47-54.
[8]闫宏秀.可信任：人工智能伦理未来图景的一种有效描绘[J].理论探索，2019（4）：38-42.
[10]HARAWAY D.A Cyborg Manifesto：Science，Technology，and Socialist-Feminism in the Late Twentieth Century[M].New York：Routledge.1991：81-149.
[11]孙田琳子，沈书生.论人工智能的教育尺度：来自德雷福斯的现象学反思[J].中国电化教育，2019（11）：60-65.
[12]石中英.教育哲学[M].北京：北京师范大学出版社，2007：20.
[13]袁振国.当代教育学[M].北京：教育科学出版社，2004：65.
[14]金生鈜.教育的多元价值取向与公民的培养[J].教育理论与实践，2000（8）：2-8.
[15]LATOUR B.Morality and Technology：The End of the Means[J].Theory，Culture & Society：Explorations in Critical Social Science，2002（19）：254-255.
[16]唐·伊徳.技术与生活世界：从伊甸园到尘世[M].韩连庆，译.北京：北京大学出版社，2012：79.
[17]孙田琳子.虚拟现实教育应用的伦理反思：基于伯格曼技术哲学视角[J].电化教育研究，2020，41（9）：48-54.
（责任编辑 刘第红）