在分析AI对教育益处的基础上，探讨AI应用于教育的可能性风险，包括“教育加速”背景下人的主体地位丧失、“技术异化”视野中人工智能对人的本质力量压迫、依赖人工智能导致的人的智能下降、侵犯数据隐私所导致的伦理风险、“情智悖论”难题下的教育迷失、恶意用AI引发的后果。针对这些风险提出应对之道，包括回归教育的育人本质、对AI要有全面深入的认识、加强对AI在教育中应用的监管。
作者简介：谭伟，国家开放大学终身教育研究院副研究员，博士（北京 100039）；张曼茵，国家开放大学终身教育研究院副教授，博士（北京 100039）；陈良, 北京华峰测控技术股份有限公司工程师，硕士（北京 100070）
在人工智能时代，教师的角色会发生变化。对于教师而言，人工智能可以辅助教学、实现智能作业批改，从而减少教师的工作量，促进精准教学。余胜泉认为，未来将是教师与人工智能教师协同共存的时代，未来知识传授功能会逐步被人工智能取代，人类教师则应偏重于培养学生的核心素养，而人工智能教师在未来可能扮演自动出题和自动批阅作业的助教、学习障碍自动诊断与反馈的分析师、问题解决能力测评的素质提升教练等12个角色。[1]袁振国认为，人工智能虽在教育行业发挥作用，但不会取代教师，教师可以将简单重复性工作交给机器，把时间精力放在学生心理层面。[2]有学者提出，基于数据智能挖掘为教学增能的可能性，有利于唤醒学习设计工具的数据智能并助力教师的教学实践，从而帮助教师实现数据启发式的教学设计和现场教学。[3]尽管大部分人认为，人工智能不会取代教师，但是从人工智能发展的趋势来看，“人工智能教师”出现的可能性是存在的。只要人工智能技术足够成熟，在一些特定应用上，如专家系统、智能导学等，人工智能完全可以胜任教师角色。在这种情况下，教师的角色或许会变为“人工智能教师”的系统管理员，只需要发挥维持系统正常运转的作用就行。当然，人工智能最终会让教师的角色向何种方向变迁，还有待观察及历史检验。
对于教育管理而言，人工智能可以降低教育管理成本、提高教育管理效率。以往的教育管理，依靠人对纸质材料或相关数据的主观判断，管理效率较低，容易出错。通过数字化技术，收集教育全方位数据，通过人工智能算法进行判断，可以提高决策的科学性。智能教育管理面向整个教育体系以提高整体效能。[4]通过人工智能技术，能够将教育管理和决策从经验导向转向证据导向。[5]基于大数据的教育智能决策系统可以实现教育质量动态监测、实现定制化教育。[6]通过人工智能大幅度提升教育管理效率之后，教师将会有更多的时间关注学生身心发展方面的问题。在教育管理上，人工智能的确是可以提高管理效率的。不过，提高管理效率未必会提高教育效果。教育的实质问题可能不是效率问题，只是对教育管理者而言，如教育政策制定者、教育行政领导者等，人工智能有助于管理工作的开展。人工智能大幅度提高教育管理效率，一方面当然可以减轻教育管理者的负担，另一方面可能会导致更大的教育决策和管理风险。任何效率的提升，都有可能导致系统的不稳定，对教育系统而言，也是如此。因此，在人工智能提高教育管理效率的过程中，一定要注意这种效率的提高不能违背教育的育人目的。
人工智能可以从个性化学习方式和教育评价两个方面来影响教育过程。一是人工智能可以促进个性化学习。有学者认为，大数据使教师和机器能够了解每个学生的真实情况，从而为其提供个性化的学习资源、学习活动、学习路径、学习工具与服务。[7]牟智佳提出基于学习者数据画像模型的个性化学习路径实施框架。[8]二是从教学评价来看，人工智能技术可以优化和影响教育评价。EdX、Coursera和Udacity中的一些很受欢迎的MOOC，都在使用自然语言理解、机器学习和众包技术，来对学生的回答、论文以及作业打分。无论从个性化学习方式，还是从教育评价来看，在想象的层面上人工智能促进教育过程的变革似乎是显而易见的。但是从实际情况来看，基于人工智能的个性化学习方式在教育实践中依然少见，教育评价的智能化变革也才刚刚开始。教育不是技术，而技术需要服务于教育。教育技术学者大部分认为人工智能会促变教育过程。从教育形式的角度来看，似乎是如此。但从教育内涵来看，基于人工智能的教育过程在教育本质内涵上未必有变化。
人工智能技术将会促进教育环境从信息化走向智能化。人工智能可以实现校园监测预警、刷脸出入校园，提升校园安全水平。[9]美国南加州大学创新技术研究所是创建智能虚拟环境和应用的先驱，它利用人工智能、3D游戏和计算机动画来开发真实的虚拟角色与现实的社会互动(地平线)。人工智能对教育环境的影响将是深远的，智能化的教育环境将为教师和学生提供个性化的支持和服务。在不远的将来，以人工智能、大数据、VR、区块链为技术支撑的元宇宙将进一步促进教育环境的深刻变革。智能教育环境日益成为现实，校园的人脸识别系统可以用于校园门禁、食堂打饭、教学监控。校园里的人工智能应用越来越多，这是教育环境变迁的显著标志。在智能教育环境中，教师和学生的互动会发生怎样的变化，是一个值得研究的问题。教育环境受人工智能的影响，在技术层面会日益先进，走向现代化、智能化。但是，智能教育环境中人的成长规律，需要研究和探索。智能教育环境中的教与学设计也是值得研究的方向。
人工智能必然会带来教育的深刻变革。在这个事实性前提下，需要思考的一个重要问题是，人工智能应用于教育可能会带来哪些风险。关于这个问题已有一些研究。例如，有学者探讨教育领域中AI在认知局限、伦理危机、评价偏差和教育风险上的若干隐忧；[10]有学者从管控视角廓清人工智能教育的四类典型现象，即忽视智能技术还原教育世界的本体风险、遮蔽智能技术表征教育生态的认识风险、轻视智能技术违背教育初心的价值风险、滥用智能技术导致教育治理的伦理风险；[11]有学者提出人工智能伦理原则的四个向度，即算法向度、关系向度、情感向度和资源向度。这些研究可以为思考人工智能应用于教育会带来何种风险提供参考。[12]不过，关于这个问题，需要从思想层面探讨最坏的可能性及其原因。探讨最坏的可能性有助于我们把握事物发展的极端情况，从而认识清楚事物的本质并加以应对。
哈特穆特·罗萨(Hartmut Rosa)提出社会加速批判理论，认为社会加速是现代社会的核心特征，社会加速可以划分为科技加速、社会变迁加速和生活节奏加速3种形式。[13]基于社会加速批判理论，有学者认为，绩效主义是教育现代性之加速逻辑的重要表征，科学主义使教育现代性的加速逻辑成为可能，新异化的诞生是教育现代性之加速逻辑的后果。[14]显然，人工智能作为一种具有巨大潜能的技术，应用于教育领域，无论将人工智能作为一种社会背景，还是将其作为一种创新技术，都将无可避免地带来“教育加速”。目前，人工智能带来的“教育加速”突出地表现为各种乐观说法：人工智能将会颠覆教育流程、提高教育效率；人工智能将带来基于大数据的精准教学；人工智能将促进大规模的个性化学习……
事实上，“教育加速”的结果往往是教育焦虑，这实质上有悖于教育的目的。教育应该是为人服务的，而现实是人却被教育所奴役。而且，相对于人工智能而言，人的能力总是处于弱势地位。无论在速度或准确度上，人都难以追赶人工智能。在人工智能对人个体能力的碾压之下，人的主体地位最终将会荡然无存，而人的主体地位的沦落将会带来价值危机，使生存丧失意义。因此，人工智能导致“教育加速”背景下的人的主体地位缺失，是一个很有可能出现的风险。存在一个有意思的问题，即人的主体地位在整个教育历史发展上什么时候开始存在的?或者说，在人类教育历史上，人的主体地位是在何时确立的?现实中，教师的主体地位和学生的主体地位是不同的。中国自古有尊师重道的传统。教师的主体地位或许在孔子时代就有所体现。孔子周游列国，收弟子三千，开创儒家学派，是师道的开始。学生的主体地位或许是从“以学生为中心”理念萌发时开始出现。教育中，人的主体地位缺失，还是在很大范围内存在的。
技术本是人的创造物，是用来实现其正价值、为人类服务的，但由于技术应用过程中负价值的产生，使它发展成为异己的敌对力量，反过来给人类自身带来危害。[15]人工智能在教育中的应用所带来的技术异化，突出地表现为一种本末倒置现象，即使用人工智能成为目的，人成为实现人工智能的手段。人工智能应用于教育的前提是必须获得大量的数据。为了获得大量数据，人就成为人工智能系统的重要数据来源。换言之，人成了人工智能的数据产生工具。作为具有主体性的人不仅被客体化，也被对象化、数据化。有学者认为，大数据异化从根本上说就是人们不能完全控制和规定大数据技术而导致的非人道、非人性和非自由。[16]某种程度而言，人工智能异化包含大数据异化。在人工智能异化中，人成了人工智能系统的一个要素，成为实现人工智能的手段。这背离了人工智能服务于人的目标，导致对人本质力量的压迫。按照马丁·海德格尔(Martin Heidegger)把技术理解为“座架”的思想，技术一方面成为人们的生存背景，另一方面成为一种外在于人的力量，因而对人产生一种“促逼”作用。此种作用也体现出技术异化的特点。人工智能所导致的技术异化，跟其他技术所带来的技术异化还不一样。因为人工智能是从“智能”层面对人的压迫，而不是某些技术单方面对人形成的压迫。马歇尔·麦克卢汉(Marshall McLuhan)认为，技术是人体器官的延伸。如果把人工智能看成人大脑的延伸，就能看出人工智能带来的技术异化的严重后果。布莱斯·帕斯卡尔(Blaise Pascal)说，人是会思考的芦苇。在人工智能的碾压下，人的思想不再重要，将会变成纯粹的“芦苇”而已。这不仅仅是对人思想的压迫，更致命的是，人的存在的根本将不复存在，人之所以为人将成为一个疑问。阿尔法狗与李世石的围棋大战中，让李世石感受到一种恐慌，这就是人工智能对人的智能一种压迫的表现。
技术的教育应用能够提升人对技术的依赖程度。技术确保现代教育的确定性，但同时会带来负面影响，最为突出的是降低人的相应能力。以想象力为例，从教育现状来看，人的想象力被PPT的使用给破坏了。人的想象力依靠语言和形象。传统课堂上，学生主要靠听教师讲课来学习，或者通过阅读来思考，这是建立学生想象力的基础。使用PPT之后，课程传授的知识量大幅度增加，知识的呈现被特定的画面固定下来。学生想象力局限在PPT对知识的某种特定呈现。当我们在看电影的时候，大脑几乎是不思考的，而是被电影镜头带着往前跑。PPT的使用、网络学习环境的应用，也会产生这种情况。有学者通过实证研究证明，网络环境下人的学习并没有实际发生。[17]当人盯着电脑看视频、看文本来学习的时候，跟人看书来学习相比，效果是要差很多的。现在都提倡线上线下相结合的学习，线下的学习效果往往比线上要好，但是在疫情期间，完全脱离线上学习又不现实。一流高校的优势在于提供一种极佳的校园环境和学习氛围。在线上教学环境中，一流高校的那种优势反而被淹没，因为任何高校在线教学和学习的质量，从理论逻辑来看几乎是相差无几的。
人工智能作为一种人工塑造的思考能力，其在教育中的应用，将会导致人的智能下降，卡尔·马克思(Karl Heinrich Marx)关于劳动的观点某种程度上可以说明。马克思认为，劳动是人的本质。劳动带来两个作用，一是自我对象化，二是对象自我化。自我对象化，意味着人通过劳动将自己的意识变成物质产品。对象自我化意味着，人通过劳动提升自己的能力。简言之，劳动使人既改变世界，又塑造人自身。也就是说，人在劳动的时候使自己某方面的能力得到提升。相反，人在不从事某种劳动时，其相应的能力就会退化。古人常说的“用进废退”就是这个道理。按照马克思的理论来解释，当人类把思考工作交给人工智能，人不再思考，将导致的严重后果是，人的思考能力将会下降，即人的智能下降。尽管从知识搜索的角度来看，人工智能的确会提高教师的教学效率和学生的学习效率；但是，人工智能的教育应用，会造成人对人工智能的依赖。由于依赖人工智能，人的各方面智能都会下降。感知、推理、决策等智能都交给人工智能，人在感知、推理、决策方面的能力施展机会必然减少，结果最终导致人的智能下降。ChatGPT的出现，标志着大量的脑力工作可以被人工智能所取代，这在某种程度上意味着人工智能会消灭人的智能。人工智能应用于教育，应该提高人的智能，结果却是带来人的智能下降，甚至消灭人的智能，这是人工智能应用于教育的另一个风险。
人工智能应用于教育，必然要收集大量的数据。有学者认为，大数据推动社会向前发展的同时引发不同于以往的隐私伦理挑战，这种新挑战表现在数据挖掘、数据预测、更全面的监控等方面。[18]事实上，在人工智能应用于教育的主要环节，即数据收集、数据挖掘、数据预测、数据监控，都会侵犯教师和学生的隐私。从数据收集来看，在人工智能应用于教育的过程中，无论教师和学生是否愿意，他们在网络空间或现实教室中的一言一行都会以各种类型的数据被收集。这些数据当然会涉及教师和学生的隐私问题。从数据挖掘来看，人工智能以收集到的数据为基础进行分析、标记、画像，对教师和学生加以判断。因为这种判断的基础是收集到的数据，而数据不可能是全面有效的，因此这种判断包含着片面性。这种判断一般会以标志着某种类型的“标签”来表示。某种程度而言，这些“标签”其实是对人的价值的单向否定。从数据预测来看，教师和学生的行为可以被人工智能所预测，这等于提前预判人的发展的可能性结果，把教育的“可能性”变成“确定性”，让教师和学生处于“数据决定论”的阴影下，从而极大地违背教育的本意。从数据监控来看，在人工智能的监管下，教师和学生几乎没有任何反抗的余地，即使反抗也没有获胜的机会。教师和学生只是人工智能监控的对象，学校有可能成为智能化的“监狱”，难以想象在这样的环境中教师和学生会健康成长。当教师和学生的数据隐私被人工智能侵犯，教师和学生的心理也可能会受到伤害。总之，由侵犯数据隐私所导致的伦理风险，是人工智能应用于教育所带来的重要后果。
AI可以模拟人的情绪，难以模拟人的情感。人的情感很复杂，是由内向外显露的，人工智能难以做到这一点。刘悦笛提出“情智悖论”难题：“在人工智能与机器试图拥有情感之际，情与智力之间就形成一种内在矛盾。这个悖论里的‘情’是复数的，而‘智力’则是单数的，二者形成悖谬张力，即理性化的智力愈发达，就愈加要面对模拟人类复杂性情感与情感的复杂性，然而，越是如此，情感反而被理性越推越远。”[19]在这个难题下，人工智能应用于教育极有可能带来情感缺失。就某方面而言，教育的核心目标在于培养人的情感健康成长。为了达到这个目标，需要教师和学生之间具有积极意义的情感互动。由于人工智能的介入，教师和学生之间的情感互动将会减弱，这对学生的情感成长不利。培育学生的健康情感，绝对不是通过学生与机器之间的互动可以实现的。由于存在“情智悖论”难题，人工智能天然具有情感缺陷，将之在教育中进行应用可能会带来人的冷漠，最终导致教育的迷失。据说人工智能在情感计算领域有很大突破，可以模拟人的喜怒哀乐。即使人工智能具备情感，当把具备情感能力的AI应用于教育的时候，也会带来无法预料的灾难。因为人工智能的情感是假的，是人工制造出来的，用这种假的情感来和学生交流，学生的情感能力会朝向哪里发展，这是值得深思的问题。
人工智能本身是没有决策能力的，它只能给人提供参考。当人恶意使用人工智能来干坏事的时候，可能会引发严重的危机局面。从网络安全、信息安全的角度而言，几乎没有机制能绝对阻止这种局面的发生，而大多只能在事后去补救。然而，恶意使用人工智能造成的后果有可能无法补救。在教育领域中恶意使用人工智能，可能会带来信息泄露、不公平竞争、网络犯罪等后果。如果把人工智能当成信息技术中的“核武器”，那么恶意使用人工智能就等同于在现实世界中恶意使用核武器，这将带来无法控制的可怕结局。伊隆·马斯克(Elon Musk)曾多次公开表示过对人工智能的担忧，他认为不受控制的人工智能比核武器还危险。[20]这种危险也是AI应用于教育可能会带来的风险。如果使用人工智能进行考试作弊，那么考试的公平性就荡然无存。如果使用人工智能来进行网上舆论攻击，那么网络舆论的真实性就无法得到保证。如果使用人工智能来进行学生学业的预测和评估，那么将可能丧失教育的公正性。因此，在教育中恶意使用人工智能，所引发的后果是难以控制的。因此，强调人工智能的伦理规则非常重要。
AI在教育中的应用会带来上述风险，而且这些风险近似无解。尽管如此，在把AI应用于教育的过程中，若能采用合适的应对之道，可以减少上述风险出现的可能性。
教育作为一种社会活动，其本质在于育人。阿尔伯特·爱因斯坦(Albert Einstein)认为，学校的目标应当是培养有独立行动和独立思考的个人，不过他们要把为社会服务看成是自己人生的最高目的。爱因斯坦的这个观点是教育育人本质的一个很好的说明。[21]既然教育是为了育人，那么教育就不应该是技术应用秀。教育要回归育人本质，就应该把目标聚焦在人的培养上面，让人自由充分地发展，而不是让教育沦为人工智能应用秀的场域。为了回归育人本质，就不能把人工智能强加在教育上。为了培养有独立行动和独立思考的个人，教育需要放慢节奏，把时间归还给学生，通过对学生的兴趣引导，让学生掌握学习的主动性和积极性，从而实现自我学习、自我教育、自我发展。教育要放慢节奏，就应该尽可能地减少人工智能在教育中的应用。如此，在理论的逻辑上可以减少人工智能给教育带来的风险。回归教育的育人本质，不是一种宣传口号，而是要付诸实践。“双减”的实质，其实就是回归育人本质，减少学生的学业负担，把对人的培养放在核心的位置。要回归教育的育人本质，需要整个教育系统进行全方位变革，从理念、政策、制度、校园、课程、考试、评价等方面进行教育本质的回归。
在教育中应用人工智能之前，对人工智能必须要有全面深入的认识，从而对人工智能在教育中的应用保持一种谨慎的态度。该如何认识人工智能呢?一方面要看到，人工智能具有巨大的潜能，在感知、识别、推理、决策等功能上有着超越人类的强大能力，因而将其应用在教育当中可以带来人们期盼的“效率”的提升。另一方面，要从哲学高度看到人工智能所带来的风险。赵汀阳认为，长远而终极的威胁，也是人们最怕的事情，当然是将来可能出现自主超级人工智能，拥有自主意识和自由意志，拥有远远超过人的智力，也就是一种在存在级别上高于人的新智能存在，这个存在的革命的另一种表达是人类的终结。[22]从存在论的角度来看，如果AI将导致人类的终结，那么在教育中使用人工智能可能会加快人类终结的到来。因此，对AI在教育中的应用，应当慎之又慎。
当然，哲学不仅仅探讨存在论，还探讨包括认识论、价值论、实践论等在内的许多方面，这些都可以作为思考人工智能的维度。只有全面深入地认识人工智能，才能对人工智能在教育中的应用有更深刻的思考，才不会导致在教育中滥用人工智能，从而避免一些风险。当前，在整个教育圈，尤其是教育技术界，存在一个极其不好的现象：大部分人在为人工智能的教育应用而欢呼，似乎人工智能是一方灵丹妙药，能够包治百病。其实很多人对人工智能根本不了解。从没写过代码的人、从没搞过算法的人、从没用过人工智能的人，在大谈特谈人工智能教育应用的辉煌前景。此种现象不仅不利于教育的健康发展，反而有害于教育的正常发展。因此，对人工智能一定要有全面深入的认识，不能人云亦云、不知所云。
要监管对数据的收集。要明确哪些数据是人工智能程序可以收集的，哪些数据是教师、学生愿意给人工智能程序收集的，哪些数据是不能给人工智能程序收集的。还要监管对数据进行分析处理后产生的结果。要明确这些数据的使用权限和呈现范围，不能造成数据泄露，要充分地考虑数据安全问题。从人本主义角度出发，人工智能所收集数据的来源者应该对这些数据具备充分的拥有权。为了加强对人工智能的监管，教育事务的主管部门应出台相关政策文件，以对人工智能的数据收集和数据使用进行规范，并防止人工智能在教育中的滥用。在加强对人工智能教育应用的监管上，需要系统性、全方位地推动。教育行政领导需要从政策制定上严把人工智能的教育入口关，要明确教育中哪些场景可以由人工智能介入、哪些场景不能使用人工智能。如AI只能应用在教师“能做”“会做”却“难做”的工作上，这样的原则将AI永远置于工具的地位而不是可能替代教师的主体地位。学校信息化部门，要做好充分的测试，防止人工智能程序在校园应用中带来不可控的后果。教师和学生，对人工智能的教育应用，不能盲目崇拜，而是要谨小慎微，不能陷在AI应用的泥潭而出不来。需建立第三方机构，对企业的人工智能产品和应用进行评估，把风险尽可能揭示出来，以改进产品和应用，从而尽量避免人工智能教育应用带来的不良影响。
[3]顾小清,舒杭,白雪梅.智能时代的教师工具:唤醒学习设计工具的数据智能[J].开放教育研究,2018,24(5):64-72.
[5]张慧,黄荣怀,李冀红,等.规划人工智能时代的教育:引领与跨越——解读国际人工智能与教育大会成果文件《北京共识》[J].现代远程教育研究,2019,31(3):3-11.
[7]杨现民,唐斯斯,李冀红.发展教育大数据:内涵、价值和挑战[J].现代远程教育研究,2016(1):50-61.
[8]牟智佳.学习者数据肖像支撑下的个性化学习路径破解——学习计算的价值赋予[J].远程教育杂志,2016,34(6):11-19.
[10]孟翀,王以宁.教育领域中的人工智能:概念辨析、应用隐忧与解决途径[J].现代远距离教育,2021(2):62-69.
[11]李世瑾,胡艺龄,顾小清.如何走出人工智能教育风险的困局:现象、成因及应对[J].电化教育研究,2021(7):19-25.
[12]赵磊磊,张黎,代蕊华.教育人工智能伦理:基本向度与风险消解[J].现代远距离教育.
[14]邱昆树,张寅.教育现代性批判:基于社会加速批判理论的视角[J].教育发展研究,2020(8):14-22.
[17]黄荣怀,张振虹,陈庚,等.网上学习:学习真的发生了吗?——跨文化背景下中英网上学习的比较研究[J].开放教育研究,2007(6):12-24.
[20]万成.“终结者”?霍金与马斯克都对AI表示担忧[J].华东科技,2015(3):15.
[21]许良英,赵中立,张宣三.爱因斯坦文集第三卷[M].北京:商务印书馆,1979:143.
《中国教育信息化》创刊于1995年8月，是由中华人民共和国教育部主管，教育部教育管理信息中心主办，面向国内外公开发行的国家级学术期刊。期刊内容力求全面深入地记录我国教育信息化的建设进展、研究与应用成果和行业发展状况，开展我国教育信息化发展状况调研和教育信息化国际比较研究，服务于国家教育宏观决策；力求全面准确地把握教育信息化相关的方针政策和标准规范，及时追踪ICT前沿技术的发展趋势及其与教育的融合，深度挖掘教育信息化建设与应用的体制、机制创新，服务于我国教育信息化实践。
