馮 銳 孫佳晶 孫發(fā)勤

（揚州大學(xué) 新聞與傳媒學(xué)院， 江蘇揚州225009）

新一代人工智能技術(shù)的飛速發(fā)展，正在引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革，引發(fā)和重構(gòu)新的行業(yè)結(jié)構(gòu)和行業(yè)形態(tài)。 教育是促進(jìn)人類文明發(fā)展的重要領(lǐng)域，而人工智能技術(shù)在教育中的應(yīng)用，正在推動互聯(lián)網(wǎng)教育進(jìn)入智能教育發(fā)展的高級階段[1]。 利用人工智能技術(shù)提高教育服務(wù)水平，促進(jìn)教育的創(chuàng)新發(fā)展，讓人類教育變得更加智慧，這是人們對人工智能帶給教育變化的期待和愿望。 人工智能作為一種沉寂了幾十年，然后近幾年才厚積薄發(fā)的一種尖端技術(shù)， 它引領(lǐng)和促進(jìn)教育創(chuàng)新發(fā)展的潛力毋容置疑。 但是，人工智能在教育領(lǐng)域的創(chuàng)新性應(yīng)用，也沖擊和改變了整個教育系統(tǒng)生態(tài)和教育秩序，尤其是教育文化、教育中的人倫關(guān)系、教育結(jié)構(gòu)和教育價值等諸多方面。 由此， 也產(chǎn)生了一系列倫理問題，如，削弱教師地位，侵犯學(xué)生自由，加大教育不平等，對教育正向價值的壓制，對教育育人價值的僭越，教育對人工智能的依附等等。

華東師范大學(xué)唐漢衛(wèi)教授認(rèn)為，人工智能的深入運用將在本體意義上動搖我們原有的對教育的理解、批判和追求，從而產(chǎn)生前所未有的困惑和焦慮[2]。 人工智能在教育應(yīng)用上的倫理問題，已經(jīng)開始日益顯現(xiàn)，例如，2019 年發(fā)生的“監(jiān)測頭環(huán)”事件、智能音箱勸主人“自殺”事件，2020 年1 月“釘釘被小學(xué)生逼瘋”事件等，這些看似偶爾發(fā)生的事件其實并非偶然，它警示人們要開始注意和防范人工智能在教育應(yīng)用中可能帶來已知和未知的一些風(fēng)險。 所以，只有對人工智能在教育應(yīng)用中所引發(fā)的社會和倫理問題進(jìn)行研究，從而在一定的教育倫理建制內(nèi)對其進(jìn)行有效規(guī)范， 才能發(fā)揮其對教育積極的一面，避免消極的一面；才能有效實現(xiàn)人工智能推進(jìn)教育智能化發(fā)展的美好愿景。

一、人工智能給教育帶來的“技術(shù)陷阱”

在教育領(lǐng)域，從來不缺乏利用新技術(shù)進(jìn)行變革的熱情與野心。 長期以來，教育的規(guī)模化和程序化模式飽受詬病，人們一直在積極期盼和探尋著通過技術(shù)的驅(qū)動，能給這種工業(yè)化教育體系帶來變革和創(chuàng)新。 因此，人工智能從其誕生起就被賦予了更多教育技術(shù)的內(nèi)涵和社會期待。 從技術(shù)進(jìn)化論看人工智能的創(chuàng)新發(fā)展， 人工智能從20 世紀(jì)50 年代艾倫·麥席森·圖靈（Alan Mathison Turing）完成的圖靈測試（The Turing Test）開始，已經(jīng)走過了60 多年的發(fā)展歷程。 在這60 多年的創(chuàng)新發(fā)展之中，人們一直在追求著一個最具雄心又很冒險的終極目標(biāo)，即創(chuàng)造一個能夠?qū)W習(xí)和應(yīng)用智能來完成各種各樣任務(wù)的智能機器人[3]；從早期的教學(xué)機器、智能教學(xué)系統(tǒng)，到如今的自適應(yīng)學(xué)習(xí)系統(tǒng)、智能教育機器人等等，人工智能從面對確定的環(huán)境進(jìn)行有效的經(jīng)驗邏輯推理，發(fā)展到擁有在不確定性環(huán)境中做出準(zhǔn)確判斷、決策和行動的能力?！叭斯ぶ悄軓暮唵蔚啬M人類的邏輯思維開始走向?qū)W習(xí)、思考；并從簡單的機械行為，走向人機、 機器與環(huán)境等的雙向甚至是多向度的互動；從應(yīng)對單一的確定性環(huán)境，走向了復(fù)雜的不確定性環(huán)境的發(fā)展路徑”[4]。

自20 世紀(jì)90 年代以來，隨著計算機、互聯(lián)網(wǎng)、物聯(lián)網(wǎng)、云計算、大數(shù)據(jù)、自然語言處理等技術(shù)突飛猛進(jìn)的發(fā)展，信息技術(shù)已經(jīng)從2G 發(fā)展到5G，從有線連接發(fā)展到無線連接，從二維空間發(fā)展到三維空間。 互聯(lián)網(wǎng)的快捷性、便利性、清晰度和訴諸不同感官的信息形態(tài)不斷發(fā)生的革命，加上數(shù)字化、云計算、可穿戴計算、人工智能的整體性突破，正在推動著學(xué)校教育向泛在教育、 集體化學(xué)習(xí)向個體化學(xué)習(xí)、紙筆學(xué)習(xí)向屏幕學(xué)習(xí)的轉(zhuǎn)變。 工業(yè)革命以來標(biāo)準(zhǔn)化教育的弊端，有可能被徹底扭轉(zhuǎn)，人們夢寐以求的從“以教定學(xué)”向“以學(xué)定教”的轉(zhuǎn)變，真正成為了可能[5]。 然而，人們在利用人工智能促進(jìn)和推動教育創(chuàng)新發(fā)展的同時，人工智能的教育應(yīng)用卻可能引發(fā)教育主體權(quán)利嬗變、學(xué)生個性異化、情感危機、教育價值喪失等“技術(shù)陷阱”。

（一）人工智能與教育主體的權(quán)利嬗變

教育主體是相對于客體而言的， 它是教育過程中的教育實踐的組織者和實施者[6]。對于教育主客體關(guān)系的認(rèn)識， 現(xiàn)代教育觀念拋棄了以往教育者和受教育者相互對立的主客二元關(guān)系， 認(rèn)為教育者和受教育者是一種主體間的交往實踐關(guān)系， 二者之間廣泛存在著相互聯(lián)系與交互影響。 作為主體的個人不再排斥其他主體， 不再把他人看作征服、 占有的客體，人類的生存已經(jīng)步入共生性的存在。 以課程、教材為載體的教育內(nèi)容， 構(gòu)成他們共同作用的客體[7]。他們“借助于人類共同的文化、語言和勞動工具”，在主體間展開交往實踐活動。

什么是人工智能？ 這是一個看似簡單卻又難以給出明確界定的概念。 人們對它最樸素的理解就是人造的智能，它是社會發(fā)展和技術(shù)創(chuàng)新的人造產(chǎn)物。人們對人工智能的期待不在于讓它充當(dāng)“工具”，而是要最終成為能夠理解人， 擁有與人類類似的情感和思維方式，并且能夠成為幫助人的“顧問”[8]?！叭祟愔帧笔侨祟愘x予人工智能最大的社會價值和期待。一場AlphaGo 和世界圍棋專家展開的人機大戰(zhàn)，讓人們驚喜地發(fā)現(xiàn)， 人工智能已經(jīng)擁有可能超越人類的智能，成為取代人工或者延伸人類能力的“智能幫手”；但也驚恐地意識到，人工智能的認(rèn)知和智能水平將可能超過人類而威脅到人存在社會的主體性。社會學(xué)家就非常擔(dān)心人工智能的大規(guī)模應(yīng)用會導(dǎo)致失業(yè)，引發(fā)社會結(jié)構(gòu)的變化。 其實，社會學(xué)家對失業(yè)擔(dān)憂的實質(zhì)是對人的社會主體性的擔(dān)憂， 人工智能在教育中的應(yīng)用，同樣也存在著這種擔(dān)憂。

從人工智能在教育應(yīng)用的發(fā)展歷程來看，其在不同的應(yīng)用階段，承擔(dān)的教育角色和發(fā)揮的教育功能不盡相同。 歷史上有很多比較著名的智能教學(xué)系統(tǒng)，如，SOPHIE、MYCIN、GUIDON 等，這些系統(tǒng)在培訓(xùn)和教學(xué)過程中扮演了輔導(dǎo)者、教練、評價者等多種角色，完成了基于領(lǐng)域知識和已有經(jīng)驗進(jìn)行教學(xué)決策和指導(dǎo)的教學(xué)任務(wù)；最新集成了新一代智能技術(shù)開發(fā)的LearnSmart、Knewton 平臺、松鼠AI 自適應(yīng)學(xué)習(xí)系統(tǒng)、AI 助教Jill Watson 以及科大訊飛的阿爾法蛋機器人、美國麻省理工大學(xué)的Tega 機器人、Anki 的玩具Cozmo 機器人、 機器人教練阿爾法2 號等，都能夠完成智能輔導(dǎo)、智能答疑、智能出題、智能評價、智能學(xué)伴等教學(xué)任務(wù)，扮演著教師、學(xué)生、同伴、領(lǐng)域?qū)＜业冉逃巧?可以說，人工智能在教育“行動中”的“智能”表現(xiàn)并不一定遜色于人類個體，甚至超過了人的“智能”。 原本在教育中由教育者和受教育者組織和實施的一些教育教學(xué)活動，如今卻漸漸被人工智能和智能機器人所替代和完成。那么，這對教育會意味著什么？

近年來，人工智能在教育中的應(yīng)用，實際上已經(jīng)引起了人們對教育主體的擔(dān)憂和思考。 主要擔(dān)憂人工智能的應(yīng)用是否會真的取代教師： 當(dāng)教師遇上人工智能，究竟會發(fā)生什么？ 人工智能技術(shù)出現(xiàn)后，教師真的會被取代嗎？ 人工智能時代，還需要教師嗎？這些疑問從一個側(cè)面， 反映了人們對于教師主體性的擔(dān)憂。人類的教育本質(zhì)明確地告訴人們，教師肯定不會被取代，教師職業(yè)也肯定不會消亡。 但是，人工智能發(fā)展的歷史告訴我們， 人工智能的教育應(yīng)用必然會消解和重構(gòu)教師的主體地位。其實，人工智能也沖擊和影響了學(xué)生的主體地位， 現(xiàn)在開發(fā)的很多學(xué)伴機器人和智能搜索引擎， 已經(jīng)成為學(xué)生自主探究學(xué)習(xí)和合作學(xué)習(xí)的得力助手和學(xué)伴， 有些還具有情感陪護(hù)、數(shù)字娛樂等功能?；谌斯ぶ悄艿慕虒W(xué)軟件能夠根據(jù)個人需求定制學(xué)習(xí)， 將學(xué)習(xí)者相互聯(lián)系在一起，提供獲取數(shù)字材料的機會，支持分散學(xué)習(xí)，并以有意義的方式讓學(xué)生參與進(jìn)來[9]。

除了對教師和學(xué)生主體地位的擔(dān)憂之外，還有一個令人疑惑的問題——在教育實踐中，人工智能能否成為教育主體？ 如果能成為教育主體，那么人工智能就可以跟其他主體一樣，在教育活動中有意識地認(rèn)識和作用于客體，并在教育實踐中表現(xiàn)出它的主體性。 果真如此的話，我們就需要更進(jìn)一步思考：人工智能在教育應(yīng)用中的主體間關(guān)系是一種對稱的倫理關(guān)系？ 還是非對稱的倫理關(guān)系？ 其他教育主體在人工智能的作用下，其主體性是被加強還是被削弱？ 這直接關(guān)系到各個主體的教育責(zé)任和教育權(quán)力。 如果人工智能不能被視為教育主體，那么，它在教育實踐之中如何被理性地用來為教育賦能，而非賦權(quán)。 這些都需要對“人工智能+教育”的本真和意義，進(jìn)行思考和追溯。

（二）算法推薦與學(xué)生個性的發(fā)展異化

個性化教育是當(dāng)今世界教育改革發(fā)展的重要思潮之一，也是現(xiàn)代教育思想的一種新境界。 “教育在今天只有贏得了個性和個性發(fā)展，才能贏得社會發(fā)展的未來”[10]。在漫長的教育改革與創(chuàng)新實踐過程中，人們把探尋和實現(xiàn)學(xué)生個性化發(fā)展的更多期待賦予了技術(shù)的應(yīng)用；同樣，也對人工智能給予極大的熱情和期待。 實現(xiàn)學(xué)生的個體化學(xué)習(xí)是人工智能在教育實踐中一個重要的應(yīng)用方向， 智能虛擬助手、智能導(dǎo)師系統(tǒng)、自適應(yīng)性學(xué)習(xí)系統(tǒng)，這些都是根據(jù)學(xué)習(xí)者的個人特點（語言、學(xué)習(xí)風(fēng)格、偏好等）所開發(fā)的個性化學(xué)習(xí)系統(tǒng)[11]。自21 世紀(jì)新一輪人工智能大爆發(fā)以來，人工智能因互聯(lián)網(wǎng)強大的計算能力和數(shù)據(jù)智能算法推薦，在個性化學(xué)習(xí)方面獲得了巨大的進(jìn)步。

“利用大數(shù)據(jù)分析和算法推薦，能夠基于學(xué)生的學(xué)習(xí)能力或技能水平動態(tài)調(diào)整課程難度或種類，能適應(yīng)每個學(xué)習(xí)者的速度和進(jìn)度并實時調(diào)整內(nèi)容；或在恰當(dāng)?shù)臅r機提供定制化的練習(xí)， 實現(xiàn)大規(guī)模的個性化學(xué)習(xí)”[12]。 但是，利用人工智能實現(xiàn)個性化教學(xué)，并不一定能促進(jìn)學(xué)生的個性化發(fā)展。 甚至有人悲觀地預(yù)測， 人工智能通過自身的深度學(xué)習(xí)以及大數(shù)據(jù)的挖掘和算法，在為人類精準(zhǔn)推薦信息的同時，人有可能被奴役而成為“單向度”（One-Dimensionality）的人，人的自迷和自我困厄現(xiàn)象將難以避免[13]。 算法推薦就是利用學(xué)生的一些行為數(shù)據(jù)， 通過一些數(shù)學(xué)算法，推測出學(xué)生的學(xué)習(xí)需求和學(xué)習(xí)偏好；然后，定向給學(xué)生推送學(xué)習(xí)內(nèi)容、認(rèn)知工具、教學(xué)活動和學(xué)習(xí)同伴。人工智能與教育大數(shù)據(jù)分析技術(shù)的結(jié)合，使人類知識被全景拆解成可計算的數(shù)字符號， 學(xué)生的學(xué)習(xí)行為、過程都能夠被有效地跟蹤與分析，能夠根據(jù)每一個學(xué)生的學(xué)習(xí)需求和行為特征量身定制學(xué)習(xí)計劃，精準(zhǔn)推送相關(guān)學(xué)習(xí)資源。

但是，這種個性化的算法推薦極易造成“信息繭房”效應(yīng)。一方面，基于算法的個性化推送，呈現(xiàn)給學(xué)生的內(nèi)容都是學(xué)生自己感興趣的， 或者是適合于自己學(xué)習(xí)偏好的學(xué)習(xí)內(nèi)容。即都是被技術(shù)判斷、過濾和篩選“無關(guān)的”“多余的”“雜質(zhì)的”信息之后的“純凈”內(nèi)容。長此以往，學(xué)生的學(xué)習(xí)興趣和注意力就會被鎖定在既定的范圍內(nèi)，學(xué)生獲得的知識域會被狹窄化，學(xué)習(xí)內(nèi)容呈現(xiàn)的全面性和多樣性也會被破壞， 部分信息被智能遮蔽和過濾，學(xué)生的思維被算法所規(guī)制；還會造成學(xué)生認(rèn)知的偏差和思維的故步自封， 學(xué)生在學(xué)習(xí)之中往往會變得過度自信或者盲目自信。 另一方面， 算法主導(dǎo)的智能推薦提升了教學(xué)內(nèi)容的精準(zhǔn)傳播，但無形中也使學(xué)生喪失獲取信息的自主權(quán)，失去了全面獲取相關(guān)學(xué)習(xí)內(nèi)容的學(xué)習(xí)機會和權(quán)力，而且學(xué)生過度依賴算法推薦來獲取信息， 容易使其行為和思維產(chǎn)生惰性，這樣久而久之，學(xué)生自己的主體性將被技術(shù)消解。

當(dāng)前， 機器學(xué)習(xí)和算法推薦在教育應(yīng)用中是一個不能回避的實踐問題， 這種看似公平合理的人工智能應(yīng)用，卻存在著技術(shù)導(dǎo)致的偏向和歧視，而且這種歧視和偏見還非常的隱蔽， 完全被個性化教學(xué)的假象所遮蔽與迷惑。 現(xiàn)代教育追求的是以學(xué)生個性為基礎(chǔ)的全面發(fā)展，絕不是“單向度”或片面化的發(fā)展。 “當(dāng)技術(shù)成為一種新的極權(quán)時，人一方面順服技術(shù)所規(guī)定的工作流程，另一方面成為工具的附屬物。人的外在附屬物對人的奴役， 在以某種看似合理化的形式支配著人的存在。 人的異化在此是不言自明的事實”[14]。 我們不禁要問，在教育中應(yīng)用個性化算法推薦是教育的初衷嗎？利用它要實現(xiàn)個性化教學(xué)，還是個性化發(fā)展？毋庸置疑，算法推薦的教育教學(xué)應(yīng)用帶來了很多倫理問題，它引起的“危害”是顯而易見的，將會給教育帶來潛在風(fēng)險。

（三）人工情感與人機互動的情感危機

教育是人類社會的一種情感實踐活動。“教育沒有了情愛， 就相當(dāng)于沒有了價值傾向和生命關(guān)懷意識，也就只剩下可以獨立存在的教、訓(xùn)、誨、化這類中性的行為”[15]。 無論是教育者，還是受教育者，情感較之于理性， 更能使其感受到自我的存在而主動地參與有意義的活動。 人工智能為教育者和受教育者搭建了一個虛擬化、數(shù)字化的教育擬真生態(tài)環(huán)境，大量基于虛擬、遠(yuǎn)程、物聯(lián)、開放、智能、聚合、協(xié)作的技術(shù)應(yīng)用在教育之中， 虛擬現(xiàn)實教學(xué)場景成了未來師生互動體驗的常態(tài)化教育場景； 遠(yuǎn)程人人互動和人機互動成為教育的常態(tài)交往關(guān)系； 智能機器和模擬軟件是學(xué)生模擬體驗的常用平臺； 同步或異步教學(xué)讓師生能隨時隨地開展教學(xué)活動。 當(dāng)津津樂道地預(yù)測著人工智能給教育環(huán)境、教育內(nèi)容、教育方式方法等方面帶來變化的同時， 我們也要看到其對教育者和受教育者情感方面的影響。

2020 年1 月的“釘釘被小學(xué)生逼瘋”事件，網(wǎng)絡(luò)上相關(guān)民意沸沸揚揚， 這個事件其實是人工智能在教育中應(yīng)用所引發(fā)的社會倫理問題的預(yù)警， 提醒人們不要單純地關(guān)注技術(shù)給教育帶來的知性變化，更要關(guān)注給教育者和受教育者帶來的情感變化。 一方面， 教師和學(xué)生以及其他教育主體之間的關(guān)系是能夠精準(zhǔn)地建立起來的， 每一個交往的教育主體都具有平等的地位， 任何一個現(xiàn)實主體都可以根據(jù)自己的意愿塑造符號形象和身份， 在網(wǎng)絡(luò)環(huán)境中進(jìn)行自由的對話與交流；但另一方面，教育主體的身份置身在虛擬與現(xiàn)實的二重性之中， 教師和學(xué)生的具身走在“在場”與“不在場”的教學(xué)實踐之中。 而且在虛擬教學(xué)中， 教學(xué)主體之間以及教學(xué)主體與客體之間的交互作用， 仍需要借助數(shù)字化中介系統(tǒng)來展開和實現(xiàn)。 因而，它是一種“主體—中介—客體”或“人—機—人”的交互模式”[16]。 這對于坐在互聯(lián)網(wǎng)終端的教師和學(xué)生而言，容易造成認(rèn)知參與、情感遮蔽這種“偽參與”現(xiàn)象。

情感遮蔽就是教師和學(xué)生的情緒、 感受被技術(shù)屏蔽，喜怒哀樂相互之間覺察不到，一是自己覺察不到自己的情感，二是覺察不到其他人的情感。教師和學(xué)生之間最為珍貴的感情交流被虛擬世界所隔離，傳播和流動的只有技術(shù)眼中的“數(shù)字符號”和一些程式化的活動設(shè)置， 忽視和缺失了人文關(guān)懷的情感教育力量。

微軟（亞洲）互聯(lián)網(wǎng)工程院“小冰項目”開發(fā)總監(jiān)周力曾經(jīng)在接受《商學(xué)院》雜志采訪時表示：“好的人工智能不僅是什么都知道， 而且能跟每個用戶建立起感情連接”[17]。 “高智能、低情商”的人工智能是永遠(yuǎn)不可能和人和諧共處、協(xié)同工作的，也難以和人逐步建立起信任和依賴關(guān)系。 喜怒哀樂的情緒變化和語言情感表達(dá)對人來說很普通， 對人工智能來說卻意義重大。在人工智能領(lǐng)域內(nèi)，新一代人工智能系統(tǒng)的首要任務(wù)就是需要具備“感性”的情感連接能力，這樣才能以更類似真實人類的方式， 滿足人們普遍的心理和情感需求， 從而逐步建立相互信任和依賴感。有人樂觀地認(rèn)為，人工智能可以捕捉到學(xué)習(xí)者不同時間、不同地點的各種數(shù)據(jù)，包括面部表情、動作、情緒等。 感知人類的情緒， 甚至像人類一樣擁有情感，這是所有人工智能的終極目標(biāo)。其實，在21 世紀(jì)新一輪人工智能的大爆發(fā)之中，人工智能與“互聯(lián)網(wǎng)大腦” 的結(jié)合已經(jīng)賦予人工智能機器識別或表達(dá)人類情感的基本能力。

目前， 對于人工智能情感識別和情感表達(dá)的應(yīng)用研究， 在教育教學(xué)領(lǐng)域中取得了一些進(jìn)步。 De Vicente 等人研制的數(shù)字導(dǎo)師系統(tǒng)，將情感引入了教育對話領(lǐng)域， 通過研究與學(xué)生交流得更自然有效的方式，以便提供更好的教育交互。德國人工智能研究中心在所開發(fā)的 “虛擬劇場”“虛擬市場”“對話Agent”三個項目中，引入情感模型和個性特征來幫助開發(fā)兒童的想象力及創(chuàng)造力[18]。 微軟（亞洲）互聯(lián)網(wǎng)工程院研發(fā)的第三代人工智能機器人助理“小冰”和“小娜”，在模擬人類情感方面邁出了一大步，這對助理機器人姊妹花擁有一些類似人的感性特征，能夠逐步與助理對象建立感情依賴和信任。

但是，人類在賦予人工智能“情感”的過程中，同樣面臨著許多問題。 2012 年，上映了一部電影《機器人和弗朗克》，在這部電影中，弗朗克是一個已經(jīng)退休在家孤獨生活的珠寶竊賊， 他的兒子為弗朗克找了一個機器人來護(hù)理他的日常生活。 機器人在日益努力中贏得弗朗克的信任， 和弗朗克也慢慢地建立了友誼。 機器人的中心職責(zé)是保持弗朗克的身心健康和活躍，于是，它為了讓弗朗克的生活富有激情，在它的參與和合作下弗朗克開始重操舊業(yè)， 重拾自己當(dāng)年的激情。在隨后的劇情發(fā)展中，弗蘭克與機器人的關(guān)系使他與兒子的關(guān)系變得復(fù)雜， 甚至超過了他與兒子的關(guān)系。 而且， 機器人慢慢有了自己的思維，并且開始為了弗朗克學(xué)會了說謊。兩者的共同生活構(gòu)成了弗朗克與機器人的記憶， 也有了屬于彼此間的親密感[19]。 盡管這是一個虛構(gòu)的荒誕故事，但它警示人類不得不思考“賦予了情感的機器人與人相處”這一系列倫理問題。

對于教育而言， 這個電影中展現(xiàn)的人—機倫理問題啟示我們，必須直面并思考許多重要問題。有些是技術(shù)哲學(xué)層面的，有些是教育社會學(xué)層面的，我們在這里只思考教育社會學(xué)層面遇到的一些問題，主要有：富有情感的教育機器人應(yīng)該如何行動，才符合教育的價值觀？ 它跟其他教育主體（教育者、受教育者）相處到何種程度，才符合教育規(guī)范？ 賦予情感的人工智能在教育應(yīng)用之中，是否會引起“情感泛濫”？賦予情感的人工智能會不會因為難以自控或受人控制，導(dǎo)致不合理的教學(xué)行為或情感表達(dá)？ 這些問題，需要人們從權(quán)利以及倫理道德層面去思考。

（四）智能感知與教育數(shù)據(jù)的價值困境

人工智能的發(fā)展趨勢是與世界的生命系統(tǒng)、萬物系統(tǒng)結(jié)合為一體，實現(xiàn)萬物互聯(lián)、人人皆知。 智能感知是人工智能最主要的發(fā)展方向之一， 物聯(lián)網(wǎng)技術(shù)、工業(yè)4.0 技術(shù)、區(qū)塊鏈技術(shù)等，為人工智能的智能感知提供了良好的技術(shù)支持。在教育領(lǐng)域中，隨著智慧校園的建設(shè)以及各種智慧平臺的開通，電腦、手機、iPAD、可穿戴設(shè)備，以及人臉識別、指紋識別、一卡通、 監(jiān)控攝像機等設(shè)備已經(jīng)被廣泛使用，AI 人臉識別考試、一卡通智能管理、智慧校園監(jiān)控、云端課堂智慧教學(xué)、VR 在線互動虛擬仿真教學(xué)等系統(tǒng)平臺，已經(jīng)構(gòu)成了教育領(lǐng)域的智能感知體系。日常大量的教育數(shù)據(jù)通過手機、iPAD、電腦、可穿戴設(shè)備等，上傳到云端進(jìn)行處理和分析，實現(xiàn)了自動識別、定位、跟蹤、控制、監(jiān)管和信息的交換。

人工智能是以數(shù)據(jù)驅(qū)動和認(rèn)知計算為核心的信息處理、分析、判斷和決策系統(tǒng)，通過從教育大數(shù)據(jù)中發(fā)現(xiàn)知識，進(jìn)而根據(jù)知識進(jìn)行描述性分析、預(yù)測性分析、 優(yōu)化分析和可視化展示， 并做出智能化教育決策。 所以，教育大數(shù)據(jù)使人工智能在教育創(chuàng)新、教學(xué)變革、決策領(lǐng)域的應(yīng)用中，有了分析和判斷的“養(yǎng)分”，它如同生態(tài)系統(tǒng)里的能量一樣，在不同的教育信息管理系統(tǒng)、不同的教育設(shè)施、不同的教育設(shè)備之間無縫地傳遞和交換， 通過數(shù)據(jù)挖掘等方式充分發(fā)揮其應(yīng)用價值[20]。

教育大數(shù)據(jù)一部分來源于教育實踐活動中學(xué)生、教師、管理者和家長等，一部分來源于智慧校園體系中諸多的多媒體設(shè)備、傳感器等。 有專家將教育大數(shù)據(jù)分為教學(xué)資源、教育教學(xué)管理、教與學(xué)行為、教育教學(xué)評估四大類；從數(shù)據(jù)結(jié)構(gòu)化程度來看，其包括結(jié)構(gòu)化數(shù)據(jù)、 半結(jié)構(gòu)化數(shù)據(jù)和非結(jié)構(gòu)化數(shù)據(jù)；從數(shù)據(jù)產(chǎn)生環(huán)節(jié)來看，有過程性數(shù)據(jù)和結(jié)果性數(shù)據(jù)[21]。數(shù)據(jù)本身沒有好壞之分，都是教師、學(xué)生、管理者和家長在智慧教育系統(tǒng)中的各種活動和行為所產(chǎn)生的。 這些數(shù)據(jù)一經(jīng)產(chǎn)生，就脫離了自己的母體，被互聯(lián)網(wǎng)公司或?qū)W校單位控制，它們在實際運用之中存在著很多問題，有些問題是技術(shù)異化引起的，有些是人為原因造成的。 目前，人們普遍關(guān)心的是數(shù)據(jù)安全與隱私保護(hù)問題，數(shù)據(jù)泄露會暴露個人身份、隱私、歸屬以及名譽，挑戰(zhàn)了人的主權(quán)和尊嚴(yán)，這個問題已經(jīng)從法律、倫理、政治、社會、技術(shù)層面受到研究者的重視。 特別是隨著區(qū)塊鏈技術(shù)在各教育場景中的創(chuàng)新性應(yīng)用，數(shù)據(jù)安全和隱私保護(hù)逐漸得到有效解決。 其實，在對教育大數(shù)據(jù)的創(chuàng)新應(yīng)用中，當(dāng)前最大的問題是數(shù)據(jù)權(quán)利、數(shù)據(jù)平等、避免錯誤決策。

目前，教育系統(tǒng)的信息化建設(shè)日益完善，各種智能設(shè)備應(yīng)有盡有，教師和學(xué)生的一切行為基本上都暴露在“第三只眼”的監(jiān)視之下，每天的數(shù)字生活痕跡都會被永久地保存起來。 例如，當(dāng)下教育實踐中正在普及使用的AI 人臉識別系統(tǒng)， 開發(fā)者的共識和期望是利用人臉識別技術(shù)實現(xiàn)無感進(jìn)出控制的門禁、注冊登記、考勤等功能。 那么，問題在于：這些設(shè)備采集的數(shù)據(jù)應(yīng)該歸屬于誰？ 這些數(shù)據(jù)是否該屬于我們個人？ 他人，包括那些記錄、存儲數(shù)據(jù)的公司是否有權(quán)存儲和使用這些數(shù)據(jù)[22]？ 因為，即使敏感性低的數(shù)據(jù)，當(dāng)把它們相關(guān)聯(lián)起來時，往往也能夠產(chǎn)生一組具有高度重要意義的數(shù)據(jù)鏈，甚至比原始數(shù)據(jù)集更為重要，這稱之為“身份重新標(biāo)識”。 這種重新標(biāo)識可能會被人利用進(jìn)行惡意的 “推論攻擊”（Inference Attack）， 即為了不正當(dāng)?shù)孬@得某人的材料， 通過分析數(shù)據(jù)而實行的一種數(shù)據(jù)挖掘技術(shù)，類似我國所說的“人肉搜索”[23]。 特別是涉及教師和學(xué)生的個人數(shù)據(jù)，這些數(shù)據(jù)有可能長期持久地存儲在某個服務(wù)器上， 如果不明確所有權(quán)對其加以控制，將意味著數(shù)十年來個人數(shù)據(jù)被再次激活，使用或濫用的可能性持續(xù)存在。

另外， 這些教育大數(shù)據(jù)有可能用于對學(xué)生行為的預(yù)測分析，這樣很容易造成“將行為模式錯當(dāng)實際”的結(jié)果。 因為，模式是根據(jù)過去行為而確定的，不能完全決定未來的實際行為[24]。 應(yīng)用這種行為模式進(jìn)行推測的方式， 在商業(yè)領(lǐng)域有一定用武之地。但在教育領(lǐng)域應(yīng)用就會容易給學(xué)生貼上某些標(biāo)簽，造成刻板印象，這對于成長中的學(xué)生而言，屬于一種“預(yù)測性干擾”，具有道德倫理方面的漏洞。

2019 年BrainCo 公司生產(chǎn)的“賦思頭環(huán)”，在浙江金華小學(xué)課堂上的應(yīng)用就引發(fā)了廣泛爭議， 大家都在質(zhì)疑學(xué)生佩戴“賦思頭環(huán)”來監(jiān)控專注力，是否會讓其產(chǎn)生逆反心理？ 這確實是一個值得反思的問題。如果在特定場景中把它視為一個戴在頭上的“監(jiān)控器”；那么，學(xué)生產(chǎn)生人為干預(yù)后的情緒反應(yīng)是必然的。這里還有一個值得深思的問題，“賦思頭環(huán)”本身是一個專注于數(shù)據(jù)的量化儀器， 主要通過分析采集到學(xué)生的腦電波來表征和計算專注力的大??；那么，帶著一定目的和動機采集的腦電信號，是否能真實客觀地表征學(xué)生的專注力？ 以及是否在清洗和邏輯驗證時，保證了數(shù)據(jù)的真實性和多樣性？如果把采集到的數(shù)據(jù)視為學(xué)生專注力的一種體現(xiàn)， 利用這些數(shù)據(jù)給學(xué)生構(gòu)建的“數(shù)字畫像”客觀真實嗎？ 是否是被技術(shù)修飾合成的輪廓？

教育大數(shù)據(jù)為人類教育帶來了一場從數(shù)據(jù)到知識到行動的教育變革與創(chuàng)新， 它是教育領(lǐng)域中最為珍貴的資源。其自身是沒有價值或?qū)﹀e的，它的價值都是人們在教育實踐中根據(jù)自己的期待和目的所賦予的。因此，教育大數(shù)據(jù)在驅(qū)動教育教學(xué)變革與創(chuàng)新應(yīng)用的同時， 我們必須注意其在應(yīng)用過程中引發(fā)的技術(shù)異化、數(shù)據(jù)權(quán)利、數(shù)據(jù)平等和信息隱私等一系列倫理問題；而且，這些問題有可能會導(dǎo)致教育不公、人格異變等不良后果。

二、人工智能在教育應(yīng)用中的理性抉擇

教育不同于其他領(lǐng)域， 人工智能的應(yīng)用導(dǎo)致的可能不僅是技術(shù)層面的倫理風(fēng)險問題， 更為嚴(yán)重的是，它可能會摧毀人類原有的教育價值和倫理體系，引發(fā)一系列潛在的、未知的倫理風(fēng)險，這將對教育帶來不可估量的傷害。如何突破人工智能在教育應(yīng)用中所形成的倫理困境，這確實是一個需要慎重選擇和認(rèn)真對待的復(fù)雜問題。 一些研究者試圖從技術(shù)的角度來破解這種倫理困境，但是，教育中人倫關(guān)系錯位、意識與責(zé)任迷失、人機信任危機、人性全面發(fā)展異化等這些倫理風(fēng)險， 是難以通過技術(shù)的創(chuàng)新和進(jìn)步來消除的。 我們必須要建立具有明確道德觀、價值觀指引的倫理框架，必須要有相關(guān)的法規(guī)來規(guī)制。

2019 年4 月，歐盟委員會發(fā)布了《人工智能倫理準(zhǔn)則》，該準(zhǔn)則以“可信賴人工智能”為愿景，從“人的能動性和監(jiān)督”“技術(shù)魯棒性和安全性”“隱私和數(shù)據(jù)管理”“透明性”“多樣性、 非歧視和公平性”“社會和環(huán)境福祉”“問責(zé)”這七個方面，來構(gòu)建確保人工智能足夠安全可靠的倫理準(zhǔn)則框架[25]。 其中，一個最為明確的指示和引導(dǎo)， 就是可信賴的人工智能應(yīng)該是尊重基本人權(quán)、規(guī)章制度、核心原則及價值觀。 這可以說是確保技術(shù)在應(yīng)用上安全可靠， 避免因技術(shù)不足而造成無意傷害的根本。 該倫理準(zhǔn)則對人工智能在教育中的可信賴應(yīng)用，提供了良好的倫理啟示，也為構(gòu)建倫理框架提供了明確的進(jìn)路。 對于人工智能的教育應(yīng)用倫理，“以人為本” 是底線倫理，“以德為先”是道義倫理，“以法為界”是規(guī)約倫理，這是防范和消除倫理風(fēng)險的理性選擇。

（一）以人為本的價值導(dǎo)向

教育是人的教育， 促進(jìn)人的全面發(fā)展是人類一切教育的出發(fā)點和歸宿。 人工智能是推進(jìn)教育均衡發(fā)展、促進(jìn)教育公平、提高教育質(zhì)量的重要手段，是實現(xiàn)教育現(xiàn)代化不可或缺的動力和支撐。 在未來的教育發(fā)展之中， 人工智能與教育的融合將更加深入和廣泛， 人工智能在教育領(lǐng)域的應(yīng)用將逐漸走入常態(tài)化。那么，該如何減少和規(guī)避人工智能在教育應(yīng)用中的倫理風(fēng)險？ 事實上，在教育技術(shù)的發(fā)展歷程中，長期受到科學(xué)主義思想觀念的深度影響， 教育技術(shù)的發(fā)展存在工具理性與價值理性關(guān)系的斷裂問題，表現(xiàn)為技術(shù)思維的僭越、 人性發(fā)展的圈囿和情感溝通的缺失等[26]。 人工智能在教育領(lǐng)域中的應(yīng)用同樣也深陷技術(shù)陷阱之中， 從表面上看是人工智能對教育教學(xué)的賦能， 而本質(zhì)上卻是人工智能的教育應(yīng)用一味追求個性化、智能化、信息化，對工具理性的趨之若鶩和盲目崇拜， 使原本“以人的全面發(fā)展為目的”的價值理性失去意義，工具理性裹挾著學(xué)生走向了人倫關(guān)系的斷裂和人性的扭曲。 正如葉瀾教授所言：“教天地人事，育生命自覺”，教育倫理是關(guān)涉人之發(fā)展的倫理，以人的發(fā)展為中心，關(guān)注人之發(fā)展的未來性、生命性和社會性，這是構(gòu)建教育倫理的價值觀念和基本原則[27]。 人工智能的任何教育應(yīng)用，都不能改變這一真諦，無論人工智能多么強大，都必須服務(wù)于人的教育與人的發(fā)展這一根本宗旨。 教育絕不能迷失在技術(shù)的浪潮之中，“以人為本， 從學(xué)生的全面發(fā)展出發(fā)”來推進(jìn)人工智能的應(yīng)用，才是人工智能引領(lǐng)和促進(jìn)教育創(chuàng)新的必然追求。

（二）以德為先的道義擔(dān)當(dāng)

在教育的實踐領(lǐng)域中， 人們對人工智能變革和創(chuàng)新教育的社會期待越來越大， 這勢必使人工智能在教育中的應(yīng)用與發(fā)展，不斷面臨著實然與應(yīng)然、理性與情感、知識與德性的倫理困境。當(dāng)人們從價值引領(lǐng)、制度約束方面來探尋破解倫理困境，防范倫理風(fēng)險之道時，一個重要的、核心的、本質(zhì)的實踐指向是教育中“可能的、是否允許的”道德倫理，即為教育者和受教育者提供行為規(guī)范，以指導(dǎo)教育實踐。背離倫理道德的教育實踐，其危害性不言而喻。人工智能是一種“智能”技術(shù)，盡管人們普遍認(rèn)為弱人工智能不具備道德行為者的主體性；但是，強人工智能肯定具有了一定的主體意識、情感表達(dá)與自主性，這也是人們普遍的共識。

人工智能的發(fā)展會越來越強大，在人機共存的教育場景之中，它也和人類個體一樣擁有了平等的主體地位和責(zé)任。 王淑芹教授指出，人工智能技術(shù)的“是”與“應(yīng)該”、“道義”與“功利”、“自由”與“責(zé)任”之間的關(guān)系，是發(fā)揮好倫理學(xué)價值規(guī)范與引領(lǐng)作用的理論基礎(chǔ)[28]。無論如何，道德在人工智能的教育應(yīng)用中是不應(yīng)忽視的，這是人工智能在教育應(yīng)用中“歸于善”本質(zhì)的倫理化反映，也是以德性內(nèi)化信念、以道義驅(qū)動行為的責(zé)任倫理價值的彰顯。 我們必須逐步建立具體的、較為全面的人工智能在教育應(yīng)用中的倫理規(guī)范，確立判斷行為是非善惡的道德標(biāo)準(zhǔn)，這才是將人工智能引向教育“育人”發(fā)展的意義之所在。

（三）以法為界的倫理規(guī)約

人工智能在教育應(yīng)用中存在的倫理風(fēng)險絕對是不可忽視的， 因為它造成傷害的對象一般是我們的受教育者，而且這種傷害有可能是潛在的、長久的、難以逆轉(zhuǎn)的。 人類要保持對人工智能在教育實踐中的有效控制， 防范技術(shù)異化和價值扭曲所導(dǎo)致的風(fēng)險，就必須要建立新的倫理制度。 我們知道，人工智能在教育應(yīng)用中的倫理風(fēng)險， 主要在于設(shè)計開發(fā)和實踐應(yīng)用兩個環(huán)節(jié)。 當(dāng)開發(fā)人員在開發(fā)一個基于人工智能的教育系統(tǒng)時， 需要遵循教育價值主導(dǎo)下的技術(shù)規(guī)范和科學(xué)標(biāo)準(zhǔn)， 必須遵守社會倫理的基本原則。 只有在人工智能相關(guān)技術(shù)的應(yīng)用和發(fā)展上加以技術(shù)倫理和社會倫理的制約和限制， 形成一定的倫理制度，才能使人工智能在開發(fā)和設(shè)計環(huán)節(jié)上，真正將倫理風(fēng)險減少到最低程度。

在實踐應(yīng)用環(huán)節(jié)， 未來的教育肯定是一種人機共存的新型教育關(guān)系和教育場景。 人機共存的本質(zhì)是協(xié)調(diào)而非欺騙， 它建立在人機認(rèn)知信任和情感信任的基礎(chǔ)之上，是一個富有挑戰(zhàn)性的過程。這一挑戰(zhàn)不僅僅是技術(shù)倫理層面的挑戰(zhàn)， 更為關(guān)鍵的是社會倫理層面的挑戰(zhàn)。教育實踐中的人機共存，需要教育制度、政策和法規(guī)，這是人工智能深度、有序、科學(xué)參與人類教育教學(xué)活動的前提和保障。 倫理制度是破解和消除倫理風(fēng)險的最有效舉措，它是以“強制性”的形式面向人類教育實踐中人機關(guān)系和社會行為的一種制度性約束和規(guī)范。

人們常言，法規(guī)不前置，現(xiàn)實必尷尬。 因此，我們認(rèn)為，人工智能在教育中的應(yīng)用，必須針對教育主體建立起一系列規(guī)章公約和守則，把盡可能多的教育倫理以制度化的形式嚴(yán)格建立起來。 倫理制度是道德規(guī)范與法律規(guī)范相銜接的一種制度，它在建立和維護(hù)人工智能在教育應(yīng)用中的秩序上，發(fā)揮著非常重要的作用。

三、人工智能未來的教育責(zé)任

自20 世紀(jì)90 年代以來，隨著傳感器、移動互聯(lián)網(wǎng)、物聯(lián)網(wǎng)、云計算、大數(shù)據(jù)分析、虛擬現(xiàn)實等技術(shù)突飛猛進(jìn)的發(fā)展， 人工智能擁有了在不確定性環(huán)境中做出準(zhǔn)確判斷、決策和行動的能力。 目前，人工智能處理和應(yīng)對復(fù)雜問題的認(rèn)知行為和智能水平在一定程度上與人腦相近，甚至?xí)饺祟惖闹悄芩?，它已?jīng)在社會各個領(lǐng)域的應(yīng)用中顯示出了巨大威力和社會價值， 也一再點燃和激活了人們對人工智能在教育應(yīng)用中的熱情和期待。 正如李政濤教授所言：“技術(shù)擁有改變世界、 改變?nèi)祟惡透淖兘逃膫チ?，它已?jīng)成為具有強大自主性的存在”[29]。

面對人工智能有可能給人類教育帶來的種種風(fēng)險和危害，人們呼喚和期待通過重建教育倫理體系，重構(gòu)教育倫理秩序來消除技術(shù)陷阱，化解倫理風(fēng)險，除了價值前提和規(guī)范前提之外，責(zé)任前提則是“應(yīng)該做什么”的倫理道德準(zhǔn)則指向，這是對人工智能在教育應(yīng)用中的應(yīng)然要求， 凸顯其變革教育的使命感和責(zé)任感。總之，任何一種技術(shù)，無論其如何應(yīng)用，只有明確承擔(dān)起自己的責(zé)任， 這一責(zé)任才會成為其持續(xù)發(fā)展的驅(qū)動力和規(guī)制力。