人工智能教育的算法風(fēng)險(xiǎn)與善治

馮永剛 趙丹丹

（山東師范大學(xué)，山東 濟(jì)南 250014）

進(jìn)入21 世紀(jì)以來(lái)，以互聯(lián)網(wǎng)普及作為發(fā)展紐帶，在物聯(lián)網(wǎng)、云計(jì)算、5G、虛擬現(xiàn)實(shí)技術(shù)的烘托下，爆炸式增長(zhǎng)的大數(shù)據(jù)引發(fā)了社會(huì)結(jié)構(gòu)新的變革。伴隨數(shù)據(jù)處理與應(yīng)用能力的不斷提升，人工智能逐漸滲透到人類生產(chǎn)和生活的各個(gè)領(lǐng)域，驅(qū)使人類社會(huì)邁入了人工智能時(shí)代。當(dāng)前，人工智能教育已是教育創(chuàng)新發(fā)展的趨勢(shì)，人們期望通過(guò)人工智能與教育的深度融合化解棘手的教育問(wèn)題，以實(shí)現(xiàn)人類能力的智慧打造，助力教育教學(xué)高質(zhì)量發(fā)展。在人工智能教育的發(fā)展中，算法和大數(shù)據(jù)的雙向聯(lián)合是其核心驅(qū)動(dòng)力，算法更是人工智能教育發(fā)展的基礎(chǔ)。[1]通過(guò)算法將教育數(shù)據(jù)轉(zhuǎn)化為易處理、易計(jì)算的數(shù)學(xué)問(wèn)題，克服了人類思維的局限性，給人類帶來(lái)的便捷是顯而易見(jiàn)的。在當(dāng)今社會(huì)，人類的每時(shí)每刻都直接或間接地與算法相關(guān)，甚至有人預(yù)測(cè)：“如果所有算法都突然停止運(yùn)轉(zhuǎn)，那么就是人類的世界末日?！盵2]然而，我們必須清醒地意識(shí)到，“算法絕非中立、公正的，隨著算法全面滲透生活世界，算法歧視現(xiàn)象高發(fā)，已不容漠視”[3]。加之，教育因 “人” 而復(fù)雜，并非全部能夠物化為數(shù)字模型，使用算法將教育進(jìn)行完全量化與預(yù)測(cè)的做法，勢(shì)必會(huì)背離教育的動(dòng)態(tài)性、多元性特質(zhì)，造成一定的算法風(fēng)險(xiǎn)。因此，厘清人工智能教育的算法風(fēng)險(xiǎn)及其成因，并積極規(guī)避，方可確保人工智能教育為人類帶來(lái)福祉。

一、人工智能教育的算法風(fēng)險(xiǎn)

在人工智能教育看來(lái)，所有的教育都是“可算度的教育”。算法被視為以特定函數(shù)的代碼值進(jìn)入輸入端并在有限時(shí)間內(nèi)通過(guò)算法路徑輸出能夠解決目的性問(wèn)題的方案?！八惴ㄊ菫閷?shí)現(xiàn)某個(gè)任務(wù)而構(gòu)造的簡(jiǎn)單指令集。在日常用語(yǔ)中，算法有時(shí)稱為過(guò)程或處方?！盵4]在人工智能教育運(yùn)用中，算法是指按照預(yù)先目標(biāo)設(shè)定，通過(guò)機(jī)器學(xué)習(xí)、訓(xùn)練操作等一系列步驟模擬人類的思維過(guò)程和行為方式，以算法箱子輸入端和輸出端的既定數(shù)據(jù)運(yùn)算模擬人類神經(jīng)工作、協(xié)助人們處理繁雜事務(wù)的過(guò)程。隨著人工智能教育的快速發(fā)展，一時(shí)間，教育領(lǐng)域被算法優(yōu)勢(shì)填充，“一切皆可計(jì)算” 的算法崇拜伴隨著這種氛圍應(yīng)運(yùn)而生，算法逐漸成為教育權(quán)威的代言人。[5]當(dāng)然，沉浸在人工智能教育 “熱” 的同時(shí)，我們也要對(duì)人工智能教育面臨的風(fēng)險(xiǎn)進(jìn)行“冷” 思考。誠(chéng)如聯(lián)合國(guó)教科文組織的警示，人工智能會(huì)給教育帶來(lái)壓力和挑戰(zhàn)，[6]人工智能教育的算法風(fēng)險(xiǎn)也值得我們警惕。

1.算法的既定性導(dǎo)致教育被淺層化的風(fēng)險(xiǎn)

在人工智能時(shí)代，算法的工作機(jī)理是固定函數(shù)公式下的智能運(yùn)算和機(jī)器學(xué)習(xí)，函數(shù)一經(jīng)輸入便被既定的計(jì)算步驟所固化。因此，算法具有天然的既定性基因。莫里斯·克萊因（Morris Kline）表示，數(shù)學(xué)的成功之處在于以長(zhǎng)度、質(zhì)量、時(shí)間等量化的概念形式來(lái)看待世界物質(zhì)，但是數(shù)學(xué)符號(hào)并不能夠表達(dá)一切，比如某些豐富多彩的體驗(yàn)是數(shù)學(xué)符號(hào)所不能企及的。[7]如同人的身高并不能夠代表整個(gè)人一樣，在預(yù)設(shè)教育目標(biāo)下的既定性算法也不能夠代表整個(gè)教育過(guò)程。教育是一個(gè)復(fù)雜的社會(huì)活動(dòng)，面對(duì)的是不同的教育群體、多元的教育訴求，是在動(dòng)態(tài)中不斷生成的，絕非按部就班、機(jī)械劃一。人工智能教育依托算法對(duì)學(xué)校管理、教師教學(xué)、學(xué)生學(xué)習(xí)的過(guò)程進(jìn)行量化分析，其所使用的信息多是教育對(duì)象或教育現(xiàn)象的淺層數(shù)據(jù)，而并非是能反映教育本質(zhì)的深層數(shù)據(jù)。算法模型對(duì)教育事實(shí)或教育現(xiàn)象的既定化分析，易遺失教育過(guò)程中最為豐富的元素，如學(xué)生的道德感、好奇心和探究欲等，引發(fā)教育過(guò)程的淺層化和表面化。

值得注意的是，既定的算法模型所設(shè)計(jì)出的虛擬仿真學(xué)習(xí)空間、模擬訓(xùn)練等并不能夠等同生動(dòng)形象的真實(shí)學(xué)習(xí)情境。在算法創(chuàng)造的教育空間中，學(xué)生并不會(huì)像機(jī)器那樣按照既定路徑運(yùn)作，教師也無(wú)法脫離自身環(huán)境而單純依靠算法設(shè)計(jì)進(jìn)行 “流水作業(yè)”，教學(xué)成為套路固定、路徑生硬的 “游戲”；學(xué)生僅能夠獲得淺層的顯性知識(shí)，而那些緘默的活動(dòng)經(jīng)驗(yàn)、內(nèi)心活動(dòng)、邏輯思維等高階活動(dòng)都將難以得到發(fā)展，走馬觀花式的學(xué)習(xí)無(wú)異于飲鴆止渴，難以促進(jìn)學(xué)生的全面發(fā)展、終身發(fā)展。

2.“黑箱” 效應(yīng)下催生教育被隱形控制的風(fēng)險(xiǎn)

算法 “黑箱” 是指由于技術(shù)本身的復(fù)雜性，在算法的輸入端與輸出端之間存在著無(wú)法洞悉或未知的區(qū)域。一方面，“黑箱” 意味著我們難以理解算法內(nèi)部的邏輯與生產(chǎn)方法；另一方面，“黑箱” 也代表著其本身的復(fù)雜性導(dǎo)致設(shè)計(jì)者難以洞識(shí)其運(yùn)動(dòng)機(jī)制。正如盧克·多梅爾（Luke Dormehl）所說(shuō)，我們所處的人工智能環(huán)境是依托于算法和大數(shù)據(jù)而生的，“技術(shù)對(duì)人類的理解越來(lái)越深刻，而人們卻越來(lái)越難以理解、把控技術(shù)”[8]。當(dāng)算法應(yīng)用于教育領(lǐng)域時(shí)，面對(duì)機(jī)器學(xué)習(xí)技術(shù)的迅速發(fā)展，人工智能教育能夠進(jìn)行自我改進(jìn)和自我優(yōu)化等一系列內(nèi)在的、不為人知的更新過(guò)程，我們同樣難以理解、詮釋算法處理教育問(wèn)題時(shí)的邏輯機(jī)理和運(yùn)作路徑。人工智能算法將自身的工作邏輯應(yīng)用于教育全過(guò)程，利用自己所演化的規(guī)則實(shí)現(xiàn)學(xué)生分析、教師分析和問(wèn)題處理等，而在整個(gè)教育過(guò)程中的學(xué)生、教師甚至設(shè)計(jì)者等卻并不能夠?qū)ζ涔ぷ鬟壿嬜龅?“盡知”：學(xué)生無(wú)法判定算法的自動(dòng)推薦是否反映客觀事實(shí)、是否真正符合自身需求；教師無(wú)法判定依據(jù)算法得出的既定結(jié)果是否真正適合學(xué)生發(fā)展、是否真正能夠正向解決教育問(wèn)題；設(shè)計(jì)者無(wú)法肯定算法所算出的確定結(jié)果是否符合預(yù)期數(shù)據(jù)設(shè)定，等等。

在算法 “黑箱” 效應(yīng)下，參與者對(duì)算法路徑、工作邏輯的無(wú)法盡知令我們落入被動(dòng)方位，只能被動(dòng)地接受算法輸出的固定結(jié)果。在不知道其工作邏輯、不確定計(jì)算結(jié)果是否適切教育問(wèn)題的情況下，貿(mào)然將其應(yīng)用于教育這一培養(yǎng)人的社會(huì)實(shí)踐活動(dòng)之中，其中所蘊(yùn)藏的風(fēng)險(xiǎn)難以想象，易致教育成為一個(gè)失去方向、沒(méi)有活力、缺失靈動(dòng)的機(jī)械執(zhí)行過(guò)程。教育參與者在“黑箱” 效應(yīng)的遮蓋下，一知半解地按照算法既定結(jié)果亦步亦趨，教育的自主性正在逐漸被隱形消解。

3.算法偏見(jiàn)下加劇了教育不公的風(fēng)險(xiǎn)

教育公平是社會(huì)公平的子系統(tǒng)，是實(shí)現(xiàn)社會(huì)公平 “最偉大的工具”[9]。隨著時(shí)代變遷，人類社會(huì)在教育公平的道路上曲折前行。在人工智能時(shí)代，算法作為一把 “雙刃劍”，可極大地促進(jìn)教育公平的發(fā)展步伐，與此同時(shí)，算法又以某一種方式加劇了教育的不公。這集中體現(xiàn)為算法偏見(jiàn)所帶來(lái)的教育不公風(fēng)險(xiǎn)。算法是依賴數(shù)據(jù)和規(guī)則的，而數(shù)據(jù)樣本是經(jīng)過(guò)提煉選取的，在這一過(guò)程中會(huì)去除各種 “噪音” 數(shù)據(jù)，再賦予其看似合理的樣本數(shù)據(jù)，將其納入算法模型。加之算法偏見(jiàn)亦有其隱蔽的形成路徑，因此，看得見(jiàn)的、可計(jì)算的數(shù)據(jù)被裝入算法盒子，而看不見(jiàn)的、難處理的數(shù)據(jù)被剔除，在這些數(shù)據(jù)的取舍之間就產(chǎn)生了算法偏見(jiàn)，造成了結(jié)果狹隘。地區(qū)的教育信息化水平影響著人工智能教育的普及、深入程度，必然會(huì)拉大富裕地區(qū)與貧瘠地區(qū)受教育水平的差距，尤其是對(duì)算法偏見(jiàn)的認(rèn)識(shí)和處理水平，會(huì)影響教育機(jī)會(huì)公平、教育過(guò)程公平，拉垮教育結(jié)果公平。

算法偏見(jiàn)下，打開算法盒子看得到的是符合設(shè)計(jì)者、使用者的主觀數(shù)據(jù)與程序，關(guān)閉盒子輸出的卻是代表客觀性的大眾結(jié)果。[10]如果算法存在偏見(jiàn)，那么將會(huì)產(chǎn)生嚴(yán)重的不公后果，尤其是針對(duì)貧困社區(qū)、弱勢(shì)群體而言。教育領(lǐng)域同樣存在性別、種族、家庭環(huán)境、教育條件等參差不齊的背景樣本。面對(duì)這些大量的樣本，難以對(duì)其進(jìn)行全面評(píng)估或預(yù)測(cè)，甚至難以帶入算法中進(jìn)行結(jié)果分析。同樣，教育過(guò)程中所產(chǎn)生的情感、態(tài)度和價(jià)值觀等緘默數(shù)據(jù)，也難以被量化為顯性數(shù)據(jù)并加以分析，而這些不能被妥善植入算法的數(shù)據(jù)樣本，卻在極大程度上代表和體現(xiàn)著教育的公平、公正、關(guān)愛(ài)、尊重等。算法偏見(jiàn)的過(guò)濾，使得富有人文價(jià)值的數(shù)據(jù)被消解在外，教育不公不可避免地被放大，“數(shù)據(jù)鴻溝” 在算法偏見(jiàn)的加持下被拉大，教育天平進(jìn)一步被拉扯傾斜，從而加劇教育公平的風(fēng)險(xiǎn)。

4.算法的大規(guī)模應(yīng)用易引發(fā)教育同質(zhì)化的風(fēng)險(xiǎn)

人工智能時(shí)代，算法的大規(guī)模應(yīng)用推動(dòng)了技術(shù)的飛速提升?！凹夹g(shù)在追求效率的同時(shí)總是在謀求擴(kuò)大受眾規(guī)模?！盵11]算法的大規(guī)模運(yùn)用表現(xiàn)在教育領(lǐng)域更是多種多樣，大到智慧教育的生態(tài)研究、多元學(xué)習(xí)情境下教育規(guī)律的探討，小到個(gè)性化學(xué)習(xí)的支持服務(wù)、基于教育數(shù)據(jù)的學(xué)習(xí)分析與測(cè)評(píng)、自動(dòng)化決策系統(tǒng)、智能教育產(chǎn)品，都是以算法為模型的多種教育信息科技的表現(xiàn)形式。不可否認(rèn)的是，算法通過(guò) “智能導(dǎo)師系統(tǒng)、自動(dòng)化測(cè)評(píng)系統(tǒng)、教育游戲、教育機(jī)器人”[12]等的應(yīng)用對(duì)教育個(gè)性化帶來(lái)了極大的推動(dòng)，促進(jìn)了教師指導(dǎo)的個(gè)性化、學(xué)生學(xué)習(xí)的個(gè)性化。

但是，算法的大規(guī)模應(yīng)用極易導(dǎo)致教育的程式化，使越來(lái)越多的人和教育機(jī)構(gòu)癡迷于算法規(guī)?；⒘炕鶐?lái)的利益，以推送算法的形式將 “人” 物化、將教育公式化，以同一的教育算法推送相同的教學(xué)資源、學(xué)習(xí)計(jì)劃等，這在一定程度上加劇了教育結(jié)果的同質(zhì)化。利用機(jī)器學(xué)習(xí)分類算法，將受眾分流到不同地點(diǎn)、不同時(shí)間段、不同層次的做法，從表面上看，似乎實(shí)現(xiàn)了教育的優(yōu)質(zhì)分層，實(shí)則不然。面對(duì)擁有不同學(xué)科背景、認(rèn)知程度不一的受教育者，算法的規(guī)模化、流水線使用必然會(huì)強(qiáng)化學(xué)生的規(guī)?；?“生產(chǎn)”，導(dǎo)致辦學(xué)模式單一化、學(xué)生單維同質(zhì)化生長(zhǎng)、教育一律性發(fā)展，引發(fā)教育反特色化、合眾化、趨同化的風(fēng)險(xiǎn)，因?yàn)?“即使是優(yōu)質(zhì)的教育算法，一旦大規(guī)模使用，也會(huì)帶來(lái)湮滅學(xué)生個(gè)性的風(fēng)險(xiǎn)”[13]。同時(shí)，我們也不能忽視人工智能教育應(yīng)用在一定程度上削弱了教師的指導(dǎo)性、學(xué)生的自主選擇性，使其成為固化學(xué)生思維、限制學(xué)生多樣發(fā)展的 “殺傷性”智能武器。

二、人工智能教育算法風(fēng)險(xiǎn)究因

深究算法風(fēng)險(xiǎn)的根由，有助于我們把握人工智能教育應(yīng)用的邊界與局限，促進(jìn)人工智能教育更好地適應(yīng)和滿足人的發(fā)展需求。

1.算法的路徑固定化與學(xué)生個(gè)性化發(fā)展之間的矛盾

算法是依據(jù)預(yù)設(shè)的數(shù)學(xué)公式進(jìn)行輸入、計(jì)算、輸出信息的運(yùn)行過(guò)程，其工作路徑是固化的。算法的路徑固定化與學(xué)生的個(gè)性化發(fā)展之間的矛盾是教育被淺層化風(fēng)險(xiǎn)的主要原因。算法使每個(gè)學(xué)生都被度量化，他們不再是一個(gè)鮮活的、有機(jī)的和內(nèi)在的整體，而是被拆解成一個(gè)個(gè)便于計(jì)算和處理的數(shù)字格、被細(xì)化為 “用數(shù)據(jù)表示的物理形態(tài)的人”[14]、被打上不同的標(biāo)記名片，接受不同數(shù)量的、所謂的個(gè)性化推薦信息資源。實(shí)質(zhì)上，真正的學(xué)生個(gè)性化發(fā)展是依據(jù)學(xué)生的學(xué)習(xí)動(dòng)機(jī)、好奇心、興趣等來(lái)調(diào)動(dòng)學(xué)生的主體性，激發(fā)其內(nèi)在潛能，而非通過(guò)算法公式化地向其推薦固定內(nèi)容。在算法固定的工作模式下，每個(gè)學(xué)生好比被獨(dú)立放進(jìn)單間的信息素，被既定算法和固定工作路徑分開處理。這將加大學(xué)生之間的知識(shí)區(qū)隔，阻礙其信息交流、情感溝通、共同體建立等，將學(xué)生個(gè)性化發(fā)展扭曲為學(xué)生發(fā)展隔斷化。學(xué)生的個(gè)性化發(fā)展不是固定化的、公式化的，而是思辨能力、理解能力、合作能力等多方因素通力合作所達(dá)到的和諧景象，這顯然是固定規(guī)則下的算法無(wú)法企及的。

2.算法的模糊性與教育的公共性之間的對(duì)峙

算法 “黑箱” 意味著算法輸入端與輸出端之間有著難以洞悉的復(fù)雜結(jié)構(gòu)，算法具有模糊性、難解釋性的特質(zhì)。算法的模糊性來(lái)源于算法自身的復(fù)雜性與相對(duì)獨(dú)立性，難以被解釋，更難以被理解。另外，在人工智能高速發(fā)展的背景下，機(jī)器學(xué)習(xí)的能力日益強(qiáng)化。通過(guò)機(jī)器自身的深度學(xué)習(xí)，其算法發(fā)展的程度與所優(yōu)化的區(qū)域，甚至連算法的初始設(shè)計(jì)者都難以獲悉，這在一定程度上強(qiáng)化了模糊性。而教育是公共性的實(shí)踐活動(dòng)，公共性是教育的內(nèi)在屬性。教育是公益而非私人的事業(yè)，具有顯著的公開、公益和公平的公共性品格?！啊病?意味著向任何人的審視開放，而私人則意味著一個(gè)由家人和朋友構(gòu)成的、受到遮蔽的生活區(qū)域。”[15]算法的模糊性與教育的公共性形成明顯反差。同時(shí)，“黑箱” 效應(yīng)下算法的難解釋性，對(duì)教育者、受教育者等教育主體甚至社會(huì)公眾而言，意味著他們非但難以了解其工作的基本機(jī)制，甚或?qū)逃顒?dòng) “一概不知”，這有悖于教育的公開性。此外，算法的模糊性又在一定程度上強(qiáng)化了教育的排他性和私有化，引起了某些人對(duì)結(jié)果的早先獲知甚至滋生預(yù)先篡改和占有的問(wèn)題，掩蔽了教育的公共性。

3.算法的數(shù)據(jù)依賴性與教育多維性之間的拉鋸

在人工智能教育應(yīng)用中，算法通過(guò)數(shù)據(jù)搜集、數(shù)據(jù)清洗、數(shù)據(jù)審查、數(shù)據(jù)分割等各種數(shù)據(jù)處理來(lái)發(fā)揮作用，因此，算法具有較強(qiáng)的數(shù)據(jù)依賴性，且數(shù)據(jù)分布本身就帶有一定的偏見(jiàn)性。[16]而教育是動(dòng)態(tài)的、多維的。教育的存在意義與價(jià)值在于促進(jìn)人的全面而有個(gè)性的發(fā)展，這必然要求智能教育應(yīng)用結(jié)果的多元化。而算法模型的建立需要使用過(guò)去的數(shù)據(jù)變量進(jìn)行分析，將教師的教育行為、學(xué)生的學(xué)習(xí)行為等“過(guò)時(shí)” 的數(shù)據(jù)作為輸入數(shù)據(jù)，用以解決新鮮的教育問(wèn)題，數(shù)據(jù)與發(fā)展存在著時(shí)差問(wèn)題。如根據(jù)相關(guān)學(xué)者對(duì)高校成績(jī)數(shù)據(jù)的研究顯示，算法的使用上具有利用不充分、分析不深入等問(wèn)題。[17]在數(shù)據(jù)收集與數(shù)據(jù)輸入的過(guò)程中，對(duì)數(shù)據(jù)處理的精準(zhǔn)度越高，數(shù)據(jù)處理的時(shí)間就會(huì)越長(zhǎng)，其延時(shí)性就表現(xiàn)得越為明顯。同時(shí)，在教育的動(dòng)態(tài)發(fā)生過(guò)程中，會(huì)涌現(xiàn)出較多的非事先預(yù)知的“意外情景”，如思維轉(zhuǎn)換、情感升華、直覺(jué)靈感和頓悟等質(zhì)變現(xiàn)象。這些變化都是難以從過(guò)往數(shù)據(jù)中推測(cè)預(yù)判，即利用已經(jīng)存在的 “信息足跡” 難以預(yù)判到教育過(guò)程的質(zhì)變現(xiàn)象，引發(fā)算法數(shù)據(jù)依賴性與教育多維性的拉鋸表現(xiàn)。

4.算法的確定性與教育過(guò)程的不確定性互相博弈

教育具有顯而易見(jiàn)的復(fù)雜性與不確定性。[18]教育對(duì)象的差異性、教育手段的多元化、教育情境的多變性等一系列因素都是教育不確定性的強(qiáng)化劑，彰顯著教育活動(dòng)的獨(dú)特性的同時(shí)也給教育蒙上了神秘色彩。固定性是算法的內(nèi)在特質(zhì)，需要從明確的目標(biāo)出發(fā)，以固定的算法公式求得預(yù)設(shè)目標(biāo)的達(dá)成，以確定的輸入數(shù)據(jù)求得肯定、客觀的輸出結(jié)果。所以，算法的確定性在一定程度上與教育的不確定性有著難以調(diào)節(jié)的博弈現(xiàn)象。算法固定的、公式化的計(jì)算模式，難以與教育進(jìn)程中個(gè)體隨時(shí)產(chǎn)生的動(dòng)機(jī)、情感、好奇心等不定因素建立即時(shí)性的關(guān)聯(lián)，教育活動(dòng)中時(shí)刻涌現(xiàn) “一石激起千層浪” 的伴隨性數(shù)據(jù)在一定程度上消解了算法的確定性權(quán)威。誠(chéng)然，算法力圖將教育領(lǐng)域的各項(xiàng)不確定因素轉(zhuǎn)化為確定性的數(shù)據(jù)形式，而確定性在一定程度上代表著人工智能應(yīng)用于教育追求真善美目標(biāo)的明確性，其必要性是毋庸置疑的。然而，教育真善美的標(biāo)準(zhǔn)究竟是什么？這不是算法的確定性所能確證的。而這種不確定性本身也是教育多維、多變和多樣的典型映射，如此，動(dòng)態(tài)多變的教育活動(dòng)與算法的確定性之間的摩擦、沖突及對(duì)抗自是難免。

三、善治人工智能教育算法風(fēng)險(xiǎn)的路徑

隨著人工智能教育的縱深發(fā)展，教育數(shù)據(jù)不斷堆疊，深度學(xué)習(xí)持續(xù)推進(jìn)，算法所帶的偏見(jiàn)、風(fēng)險(xiǎn)等也會(huì)呈現(xiàn)出強(qiáng)化與放大的苗頭。因此，通過(guò)有力的善法對(duì)算法所帶來(lái)的風(fēng)險(xiǎn)加以防治就顯得日益重要且迫切。因此，要將道德嵌入算法，建立合乎道德要求、協(xié)助人們進(jìn)行道德決策的道德算法，促逼算法從善。道德算法的建立，能夠保持人工智能教育應(yīng)用中算法的審慎使用，有效規(guī)避算法引發(fā)的教育風(fēng)險(xiǎn)，極大發(fā)揮算法對(duì)教育的優(yōu)質(zhì)作用[19]，指向 “一切為了人類利益” 的目的，從而有效規(guī)避算法風(fēng)險(xiǎn)，更好地發(fā)揮算法的正向功能，為人類帶來(lái)更多的利益和福祉。

1.優(yōu)化算法設(shè)計(jì)，以價(jià)值理性引領(lǐng)人工智能教育的深層化發(fā)展

通過(guò)優(yōu)化算法設(shè)計(jì)提升算法應(yīng)用中的價(jià)值理性與人文精神，是防范人工智能教育應(yīng)用中算法風(fēng)險(xiǎn)的價(jià)值指南。從算法設(shè)計(jì)意圖和最終目的入手，以扎實(shí)的算法價(jià)值根基、人的主體性地位打破淺表化的發(fā)展局限，引領(lǐng)人工智能教育的深層發(fā)展，尊重人工智能教育應(yīng)用中教師與學(xué)生的主體地位，提升人工智能教育算法的風(fēng)險(xiǎn)規(guī)避力，從技術(shù)源頭加強(qiáng)人工智能教育的深度，從而走出應(yīng)用淺表化的陷阱。

一方面，以道德算法筑牢算法的價(jià)值根基，促進(jìn)人工智能教育行穩(wěn)致遠(yuǎn)。人工智能時(shí)代，算法在技術(shù)支撐下亦帶來(lái)巨大的資本收入，因此，算法在一定程度上也是資本與技術(shù)的化身。為了防止技術(shù)理性對(duì)價(jià)值理性的僭越，人工智能教育應(yīng)加強(qiáng)算法設(shè)計(jì)環(huán)節(jié)中的道德性與人文性精神，以價(jià)值理性為主導(dǎo)，以技術(shù)理性為輔助，賦予算法設(shè)計(jì)意圖正當(dāng)性。要加強(qiáng)人工智能教育應(yīng)用的源頭設(shè)計(jì)把關(guān)，定期對(duì)教育算法技術(shù)人員進(jìn)行倫理與科技的話題教育，嚴(yán)把信息篩選、算法設(shè)計(jì)等過(guò)程，強(qiáng)化算法設(shè)計(jì)者的價(jià)值理性思想，激發(fā)算法 “育人為本” 的責(zé)任意識(shí)，明確自身的算法設(shè)計(jì)對(duì)教育發(fā)展、社會(huì)發(fā)展的影響意義，以道德算法扎穩(wěn)算法的價(jià)值根基，通過(guò)算法的正當(dāng)性確保人工智能教育縱深推進(jìn)。

另一方面，確保技術(shù)應(yīng)用中人的主體性，以人的能動(dòng)性促進(jìn)教育的深層化發(fā)展。無(wú)論何種智能技術(shù)，都是以服務(wù)人、發(fā)展人和解放人為最終目的。在當(dāng)今時(shí)代，不乏技術(shù)運(yùn)用者有迫切攫取眼前利益而置人的道德與價(jià)值于不顧的短視行為，長(zhǎng)此以往，必然會(huì)導(dǎo)致價(jià)值理性消解、技術(shù)理性霸權(quán)的失衡現(xiàn)象。因此，要打破技術(shù)霸權(quán)的華麗包裝，以工具性教育回歸主體性教育，要尊重人的主體地位并發(fā)揮人的主體性作用，構(gòu)建以人為中心的智能教育場(chǎng)域，[20]以學(xué)生的情感、態(tài)度、價(jià)值等深層次的發(fā)展和教師的教育智慧、專業(yè)能力等的不斷提升作為人工智能教育算法設(shè)計(jì)之引領(lǐng)。在算法設(shè)計(jì)中，要以生為本，深度挖掘緘默的活動(dòng)經(jīng)驗(yàn)、內(nèi)心活動(dòng)、邏輯思維等高階活動(dòng)的深層性、本質(zhì)性的數(shù)據(jù)資源，如將基于內(nèi)容、協(xié)同過(guò)濾、綜合的三種傳統(tǒng)推薦算法轉(zhuǎn)為基于排序?qū)W習(xí)的推薦算法，補(bǔ)充傳統(tǒng)三種算法推薦內(nèi)容各有偏差的問(wèn)題，將真正的學(xué)生個(gè)性化發(fā)展融入推薦公式的編制，促進(jìn)學(xué)生主體從淺表化知識(shí)學(xué)習(xí)向順應(yīng)、同化不斷發(fā)展的進(jìn)階學(xué)習(xí)轉(zhuǎn)化[21]，增強(qiáng)信息推薦主體適切性，助推人工智能教育的深度發(fā)展。

2.增加算法的透明度，提升人工智能教育的自主性

為了加強(qiáng)算法治理，人們?cè)絹?lái)越重視算法透明性原則對(duì)算法 “黑箱” 的克制作用。誠(chéng)如凱文·凱利（Kevin Kelly）所言：“技術(shù)只有透明才能獲益。”[22]增加算法的透明度可有效消解人工智能教育應(yīng)用中 “算法黑箱” 所帶來(lái)的內(nèi)容遮蓋，提升人工智能教育的自主支持性，保持社會(huì)公眾對(duì)教育的公平與道義的持有與把控。

一方面，加強(qiáng)教育數(shù)據(jù)操作的自主可查性，以數(shù)據(jù)透明突破教育被隱形控制的桎梏。算法對(duì)大數(shù)據(jù)的強(qiáng)依賴性決定了規(guī)避 “算法” 風(fēng)險(xiǎn)需要從數(shù)據(jù)樣本作出調(diào)整，加強(qiáng)數(shù)據(jù)的透明性，確保教育數(shù)據(jù)來(lái)源可查、教育數(shù)據(jù)內(nèi)容可查、教育數(shù)據(jù)處理可查，斬?cái)嘟逃浑[形控制的源頭。教育數(shù)據(jù)的可查性需要算法設(shè)計(jì)者對(duì)教育數(shù)據(jù)來(lái)源、篩選、處理步驟等做好嚴(yán)格記錄與及時(shí)備份，如明確標(biāo)注數(shù)據(jù)采集樣本所在年級(jí)、年齡、學(xué)習(xí)水平、學(xué)習(xí)習(xí)慣、數(shù)據(jù)采集時(shí)間與所在地等相關(guān)信息，了解算法可能存在的偏差及潛在危害，以保證后期對(duì)數(shù)據(jù)審查與復(fù)核等步驟的可控性、可查性。同時(shí)，確保數(shù)據(jù)的備份記錄具有合法的可訪問(wèn)性與不可篡改性，以嚴(yán)格、環(huán)環(huán)相扣的數(shù)據(jù)記錄審查環(huán)節(jié)保障數(shù)據(jù)隱私與安全性，使數(shù)據(jù)獲取、篩選等痕跡以備份方式被清晰保存，保證數(shù)據(jù)的完全真實(shí)與不可偽造。

另一方面，堅(jiān)持可解釋性原則，增加算法的自主支持性?？山忉屝允撬惴ㄍ该鞯氖滓瓌t?！拌b于智能算法日益決定著各種決策的結(jié)果，人們需要建構(gòu)技術(shù)公平規(guī)范體系，通過(guò)程序設(shè)計(jì)來(lái)保障公平的實(shí)現(xiàn)，并借助于技術(shù)程序的正當(dāng)性來(lái)強(qiáng)化智能決策系統(tǒng)的透明性、可審查性和可解釋性?！盵23]要明確算法設(shè)計(jì)者對(duì)教育問(wèn)題處理的算法邏輯解釋義務(wù)，尤其是對(duì)教育數(shù)據(jù)的目標(biāo)預(yù)設(shè)、選取原則與技術(shù)原理等進(jìn)行解釋，提升人們對(duì)算法的理論認(rèn)同，獲得他們對(duì)算法運(yùn)用的態(tài)度支持。同時(shí)，設(shè)立專門的教育審計(jì)機(jī)構(gòu)，對(duì)人工智能教育應(yīng)用中的算法進(jìn)行審計(jì)，避免一些商業(yè)類教育機(jī)構(gòu)以競(jìng)爭(zhēng)獲利而故意掩蓋不合理算法的不當(dāng)行為，如一些教育機(jī)構(gòu)或某些學(xué)校為謀取招生量、提高教育獲利等操縱算法黑箱、營(yíng)造算法神秘性的不良行徑，在技術(shù)運(yùn)用中真正使人成為自身行動(dòng)的主體，為自主創(chuàng)新激發(fā)活力，不斷提升教育的自主性。

3.減少算法偏見(jiàn)滋生，以道德決策推進(jìn)人工智能教育的公平

算法是由設(shè)計(jì)者所編寫的。設(shè)計(jì)者將倫理維度納入人工智能教育的決策設(shè)計(jì)，是形成道德決策的內(nèi)在要求。同時(shí)，教育主體對(duì)算法的了解與認(rèn)識(shí)直接影響到算法在教育領(lǐng)域的應(yīng)用程度。教育主體對(duì)算法的無(wú)知與偏見(jiàn)會(huì)在極大程度上影響人工智能教育應(yīng)用的效果與公平程度。因此，減少算法偏見(jiàn)滋生需增強(qiáng)主體的算法認(rèn)知，以道德決策發(fā)揮算法在解決教育問(wèn)題中的積極作用，強(qiáng)化人工智能教育的抗風(fēng)險(xiǎn)性，力促教育公平的實(shí)現(xiàn)。

一方面，將道德規(guī)則嵌入算法之中，以道德物化推動(dòng)道德決策。道德物化是由維貝克（Peter-Paul Verbeek）所提出的將技術(shù)道德化的方法。在人工智能算法 “物” 的設(shè)計(jì)環(huán)節(jié)中嵌入人類所公認(rèn)執(zhí)行的道德準(zhǔn)則，即將道德嵌入產(chǎn)品，使人工智能教育應(yīng)用中的使用者不得不遵守倫理道德，從設(shè)計(jì)源頭上規(guī)約人類的行為操作。[24]據(jù)此，要將道德規(guī)則清晰轉(zhuǎn)化為算法形式，以道德物化形成道德算法，使算法自身符合道德倫理規(guī)范，協(xié)助教育者針對(duì)突發(fā)問(wèn)題情境作出更及時(shí)、準(zhǔn)確、全面的教育決策，從而有效促使教育者教育行為、教育策略的合道德化。

另一方面，加強(qiáng)技術(shù)使用者的道德意識(shí)，令道德決策貫穿教育教學(xué)全過(guò)程。道德算法是道德決策的遵循與依據(jù)，引導(dǎo)教育者進(jìn)行科學(xué)、公正、合理的決策。據(jù)此，要增強(qiáng)技術(shù)使用者的道德意識(shí)與道德理念，使道德嵌入算法，切實(shí)推動(dòng)道德決策落地。這就要加強(qiáng)教育使用者的技術(shù)道德、規(guī)則意識(shí)、法治觀念，從技術(shù)使用的源頭保障人工智能教育具備道德基因。同時(shí)，教育者將算法運(yùn)用于教育時(shí)，要秉持 “以人為本” 的治理意識(shí)，堅(jiān)定育人為本的初心，深入了解算法世界的 “游戲規(guī)則”，掙脫算法所帶來(lái)的束縛與控制，保持自身作為教育者的優(yōu)勢(shì)主導(dǎo)地位，將自身的教育智慧與人工智能相結(jié)合，獲取教育“美美與共” 的景象。[25]

4.確立算法問(wèn)責(zé)機(jī)制，以制度保障人工智能教育發(fā)展的多元性

制度具有營(yíng)造秩序和提升效率的功能。[26]化解人工智能教育的 “算法” 風(fēng)險(xiǎn)，需要建立精準(zhǔn)的問(wèn)責(zé)機(jī)制，在合理的制度框架下最大限度發(fā)揮算法設(shè)計(jì)者、使用者的權(quán)限，從源頭上規(guī)避算法引發(fā)的教育同質(zhì)化風(fēng)險(xiǎn)，釋放張力，激發(fā)活力，推進(jìn)人工智能教育的多樣性發(fā)展。一如貝克（Ulrich Bec）所指出：“風(fēng)險(xiǎn)概念表明人們創(chuàng)造了一種文明，以便使自己的決定將會(huì)造成的不可預(yù)見(jiàn)的后果具備可預(yù)見(jiàn)性，從而控制不可控的事情，通過(guò)采取預(yù)防性行動(dòng)以及相應(yīng)的制度化措施來(lái)戰(zhàn)勝種種副作用?！盵27]

一方面，建立精準(zhǔn)追責(zé)機(jī)制，以明確的責(zé)任主體釋放人工智能教育的發(fā)展活力。面對(duì)算法帶來(lái)的教育同質(zhì)化風(fēng)險(xiǎn)，應(yīng)在政府立法部門與教育主導(dǎo)部門的合作下建立與之對(duì)應(yīng)的破解體系，以法律法規(guī)保障教育的自主性發(fā)展，打破教育的同質(zhì)化風(fēng)險(xiǎn)。如依托人工智能教育大背景，鼓勵(lì)各級(jí)各類高等教育院校特色化發(fā)展、激勵(lì)基礎(chǔ)教育學(xué)校突出本土特色，以學(xué)校辦學(xué)特色作為打破教育趨同化的先鋒隊(duì)，帶領(lǐng)不同區(qū)域、不同類型、不同層次、不同形式的教育特色化、優(yōu)質(zhì)化發(fā)展。另外，需要彌補(bǔ)教育法律中人工智能教育相關(guān)內(nèi)容的規(guī)則監(jiān)控，明確人工智能教育應(yīng)用中設(shè)計(jì)者、使用者、推廣者等各方的法律責(zé)任、權(quán)利與義務(wù)，在合法規(guī)則下最大限度地增強(qiáng)算法的實(shí)用度和開放性，彰顯發(fā)展活力，增加教育的開放性和多樣性。

另一方面，嚴(yán)格糾錯(cuò)處罰，以制度執(zhí)行力激活人工智能教育的張力。除了法律綱領(lǐng)的強(qiáng)制把控，還需要提升教育算法的制度執(zhí)行力度，真正實(shí)現(xiàn)高監(jiān)管低風(fēng)險(xiǎn)的把控效果，嚴(yán)格懲治跨越道德甚至法律底線的過(guò)錯(cuò)行為。要細(xì)化對(duì)教育信息獲取、教育信息使用等的制度保障，對(duì)出現(xiàn)的個(gè)人教育信息商業(yè)化使用、個(gè)人生物信息販賣等問(wèn)題，要在制度執(zhí)行層面加強(qiáng)信息管控力度，嚴(yán)格、透明地處理 “信息犯罪” 案件。加強(qiáng)教育行業(yè)的市場(chǎng)準(zhǔn)入標(biāo)準(zhǔn)，由政府強(qiáng)制執(zhí)行責(zé)任糾紛、進(jìn)行過(guò)錯(cuò)處罰，最大限度地把控教育教學(xué)全過(guò)程中各方的責(zé)任邊界與嚴(yán)格處罰力度，在精準(zhǔn)追責(zé)與糾錯(cuò)補(bǔ)償?shù)碾p效施力下，讓算法在教育領(lǐng)域更加公正透明運(yùn)行，在開放中增強(qiáng)教育的發(fā)展動(dòng)力與活力。