杜玉霞 李玉利

（廣州大學(xué) 教育學(xué)院，廣東 廣州 510006）

一、引言

人工智能等新一代信息技術(shù)的發(fā)展在不斷變革和重構(gòu)教育資源與教育生態(tài)。2018年，教育部印發(fā)《教育課程教材改革與質(zhì)量標(biāo)準(zhǔn)工作專項(xiàng)資金管理辦法》，明確了數(shù)字教材是教材的典型創(chuàng)新形式[1]。2020年，教育部頒布《國家教材建設(shè)重點(diǎn)研究基地管理辦法》，強(qiáng)調(diào)要重點(diǎn)研究“信息時(shí)代新形態(tài)教材”[2]。這意味著發(fā)展新形態(tài)教材成為教材發(fā)展的趨勢，數(shù)字教材就是基于信息技術(shù)開發(fā)的新形態(tài)教材。人工智能等新技術(shù)在數(shù)字教材中的應(yīng)用，使數(shù)字教材的功能日益豐富，數(shù)字教材能夠?yàn)榻處熼_展個(gè)性化教學(xué)提供多種支持：基于數(shù)據(jù)挖掘、學(xué)習(xí)分析、智能計(jì)算等技術(shù)實(shí)現(xiàn)數(shù)字教材知識重構(gòu)、個(gè)性定制、智能推送、學(xué)習(xí)檔案建構(gòu)等學(xué)習(xí)服務(wù)，輔助學(xué)生實(shí)現(xiàn)個(gè)性化學(xué)習(xí)[3][4]；基于學(xué)習(xí)分析技術(shù)實(shí)現(xiàn)實(shí)時(shí)分析和跟蹤、自動批改、及時(shí)反饋、個(gè)性化筆記等功能[5][6]；基于智能計(jì)算、機(jī)器學(xué)習(xí)、語言處理等技術(shù)提供智能化教學(xué)工具[7]；基于機(jī)器學(xué)習(xí)、虛擬現(xiàn)實(shí)技術(shù)實(shí)現(xiàn)智能追蹤、虛擬場景、沉浸式學(xué)習(xí)體驗(yàn)等功能[8]。

人工智能為數(shù)字教材發(fā)展提供了新工具和新功能，但若不能妥善應(yīng)用和有效應(yīng)對其潛在風(fēng)險(xiǎn)，則極有可能導(dǎo)致數(shù)字教材變成“空殼”，失去教育價(jià)值。教育部在《2019年教育信息化和網(wǎng)絡(luò)安全工作要點(diǎn)》中指出，要“制定教育系統(tǒng)數(shù)據(jù)安全管理辦法，建立線上線下相結(jié)合的網(wǎng)絡(luò)安全培訓(xùn)機(jī)制，著力打好防范化解重大風(fēng)險(xiǎn)攻堅(jiān)戰(zhàn)”[9]。2022年市場監(jiān)管總局（標(biāo)準(zhǔn)委）發(fā)布了《數(shù)字教材 中小學(xué)數(shù)字教材出版基本流程》《數(shù)字教材 中小學(xué)數(shù)字教材元數(shù)據(jù)》《數(shù)字教材 中小學(xué)數(shù)字教材質(zhì)量要求和檢測方法》等三項(xiàng)國家標(biāo)準(zhǔn)為中小學(xué)數(shù)字教材提升質(zhì)量、消解風(fēng)險(xiǎn)提供了規(guī)范保障。然而，數(shù)字教材的多維交互和動態(tài)更新等特點(diǎn)，使教師在應(yīng)用融入人工智能的數(shù)字教材時(shí)，會面臨多種潛在的風(fēng)險(xiǎn)挑戰(zhàn)，特別是倫理風(fēng)險(xiǎn)的考驗(yàn)。如何規(guī)避倫理風(fēng)險(xiǎn)，有效發(fā)揮數(shù)字教材的積極作用，引導(dǎo)學(xué)生合理使用數(shù)字教材且不被技術(shù)異化，是教師應(yīng)用數(shù)字教材亟需應(yīng)對的新挑戰(zhàn)。

二、數(shù)字教材的內(nèi)涵

數(shù)字教材的概念自產(chǎn)生之后，不同學(xué)者從不同角度進(jìn)行了界定，至今尚未形成一致的概念。蔡建學(xué)（2018）認(rèn)為，數(shù)字教材是依據(jù)國家課程標(biāo)準(zhǔn)，以傳統(tǒng)紙質(zhì)教材為藍(lán)本，運(yùn)用互聯(lián)網(wǎng)、數(shù)字媒體、大數(shù)據(jù)等技術(shù)手段，融教材、數(shù)字資源、學(xué)科工具、應(yīng)用數(shù)據(jù)于一體的立體化教材[10]。它不是紙質(zhì)教材的簡單數(shù)字化，而是學(xué)科教學(xué)與信息技術(shù)深度融合的產(chǎn)物[11]；它能夠?qū)崿F(xiàn)內(nèi)容的動態(tài)更新，記錄交互軌跡，撬動課堂教學(xué)數(shù)字化轉(zhuǎn)型[12]，構(gòu)建了智慧教育新生態(tài)。數(shù)字教材作為教育信息化和數(shù)字出版的核心資源，對我國基礎(chǔ)教育的影響日益增大[13]。隨著信息技術(shù)的發(fā)展及其在數(shù)字教材中的應(yīng)用，數(shù)字教材的形態(tài)與結(jié)構(gòu)發(fā)生著變革，主要經(jīng)歷了將紙質(zhì)教科書轉(zhuǎn)換為電子版，實(shí)現(xiàn)內(nèi)容呈現(xiàn)和存儲的便利的數(shù)字化階段[14]；將紙質(zhì)教科書與視頻、音頻、動畫等非線性資源有機(jī)整合，增加了交互性和擴(kuò)展性，豐富教科書內(nèi)容的數(shù)字教材多媒化階段[15]；主要將數(shù)字教科書與人工智能、大數(shù)據(jù)、云計(jì)算等新技術(shù)整合教科書資源，實(shí)現(xiàn)了個(gè)性化、自適應(yīng)、協(xié)作等功能，實(shí)現(xiàn)數(shù)據(jù)共享和服務(wù)的智能化階段[16][17]。在新技術(shù)不斷應(yīng)用于數(shù)字教材的過程中，數(shù)字教材的概念、類型、設(shè)計(jì)、評價(jià)、應(yīng)用等都有了不同程度的變化和創(chuàng)新[18]。伴隨新技術(shù)的應(yīng)用，數(shù)字教材潛藏的風(fēng)險(xiǎn)不斷增多，特別是倫理風(fēng)險(xiǎn)。有學(xué)者指出，數(shù)字教材編制與應(yīng)用離不開倫理道德的浸潤與審視，教師作為數(shù)字教材應(yīng)用的主體之一，更要防范人工智能技術(shù)潛在的倫理風(fēng)險(xiǎn)不斷滲透到數(shù)字教材編制以及應(yīng)用的過程中[19]。

三、教師使用數(shù)字教材的倫理風(fēng)險(xiǎn)類型與成因分析

人工智能等新技術(shù)的雙刃劍效應(yīng)，使數(shù)字教材的風(fēng)險(xiǎn)隨著新技術(shù)的發(fā)展及其應(yīng)用范圍的擴(kuò)大而不斷增大。科技與倫理的關(guān)系問題，是機(jī)器倫理學(xué)中最核心、最基本的問題之一[20]。因此，及時(shí)研究教師使用數(shù)字教材面臨的各種倫理風(fēng)險(xiǎn)，有針對性地做好防范措施，是數(shù)字教材健康發(fā)展和新技術(shù)時(shí)代教育變革的基礎(chǔ)和前提。

（一）數(shù)字隱私安全的倫理風(fēng)險(xiǎn)

新一代人工智能管理專家委員會于2019年發(fā)布了《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，要求人工智能發(fā)展應(yīng)尊重和保護(hù)個(gè)人隱私，充分保障個(gè)人的知情權(quán)和選擇權(quán)[21]。大數(shù)據(jù)是人工智能實(shí)現(xiàn)算法的基礎(chǔ)，數(shù)據(jù)分析技術(shù)在為教育教學(xué)提供新技術(shù)的同時(shí)，由于技術(shù)風(fēng)險(xiǎn)控制的不安全性，會給教育者和受教育者帶來數(shù)據(jù)泄露的危機(jī)。一方面，數(shù)據(jù)采集模糊了隱私的邊界。數(shù)字教材涉及到數(shù)量巨大的師生個(gè)人信息、學(xué)習(xí)行為數(shù)據(jù)、評價(jià)結(jié)果等，采集數(shù)據(jù)信息的過程，實(shí)質(zhì)上也是監(jiān)測師生教和學(xué)的過程，采集的個(gè)人學(xué)習(xí)偏好、活動軌跡等信息很容易被網(wǎng)絡(luò)化存儲、復(fù)制、傳播，也會被出于不同目的的信息獲取者處理和分析。另一方面，教師的信息安全難以得到保障。當(dāng)前，數(shù)據(jù)收集標(biāo)準(zhǔn)不統(tǒng)一、處理規(guī)范不完善，信息安全大多是靠數(shù)據(jù)持有方的安全系統(tǒng)來保障，但是如果數(shù)據(jù)持有者出現(xiàn)防火墻漏洞、安全保障措施不力等問題，則容易導(dǎo)致用戶的個(gè)人信息被泄露。

（二）技術(shù)壟斷的倫理風(fēng)險(xiǎn)

馬丁?海德格爾指出，技術(shù)不僅是一種目的，也是一種工具，在人類運(yùn)用時(shí)，技術(shù)本身就帶有各種各樣的“成見”，因而人類被科技所控制，成為科技的附庸、工具、構(gòu)成要素[22]。當(dāng)人工智能技術(shù)成為人類與教育之間的媒介，就會出現(xiàn)因“技術(shù)壟斷”引發(fā)的風(fēng)險(xiǎn)，違背技術(shù)服務(wù)人與教育的本質(zhì)。首先，數(shù)字教材基于大數(shù)據(jù)為用戶提供精準(zhǔn)的教學(xué)和學(xué)習(xí)服務(wù)，能針對普遍存在的教育問題進(jìn)行分析并且提供最優(yōu)解決方案。大數(shù)據(jù)應(yīng)用的定勢思維會弱化甚至消除用戶的創(chuàng)造性和想象力，導(dǎo)致用戶喪失教學(xué)和學(xué)習(xí)的主觀能動性和獨(dú)立性，失去對教育自身的獨(dú)特思考和理解。其次，盲目的科技崇拜可能會使德育失重，進(jìn)而導(dǎo)致人文教育的缺失讓位。人工智能基于程序進(jìn)行的數(shù)據(jù)分析，在注重學(xué)習(xí)者知識獲取分析時(shí)無法為學(xué)習(xí)者提供價(jià)值判斷，更難以幫助學(xué)習(xí)者提升道德品質(zhì)。數(shù)字教材如果過于重視技術(shù)而忽視知識本身對人的綜合性影響，會導(dǎo)致教學(xué)失去道德教育的價(jià)值，造成人文教育的缺失。在智能時(shí)代，數(shù)字教材可以方便教師出題和進(jìn)行作業(yè)分析，但我們不能完全依賴智能系統(tǒng)所做的教學(xué)判斷，這會使教師變得越來越遲鈍[23]。

（三）情感缺失的倫理風(fēng)險(xiǎn)

教育是啟迪人的智慧、化育人的心靈、傳承人類文明的社會活動[24]。而人工智能應(yīng)用于教育領(lǐng)域，更多的是涉及到知識層面。由于數(shù)字教材基于人工智能對于自然語言的理解仍顯不足，缺乏對于事物的深層次認(rèn)識，更談不上去分析和傳遞語言背后的意義與情感[25]，在互聯(lián)網(wǎng)學(xué)習(xí)環(huán)境中，學(xué)習(xí)者很難獲得情感的升華。

基于數(shù)字教材的教學(xué)活動是一種“主體——中介——客體”或“人——機(jī)——人”的交互模式[26]，教師、師生和生生之間的互動關(guān)系必須經(jīng)由媒體來完成。傳統(tǒng)教學(xué)師生之間能夠進(jìn)行零距離接觸，充分的信息交換使教師可以對學(xué)生的學(xué)習(xí)、心理狀況進(jìn)行面對面的觀察。然而虛擬教學(xué)時(shí)，對屏幕兩端的師生而言，容易造成情感參與、認(rèn)知參與的錯(cuò)覺。這意味著師生的心理狀態(tài)、情緒變化被虛擬空間屏蔽，相互之間察覺不到情緒，傳播和流動的只是“技術(shù)符號”。教育具有人性化的特征，數(shù)字教材不能忽視情感對教育的影響力。我們要警惕數(shù)字教材給師生情感與身心健康帶來不良影響，不能癡迷于技術(shù)給教育帶來的教育環(huán)境、教育內(nèi)容、教育方式等方面的變革，更應(yīng)關(guān)注的是技術(shù)對教育者與受教育者之間情感傳遞的價(jià)值。

（四）教師角色錯(cuò)位的倫理風(fēng)險(xiǎn)

數(shù)字教材的應(yīng)用使教師擺脫了繁瑣、重復(fù)的工作，可以把更多的時(shí)間和精力投入到教學(xué)中。但也使教師深陷于角色錯(cuò)位的風(fēng)險(xiǎn)中，表現(xiàn)為教師主體性缺失引發(fā)教師角色的“脫嵌”與“消匿”[27]。一方面，數(shù)字教材可以代替老師傳遞知識、解答問題、批改學(xué)生作業(yè)，可以對學(xué)生的學(xué)習(xí)狀況進(jìn)行評估、診斷和反饋，并為學(xué)生制定個(gè)性化的學(xué)習(xí)計(jì)劃[28]。因此，有些教師過于依賴數(shù)字教材，不了解數(shù)字教材的缺陷，導(dǎo)致教師在教學(xué)時(shí)的主動性被“智能機(jī)器”消減乃至取代，成為“透明人”。另一方面，數(shù)字教材通過改變教師的評價(jià)思維、評價(jià)偏向、評價(jià)習(xí)慣，正悄無聲息地弱化教師在教學(xué)評價(jià)過程中的價(jià)值理性，并不斷助長著教師的工具理性[29]，教師傳授知識、教學(xué)評價(jià)的職能，在人工智能時(shí)代被弱化[30]。數(shù)字教材基于人工智能技術(shù)的促逼逐漸剝奪了教師對周圍世界的認(rèn)知和判斷能力，使教師不再追求真、善、美，只剩下對技術(shù)的服從，成為沒有判斷性與否定性、不再認(rèn)識自我并超越現(xiàn)實(shí)的“單向度的人”[31]。事實(shí)上，教育不僅是向?qū)W生傳授知識和指導(dǎo)學(xué)生學(xué)會學(xué)習(xí)的過程，還是培養(yǎng)學(xué)生社會化的過程[32]。教師作為具有人文精神、具有自我意識的個(gè)體，應(yīng)高度重視依賴數(shù)字教材引發(fā)的問題，主動規(guī)避教師角色失衡所帶來的道德風(fēng)險(xiǎn)。

（五）數(shù)字鴻溝的倫理風(fēng)險(xiǎn)

教育部《關(guān)于加強(qiáng)“三個(gè)課堂”應(yīng)用的指導(dǎo)意見》，體現(xiàn)了新時(shí)期教育公平的內(nèi)涵，體現(xiàn)了“專業(yè)化、共享、公開”的基本特點(diǎn)[33]。教育公平是教育活動的根本思想和倫理規(guī)范，而人工智能技術(shù)的教育公平性則是智能教育倫理的最大危機(jī)[34]。數(shù)字教材應(yīng)用過程中出現(xiàn)的“數(shù)字鴻溝”，制約著教育公平的實(shí)現(xiàn)。數(shù)字教材突破傳統(tǒng)教育對教學(xué)時(shí)間的限制，消除教學(xué)空間的壁壘，實(shí)現(xiàn)優(yōu)質(zhì)資源的傳遞與共享。但是，經(jīng)濟(jì)條件與社會階層的局限以及信息不對稱、不透明等信息技術(shù)必然存在的技術(shù)壁壘，加上教師對數(shù)字教材的認(rèn)知差異和能力差異[35]，客觀上會導(dǎo)致并加劇信息壁壘、數(shù)字鴻溝等違背教育公平原則的現(xiàn)象與趨勢[36]。另外，智能教育系統(tǒng)中的“算法歧視”可能隱蔽地導(dǎo)致或加劇教育不公[37]?！八惴ㄆ缫暋卑ň幊倘藛T是否將正確的教育理念、核心價(jià)值理念與相關(guān)的倫理規(guī)范編寫進(jìn)系統(tǒng)，還包括大數(shù)據(jù)本身的局限性，比如數(shù)據(jù)采集是否完整、可靠、及時(shí)、合法合規(guī)等，特別是不發(fā)達(dá)地區(qū)的群體數(shù)據(jù)往往因?yàn)閿?shù)據(jù)缺少、難采集，導(dǎo)致智能系統(tǒng)無法及時(shí)充分地采用完整的數(shù)據(jù)，忽視了不發(fā)達(dá)地區(qū)受教育群體的具體情況。

中國第48屆《中國互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計(jì)報(bào)告》顯示，“數(shù)字鴻溝”在西部地區(qū)不斷擴(kuò)大，城鄉(xiāng)之間存在著較大的差距。由于缺乏設(shè)備、網(wǎng)絡(luò)和技術(shù)，導(dǎo)致部分偏遠(yuǎn)貧困地區(qū)的學(xué)生不能在2020年的新冠肺炎疫情中參加在線學(xué)習(xí)，“數(shù)字鴻溝”帶來的教育失衡現(xiàn)象真實(shí)地暴露出來。如果技術(shù)驅(qū)動的教育沒有與教育公平相呼應(yīng)，未來的世界將會變得更加分裂和固化[38]。

（六）問責(zé)不明的倫理風(fēng)險(xiǎn)

漢斯·約納斯提出的責(zé)任倫理認(rèn)為科學(xué)技術(shù)的發(fā)展會對自然界以及人類整體生存造成威脅，要求人類的一切行為要對當(dāng)下和未來的人類和自然環(huán)境負(fù)責(zé)。而如今，并沒有針對數(shù)字教材的法律規(guī)范和專業(yè)問責(zé)機(jī)制。第一，由于智能算法的“黑盒子”，使得用戶很難判斷出具體的損失，而智能產(chǎn)品也很難建立起一個(gè)統(tǒng)一的行業(yè)標(biāo)準(zhǔn)[39]。第二，數(shù)字教材沒有自主的能力，雖然它可以完全自主，但它畢竟不是人類的主體，所以處罰它也沒有任何意義[40]。第三，數(shù)字教材是由多種數(shù)字資源組成的綜合性產(chǎn)品，這些資源可能來自于不同的作者、出版社或機(jī)構(gòu)，涉及到各種知識產(chǎn)權(quán)和版權(quán)問題。

數(shù)字教材出現(xiàn)問題或故障的責(zé)任主體是誰存在很大的爭議。2022年5月，人民教育出版社數(shù)學(xué)教材被指出“人物插圖丑陋、歪曲審美，出現(xiàn)紋身、隱私部位”，甚至被戲謔地稱為“毒教材”，引發(fā)社會的廣泛關(guān)注和質(zhì)疑。教育部和人民教育出版社高度重視，不僅對問題插圖進(jìn)行了整改，加強(qiáng)了教材編制管理，還對有關(guān)人員進(jìn)行了追責(zé)處罰。數(shù)字教材更為復(fù)雜，應(yīng)用時(shí)，數(shù)字教材各主體之間的關(guān)系規(guī)范、權(quán)利、義務(wù)與責(zé)任需要相關(guān)的問責(zé)機(jī)制做出明確具體的劃分與定責(zé)。

四、教師使用數(shù)字教材的倫理風(fēng)險(xiǎn)防范對策

《新一代人工智能發(fā)展規(guī)劃》強(qiáng)調(diào)在發(fā)展人工智能的過程中，要充分認(rèn)識到人工智能所帶來的安全隱患，強(qiáng)化對人工智能的前瞻性、制約和引導(dǎo)，使其風(fēng)險(xiǎn)降到最低，確保人工智能安全、可靠、可控地發(fā)展[41]。在數(shù)字時(shí)代，教師使用數(shù)字教材的倫理風(fēng)險(xiǎn)的成因是社會環(huán)境、制度建設(shè)、教育主體以及技術(shù)問題等因素綜合作用的結(jié)果。教育管理部門、教師等相關(guān)機(jī)構(gòu)和人員只有積極準(zhǔn)備應(yīng)對風(fēng)險(xiǎn)和挑戰(zhàn)，才能發(fā)揮數(shù)字教材的積極教育作用，確保教育安全。

（一）以法為界：確定數(shù)字教材的道德規(guī)范和倫理準(zhǔn)則

《新一代人工智能發(fā)展規(guī)劃》提出要建立保障人工智能健康發(fā)展的法律法規(guī)和倫理道德框架[42]。人類要保持對人工智能在教育實(shí)踐中的有效控制，防范技術(shù)異化和價(jià)值扭曲所導(dǎo)致的風(fēng)險(xiǎn)，就必須要建立新的倫理制度[43]，才能真正將教師智能教育倫理風(fēng)險(xiǎn)降到最低。

1 我國應(yīng)加強(qiáng)與數(shù)字教材有關(guān)的倫理規(guī)范的建設(shè)。國務(wù)院《新一代人工智能發(fā)展規(guī)劃》中提出要“加強(qiáng)人工智能相關(guān)法律、倫理和社會問題研究，建立保障人工智能健康發(fā)展的法律法規(guī)和倫理道德框架”[44]。發(fā)展人工智能技術(shù)必須有清晰的法律體系，使得各責(zé)任主體均對技術(shù)應(yīng)用有明確的預(yù)期。數(shù)字教材的應(yīng)用應(yīng)關(guān)注價(jià)值沖突與倫理兩難。在法律法規(guī)制定方面，堅(jiān)持從“育人為本”倫理立場出發(fā)，將技術(shù)事實(shí)的澄清與價(jià)值流的分析相結(jié)合[45]。建立以教育者和受教育者為主體的數(shù)字教材倫理架構(gòu)，充分體現(xiàn)了科學(xué)技術(shù)“向善”的理念。同時(shí)建立產(chǎn)業(yè)標(biāo)準(zhǔn)，強(qiáng)化人工智能的潛在危害、收益和道德評價(jià)，強(qiáng)化數(shù)字教材產(chǎn)品開發(fā)和設(shè)計(jì)者的道德標(biāo)準(zhǔn)，防止其壟斷和功利化。

2 構(gòu)建多主體參與的數(shù)字教材管理機(jī)制?！缎乱淮斯ぶ悄苤卫碓瓌t——發(fā)展負(fù)責(zé)任的人工智能》提出要開展開放合作，“鼓勵(lì)跨學(xué)科、跨領(lǐng)域、跨地區(qū)、跨國界的交流合作，推動國際組織、政府部門、科研機(jī)構(gòu)、教育機(jī)構(gòu)、企業(yè)、社會組織、公眾在人工智能發(fā)展與治理中的協(xié)調(diào)互動”[46]。數(shù)字教材基于人工智能技術(shù)所面對的風(fēng)險(xiǎn)和復(fù)雜性，建立多層次、多主體、全方位的治理機(jī)制是解決問題的途徑。鼓勵(lì)企業(yè)、高?？蒲袌F(tuán)隊(duì)、公民等主體充分利用自身優(yōu)勢，積極參與到數(shù)字教材的風(fēng)險(xiǎn)管理和預(yù)防中來。另外，要在國內(nèi)構(gòu)建一個(gè)共同治理的平臺，積極尋求國際間的合作，通過對話和互動，尋找最佳的風(fēng)險(xiǎn)治理方案[47]。

（二）以人為本：數(shù)字教材實(shí)現(xiàn)育人的教學(xué)理念，以情感識別和情感干預(yù)促進(jìn)師生情感互動

有效降低數(shù)據(jù)主義和算法主義帶來的倫理風(fēng)險(xiǎn)，是人工智能時(shí)代教師充分彰顯育人角色的根本任務(wù)[48][49]。其一，數(shù)字教材的應(yīng)用應(yīng)回歸育人本質(zhì)。當(dāng)前，大部分的研究焦點(diǎn)都集中在技術(shù)的升級、改造和創(chuàng)新上，而忽略了技術(shù)在培養(yǎng)人才的本質(zhì)上的探索。未來的智能教育必然會逐步回歸到教育的人文價(jià)值，突破“數(shù)據(jù)為尊”的教學(xué)誤區(qū)，使人與機(jī)器能夠更好地和諧相處。教育必須在文化的意義上尋求人為之人的本質(zhì)屬性、人存在于世的合理性以及人們各種行為的合法性[50]。其二，借助語音識別技術(shù)、表情識別技術(shù)、眼動追蹤技術(shù)和自然語言處理技術(shù)等多模態(tài)情感識別技術(shù)來調(diào)控、干預(yù)、轉(zhuǎn)化、表達(dá)和升華師生的各類情感，規(guī)范和支持人類師生情感的感受與表達(dá)，約束和引導(dǎo)智能時(shí)代教師情感的計(jì)算與表征。

（三）以德立身：提升智能時(shí)代教師的教育倫理素養(yǎng)

技術(shù)的價(jià)值屬性是倫理審視的基礎(chǔ)和前提[51]。但是數(shù)字教材在教育中彰顯的價(jià)值不是技術(shù)本身，而是在教育活動中的應(yīng)用。教師在教學(xué)中起主導(dǎo)作用，因此提升智能時(shí)代教師的風(fēng)險(xiǎn)素養(yǎng)是規(guī)避數(shù)字教材倫理風(fēng)險(xiǎn)的必然選擇。

1 教師要樹立正確的智能教育倫理觀念。邁入數(shù)字時(shí)代，智能教育要求教師秉持人本主義的教育人工智能應(yīng)用理念與原則，明確倫理與安全規(guī)范[52]，確保人是智能教育活動中的主體地位。一方面，將智能教育倫理風(fēng)險(xiǎn)素養(yǎng)融入職前、職后教師培養(yǎng)，傳播先進(jìn)的智能教育倫理思想，規(guī)范教師教育活動。另一方面，教師在應(yīng)用數(shù)字教材時(shí)應(yīng)自覺融入正確的、科學(xué)的倫理規(guī)范，引導(dǎo)學(xué)生加強(qiáng)數(shù)字教材倫理道德的學(xué)習(xí)，正確看待人類與智能教育技術(shù)的人機(jī)協(xié)同關(guān)系，真正做到教師知識傳授、能力培養(yǎng)與價(jià)值導(dǎo)向三者的有機(jī)統(tǒng)一。

2 加強(qiáng)教師智能教育倫理風(fēng)險(xiǎn)防范教育。教師抗風(fēng)險(xiǎn)能力是教師對各種智能教育倫理風(fēng)險(xiǎn)有效預(yù)警、防范，并能正確選擇處置和化解策略，從而推動教育教學(xué)活動有序開展的能力。一方面，要培養(yǎng)教師的數(shù)字技術(shù)應(yīng)用能力，提升教師的數(shù)字勝任力。教師要具備數(shù)字素養(yǎng)，包括數(shù)據(jù)意識和數(shù)據(jù)敏感性，即能夠有效且恰當(dāng)?shù)孬@取、分析、處理、利用和展現(xiàn)數(shù)據(jù)，并對數(shù)據(jù)具有批判性思維的能力[53]。另一方面，教師要積極培育智能教育倫理風(fēng)險(xiǎn)防范和規(guī)避意識，及時(shí)、充分地了解數(shù)字教材的最新動態(tài)以及潛在風(fēng)險(xiǎn)，樹立自覺抵御和應(yīng)對風(fēng)險(xiǎn)的積極心態(tài)。

（四）公平正義：消除數(shù)據(jù)鴻溝，構(gòu)建公平正義的人工智能教育生態(tài)系統(tǒng)

著名技術(shù)學(xué)家Hans Lenk指出在人類的發(fā)展史上，科技已經(jīng)成為塑造世界、改造世界、創(chuàng)造世界的工具，技術(shù)領(lǐng)域內(nèi)的變化趨勢使得倫理問題更加突出[54]。人工智能的設(shè)計(jì)應(yīng)以責(zé)任倫理學(xué)為核心，實(shí)現(xiàn)公正原則，不應(yīng)拉大主體間地位與權(quán)利的差距。

1 人工智能的發(fā)展應(yīng)關(guān)注公平和正義。一方面，在設(shè)計(jì)、監(jiān)控、管理等全過程中，將公正理念貫穿于數(shù)字教材設(shè)計(jì)、研發(fā)、運(yùn)行、管理的全過程，注重程序公正與結(jié)果公正[55]。另一方面，要優(yōu)先發(fā)展人工智能技術(shù)教育。通過5G技術(shù)有助于優(yōu)質(zhì)教育資源的互聯(lián)互通，大程度上解決優(yōu)質(zhì)教育資源發(fā)展不均衡的問題，探索優(yōu)質(zhì)教育資源服務(wù)創(chuàng)新供給新模式[56]。

2 完善救濟(jì)渠道。政府要發(fā)揮調(diào)節(jié)社會分配和組織社會保障的職能，防范與修復(fù)人工智能引起的社會風(fēng)險(xiǎn)。例如，一些農(nóng)村中小學(xué)教師因缺乏專業(yè)技術(shù)指導(dǎo)以及資金、設(shè)備不足導(dǎo)致信息技術(shù)應(yīng)用能力薄弱，這需要政府有重點(diǎn)地給予財(cái)政支持以及在制定政策方針時(shí)向其適度傾斜，運(yùn)用政治手段調(diào)節(jié)社會分配、組織社會保障，彌補(bǔ)數(shù)字鴻溝、福利鴻溝。

（五）明確責(zé)任：完善數(shù)字教材應(yīng)用的問責(zé)制度

《新一代人工智能發(fā)展規(guī)劃》中明確要求：“建立追溯和問責(zé)制度，明確人工智能法律主體以及相關(guān)權(quán)利、義務(wù)和責(zé)任等”[57]。問責(zé)制度是數(shù)字教材可靠、持續(xù)應(yīng)用的重要保障。第一，建立相應(yīng)的問責(zé)制度，要明確設(shè)計(jì)者、開發(fā)者、應(yīng)用者等相關(guān)方的權(quán)利和義務(wù)。第二，創(chuàng)建多主體互動的交流監(jiān)督平臺進(jìn)行持續(xù)監(jiān)管與積極干預(yù)。數(shù)字教材倫理的有效管理需要政府、設(shè)計(jì)者、開發(fā)者、企業(yè)、用戶等多方主體共同參與。為確保每個(gè)責(zé)任主體有明確的監(jiān)督管理責(zé)任，要對參與數(shù)字教材倫理管理的各個(gè)主體進(jìn)行責(zé)任劃分，形成政府監(jiān)督主導(dǎo)、其他主體輔助監(jiān)督的良好交流平臺。不僅如此，在行業(yè)內(nèi)部自我凈化機(jī)制功效微弱的情況下，有必要將企業(yè)的生存盈利狀況與用戶利益綁定在一起，建立嚴(yán)格的審查制度和懲罰機(jī)制，加大懲治力度，加大研發(fā)者的侵權(quán)成本。

五、結(jié)語

數(shù)字教材是教育數(shù)字化轉(zhuǎn)型的必選項(xiàng)，是教育改革的重要支點(diǎn)，是教育數(shù)字化轉(zhuǎn)型的重要抓手[58]，發(fā)展應(yīng)用數(shù)字教材是數(shù)字時(shí)代教育發(fā)展的必然趨勢，是我國建設(shè)高質(zhì)量教育體系的重要組成部分。生成式人工智能的普及應(yīng)用，大數(shù)據(jù)、云計(jì)算、區(qū)塊鏈等新技術(shù)的更新迭代，在為數(shù)字教材帶來新活力的同時(shí)，也帶來了新的風(fēng)險(xiǎn)挑戰(zhàn)，教育系統(tǒng)必須盡早研究數(shù)字教材的潛在風(fēng)險(xiǎn)，組織教師提升識別風(fēng)險(xiǎn)、防范風(fēng)險(xiǎn)的能力，以有效應(yīng)對數(shù)字教材帶來的倫理風(fēng)險(xiǎn)威脅，保障新時(shí)代教育的可持續(xù)發(fā)展，充分發(fā)揮數(shù)字教材在推進(jìn)教育現(xiàn)代化中的核心資源作用，推動我國教育高質(zhì)量發(fā)展。