人工智能背景下教育風險的規(guī)避策略研究

楊歡　劉世清

摘要：人工智能的快速發(fā)展，是目前科研人員和教育工作者的研究熱點。尤其是近年來，人工智能與教育的結合，給教育帶來了新一輪的變革，人們普遍關注人工智能給教育帶來的機遇，卻很少有人關注其背后隱藏的教育風險。該文對人工智能背景下隱藏的教育風險進行梳理，并提出一些規(guī)避策略，以期人工智能可以更好地為教育教學服務，這對人工智能以及教育信息化的發(fā)展具有重要意義。

關鍵詞：教育人工智能;教育大數據;互聯網+教育;教育風險

中圖分類號：TP18? ? ? 文獻標識碼：A

文章編號：1009-3044（2022）08-0081-02

人工智能（Artificial Intelligence，簡稱 AI），是由McCarthy在1956 年的Dartmouth 學會上正式提出的，是計算機學科的重要分支之一[1]。人工智能實際上是人類器官的延伸，幫助人類走得更快、看得更遠，做一些過去只有人類才可以進行的工作，在一定程度上解放了生產力。教育中的人工智能（Artificial Intelligence in Education，AIED），又稱“AI + 教育”，將教育與人工智能融合在一起，創(chuàng)造具有適應性的學習環(huán)境，開發(fā)智能工具來促進教育的發(fā)展[2]。

1 人工智能的教育應用問題

人工智能在教育中的應用，主要集中在兩方面：一方面開展人工智能教育，讓學生進行有關人工智能的學習，當今很多高校都設有如編程類課程、機器人教育課程等人工智能課程，教授學生專門學習、研發(fā)如何制作智能機器人;同時還創(chuàng)建有人工智能學習小組等。另一方面要求學會運用人工智能技術，進行“人工智能+”背景下的教育，促進教育教學的變革。比如，基于人工智能下的新型教學模式、個性化教學評估等，即如何將人工智能與教育進行有機融合，促進“人工智能+教育”的賦能發(fā)展。下面就這一方面的應用進行論述。

1.1基于人工智能的課前準備

課前準備是針對師生雙方的。課前教師可以利用人工智能技術，收集、分析以往的課堂情況，生成一份教學指南;還可以獲得每一份學生的學情報告，這樣教師可以更具有針對性地進行教學;同時，教師還可以利用翻轉課堂、微課等技術為學生推送一些簡短的學習小視頻等，供學生課前學習，學生在課前可以接收到適宜的預習內容，有助于課程的導入，這樣既節(jié)省了教學時間，又使教學任務變得更加明確;此外，在提升教學效果的層面上，人工智能可以為教師提供虛擬課堂課前演練，有虛擬的教室和學生，可供教師課前試講并改進教學。

1.2基于人工智能的教學過程

伴隨人工智能與教育的深度融合，涌現出了許多線上課堂，比如“MOOC”“空中課堂”等。與傳統(tǒng)的教學過程不同，大量的網絡課程可供教學，真正實現了教育的“4W”模式，即人們在什么時間（what time）、什么地點（where）、以何種方式（how）學習什么內容（what）。信息化時代，人們可以選擇各種各樣的資源進行學習，真正做到隨時隨地進行碎片化學習。人工智能技術在教育中的應用，還可以做到追蹤學生的學習軌跡、記錄學習過程、生成學習檔案。教師可據此為學生選擇適合的個性化課程資源;還可采用“真人老師+人工智能助教”的新型教學模式，人工智能助教負責教授給學生一般的知識，而真人教師負責對學生進行精細輔導和情感關懷，彌補人工智能的不足;此外，還涌現出如 “同步課堂”“互聯網+教育”“線上送教”等眾多人工智能下的新型教學形式，進一步拓寬了學生獲取知識的渠道，也在一定程度上緩解了教育不均衡的局面。

1.3基于人工智能的課后輔導

人工智能技術真正變革了“教與學”的形式，在很大程度上解放了教師、家長和學生。人工智能與教育的結合，還可以為學生提供精準的課后輔導服務。學生課后可以進行網絡課程學習，可通過網絡獲取學習資源或向老師等尋求幫助，還可用電子產品下載類似“作業(yè)幫”“小猿搜題”等搜題解題軟件，這些人工智能為教育帶來的機遇，均可為學生提供隨時隨地的解答與輔導。除此之外，還出現了智能學習機器人，能夠對學生的學習進行智能輔導，還附帶解題過程、思路、視頻講解等;人工智能技術還可以對學生進行學情分析，根據學生的個性化需求，為學生推送適合學生的一系列學習內容，對學生的學習進行查漏補缺;人工智能可以在學生學習過程中，對學生實時監(jiān)督，進行智能糾錯，生成個性化分析報告等，真正促進學生的深度學習。

1.4基于人工智能的信息化評價體系

以往的教學評價來源于老師課堂的觀察以及作業(yè)等級與考試得分等，對學生的學習過程關注度不夠。人工智能背景下的評價體系，使教師可以根據實際教學情況和每位學生的不同需求，實現個性化組卷，組合成適合不同班級、不同水平的學生試卷，并在學生完成考卷后，進行自動統(tǒng)計數據，生成個性化評估報告，助力精準教學。對于評價過程中的監(jiān)督模式，除了和以往一樣的教師監(jiān)考外，還可用電子屏蔽儀、考場監(jiān)控等進行輔助，更大程度上確保測試的真實性。通過對學生學業(yè)的信息化精準評價，針對學生的差異，也可更好地為學生匹配適合其學情的老師。人工智能背景下的評價，不僅更高效、更準確，也更全面。

1.5基于人工智能的教育管理體系

教育管理是教育教學中的重要組成部分，人工智能技術在教育管理中也有很廣泛的應用。如智能選課系統(tǒng)的出現為教育提供了便利，學生可根據興趣、學業(yè)需求，進入選課系統(tǒng)選擇課程。此外，針對學生上課簽到的問題，點名簽到軟件節(jié)省了教師點名的時間，提高了課堂利用率;教學軟件也層出不窮，比如“對分易”“雨課堂”等，可以便捷地管理班級成員、發(fā)布消息、上交作業(yè);校園安全監(jiān)控系統(tǒng)的廣泛使用，極大方便了教育管理者的管理工作，如教室內外、食堂、校園里的監(jiān)控錄像、門禁控制系統(tǒng)等，幫助管理者實時監(jiān)督教學、生活狀況，將學生的學習與生活過程可視化，有助于教師更全面地了解學生，促進教育教學質效的提高。

2 人工智能背景下隱藏的教育風險

2.1 侵犯隱私，泄露數據

教育人工智能倫理是教育人工智能發(fā)展不可忽視的現實議題。[3]進入人工智能時代，各種信息通過網絡可以方便、快捷地傳輸，人們在享受便利的同時，也承擔了一定的風險。教育領域中的人工智能需要教育大數據，但是教育大數據的采集、存儲和處理對人們的威脅很大，尤其是私密信息的泄露[4]。人們的個人信息、位置信息等，很有可能被別有用心的人利用，竊取隱私、泄露數據、頻繁的騷擾電話，以及量身定制的推銷都表明隱私已經存在泄露。在大數據時代， 學生全時段的校內外活動軌跡及其家庭背景、社會交往等個人信息， 在教師和教育管理者面前“一覽無余”，而學生卻處在教育管理鏈的末端，因此，保護好學生的隱私信息就顯得尤為重要[5]。在教育中使用人工智能，在提高教育質量，提升教育效率的同時，可能也對人們的信息安全造成了隱患。

2.2 不良信息，誤導學生

伴隨著人工智能與教育的深度融合，網絡上出現了豐富的學習資源以幫助學生進行自主學習、碎片化學習，但這些信息良莠不齊，學生面對海量的信息資源進行學習的同時，很容易被不良信息誤導。學生年齡較小、社會經驗不足，對事物的認知能力有限，難以分辨信息的好壞，同時也缺乏對不良信息的抵制能力。面對開放的學習資源，學生可能獲取不到自己真正需要的、適合自己的信息，反而會被不良信息誤導，受到不良信息的侵害。

2.3 忽視情感、態(tài)度與價值觀

進入人工智能時代，教育教學組織形式發(fā)生了變革，但長此以往會出現師生不能及時互動、問題得不到及時解決、教師關注不到學生的情感等問題。在傳統(tǒng)課堂上，教師課上拍拍學生的肩膀對于學生來說都是極大的鼓舞;而在人工智能背景下，追求高效、便捷的課堂，幫助學生收獲知識的同時，忽視了對學生情感、態(tài)度和價值觀的培養(yǎng)。此外，一些智能學習機器人、解題類App等，在傳遞教學資源的過程中，也難以兼顧到學生個性化的情感、態(tài)度等。

2.4 缺乏監(jiān)督，學生學習松懈

如今已經進入開放學習、自主學習、終身學習的新時代，在豐富的信息資源下，學生可以借助網絡，自主學習許多內容。但也正因如此，學生缺乏教師的監(jiān)督，自主學習被放大，可能在一定程度上造成對自己的學習松懈，特別是對于一些自制力不高甚至缺乏自覺性的學生。比如，以前教師布置作業(yè)學生都要認真思考才可以做出來，而現在學生只需要打開“百度”或者下載諸如“作業(yè)幫”等的App，拍照便可搜題找到答案，易于導致他們不加思考就把答案抄上去，來完成教師所布置的任務。

2.5 學生形成表演型人格

隨著人工智能進入校園，在學校的各個角落，師生幾乎都受到了無死角的監(jiān)控。一些教室開始配備人臉識別系統(tǒng)，用來更方便地記錄學生出勤情況，也避免了代替同學“答到”的不良行為，起到了督促學生學習的作用。但同時，這也意味著，要實現數據采集，從動作分析到表情、情緒及肢體分析、眼球追蹤等，學生的一舉一動都將暴露在人臉識別系統(tǒng)之下[6]。然而，這種評價無法真實判斷教學是否在“表演”，學生細微的表情變化是否能夠真實表現學生對所學內容的理解程度？對臉部無表情的學生怎樣判斷[1]？在有監(jiān)控的環(huán)境下和無監(jiān)控的環(huán)境下，所做出的表現是不一樣的，長期被系統(tǒng)監(jiān)測，學生容易形成“表演性”人格，長此以往，會讓學生隱藏自己的本性，不利于學生的人格發(fā)展。

3 人工智能背景下教育風險的規(guī)避策略

3.1 利用信息技術，構建安全屏障

人工智能在教育中的應用產生了許多教育大數據，大數據由各種代碼組成，容易被一些黑客攻破并盜取信息。“比如，在信息泄露方面，通過智能系統(tǒng)對教育數據的保密性、真實性和完整性進行維護，依賴于教育數據的存取和免受攻擊”[4]?；谀壳熬W絡開放、資源共享的特點，為了進一步加強網絡信息安全，可以從以下幾個方面入手：一是大力加強數據保護，如使用更先進、復雜的解鎖機制，對數據進行嚴格加密，可有效阻擋黑客;二是采用用戶安全分離機制，若一個網絡用戶受到侵害，便不會像以前一樣迅速蔓延，導致集體中毒，可以及時降低損失;三是加強技術的改進，開發(fā)出更強勁的殺毒軟件，讓病毒、黑客無機可乘，從而有效保護網絡信息安全，使隱私不被泄露。

3.2 創(chuàng)建綠色環(huán)境，為學生護航

加大對互聯網的凈化力度，對網絡信息實行更嚴格的把控，保證網絡環(huán)境是安全的，健康的。實時進行網絡監(jiān)測，對一些虛假消息、謠言，設置自動識別、過濾;設置網絡追蹤系統(tǒng)，一旦追蹤到不良信息發(fā)布者、傳播者，給予一定的懲罰。此外，各平臺還可以采用實名認證的方式，對未成年的學生提供青少年模式，保證所接觸到的內容都是適合他們年齡階段的;同時，學校也要對學生加強信息素養(yǎng)的培養(yǎng)，安排信息化課程，指導學生如何查找信息、辨別信息、篩選信息、使用信息，增強信息意識。

3.3 豐富機器情感，教師給予輔助

人工智能與人類相比，畢竟是機器，雖然在許多方面，人工智能已經特別先進，但在情感方面，人工智能仍無法和人類相比。如果師生之間的交流被虛擬世界所阻隔，僅傳播一些抽象化的符號與程式化的活動，將會導致人文關懷的情感缺失[7]。在人工智能背景下，同樣需要關注學生的情感培養(yǎng)。如教會機器人對學生的面部表情進行精細識別，識別學生表情背后蘊藏的情感，如微笑、沮喪等;也可以從語言、聲音、動作等方面進行識別，以此給予及時地鼓勵或安慰，達到情感喚醒的結果。如此，可以實現對學生的全面化培養(yǎng)。此外，在“人工智能+教育”時代，機器、網絡占據了學習的很大比重，但傳統(tǒng)教師的角色作用仍然不能被弱化。教師、家長應該更加關注學生的情感發(fā)展，幫助學生在學業(yè)進步的同時，形成完善的人格和正確的價值觀。

3.4 嚴格把關資源，家校加強監(jiān)督

“人工智能+教育”時代，資源獲取具有很大的便捷性，造成學生很可能不動腦筋就把作業(yè)“寫”完了的局面。為避免這種情況，建議一些類似于“作業(yè)幫”等的學輔軟件加強對資源的把控。在學生解題的過程中，需要學生具備一些相應的基礎知識，按照指引一步一步思考，與機器共同完成答題，在答題的過程中思考，得到更多收獲;或者需要完成一些與目標資源相近的小任務，任務完成后，才可以獲取目標答案和解題指引，如此便可以避免學生閉著眼睛完成作業(yè)的情況。帶動學生按步驟尋找答案，比直接將完整的答案呈現給學生更加有利于學生進步;在此過程中，鞏固學生知識的同時，也可以在很大程度上避免學生偷懶、松懈。此外，家校之間應進行協作，加強對學生學習的監(jiān)督、輔助，幫助學生形成良好的學習習慣。

4 結語

“人工智能+教育”時代的到來，為教育帶來機遇的同時，也帶來了挑戰(zhàn)。人們應該正確把握“教育人工智能”的內涵，以發(fā)展的眼光審視它。面對教育信息化的高速發(fā)展，廣大科研人員和教育工作者應保持理性，警惕人工智能在教育上可能隱藏的一些風險，并積極采取相應的措施加以規(guī)避，推進人工智能與教育形成更深程度的融合。

參考文獻：

[1] 孟翀，王以寧.教育領域中的人工智能：概念辨析、應用隱憂與解決途徑[J].現代遠距離教育，2021（2）：62-69.

[2] 王嵐，王凱.教育中的人工智能：應用、風險與治理研究[J].黑龍江高教研究，2020，38（6）：45-49.

[3] 趙磊磊，姜蓓佳，李凱.教育人工智能倫理的困境及治理路徑[J].當代教育科學，2020（5）：3-7.

[4] 薛慶水，李鳳英.人工智能教育應用的安全風險與應對之策[J].遠程教育雜志，2018，36（4）：88-94.

[5] 胡弼成，鄧杰.大數據時代的教育變革：挑戰(zhàn)、趨勢及風險規(guī)避[J].教育科學研究，2015（6）：29-34.

[6] 劉斯文.人工智能進校園風險何在[N].北京商報，2019-09-10（16）.

[7] 馮銳，孫佳晶，孫發(fā)勤.人工智能在教育應用中的倫理風險與理性抉擇[J].遠程教育雜志，2020，38（3）：47-54.

【通聯編輯：唐一東】