面向未成年人的人工智能技術(shù)規(guī)范研究：學理闡析與探研進路

吳永和 郭勝男 許秋璇 鄭浩 顏歡

[摘 ? 要] 人工智能時代，如何協(xié)調(diào)好AI與未成年人之間的關(guān)系成為亟須解決的時代命題，而“面向未成年人制定什么樣的AI技術(shù)規(guī)范”是回答好這一命題的關(guān)鍵。基于此，文章基于“面向未成年人的人工智能技術(shù)規(guī)范研究”國家社科重大項目，從學理上闡釋面向未成年人的人工智能技術(shù)規(guī)范研究的核心內(nèi)容與探研進路。文章由五部分組成：（1）面向未成年人的AI時代訴求；（2）面向未成年人的AI治理態(tài)勢分析；（3）AI技術(shù)規(guī)范概念闡釋與定位；（4）研究的核心內(nèi)容；（5）整體的探研進路。希望能夠幫助讀者理解面向未成年人的人工智能技術(shù)規(guī)范研究的重點和方向，期待能夠為后續(xù)相關(guān)研究提供理論指導和參考，共同致力于解決AI與未成年人協(xié)調(diào)相融共進問題，助力構(gòu)建人類命運共同體。

[關(guān)鍵詞] 人工智能； 技術(shù)規(guī)范； 未成年人； 核心素養(yǎng)； 應用監(jiān)管； 安全倫理

[中圖分類號] G434 ? ? ? ? ? ?[文獻標志碼] A

[作者簡介] 吳永和（1969—），男，安徽巢湖人。博士，研究員，主要從事智能驅(qū)動的教育研究與教育數(shù)字化轉(zhuǎn)型。E-mail：yhwu@deit.ecnu.edu.cn。郭勝男為通訊作者，E-mail：Shining_guo123@163.com。

一、引 ? 言

AI技術(shù)作為引領(lǐng)第四次科技革命的重要技術(shù)之一，為社會建設(shè)和經(jīng)濟發(fā)展帶來了重大而深遠的影響。2019年，我國科技部發(fā)布的《新一代人工智能治理原則》倡議發(fā)展負責任的AI，協(xié)調(diào)好AI發(fā)展與治理的關(guān)系，確保AI安全可控可靠[1]。2022年11月，OpenAI公司推出的以ChatGPT為代表的新一代人工智能工具，對社會和教育產(chǎn)生了廣泛的影響。智能技術(shù)在教育領(lǐng)域中的應用政府高度重視，積極推動AI和教育深度融合，充分發(fā)揮其優(yōu)勢，促進教育創(chuàng)新變革，加快培養(yǎng)AI高端人才。而現(xiàn)階段的未成年人是伴隨著AI成長起來的一代人，正處于成長為具備創(chuàng)新能力和合作精神的AI高端人才的關(guān)鍵時期，承擔著復興中華民族的大任，因此，如何協(xié)調(diào)好AI與未成年人的關(guān)系，保障未成年人健康成長是AI時代教育的重要命題。

面向未成年人的人工智能技術(shù)規(guī)范是AI時代確保未成年人健康成長的關(guān)鍵，是穩(wěn)步推進AI技術(shù)創(chuàng)新發(fā)展和負責任的保障，也是我國落實未來AI發(fā)展戰(zhàn)略的關(guān)鍵一環(huán)。為了深入推進面向未成年人的人工智能技術(shù)規(guī)范研究（后文簡稱：AI技術(shù)規(guī)范）。筆者認為，首先要立足于AI技術(shù)發(fā)展的整體藍圖，深入了解未成年人的成長特征和AI技術(shù)發(fā)展的脈絡，著眼于核心素養(yǎng)、應用監(jiān)管和安全倫理，分別從人才發(fā)展、AI向善和人機共融視角進行深度探析，最終落腳于AI技術(shù)標準規(guī)范制定，通過實踐檢驗標準規(guī)范的可實施性。本文基于國家社科重大課題，從整體設(shè)計的視角闡釋面向未成年人的人工智能技術(shù)規(guī)范研究的總體布局與探研進路，以期能夠為后續(xù)相關(guān)研究提供理論指導和參考。

二、面向未成年人的AI時代訴求

AI時代，未成年人尚未成熟的理解能力、認知能力、辨別能力與心智發(fā)展等決定了其極易受到智能化環(huán)境的影響。因此，未成年人這一弱勢群體對AI治理有了新的訴求。如圖1所示，在AI技術(shù)發(fā)展藍圖的理論指導下，對面向未成年人的AI核心素養(yǎng)、應用監(jiān)管和安全倫理進行研究，制定面向未成年人的人工智能標準規(guī)范，推進教育的數(shù)字化轉(zhuǎn)型，促進AI技術(shù)與未成年人的深度融合與協(xié)調(diào)發(fā)展。在素養(yǎng)層面，一方面，培養(yǎng)未成年人正確對待AI的態(tài)度、知識等，防止受到不良信息侵害；另一方面，需要充分調(diào)動未成年人主動學習的積極性，通過個性化培養(yǎng)提升他們的智能創(chuàng)新能力，進而實現(xiàn)未成年人的全面發(fā)展。在監(jiān)管層面，需要合理設(shè)計和有效約束AI產(chǎn)品，從根源上保障未成年人身心安全，實現(xiàn)智能應用的安全可控。在倫理層面，亟須技術(shù)倫理、社會倫理和隱私安全等方面的規(guī)范，保障未成年人的合法權(quán)益，推動AI與未成年人之間關(guān)系協(xié)調(diào)發(fā)展。因此，文章將從教育數(shù)字化轉(zhuǎn)型、核心素養(yǎng)、應用監(jiān)管和倫理安全以及規(guī)范需求五個方面具體闡述AI技術(shù)發(fā)展的時代訴求。

（一）AI賦能教育的數(shù)字化轉(zhuǎn)型

AI技術(shù)是教育數(shù)字化轉(zhuǎn)型的重要措施，借助智能化的方式重新整合各知識領(lǐng)域，集成多種新技術(shù)廣泛聯(lián)結(jié)的智能世界，推動教育的數(shù)字化轉(zhuǎn)型。AI為教育的數(shù)字化轉(zhuǎn)型注入活力，通過資源設(shè)備的不斷革新，以顛覆性的方式改變著學校的教學方式，決定了我國青少年的未來發(fā)展。國家教育“十四五”規(guī)劃明確提出“教育高質(zhì)量發(fā)展”的核心任務[2]，對學校建設(shè)、學生培養(yǎng)和教師發(fā)展等方面提出了更高的要求。AI賦能學校建設(shè)人機協(xié)同和育人為本的未來學校，提升學校管理和決策水平；AI賦能學生，促進培養(yǎng)全面、高素質(zhì)、個性化創(chuàng)新人才；AI賦能教師，釋放教師的時間和精力；AI賦能教學評價，實現(xiàn)精準畫像和自適應智能教研?？梢姡珹I能夠全方位賦能教育教學，賦智家?；ヂ?lián)，為推動教育數(shù)字化轉(zhuǎn)型提供強有力支撐。

（二）AI對核心素養(yǎng)提出更高要求

AI技術(shù)對信息的智能化篩選，在傳播和接收過程中能夠幫助未成年人避免大量不良信息的侵襲。心智發(fā)展還未成熟的未成年人在信息良莠不齊的AI環(huán)境中，難以篩選辨別出正確、有效的信息，這些錯誤的不良信息影響到未成年人認知能力發(fā)展，對未成年人的核心素養(yǎng)發(fā)展提出更高要求。特別地，暴力信息對未成年人的影響深遠持久，對犯罪行為具有長期潛移默化的“誘發(fā)效果”。例如，提高未成年人對暴力行為的贊成度，使得未成年人更容易產(chǎn)生暴力情緒[3]，對社會事件變得冷漠、缺乏社會責任感，甚至造成終身陰影[4]。未成年人只有具備更全面的智能素養(yǎng)，才能在數(shù)智融合時代保障自身安全與權(quán)益，進而成長為高端人才。

（三）AI給應用監(jiān)管帶來新挑戰(zhàn)

智能時代，對AI產(chǎn)品的設(shè)計開發(fā)和應用進行監(jiān)管，能夠從源頭上保障未成年人的心智發(fā)展。我國教育市場環(huán)境較為復雜，需要保證AI產(chǎn)品本身的健康安全，以保障未成年人基本權(quán)益。然而，未成年人缺乏足夠的認知、辨別能力，極易受到不法企業(yè)、違法應用的誘導，泄露個人信息，給與不法分子可乘之機，在危害個人安全的同時還可能會給國家安全埋下重大隱患。從心理特征看，未成年人的好奇心強、自制能力差、渴望被認可，這無疑導致未成年人容易沉迷AI構(gòu)建的虛擬世界?？梢姡珹I技術(shù)特性與未成年人的脆弱性均給AI應用監(jiān)管帶來新的挑戰(zhàn)。

（四）AI影響未成年人的倫理安全

AI的可編輯性可能造成未成年人的倫理認知錯誤，對未成年人的倫理安全產(chǎn)生威脅。不僅因為AI本身算法、數(shù)據(jù)等方面的技術(shù)倫理風險，還因為未成年人的心理認知尚不成熟，過度信任與依賴AI產(chǎn)品，人、AI與社會之間關(guān)系復雜性可能導致未成年人將人與AI的關(guān)系與行為規(guī)范相混淆，以與人相處的行為規(guī)范與AI相處，或是以與AI相處的行為規(guī)范與人相處，造成社會關(guān)系的紊亂、倫理認知的錯誤。因此，人類與AI的和諧共處是社會各領(lǐng)域都應當深入思考與研究的問題，是AI時代發(fā)展的必然訴求。

（五）面向未成年人的AI技術(shù)規(guī)范需求

信息爆炸的AI時代，AI技術(shù)憑借其跨時空、實時性和交互性的特點，拓展了未成年群體學習的空間和時間[5]，滿足他們傳統(tǒng)課程學習外的需求。事實上，AI技術(shù)帶給未成年人的影響具有兩面性：一方面，在AI技術(shù)的賦能作用下，未成年人的求知欲和創(chuàng)造力得以激發(fā)，助力其個性化發(fā)展[6]；另一方面，AI技術(shù)的設(shè)計和應用給未成年人帶來隱私、公平性、安全和倫理等方面的威脅。如果AI系統(tǒng)在設(shè)計過程中未能考慮潛在風險，潛在風險可能轉(zhuǎn)變?yōu)楝F(xiàn)實威脅，給未成年人造成身心、情感和發(fā)展層面的傷害。簡言之，作為“數(shù)字原生代”的當代未成年人亟須符合其權(quán)益和需求的技術(shù)規(guī)范，通過系統(tǒng)化培養(yǎng)未成年人的智能素養(yǎng)，加強AI應用監(jiān)管力度，保障未成年人的倫理安全，進而實現(xiàn)AI與未成年人的深度融合與協(xié)調(diào)發(fā)展。

三、面向未成年人的AI治理趨勢分析

近年來，聯(lián)合國教科文組織發(fā)布了一系列報告文件，旨在促進AI與教育的融合并降低其潛在風險[7-9]。在全球教育數(shù)字化轉(zhuǎn)型的背景下，我國政府高度重視AI與教育的融合發(fā)展，出臺了一系列青少年AI教育政策[10]。在我國加速邁向智能化社會的進程中，迫切需要構(gòu)建嚴密的AI治理體系，維護未成年人的健康成長[11]。筆者認為當前圍繞面向未成年人的AI治理主要體現(xiàn)了以下趨勢：

（一）“技術(shù)倫理+社會倫理”，倫理規(guī)范持續(xù)建設(shè)

隨著AI迅速滲透到未成年人學習、生活的各個場景，諸多學者從教育視角分析了面向未成年的AI倫理困境與挑戰(zhàn)，并提出相應的倫理原則[12-13]。綜合來看，當前面向未成年人的AI技術(shù)面臨設(shè)計、算法、數(shù)據(jù)安全等方面的技術(shù)倫理風險，并可能會帶來學生主體性缺失、師生角色失衡、教育藝術(shù)性消弭、數(shù)字鴻溝拉大等社會倫理挑戰(zhàn)[14]。近年來，我國政府在構(gòu)建智能時代技術(shù)倫理秩序方面做出了巨大努力，在優(yōu)化政、企、學界協(xié)同關(guān)系的基礎(chǔ)上，組織成立了新一代人工智能治理專業(yè)委員會，并就AI治理原則、AI倫理規(guī)范以及全球AI體系框架的構(gòu)建貢獻了中國方案。但當前針對AI倫理規(guī)范的探討多是從宏觀通用的視角出發(fā)，尚未考慮未成年人心智不成熟、辨別能力低、社會經(jīng)驗少等特點，針對未成年人等弱勢群體的倫理規(guī)范亟須完善。

（二）“政府立法+市場自治”，應用監(jiān)管逐漸收緊

在樹立AI倫理原則與準則的同時，還需要一套強有力的執(zhí)行機制將AI治理落實到實踐。在監(jiān)管立法層面，以中國、美國、歐盟為代表的AI技術(shù)發(fā)展先進國家與地區(qū)都逐步收緊了對AI的應用監(jiān)管。例如，我國近年來積極推動《個人信息保護法》《數(shù)據(jù)安全法》的有效實施，逐步建立對AI技術(shù)濫用與欺詐的處罰細則；美國強調(diào)監(jiān)管的科學性和靈活性，致力于確保和增強美國在該領(lǐng)域的領(lǐng)先地位；繼《通用數(shù)據(jù)保護條例》（GDPR）頒布之后，歐盟出臺了全球首份綜合性人工智能法案，旨在構(gòu)建嚴密的AI監(jiān)管體系[15]。在行業(yè)自治方面，伴隨各國AI立法與監(jiān)管的持續(xù)推進，國內(nèi)外主流科技公司也逐漸加強內(nèi)部AI倫理審查與規(guī)范。例如，微軟、谷歌、商湯科技等公司紛紛設(shè)立了AI治理機構(gòu)，負責企業(yè)的AI規(guī)則制定、案例研究、落地監(jiān)督等AI倫理實踐[16]。盡管目前各國政府和企業(yè)在推進AI技術(shù)應用監(jiān)管方面作出了初步嘗試，但專門針對面向未成年人的AI應用監(jiān)管還較為缺乏。

（三）“通用規(guī)范+細分標準”，標準制定更為全面

為推動落實AI治理要求，包括行業(yè)協(xié)會、標準化組織、產(chǎn)業(yè)聯(lián)盟等機構(gòu)在內(nèi)的行業(yè)組織較早地開展了AI治理相關(guān)研究，積極制定AI技術(shù)及產(chǎn)品標準。ISO/IEC JTC1在可信賴AI標準建立方面最為全面：IEC 主要進行了初期探索；ITU-T 聚焦在電信、醫(yī)療、多媒體應用等領(lǐng)域融合；IEEE 以隱私、可解釋為可信賴AI 標準重點；NIST布局針對性較強的可信賴AI標準；歐盟以倫理為核心，形成法律法規(guī)為目的的AI國際標準化整體處于初期發(fā)展、快速部署階段。AI可信賴、倫理方面?zhèn)涫荜P(guān)注，各標準化組織及機構(gòu)工作側(cè)重點有所差異但原則理念等整體趨同。現(xiàn)階段，我國專家全面參與國際標準化組織活動并取得了一定成果。下一階段，將以提升國內(nèi)外標準一致性水平、加快我國標準和國際標準相互轉(zhuǎn)化、推動我國先進標準化成果國際化為目標，持續(xù)深度參與全球AI標準化活動。

本研究在對當前AI治理現(xiàn)狀梳理分析的基礎(chǔ)上，發(fā)現(xiàn)了如下問題：第一，尚未勾勒出面向未成年人的AI技術(shù)發(fā)展藍圖。技術(shù)規(guī)范是立足當下面向未來的，因此，面向未成年人的AI治理必須首先把握好AI的發(fā)展趨勢，準確勾勒出AI技術(shù)發(fā)展藍圖，指導建立相應的技術(shù)規(guī)范框架。第二，尚未建立完善的面向未成年人的AI素養(yǎng)體系。針對未成年人AI素養(yǎng)的培育，有利于培養(yǎng)更多智能社會要求的創(chuàng)新人才。然而現(xiàn)有的AI技術(shù)規(guī)范體系中往往忽略了提升未成年人的AI素養(yǎng)的重要性。第三，尚未建立完善的面向未成年人的AI應用監(jiān)管體系。盡管當前各國AI監(jiān)管機構(gòu)都高度重視AI相關(guān)產(chǎn)品的應用監(jiān)管，出臺了大量的面向特定種類AI應用程序的監(jiān)管規(guī)定，但從目前各國的政策與戰(zhàn)略規(guī)劃來看，尚未有一條明確的落實路徑。第四，尚未建立完善的面向未成年人的AI安全倫理規(guī)范。從AI發(fā)展樣態(tài)來看，AI技術(shù)的影響非常復雜，僅從某單一視角進行倫理審視無疑都將導致研究結(jié)果的局限性。第五，面向未成年人的AI技術(shù)標準較為缺乏?，F(xiàn)有AI技術(shù)規(guī)范標準大多面向普通大眾，專門針對未成年人的AI技術(shù)規(guī)范標準還未出臺，對于面向未成年人的AI技術(shù)標準研制的機理、影響因素和可能路徑等方面尚不明確。

四、AI技術(shù)規(guī)范的概念闡釋及定位

（一）AI技術(shù)規(guī)范的概念闡釋

1. AI技術(shù)規(guī)范的內(nèi)涵

AI技術(shù)規(guī)范是本研究的核心術(shù)語，學界迄今鮮有針對此術(shù)語的明確定義，因此，明晰這一術(shù)語的概念內(nèi)涵是開展研究的基礎(chǔ)。規(guī)范一詞在《辭海》中釋義為“標準：法式”，所謂技術(shù)規(guī)范則是規(guī)定技術(shù)產(chǎn)品、過程和服務應滿足技術(shù)要求的文件。從法律層面來講，技術(shù)規(guī)范也指有關(guān)人類在利用各類技術(shù)時應當遵守的行為準則[17]。AI時代，AI技術(shù)具有高度的自主性和類人性，技術(shù)規(guī)范的內(nèi)涵不斷更新，既包括使用技術(shù)時應當遵守的行為規(guī)范和道德準則，也包含對AI的技術(shù)要求。故此，筆者認為面向未成年人的人工智能技術(shù)規(guī)范涵蓋以下兩種內(nèi)涵（如圖2所示）：其一，未成年人學習或使用AI技術(shù)、產(chǎn)品或服務時應該遵守的道德準則和行為規(guī)范；其二，為保障AI產(chǎn)品質(zhì)量，確保未成年人的健康成長，AI產(chǎn)品在研發(fā)、制造和部署時應該遵守的操作準則和技術(shù)標準，其旨趣在于促進AI技術(shù)深度應用于未成年人，保障AI技術(shù)與未成年人的協(xié)調(diào)發(fā)展。

2. AI技術(shù)規(guī)范的外延

AI技術(shù)規(guī)范內(nèi)蘊對“人—機”“人—機—人”之間關(guān)系的規(guī)范，因此，筆者認為可以從核心素養(yǎng)、應用監(jiān)管和安全倫理三個方面理解其外延。

首先，核心素養(yǎng)是從人才發(fā)展視角進行理解，指的是從未成年人學習/使用AI技術(shù)、產(chǎn)品或服務時應該具備的能力和素養(yǎng)。這要求未成年人需要具備正確安全使用AI技術(shù)的核心素養(yǎng)，豐富AI相關(guān)知識，增強底線思維和風險意識，避免濫用、誤用、錯用的可能。其次，應用監(jiān)管是從AI向善視角進行理解，為保障AI產(chǎn)品質(zhì)量和安全性，對人工智能產(chǎn)品、過程和服務的技術(shù)要求和規(guī)范，要求對從事AI活動相關(guān)的教育機構(gòu)、企業(yè)和人員等進行監(jiān)管，保障AI技術(shù)研發(fā)、供應和管理滿足未成年人的成長特性，降低出現(xiàn)隱私泄露、數(shù)據(jù)安全、算法歧視等風險的可能，以確保AI向善發(fā)展。最后，安全倫理是從人機共融視角進行理解，是指將道德倫理融入AI的全生命周期，對從事AI管理、研發(fā)、應用的企業(yè)、機構(gòu)、學校和未成年人等進行道德規(guī)范，積極引導負責任的AI研發(fā)和應用，增強全社會的倫理意識，確保未成年人與AI的協(xié)調(diào)發(fā)展。

（二）AI技術(shù)規(guī)范的概念定位

在推進AI技術(shù)規(guī)范的相關(guān)研究中，除了需要明晰其概念內(nèi)涵，筆者認為，還需要從技術(shù)規(guī)范與社會規(guī)范、法律規(guī)范和技術(shù)標準的區(qū)別中透析技術(shù)規(guī)范的向度和限度，見表1。首先，技術(shù)規(guī)范與社會規(guī)范是一般“規(guī)范”研究的一體兩面，前者規(guī)范的是“人—機”和“人—機—人”之間的關(guān)系，后者只調(diào)整“人—人”之間的關(guān)系；其次，法律是以理性為特征的社會規(guī)范，隨著AI和大數(shù)據(jù)規(guī)則的加入，法律規(guī)范應適當調(diào)整，需融合考慮技術(shù)規(guī)范和社會規(guī)范。從規(guī)范力度看，技術(shù)法規(guī)是將技術(shù)規(guī)范立法，兩者可相互兼容，前者具有極強的約束性，一經(jīng)制定便不容許違反，而后者是兼具“剛性”和“軟性”的彈性規(guī)范，能更好地平衡AI技術(shù)發(fā)展與未成年人安全之間的關(guān)系，促進兩者之間的協(xié)調(diào)發(fā)展。最后，技術(shù)規(guī)范是技術(shù)標準的一種形式，一旦通過標準制定程序，得到公認機構(gòu)批準，技術(shù)規(guī)范便可以成為技術(shù)標準。

五、研究的核心內(nèi)容

面向未成年人的人工智能技術(shù)規(guī)范研究以未成年人和AI技術(shù)為研究對象，核心內(nèi)容是對該課題的宏觀把控。本文遵從“總—分—總”的邏輯，從理論奠基、人才發(fā)展、AI向善、人機共融和規(guī)范實踐等視角針對AI技術(shù)發(fā)展藍圖、核心素養(yǎng)、應用監(jiān)管、倫理安全和標準規(guī)范進行基礎(chǔ)性研究，致力于回答如何從技術(shù)規(guī)范視角促進未成年人和AI技術(shù)協(xié)調(diào)發(fā)展問題，如圖3所示。

（一）理論奠基，面向未成年人的AI技術(shù)發(fā)展藍圖

2019年，習近平總書記向國際人工智能與教育大會致賀信中提到：“人工智能是引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力，正深刻改變著人們的生產(chǎn)、生活、學習方式”[18]。現(xiàn)階段的未成年人多是伴隨著AI成長起來的“Z世代”，從出生起便與信息時代無縫對接，深受數(shù)字媒體、智能產(chǎn)品等的影響。因此，有必要從未成年人成長特征和AI應用特征著手，根植于智能時代的發(fā)展特性，繪制面向未成年人的AI技術(shù)發(fā)展藍圖，為AI技術(shù)規(guī)范研究奠定理論基礎(chǔ)。具體地，可從以下幾個方面展開：第一，深入文獻和應用現(xiàn)狀調(diào)研，探索AI技術(shù)發(fā)展脈絡，并預判面向未成年人的AI發(fā)展趨勢；第二，凝練面向未成年人的AI產(chǎn)品應用的基本原則，能夠為其研發(fā)、設(shè)計、部署和應用提供理論指導；第三，通過分析面向未成年人的AI技術(shù)規(guī)范的構(gòu)成要素，構(gòu)建AI技術(shù)規(guī)范體系框架，為面向未成年人的AI核心素養(yǎng)、應用監(jiān)管、安全倫理和標準規(guī)范研制提供理論指導。

（二）人才發(fā)展，面向未成年人的AI核心素養(yǎng)研究

AI技術(shù)減少了重復勞動，讓人的主動性和創(chuàng)新性得到最大程度的發(fā)揮，這要求未來智能時代的人才能夠運用智能技術(shù)，通過人機協(xié)同高效率、創(chuàng)造性地解決實際問題。從認知心理學的視角看，未成年人尚未形成對AI的理解，很容易被同化和順應，造成未成年人失去批判性思維和創(chuàng)新性思維。因此，如何促使未成年人更好地適應智能化社會發(fā)展，對其施行AI核心素養(yǎng)的培育具有重要意義。筆者認為，面向未成年人的AI核心素養(yǎng)研究可從以下幾點展開：理論框架層面，通過界定AI 核心素養(yǎng)的概念內(nèi)涵和構(gòu)成，構(gòu)建面向未成年人的AI核心素養(yǎng)框架；評估機制層面，從評估方法、評估機制和評估工具三個維度構(gòu)建面向未成年人的AI核心素養(yǎng)評估機制，生成AI核心素養(yǎng)評估技術(shù)規(guī)范；實踐層面，通過實證提出未成年人AI核心素養(yǎng)培養(yǎng)與提升建議，以促進AI與人才培養(yǎng)的深度融合，最終培養(yǎng)和提升未成年人的AI核心素養(yǎng)。

（三）AI 向善，面向未成年人的AI應用監(jiān)管研究

《人工智能應用準則》中提到“人的監(jiān)督”[19]，強調(diào)AI不應該超過人的自主性，人類應該監(jiān)督AI技術(shù)的發(fā)展及所做決策，并在必要時進行干預。筆者認為，要做好AI應用監(jiān)管就必須回應“是何”“為何”“如何”的問題。監(jiān)管內(nèi)容方面，第一，需要通過管控保證提供給未成年人合乎規(guī)范設(shè)計的AI產(chǎn)品，保證未成年人的健康和信息安全在知識獲取和資源學習的過程中不會受到威脅；第二，采用數(shù)據(jù)驅(qū)動的方式監(jiān)管未成年人使用AI產(chǎn)品的情況，通過監(jiān)控應用數(shù)據(jù)的采集、分析過程以及決策結(jié)果，以了解未成年人使用AI產(chǎn)品過程的認知、情感情況，確定AI技術(shù)是否會對未成年人的日常行為和心理健康產(chǎn)生影響，以及應該采用什么樣的干預措施；第三，基于數(shù)據(jù)分析的決策結(jié)果，監(jiān)管AI產(chǎn)品的設(shè)計和開發(fā)過程，確保AI產(chǎn)品是未成年人適需的產(chǎn)品。監(jiān)管方法與社會實踐方面，首先，要構(gòu)建面向未成年人的AI應用監(jiān)管的信息模型，完善監(jiān)管方案，統(tǒng)一監(jiān)管流程；其次，開發(fā)具有一定技術(shù)規(guī)范的AI應用監(jiān)管工具，有效進行監(jiān)管數(shù)據(jù)的收集、規(guī)約、存儲、分析和可視化，以數(shù)據(jù)不斷優(yōu)化智能化監(jiān)管手段；最后，在明確監(jiān)管內(nèi)容和方法的基礎(chǔ)上，結(jié)合社會實驗方法和系統(tǒng)仿真法，在實踐中驗證監(jiān)管內(nèi)容的合理性和監(jiān)管方法的有效性。

（四）人機共融，面向未成年人的AI安全倫理研究

隨著AI技術(shù)在社會各領(lǐng)域的滲透，一方面提升了人們的生活、學習的服務質(zhì)量，另一方面對人們的隱私安全、人身安全和享受公平的權(quán)益等倫理安全造成前所未有的沖擊。未成年人正處于心智發(fā)展的不成熟階段，具有較強的好奇心和求知欲，但又缺乏自我保護意識和能力，因此，針對這一類群體的AI倫理規(guī)范需從以下幾點展開。首先，通過梳理適用于未成年人的AI安全技術(shù)和倫理原則，建立AI安全倫理整體框架，探析影響未成年人對AI認知和態(tài)度的因素；其次，從評估理念、評估方法和評估工具三個角度出發(fā)，面向未成年人構(gòu)建一個AI安全倫理的整體評估機制；最后，基于AI倫理框架和評估機制，進行教育相關(guān)的推廣與實踐，例如，創(chuàng)新教育培訓方案和教學模式、進行AI倫理安全課程設(shè)計及向政府建言獻策。

（五）規(guī)范實踐，面向未成年人的AI標準規(guī)范研制

風險社會視域下，發(fā)展與風險是事物發(fā)展的一體兩面。誠然，AI技術(shù)創(chuàng)新發(fā)展與安全風險亦是相伴而生的，故此，需要合規(guī)、合倫理的AI技術(shù)標準規(guī)范才能協(xié)調(diào)好未成年人與AI技術(shù)發(fā)展的關(guān)系。鑒于當前鮮有專門針對未成年人的AI技術(shù)規(guī)范，筆者認為可以以下幾點進行探尋：一是通過探究影響AI技術(shù)標準規(guī)范研制的影響因素，從多種可行性路徑中選出最優(yōu)路徑，為后期標準制定奠定基礎(chǔ)；二是經(jīng)過特定的標準制定程序，將AI核心素養(yǎng)規(guī)范、應用監(jiān)管規(guī)范和安全倫理規(guī)范制定為標準，以構(gòu)建針對未成年人的AI標準體系；三是在前面兩者的基礎(chǔ)上，提出面向未成年人的AI技術(shù)規(guī)范政策建議，以期增強該標準規(guī)范體系的可執(zhí)行力度。

六、整體的探研進路

明晰面向未成年人的人工智能技術(shù)規(guī)范研究的整體思路，有助于全面系統(tǒng)地回答AI技術(shù)如何與未成年人和諧共生、共同發(fā)展這一核心問題。研究遵循“和諧友好、包容共享、尊重隱私、安全可控、敏捷治理”的治理原則，從系統(tǒng)觀、發(fā)展觀、治理觀、融合觀和實踐觀等不同視角，探索面向未成年人的人工智能技術(shù)規(guī)范。依此，研究借鑒太陽系結(jié)構(gòu)模型，構(gòu)建邏輯思路圖，如圖4所示。

在圖4中，研究分別以不同視角映射出五個核心內(nèi)容：（1）基于系統(tǒng)觀視角，勾勒面向未成年人的人工智能技術(shù)發(fā)展藍圖；（2）基于發(fā)展觀視角，建立面向未成年人的人工智能素養(yǎng)體系；（3）基于治理觀視角，建立面向未成年人的人工智能應用監(jiān)管體系；（4）基于共融觀視角，建立面向未成年人的人工智能安全倫理規(guī)范；（5）基于實踐觀視角，制定面向未成年人的人工智能標準規(guī)范。研究以復雜系統(tǒng)、社會實驗、數(shù)據(jù)驅(qū)動、場景應用、交叉融合、基于用例的分析（Use Case）等方法論為指導，依循“趨勢預判，理論建構(gòu)”“聚焦重點，分類推進”“標準研制，建言獻策”路徑，提出面向未成年人的人工智能技術(shù)規(guī)范研究新思路。各個核心內(nèi)容的研究視角、方法論及路徑，見表2。

第一，基于復雜系統(tǒng)理論，頂層架構(gòu)面向未成年人的人工智能技術(shù)規(guī)范體系。復雜系統(tǒng)理論是解決以非線性為核心的復雜系統(tǒng)問題的理論，重在揭示系統(tǒng)的內(nèi)部交互和外在演化規(guī)律[20]。要解決復雜系統(tǒng)問題，需采用多尺度分析方法進行復雜系統(tǒng)建模，厘清其中錯綜復雜的依存關(guān)系和行為的多重因果聯(lián)系[21]。促進未成年人成長與AI技術(shù)治理協(xié)調(diào)相容共進的過程，在本質(zhì)上屬于復雜系統(tǒng)的協(xié)同演化過程，具有顯著的非線性、涌現(xiàn)性和開放性特征[22]。本研究將從復雜系統(tǒng)建模的社會計算角度出發(fā)，通過構(gòu)建未來智能生態(tài)系統(tǒng)中的多主體系統(tǒng)，以仿真AI技術(shù)的發(fā)展樣態(tài)，剖析系統(tǒng)所涌現(xiàn)出的AI發(fā)展藍圖。同時，探究不同外界變量及其組合模式對未成年人成長發(fā)展的影響，揭示AI技術(shù)發(fā)展與未成年人健康成長的協(xié)同共生機制，頂層架構(gòu)面向未成年人的人工智能技術(shù)規(guī)范體系。

第二，統(tǒng)籌運用多元視角，分類推進面向未成年人的人工智能生態(tài)系統(tǒng)建設(shè)。面向未成年人的人工智能生態(tài)系統(tǒng)是由未成年人、智能支撐技術(shù)、社會環(huán)境與復雜應用場景等多要素構(gòu)成的一個復雜系統(tǒng)。人機協(xié)同是面向未成年人的人工智能生態(tài)系統(tǒng)建設(shè)的核心和突破口，要求始終以未成年人的素養(yǎng)發(fā)展為本，對人工智能應用的風險邊界進行有效管控，才能實現(xiàn)人機相融共進[23]。故此，研究基于發(fā)展觀、治理觀、共融觀的視角，以社會實驗、數(shù)據(jù)驅(qū)動、場景應用的研究方法論為指導，共同遵循“理論構(gòu)建—方法探索—實踐驗證”的研究路徑，分類推進面向未成年人的人工智能核心素養(yǎng)、應用監(jiān)管、安全倫理研究內(nèi)容，以重構(gòu)AI社會生態(tài)，實現(xiàn)共建人類命運共同體的現(xiàn)實訴求。

第三，跨學科交叉融合，研制面向未成年人的人工智能標準規(guī)范和政策建議。跨學科交叉融合是不同學科在思維、方法、技術(shù)和語言等方面的全面融合，是超越學科邊界以解決真實問題的學科整合研究[24]。面向未成年人的人工智能技術(shù)規(guī)范研究既關(guān)涉AI這樣的前沿科技，也涉及教育系統(tǒng)甚至道德倫理等人文領(lǐng)域，是一個跨科技、社會和人文的交叉領(lǐng)域研究。本研究融合系統(tǒng)科學、社會學、教育學、信息學、心理學等學科視野，將多門學科的研究方法進行系統(tǒng)性整合，生成適用于本研究的跨學科研究方法，以指導面向未成年人的AI核心素養(yǎng)、應用監(jiān)管和安全倫理等方面的標準研制工作，積極為政府部門的政策制定和決策執(zhí)行諫言獻策。

第四，融合教育實踐方法，以教育社會實踐和教育工程實踐推動標準規(guī)范研制與示范應用。教育社會實驗是以育人目標為導向，識別因素差異對學習行為、人格塑造的改善路徑[25]。教育工程實踐是指遵循“系統(tǒng)需求分析、標準范圍確定、分類指導、系列標準采用、標準獲取和解讀、標準的集成和系統(tǒng)開發(fā)、系統(tǒng)完善示范應用”流程和步驟開展標準研制和應用工作的過程。面向未成年人的人工智能標準研制需融合以上兩種實踐方法，一方面，采用教育社會實驗的設(shè)計思路，針對上海市寶山區(qū)、黃浦區(qū)、浦東新區(qū)，浙江溫州市、安徽合肥市、北京海淀區(qū)、江蘇南京市、新疆喀什市、廣西柳州市等建立實驗區(qū)，以及多所學校建立試點校，實驗區(qū)和試點校按照整個項目要求和自身發(fā)展需求設(shè)立子課題開展研究，如上海市求真中學計劃開展智慧課堂（三個助手）、智能備考助手、智慧體育等方面研究；另一方面，充分利用標準委員會資源，依照標準研制流程和步驟規(guī)范化開展標準研制工作，并落實標準的應用與迭代。

七、結(jié) ? 語

數(shù)字化時代，AI和教育的深度融合促使教育發(fā)生全方位的創(chuàng)新與變革，加快培養(yǎng)AI高端人才是推動智能社會發(fā)展的必然之舉。未成年人正處于AI高端人才培養(yǎng)的關(guān)鍵時期，如何協(xié)調(diào)好人工智能與未成年人之間的關(guān)系成為亟須解決的時代命題。由此，本文以促進人機協(xié)調(diào)相容共進為起點，基于理論奠基、人才發(fā)展、AI向善、人機共融和規(guī)范實踐的視角，剖析面向未成年人的人工智能技術(shù)規(guī)范研究的核心內(nèi)容和探研進路，不僅為后續(xù)各個核心內(nèi)容的研究提供指導，同時引領(lǐng)實驗區(qū)和試點校深入開展教育實踐。然而，在人類命運共同體的視域下，面向未成年人的人工智能技術(shù)規(guī)范研究必將衍生出一系列理論和技術(shù)，如何協(xié)調(diào)好理論研究和教育實踐的關(guān)系，是后續(xù)需要深入研究的重要議題。同時，以ChatGPT為代表的新一代人工智能工具將對教育產(chǎn)生廣泛的影響，影響到我們的教育觀、教學觀、學習觀、知識觀、研究觀、治理觀，教師、學生、家長、管理者、研究者和決策者將要如何科學地應對，這也是本項目后面需要深入研究的內(nèi)容。

[參考文獻]

[1] 中華人民共和國科學技術(shù)部.發(fā)展負責任的人工智能：新一代人工智能治理原則發(fā)布[EB/OL].（2019-06-17）[2022-05-29]. http：//www.most.gov.cn/kjbgz/201906/t20190617_147107.html.

[2] 中華人民共和國中央人民政府.中共中央關(guān)于制定國民經(jīng)濟和社會發(fā)展第十四個五年規(guī)劃和二〇三五年遠景目標的建議[EB/OL].（2020-11-03）[2022-06-09]. http：//www.gov.cn/zhengce/2020-11/03/content_5556991.htm.

[3] 賀建平，趙曉燕，黃肖肖.網(wǎng)絡暴力游戲與青少年暴力行為的相關(guān)性[J].新聞界，2009（1）：42-45.

[4] 張振鋒.網(wǎng)絡不良信息對未成年人犯罪的影響[J].預防青少年犯罪研究，2017（1）：31-37.

[5] 劉亭.智能時代我國意識形態(tài)風險治理研究[D].馬鞍山：安徽工業(yè)大學，2021.

[6] 易凌云.互聯(lián)網(wǎng)教育與教育變革[D].武漢：華中師范大學，2017.

[7] UNESCO. Artificial intelligence in education： challenges and opportunities for sustainable development[EB/OL]. （2019-04-07）[2022-06-09]. https：//unesdoc.unesco.org/ark：/48223/pf0000366994.

[8] 中華人民共和國教育部.聯(lián)合國教科文組織正式發(fā)布國際人工智能與教育大會成果文件《北京共識——人工智能與教育》[EB/OL].（2019-08-28） [2022-06-09]. http：//www.moe.gov.cn/jyb_xwfb/gzdt_gzdt/s5987/201908/t20190828_396185.html.

[9] UNESCO. K-12 AI curricula： a mapping of government-endorsed AI curricula[EB/OL].（2022-02-16）[2022-06-04].https：//unesdoc.unesco.org/ark：/48223/pf0000380602.

[10] 楊宗凱，王俊，吳砥，等.發(fā)展智能教育學 推動教育可持續(xù)發(fā)展[J].電化教育研究，2022，43（12）：5-10，17.

[11] 趙磊磊，吳小凡，趙可云.責任倫理：教育人工智能風險治理的時代訴求[J].電化教育研究，2022，43（6）：32-38.

[12] 杜靜，黃榮懷，李政璇，周偉，田陽.智能教育時代下人工智能倫理的內(nèi)涵與建構(gòu)原則[J].電化教育研究，2019，40（7）：21-29.

[13] 張立國，劉曉琳，常家碩.人工智能教育倫理問題及其規(guī)約[J].電化教育研究，2021，42（8）：5-11.

[14] 沈苑，汪瓊.人工智能教育應用的偏見風險分析與治理[J].電化教育研究，2021，42（8）：12-18.

[15] 金玲.全球首部人工智能立法：創(chuàng)新和規(guī)范之間的艱難平衡[J].人民論壇，2022（4）：44-47.

[16] 宋婧.人工智能倫理之爭[N].中國電子報，2022-04-01（03）.

[17] 李曉明.論人工智能刑法規(guī)制中的技術(shù)規(guī)范[J].東方法學，2021（2）：54-68.

[18] 中華人民共和國中央人民政府.習近平向國際人工智能與教育大會致賀信[EB/OL].（2019-05-16） [2022-05-29]. http：//www.gov.cn/xinwen/2019-05/16/content_5392134.htm.

[19] 曠視.人工智能應用準則[EB/OL].（2019-07-18）[2022-05-31]. https：//baijiahao.baidu.com/s？id=1639361752623817286&wfr=spider &for=pc.

[20] LOUIS C L， MANION K M. Research methods in education [M]. 6th ed. London； Routledge， 2007：28-30.

[21] YANEER B Y. From big data to important information[J]. Complexity， 2016， 21（S2）：73-98.

[22] NORGAARD R B. Coevolutionary development potential[J]. Land economics， 1984， 60（2）：160-173.

[23] 祝智庭，韓中美，黃昌勤.教育人工智能（eAI）：人本人工智能的新范式[J].電化教育研究，2021，42（1）：5-15.

[24] 岳偉.論教育科學研究的跨學科交叉融合[J].中國教育科學（中英文），2022，5（1）：32-41.

[25] 童莉莉，張晨，黃榮懷，雷鳳宇，楊贊波.教育社會實驗：人工智能融入教育的研究新探索[J].中國電化教育，2022（3）：62-68.

Research on Technical Specifications of AI for Minors：

Theoretical Analysis and Research Approach—Research on Technical Specifications of AI for Minors （1）

WU Yonghe， ?GUO Shengnan， ?XU Qiuxuan， ?ZHENG Hao， ?YAN Huan

（Department of Education Information Technology， East China Normal University， Shanghai 200062）

[Abstract] In the era of artificial intelligence， how to coordinate the relationship between artificial intelligence and minors has become a crucial issue， and the formulation of technical specifications for artificial intelligence （AI） designed for minors is the key solution to this issue. ?Based on the national social science major project of "Research on AI Technical Specifications for Minors"， this paper theoretically explains the core content and research approach for developing the technical specifications of AI for minors. This paper comprises five parts： （1） the appeal of the age of AI for minors; （2） the analysis on the trend of AI governance for minors; （3） explanation and positioning of AI technical specifications; （4） the core content of the research; （5） the overall research approaches. The aim of this study is to help readers understand the focus and direction of the research on technical specifications of AI for minors， and provide theoretical guidance and reference for the future related research， ultimately contributing to resolving the coordination issues between AI and minors， and building a community with a shared future for mankind.

[Keywords] Artificial Intelligence; Technical Specifications; Minors; Core Competence; Application Supervision; Security Ethics