龔超

2021年9月25日，國家新一代人工智能治理專業(yè)委員會發(fā)布了《新一代人工智能倫理規(guī)范》（以下簡稱《倫理規(guī)范》），旨在將倫理道德融入人工智能全生命周期，為從事人工智能相關(guān)活動的個人與機構(gòu)提供倫理指引?！秱惱硪?guī)范》提出了增進人類福祉、促進公平公正、保護隱私安全、確保可控可信、強化責(zé)任擔(dān)當(dāng)、提升倫理素養(yǎng)等6項基本倫理要求，同時也提出了人工智能管理、研發(fā)、供應(yīng)、使用等特定活動的18項具體倫理要求。

然而，據(jù)筆者調(diào)研發(fā)現(xiàn)，倫理往往是中小學(xué)教育中最容易被忽視的內(nèi)容。以幾家不同出版社出版的高中人工智能教材為例，涉及人工智能倫理的內(nèi)容平均篇幅占比不足5%，少數(shù)教材中對倫理甚至只字未提。中國的人工智能倫理研究任重道遠，筆者結(jié)合相關(guān)文獻資料及自身給中小學(xué)師生培訓(xùn)經(jīng)驗，淺析中小學(xué)人工智能倫理教學(xué)，借以拋磚引玉，望有更多相關(guān)人士建言獻策，推動中國中小學(xué)人工智能倫理教育的發(fā)展。

雙輪驅(qū)動文理兼修，不可忽視的人工智能倫理

人工智能，作為一門增強人類改造自然、治理社會的新興技術(shù)，涉及諸多人與社會價值的問題。相對于英、美、日、韓等國家而言，中國的人工智能倫理研究存在一定的滯后性，這與中國人工智能其他領(lǐng)域研究的快速發(fā)展已經(jīng)不相匹配。毫不夸張地說，離開了倫理的約束，人工智能好比一匹脫韁野馬，風(fēng)險將大大增加。

倫理是人工智能知識體系中不可分割的組成部分，也是中小學(xué)人工智能教育中最為重要的內(nèi)容之一。以社會主義核心價值觀為指導(dǎo)，強化人工智能倫理教育，從小樹立正確的價值觀是中小學(xué)人工智能教育的重中之重。要打造不同學(xué)段進階、課程體系完善、知識內(nèi)容豐富、教學(xué)形式新穎的人工智能教學(xué)體系，人工智能倫理教育必不可少。

了解什么是人工智能倫理，要先從認(rèn)識機器倫理開始。機器倫理的出現(xiàn)早于人工智能，學(xué)界通常認(rèn)為，米切爾·安德森等學(xué)者最早提出了機器倫理的概念，即如何關(guān)注機器的倫理屬性。2004年《走向機器倫理》一文的發(fā)表，為機器倫理學(xué)奠定了理論基礎(chǔ)。其實，人們對機器引發(fā)的倫理問題很早就有關(guān)注。比如非常知名的機器人三定律，是科幻作家艾薩克·阿西莫夫在其1942年的短篇小說《轉(zhuǎn)圈圈》中提出的?？刂普搫?chuàng)始人諾伯特·維納在1950年出版的《人有人的用處》一書中，也道出了一些機器帶給人類風(fēng)險的思考。

正是因為人工智能涉及人類智能的某些特征，人們在與其交互的過程中不可避免會引發(fā)倫理方面的風(fēng)險。因此將人工智能技術(shù)的發(fā)展與倫理問題進行同步討論是十分必要的，這點在中小學(xué)人工智能教育中尤為重要。

巧用科技影視作品，思考強人工智能倫理問題

一些知名的學(xué)者、企業(yè)家均表達過對人工智能引發(fā)人類災(zāi)難的擔(dān)心。斯蒂芬·威廉·霍金曾說，人工智能研發(fā)的成功有可能成為人類歷史上最大的事件，但是它也可能成為人類文明的終結(jié)，除非我們學(xué)會如何避免危險。比爾·蓋茨就曾公開發(fā)表言論，擔(dān)心幾十年后人工智能會強大到足以令人擔(dān)憂的地步。埃隆·馬斯克也說過，人工智能是關(guān)系人類文明存亡的最大威脅，是汽車事故、飛機墜毀、濫用藥物或劣質(zhì)食品都比不了的威脅。

不少學(xué)者還擔(dān)心另一個議題，即奇點的來臨。奇點是一個臨界點，一旦超過該點，人工智能就會對人類產(chǎn)生巨大影響。奇點一說并非一蹴而就，計算機之父馮·諾伊曼在與控制論創(chuàng)始人諾伯特·維納談話中受到啟發(fā)，引入“技術(shù)奇點”。2005年，人工智能專家瑞·庫茨維爾在其《奇點臨近》一書中提出了2045年機器智能將超過人類智能，一時間引發(fā)了人們對人工智能倫理的廣泛討論。

其實，這些言論都屬于強人工智能討論范疇，也就是當(dāng)人工智能擁有了自我意識后引發(fā)的一些倫理風(fēng)險問題。從目前的發(fā)展來看，強人工智能引發(fā)的倫理問題仍然處于假設(shè)階段，然而由于一些文學(xué)影視作品帶來的沖擊激發(fā)了人們對于未來人工智能發(fā)展的無限遐想與擔(dān)憂，這種憂慮甚至蔓延到了中小學(xué)。比如，根據(jù)對教師的調(diào)研可知：小學(xué)高年級的一些學(xué)生開始擔(dān)心人工智能會取代未來的工作甚至毀滅人類，因此在學(xué)習(xí)、生活上產(chǎn)生了消極心理;還有一些學(xué)生認(rèn)為未來的人工智能會包辦一切，因此無須好好學(xué)習(xí)。這些誤區(qū)都需要加以糾正。

針對強人工智能引發(fā)的倫理問題，教師可以通過結(jié)合豐富的影視作品片段，如《阿凡達》《她》《機器姬》《機器崩壞》《超驗駭客》等，詮釋影片中技術(shù)引發(fā)的倫理問題，甚至可以讓學(xué)生們參與討論，切身體會未來科技下的倫理問題。

算法歧視層出不窮，如何思考背后倫理問題

算法歧視是弱人工智能范疇下備受熱議的倫理問題之一。近幾年，運用人工智能導(dǎo)致偏見的問題屢見不鮮。早在2015年，Google Photos使用的圖像分類器就曾將一名黑人女性“歸為”大猩猩類別。無獨有偶，2020年，有Facebook用戶在觀看完某黑人的視頻時，收到了是否繼續(xù)觀看靈長類動物視頻的信息。

除了種族歧視外，人工智能技術(shù)中還存在著一定程度的性別歧視。比如一些學(xué)者指出，像IBM、微軟以及亞馬遜等公司，在利用人工智能處理海量簡歷進行打分篩選時，對女性應(yīng)聘者產(chǎn)生了嚴(yán)重的偏見。另外，在廚房工作的男性，也被人工智能識別成了女性。

當(dāng)然，人工智能產(chǎn)生的“歧視”問題遠不止這些，比如價格歧視、身份歧視、就業(yè)歧視、教育歧視、信貸歧視等，層出不窮。教師可以帶著學(xué)生一起思考并討論這些由人工智能歧視引發(fā)的倫理問題。一方面，某些人工智能算法的不可解釋性制約了人工智能倫理的研究與發(fā)展，從而催生了當(dāng)下一個熱門概念——可解釋的AI（Explainable AI，簡稱XAI）。另一方面，很多倫理的偏見也產(chǎn)生在數(shù)據(jù)環(huán)節(jié)，而有關(guān)數(shù)據(jù)收集、整理與分析等相關(guān)知識，在中小學(xué)階段也是比較容易被忽視的內(nèi)容之一。

比如針對某算法將黑人照片“美化”成白人照片，圖靈獎得主楊立昆認(rèn)為這是數(shù)據(jù)的偏差所致。麻省理工學(xué)院研究人員喬伊·博拉姆維尼認(rèn)為，人工智能是建立在數(shù)據(jù)基礎(chǔ)上的，數(shù)據(jù)反映了我們的歷史，過去的不平等一直存在，人工智能很容易受到數(shù)據(jù)的偏見影響，因此她創(chuàng)立了算法正義聯(lián)盟（Algorithmic Justice League），旨在挑戰(zhàn)人工智能帶來的偏見。2016年，微軟曾推出人工智能聊天機器人Tay（設(shè)定為一個什么都不懂的19歲美國女孩）向線上的用戶互動學(xué)習(xí)，然而不到一天時間，微軟就關(guān)閉了該服務(wù)。原因是網(wǎng)上的惡意言論（數(shù)據(jù)）將其徹底“教”壞，成為一個飆臟話和種族歧視的“不良少女”。

隱私保護不容忽視，提升自我安全防范意識

大數(shù)據(jù)往往被稱為信息時代的石油。人工智能能夠再度崛起，一個重要原因就是得益于大數(shù)據(jù)。然而，大數(shù)據(jù)收集與分析帶來的諸如隱私權(quán)等問題越來越被重視。以人臉識別為例，《信息安全技術(shù)個人信息安全規(guī)范》明確指出指紋、聲紋以及面部識別等個人生物識別信息屬于個人敏感信息。因此在中小學(xué)階段，一定要教育學(xué)生學(xué)會保護自己的敏感信息，避免被他人擅自采集。像照片中V字手，又或是娛樂App中上傳人臉等，都存在個人敏感信息泄露的風(fēng)險。

比如，中小學(xué)教師在課堂上展示換臉等人工智能技術(shù)帶來的強大功能時，也應(yīng)該將deepfake等技術(shù)帶來的危害一并告知學(xué)生。比如網(wǎng)上流出的某國總統(tǒng)發(fā)言的視頻，其實是某大學(xué)研究團隊“偽造”的，利用人工智能技術(shù)可以做到偽造人物的發(fā)音與嘴唇都嚴(yán)絲合縫。這就是人工智能技術(shù)雙刃劍的體現(xiàn)，在其推動社會發(fā)展的同時，我們更要思考人工智能會帶來哪些不良的影響。

另外，在中小學(xué)生掌握人工智能技能的同時，教師還要教育他們提升倫理責(zé)任意識，切勿做一些違反法律或倫理準(zhǔn)則的事情。近幾年，國內(nèi)時有發(fā)生中學(xué)生利用技術(shù)手段非法獲取信息，或是被不法分子利用從而釀成大禍的事件，這與倫理教育的缺失也存在一定的關(guān)系。

很多中小學(xué)教師感慨在人工智能倫理方面沒有太多內(nèi)容可以教授，事實并非如此。除了上述問題外，人工智能倫理中的電車?yán)Ь?、控制?quán)歸屬、責(zé)任擔(dān)當(dāng)、身份認(rèn)同、公平公正等話題，都是人工智能倫理教育需要進一步探討的問題。

中小學(xué)人工智能教育中，不僅要教授人工智能的知識、訓(xùn)練人工智能的技能，更要隨時進行倫理教育，讓人工智能知識技能與倫理雙輪驅(qū)動，讓學(xué)生認(rèn)識到科技帶來的利與弊，從小樹立正確的價值觀，培養(yǎng)科技向善的意識。