李新玲

最近，一款神奇的作業(yè)燈登場(chǎng)了。

它有兩個(gè)攝像頭，一個(gè)緊盯著孩子的作業(yè)本，另一個(gè)可以盯著孩子的面部表情。這樣在做作業(yè)的時(shí)候，如果孩子敢把“鳥”寫成“烏”，家長(zhǎng)哪怕在千里之外，仍能大喝一聲。孩子若想愣神兒，沒門兒;想揉揉眼睛玩玩筆，一句“集中注意力”保準(zhǔn)會(huì)扔過來。

可以理解，這款產(chǎn)品能給一些因?yàn)楣ぷ骱蜕钸h(yuǎn)離孩子的家長(zhǎng)提供慧眼，實(shí)現(xiàn)遠(yuǎn)程陪伴。不過，它也給那些“直升機(jī)”家長(zhǎng)增添了利器，不僅盯著人，也能盯著所有的小動(dòng)作，包括指尖、眼神。

憑我們的才智，這樣的產(chǎn)品肯定會(huì)被超越：可以再加一個(gè)攝像頭盯著孩子的腿腳，寫作業(yè)時(shí)雙腳必須并齊放在地面上，不許蹺二郎腿;頭上可以懸個(gè)錘子，發(fā)現(xiàn)走神，錘子立馬落下來。

人工智能應(yīng)用越來越多，在信息安全的前提下，交通導(dǎo)航、醫(yī)學(xué)診斷、移動(dòng)支付、藥物篩選等等，給我們帶來了太多福祉。疫情防控，人工智能也功不可沒。

從一個(gè)攝像頭變成兩個(gè)攝像頭，是不是創(chuàng)新暫且不論，關(guān)鍵是與人工智能嫁接，號(hào)稱人工智能助力教育的新產(chǎn)品，這就值得討論一下了，人工智能到底該如何助力教育？

浙江某地一所小學(xué)的學(xué)生，去年被戴上了腦機(jī)接口環(huán)。這個(gè)腦箍可以檢測(cè)腦電波，評(píng)判學(xué)生上課、寫作業(yè)時(shí)是否集中注意力，系統(tǒng)可以給注意力打分，分?jǐn)?shù)能實(shí)時(shí)傳輸?shù)嚼蠋煹碾娔X里，據(jù)說也會(huì)像考試成績(jī)排名一樣被發(fā)到家長(zhǎng)群里。

還有一款可以對(duì)學(xué)生課堂聽講情況全程監(jiān)控的產(chǎn)品，舉手3次、低頭8次、打瞌睡1次、趴桌子1次……一舉一動(dòng)、面部表情都能被記錄在案。

好在經(jīng)媒體報(bào)道后，浙江當(dāng)?shù)亟逃块T禁用了上述頭箍;上述第二個(gè)產(chǎn)品的開發(fā)公司也隨后發(fā)聲明說只是技術(shù)場(chǎng)景概念演示，否認(rèn)應(yīng)用。真要謝謝他們，不然，孩子上學(xué)戴上頭箍，放學(xué)回家用上作業(yè)燈，全天候、無死角，盡在大人掌握和干預(yù)之中。這不就是電影《楚門的世界》中，活生生的現(xiàn)實(shí)“小楚門”嗎，24小時(shí)都被監(jiān)控、直播。

如何培養(yǎng)出更多有創(chuàng)造力、想象力、敢于突破的杰出人才一直是我們的追問，也是目標(biāo)。一個(gè)人的成長(zhǎng)需要適度的空間，心理的成熟、心靈的豐富，都需要自我不斷探索嘗試。很多從試錯(cuò)、反思中得到的經(jīng)驗(yàn)更可貴。一直被作業(yè)、分?jǐn)?shù)捆綁，沒有一絲一毫的空間，也許會(huì)有一個(gè)好看的分?jǐn)?shù)，但難說會(huì)有陽光的心態(tài)。

有人生動(dòng)比喻，一匹從小只會(huì)拉磨的小馬，永遠(yuǎn)不會(huì)成為駿馬。

前兩年人臉識(shí)別技術(shù)剛剛開始應(yīng)用的時(shí)候，就有公園里的廁所安裝人臉識(shí)別設(shè)備，一刷臉給你一截手紙，你要想再多要一截，對(duì)不起，面子只能刷一次。若有特別需求，還真得找別人“借臉用一下”。人臉識(shí)別應(yīng)用場(chǎng)景很多，在新冠肺炎疫情期間，即使戴著口罩，有些攝像頭也能識(shí)別。

現(xiàn)在廁所廁紙也升級(jí)了，有的把二維碼印在地上，掃碼關(guān)注公號(hào)才能滑出一截手紙。這種推廣和營(yíng)銷，用在廁所里總是讓人覺得違和。

奇葩年年有，人工智能來了就特別多。

一些批量生產(chǎn)“優(yōu)雅罵人”語句的軟件橫空出世。這類軟件可以從文學(xué)名著中快速檢索、生成特定的罵人句子，語句雖不帶臟字卻惡意滿滿。這些軟件為網(wǎng)絡(luò)“噴子”提供了“裝滿大糞的炸彈”，中傷他人，污染網(wǎng)絡(luò)環(huán)境。

不斷迭代的科技，雙刃劍從來都是鋒利無比。有學(xué)者在科技與倫理的論述中，這樣形容“科學(xué)技術(shù)像一匹不斷飛馳的駿馬，那么倫理就像制約駿馬的韁繩。如果沒有倫理的規(guī)范、約束和引導(dǎo)，科技一味瘋狂發(fā)展很可能會(huì)把人類帶上不歸路?！?/p>

賀建奎對(duì)基因編輯技術(shù)濫用，被追究刑事責(zé)任，這就是韁繩起了作用。前些年瘦肉精、三聚氰胺、蘇丹紅同樣如此。

倫理具有一定的穩(wěn)定性，面向不確定性增多的未來，科技要給人類提供什么幫助？科技的限度和禁區(qū)在哪里？從以往來看，如果預(yù)先設(shè)置一些高于現(xiàn)行要求的倫理規(guī)范，有機(jī)會(huì)消除一些技術(shù)帶來的不確定性危害。

去年，幾家研究機(jī)構(gòu)共同推出了《人工智能北京共識(shí)》，提出人工智能的研發(fā)、使用、治理，應(yīng)該遵循有益于人類命運(yùn)共同體構(gòu)建和社會(huì)發(fā)展的15條原則。例如“善用與慎用原則”，要對(duì)人工智能應(yīng)用可能帶來的潛在影響具備充分認(rèn)識(shí)，避免誤用、濫用，以最大化人工智能帶來的益處、最小化其風(fēng)險(xiǎn)。

之后科技部也對(duì)外公布了《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，提出了和諧友好、公平公正、包容共享、尊重隱私、安全可控、敏捷治理等八項(xiàng)原則。

幾乎在同時(shí)間，歐盟委員會(huì)也發(fā)布了人工智能倫理準(zhǔn)則，并宣布同時(shí)啟動(dòng)該準(zhǔn)則的試行階段。據(jù)統(tǒng)計(jì)，目前各國(guó)政府、各類組織、研究機(jī)構(gòu)和產(chǎn)業(yè)界頒布的有關(guān)人工智能倫理準(zhǔn)則提案已經(jīng)有幾十份。

不過，也可以看出，這些準(zhǔn)則大多只是原則性、倡議性的，缺乏可操作性，也缺乏法律上的約束性。

因此，如何善用人工智能，還是要靠科研人員的自我約束。作業(yè)神燈的發(fā)明者，想想自己小時(shí)候，是不是愿意被家長(zhǎng)、老師無時(shí)無刻盯著就行了。

當(dāng)然，無論是阿拉丁神燈還是寶蓮燈，無論是金箍還是銀箍，產(chǎn)品經(jīng)理肯定是考察了市場(chǎng)，看到了需求，推廣團(tuán)隊(duì)也會(huì)培育市場(chǎng)以獲得收益。但是這種收益的埋單者是誰，只是家長(zhǎng)花錢嗎？非也，損失的有可能是一群人的未來。

被算法24小時(shí)罩起來的孩子，可能會(huì)非常聽話，寫作業(yè)時(shí)遇到難題也不會(huì)齜牙咧嘴。如果都這樣，倒像一批批小機(jī)器人，那么未來這個(gè)世界到底是誰的世界呢？

電影《星球大戰(zhàn)》里，那顆被稱為“終極武器”的死星，代表了技術(shù)雙面中的“惡”，這個(gè)有兩個(gè)重力場(chǎng)的巨大怪物，會(huì)讓克隆人慢慢減少人性，讓所有東西都在機(jī)器控制之下。

不說那么遠(yuǎn)的科幻世界，近幾年，商業(yè)公司最感興趣的信息，已經(jīng)從個(gè)人的生日、電話、住址變成了指紋、人臉特征、虹膜等。南京一家售樓處采集看房者人臉信息，有自我保護(hù)意識(shí)的買房人戴著鋼盔看房。家長(zhǎng)放心把自家孩子的臉通過神燈交給一家公司？

近幾年熱熱鬧鬧的人工智能，已經(jīng)有60多年歷史?，F(xiàn)在公認(rèn)的說法是1956年達(dá)特茅斯學(xué)院夏季研討會(huì)（人工智能的起源事件）的召集者麥卡錫（JohnMcCarthy）想出來的。有人考證，說這是誤讀，因?yàn)辂溈ㄥa晚年承認(rèn)這個(gè)詞最早是從別人那里聽來的，但記不清是誰了。如今當(dāng)事人大都已仙逝，誰發(fā)明了這個(gè)詞恐成世紀(jì)懸案。不過，人工智能花里胡哨的應(yīng)用，還能遠(yuǎn)程管中國(guó)小孩寫字多一筆少一筆，應(yīng)該是這些先賢們沒有想到的。