于平
開心3次,厭惡5次,舉手10次,閱讀11次,聽講6次,玩手機3次,睡覺1次……中國藥科大學(江蘇南京)的學生們沒有想到,自己在教室里的一舉一動會被人臉識別系統監(jiān)視。近日,該校試水的人臉識別系統成了社會熱議的焦點。
幾乎與此同時,另一則新聞也備受關注。南京信息工程大學正與華為合作開展頂層設計,實施“云中信大”智慧校園三年行動計劃。方案顯示,該校將利用大數據分析包括上網時長、時段、網站在內的學生上網行為數據,此外還包括學生的消費數據、成績數據、社群數據等等。
這兩所高校的做法,并非個別。最近幾年,人臉識別、大數據等高科技進入高校,已愈來愈普遍。由于這些技術的應用,涉及數據安全和個人隱私等敏感的權利問題,因而每每引發(fā)爭議的波瀾。
不可否認,人臉識別、大數據等高科技手段,對于改善社會治理有著相當積極的作用。比如,人臉識別技術可能幫助打拐,根據兒時照片就能精確識別已長大的被拐對象。再比如,一些城市社區(qū)長期為高空拋物致人傷亡事件所困擾,通過AI+視頻監(jiān)控技術,可以大大增強對高空拋物行為的監(jiān)控效能。不過,這些高科技應用于高校管理中是否合適,此類技術手段的使用邊際應當如何界定,依然是一個值得探討的問題。
應當承認,高校引入這些高科技手段,有著良好的初衷。校園管理需要維護穩(wěn)定的秩序,有效約束學生的違紀行為。將高科技應用于校園安保、考勤監(jiān)督或者紀律管理中,不僅效果立竿見影,提升了管理效率和精確性,而且能大大節(jié)約人力和資源的投入。
不過,高科技手段的某些應用場景,很可能與學生的合法權利相沖突。如果說,使用人臉識別技術對學生考勤進行管理,并未違反正當性原則。那么,將此類技術運用于監(jiān)控學生的課堂表現,甚至涵蓋學生的種種行為細節(jié),恐怕就有過度濫用和侵犯隱私之嫌,也難以被大部分學生所接受。同樣,使用大數據技術對學生消費數據、成績數據、社群數據等進行分析,也有可能引發(fā)隱私被泄露、數據被濫用等風險。
人臉識別、大數據等高科技手段,本身性質是中性的。但是,這些手段用向何處、如何使用,其結果往往會有巨大的差別。有些時候,良好的愿望未必會結出善果,甚至會走向美好初衷的反面。因而,高科技要真正實現為人類服務的目標,進而提升民眾福祉,促進社會的進步,需要正確的價值追求加以引領,也需要明晰的法律規(guī)范進行約束。
在不少國家,由于人臉識別等AI技術的快速發(fā)展和廣泛應用不斷引起爭議,相關立法已提上日程。比如,歐盟正在計劃一項規(guī)范人臉識別數據使用的立法,將賦予所有歐洲居民以明確的決定權,限制公司和公共機構“不加區(qū)分地使用人臉識別技術”。歐洲居民將有權“知道人臉識別數據何時被使用”,即使有例外情況,也將處于“嚴格限制”之下,以確保適當使用。再比如,美國國會于今年5月召開了專門的聽證會,對亞馬遜以及其他公司提供的人臉識別技術所帶來的影響展開分析。民主黨和共和黨兩黨一致認為,現在必須認真對待該項技術的運用后果,未來有可能起草相應的監(jiān)管法律。
在我國,以大數據、人工智能等為關鍵詞的科技新時代正撲面而來,相關的立法同樣需要與時俱進。通過立法,將個人生物信息權作為重要的基本權利加以對待,對于相關行業(yè)設立倫理審查機制,如此才能最大限度避免人臉識別等高科技所帶來的倫理和法律爭議,有效防范技術手段的濫用。
令人欣慰的是,人臉識別、大數據等高科技進入高校所引發(fā)的焦慮,已經引起相關部門的重視。教育部科學技術司近期已明確表示,對于人臉識別技術的應用,要加以限制和管理,希望學校非常慎重地使用這些技術軟件,教育部已經組織專家對此展開論證研究。
總而言之,不妨將人臉識別等技術進高校所引發(fā)的爭議,作為推動相關立法的契機。如此,才是對公眾焦慮和關切的最好疏導和回應。