陳曦

【摘要】以大數(shù)據(jù)和人工智能為代表的智能化逐漸進(jìn)入各行各業(yè)，一方面，這極大地提高了社會生產(chǎn)力;另一方面，智能化時(shí)代的技術(shù)創(chuàng)新為各行各業(yè)帶來了革命性改變。但當(dāng)前智能化時(shí)代的數(shù)據(jù)和算法并不能將現(xiàn)實(shí)世界“劇本化”，高度智能化的市場具有“戲劇性”，甚至這些智能技術(shù)還會帶來風(fēng)險(xiǎn)。因此，管理者需提升自身數(shù)據(jù)素養(yǎng)和智能素養(yǎng)，轉(zhuǎn)變管理方式;企業(yè)需建立健全行業(yè)技術(shù)標(biāo)準(zhǔn)，建立技術(shù)安全防控體系和中斷機(jī)制;政府需加快法律法規(guī)設(shè)立進(jìn)程，制定政策對沖風(fēng)險(xiǎn)。只有管理者、企業(yè)和政府多方配合，才能建立完善的治理體系，才能更好地利用技術(shù)防控風(fēng)險(xiǎn)。

【關(guān)鍵詞】智能化? 技術(shù)創(chuàng)新? 風(fēng)險(xiǎn)挑戰(zhàn)? 規(guī)范管理

【中圖分類號】TP18? ? ? ? ? ? ? ? ? ? ? ? ? ? ?【文獻(xiàn)標(biāo)識碼】A

【DOI】10.16619/j.cnki.rmltxsqy.2019.21.001

引言

隨著大數(shù)據(jù)、云計(jì)算、物聯(lián)網(wǎng)和人工智能等技術(shù)的發(fā)展，人類社會從信息化時(shí)代進(jìn)入到智能化時(shí)代。科技創(chuàng)新和科技革命是社會發(fā)展的強(qiáng)大推動(dòng)力，有學(xué)者認(rèn)為，信息、數(shù)據(jù)、可再生能源等核心科技催生了新一輪的科技革命浪潮，促使人類進(jìn)入工業(yè)智能化時(shí)代，成為第三次工業(yè)革命的顯著標(biāo)志，并且與前兩次工業(yè)革命不同的是，前兩者是資本對體力勞動(dòng)的替代，而后者從機(jī)器替代體力勞動(dòng)到人工智能替代腦力勞動(dòng)，這是一次質(zhì)的飛躍（賈根良，2016）。智能化廣泛應(yīng)用到各行各業(yè)，使得經(jīng)濟(jì)結(jié)構(gòu)發(fā)生了深刻變化，同時(shí)人類社會逐步由體能經(jīng)濟(jì)過渡到智能經(jīng)濟(jì)，即是指以智能為基礎(chǔ)并依靠智能產(chǎn)生經(jīng)濟(jì)效益的經(jīng)濟(jì)。區(qū)別于體能經(jīng)濟(jì)主要依靠體力創(chuàng)造的勞動(dòng)密集型模式，智能經(jīng)濟(jì)借助算法、數(shù)據(jù)和人工智能等設(shè)備把體力和智力充分融合，生產(chǎn)出高知識附加值的產(chǎn)品和服務(wù)（穆良平和姬振天，2017）?！爸悄芑瘯r(shí)代”是與“智能經(jīng)濟(jì)”“第三次工業(yè)革命”“人工智能大數(shù)據(jù)時(shí)代”“智能社會”等概念交叉或重疊的術(shù)語，都從人工智能發(fā)展的視角出發(fā)，強(qiáng)調(diào)人才智能和設(shè)備智能的統(tǒng)一、工業(yè)社會和信息社會的融合（陳振明，2015）。

技術(shù)創(chuàng)新和發(fā)展是智能化時(shí)代的基石，而大數(shù)據(jù)和人工智能作為該時(shí)代最重要的兩項(xiàng)技術(shù)，為各行各業(yè)智能化的全面變革提供了強(qiáng)有力的技術(shù)保障。數(shù)據(jù)的大規(guī)?？捎煤腿斯ぶ悄芩惴ǖ目焖龠M(jìn)步，正在不斷改變著人們的生活方式。例如，在醫(yī)學(xué)領(lǐng)域，機(jī)器學(xué)習(xí)技術(shù)正致力于解決復(fù)雜的診斷難題，使用大量患者數(shù)據(jù)訓(xùn)練計(jì)算機(jī)自主學(xué)習(xí)，從而為疾病診斷作出預(yù)測（Challen et al.， 2019）;在商業(yè)領(lǐng)域，大數(shù)據(jù)、算法和自動(dòng)化決策交織在一起，通過收集大量消費(fèi)者行為數(shù)據(jù)，企業(yè)可以構(gòu)建自身的營銷模型，從大數(shù)據(jù)分析中挖掘企業(yè)獲取競爭優(yōu)勢的獨(dú)特資源（Erevelles， Fukawa， & Swayne， 2016）。如同技術(shù)進(jìn)步一樣，智能化也是一把雙刃劍，雖然智能化的便利性無處不在，但同時(shí)也應(yīng)當(dāng)關(guān)注與其一同產(chǎn)生的風(fēng)險(xiǎn)和挑戰(zhàn)，如算法的日益普及帶來了一系列的基本問題，涉及數(shù)據(jù)治理、信息隱私、自動(dòng)化決策的法律和倫理框架，算法和自動(dòng)化決策帶來的偏見、不公和透明性問題（Olhede & Wolfe， 2018），人工智能算法可能帶來的不確定問題等（張成崗，2018）。本文從智能化時(shí)代技術(shù)創(chuàng)新與發(fā)展出發(fā)，以數(shù)據(jù)技術(shù)和人工智能技術(shù)為例，論述智能化給各行各業(yè)帶來的革命性改變，同時(shí)指出了可能產(chǎn)生的市場風(fēng)險(xiǎn)和挑戰(zhàn)，在此基礎(chǔ)上提出了智能化時(shí)代新的規(guī)范和管理策略。

智能化時(shí)代的技術(shù)創(chuàng)新與發(fā)展

技術(shù)創(chuàng)新作為智能化時(shí)代的基石，一直是學(xué)界和業(yè)界關(guān)注的焦點(diǎn)。有學(xué)者認(rèn)為，大數(shù)據(jù)和人工智能是智能化時(shí)代最主要的技術(shù)支撐，對社會生產(chǎn)方式、生活方式，甚至娛樂方式都產(chǎn)生了深遠(yuǎn)而巨大的影響（孫偉平，2017）。近年來，我們從各種傳感器設(shè)備或應(yīng)用程序中收集數(shù)據(jù)的能力有了顯著提高，而算法為進(jìn)一步理解數(shù)據(jù)提供了支持，算法的理論和實(shí)踐催生了現(xiàn)代的數(shù)據(jù)科學(xué)學(xué)科，它是統(tǒng)計(jì)學(xué)、計(jì)算機(jī)科學(xué)和數(shù)學(xué)的混合體（Olhede & Wolfe， 2018）。將從數(shù)據(jù)科學(xué)與大數(shù)據(jù)技術(shù)、算法與人工智能兩個(gè)方面來分析智能時(shí)代的技術(shù)創(chuàng)新和進(jìn)步。

數(shù)據(jù)科學(xué)與大數(shù)據(jù)技術(shù)。數(shù)據(jù)科學(xué)的研究范疇是信息技術(shù)和數(shù)據(jù)技術(shù)的集合，社交網(wǎng)絡(luò)數(shù)據(jù)挖掘、云計(jì)算、數(shù)據(jù)可視化技術(shù)等相關(guān)技術(shù)和工具構(gòu)成了數(shù)據(jù)科學(xué)研究的重要內(nèi)容。Baumer認(rèn)為數(shù)據(jù)科學(xué)是一個(gè)跨學(xué)科的領(lǐng)域，它利用數(shù)學(xué)、統(tǒng)計(jì)學(xué)、計(jì)算機(jī)科學(xué)的知識從日益復(fù)雜的大規(guī)模數(shù)據(jù)中通過多種設(shè)定模型抽取到有用信息（Baumer， 2015），也有學(xué)者提出數(shù)據(jù)科學(xué)包括信號處理、數(shù)學(xué)、概率模型、機(jī)器學(xué)習(xí)、計(jì)算機(jī)編程、統(tǒng)計(jì)、數(shù)據(jù)工程、模式識別和學(xué)習(xí)、數(shù)據(jù)可視化和不確定性建模等技術(shù)元素（de Moraes & Martinez， 2015）。數(shù)據(jù)科學(xué)的快速發(fā)展和廣泛應(yīng)用，不斷賦予我們新的想象力和探索能力。谷歌開發(fā)的AlphaGO利用海量數(shù)據(jù)進(jìn)行訓(xùn)練，成為圍棋冠軍就是一個(gè)很好的例子，AlphaGo采用的算法固然重要，但如果沒有大量數(shù)據(jù)作為訓(xùn)練和學(xué)習(xí)的材料，再好的算法也是無米之炊，數(shù)據(jù)如同水、電、網(wǎng)一樣已經(jīng)成為智能化時(shí)代不可或缺的基礎(chǔ)物資。

大數(shù)據(jù)技術(shù)有一項(xiàng)核心功能就是預(yù)測，大數(shù)據(jù)預(yù)測在新聞傳播、影視娛樂、金融投資、農(nóng)情監(jiān)測等方面得到了快速的推廣與應(yīng)用。美國學(xué)者通過“搜集1990年到2013年間166個(gè)國家的報(bào)紙文章，形成大數(shù)據(jù)后進(jìn)行，來分析預(yù)測是否會發(fā)生戰(zhàn)爭”（Chadefaux， 2014）;在大數(shù)據(jù)文本分析和挖掘方面，有學(xué)者在用戶生成內(nèi)容挖掘的基礎(chǔ)上提出了一個(gè)產(chǎn)品缺陷發(fā)現(xiàn)的綜合文本分析框架，并在汽車和電子消費(fèi)領(lǐng)域展示了此框架的有用性（Abrahams， Fan， Wang， Zhang， & Jiao，? 2015）;另外，在網(wǎng)絡(luò)信息空間的內(nèi)容分析方面，2011年美國和英國的三位學(xué)者合作通過近1000萬條推文作為樣本展開網(wǎng)民情感研究，預(yù)測股市漲跌（Bollen， Mao， & Zeng， 2011）;亞馬遜構(gòu)建了一個(gè)智能化的圖書銷售系統(tǒng)，不斷收錄海量用戶的搜索數(shù)據(jù)，該系統(tǒng)可以精準(zhǔn)地為讀者推薦可能感興趣的圖書;沃爾瑪通過分析銷售數(shù)據(jù)，了解顧客購物習(xí)慣，得出適合搭配一起銷售的商品，同時(shí)可以從用戶的購買行為中對顧客進(jìn)行市場細(xì)分，為其提供個(gè)性化的服務(wù)，這種分析方法和營銷手段已經(jīng)被各類電子商務(wù)平臺廣泛采用。

經(jīng)濟(jì)學(xué)視角下，大數(shù)據(jù)及數(shù)據(jù)科學(xué)的快速發(fā)展和廣泛應(yīng)用，擴(kuò)展了人的理性，降低了交易成本，減少了機(jī)會主義行為，極大地促進(jìn)了市場經(jīng)濟(jì)的進(jìn)步和發(fā)展（程承坪和鄧國清，2018）;管理學(xué)視角下，數(shù)據(jù)挖掘及大數(shù)據(jù)預(yù)測為商業(yè)智能化提供了技術(shù)支持和輔助決策，在一定程度上也使得組織更加扁平化和去中心化（Jarrahi，? 2018）;統(tǒng)計(jì)學(xué)視角下，數(shù)據(jù)科學(xué)和數(shù)據(jù)技術(shù)影響著統(tǒng)計(jì)方法發(fā)生了改變，包括以下七個(gè)方面：新信息源的涌現(xiàn)、高維可視化、多個(gè)測試問題、異質(zhì)性分析、自動(dòng)模型選擇、稀疏模型的估計(jì)方法、用統(tǒng)計(jì)模型合并網(wǎng)絡(luò)信息（Galeano & Pena， 2019）。

算法與人工智能。和數(shù)據(jù)一樣，算法也是人工智能的核心，在智能化時(shí)代算法的功能不僅僅是在于對數(shù)據(jù)進(jìn)行處理并按照處理的結(jié)果進(jìn)行決策，而是進(jìn)一步利用數(shù)據(jù)進(jìn)行機(jī)器學(xué)習(xí)，經(jīng)過自我訓(xùn)練和深度學(xué)習(xí)的算法得到了迭代和發(fā)展。例如，有學(xué)者將人工智能算法應(yīng)用到圖像識別領(lǐng)域，運(yùn)用機(jī)器學(xué)習(xí)的方式對蟻群算法進(jìn)行訓(xùn)練，結(jié)果表明優(yōu)化后的蟻群算法對圖像分割的效果更佳（Xin & Wang， 2019）。在商業(yè)領(lǐng)域中，算法交易在市場中的影響也越來越大，有學(xué)者通過構(gòu)建“社會嵌入式多主體仿真模型”，進(jìn)行仿真研究，結(jié)果表明算法交易確實(shí)在市場交易中節(jié)約了交易成本，同時(shí)也控制了交易風(fēng)險(xiǎn)，降低了市場波動(dòng)和帶來更好的流動(dòng)性（王宇超等，2014）。有學(xué)者以淘寶網(wǎng)為例，研究了電子商務(wù)中服務(wù)推薦的協(xié)同過濾算法，研究表明基于用戶頻率相似度的推薦方法非常適合在線服裝推薦，共現(xiàn)矩陣約簡方法是提高推薦性能的有效方法（Hu， Li， Wei， & Zhou， 2019）。事實(shí)上，作為人工智能最重要的兩項(xiàng)技術(shù)，算法和大數(shù)據(jù)的融合，進(jìn)一步促進(jìn)了人工智能的發(fā)展。

如今，人工智能在物流行業(yè)、云會計(jì)、互聯(lián)網(wǎng)金融、媒體行業(yè)、醫(yī)療行業(yè)、軍工企業(yè)等均有廣泛應(yīng)用。譬如，淘寶的核心引擎就是人工智能的運(yùn)用，它將多種復(fù)雜的算法融合在一起，每天進(jìn)行海量數(shù)據(jù)自動(dòng)處理，人工智能同樣廣泛運(yùn)用于菜鳥驛站的物流系統(tǒng)中;谷歌翻譯運(yùn)用機(jī)器智能的方法代替人的翻譯。有學(xué)者還進(jìn)一步研究了人工智能在公共管理中的應(yīng)用，研究表明，人工智能的使用擴(kuò)展了公共數(shù)據(jù)的處理和分析能力，擴(kuò)大了公眾影響力（Wirtz & Muller， 2019）;在醫(yī)療領(lǐng)域，有學(xué)者對人工智能驅(qū)動(dòng)的醫(yī)療初創(chuàng)企業(yè)進(jìn)行了及時(shí)而關(guān)鍵的分析，將人工智能解決方案引入市場，從而提出了一種為人工智能醫(yī)療初創(chuàng)企業(yè)設(shè)計(jì)商業(yè)模式的方法（Garbuio & Lin，? 2019）。

上文主要從技術(shù)創(chuàng)新和發(fā)展的角度討論了數(shù)據(jù)科學(xué)、大數(shù)據(jù)、算法和人工智能給各行各業(yè)帶來的福祉和便利，這些技術(shù)的發(fā)展極大地促進(jìn)了人類和社會的進(jìn)步，但這意味著智能時(shí)代一切都可以被量化和預(yù)測嗎？商業(yè)社會中的不確定性和風(fēng)險(xiǎn)都可以被模型和算法預(yù)測、降低，甚至規(guī)避嗎？再也不會出現(xiàn)“戲劇性”了嗎？事實(shí)上，智能化時(shí)代這些革命性的創(chuàng)新在一定程度上確實(shí)降低了信息不對稱，節(jié)約了交易費(fèi)用，甚至能夠預(yù)測和規(guī)避風(fēng)險(xiǎn)。然而，數(shù)據(jù)、算法、機(jī)器學(xué)習(xí)和人工智能等技術(shù)在邏輯基礎(chǔ)和實(shí)際應(yīng)用中均存在著巨大的不確定性，且當(dāng)前的智能化還無法將錯(cuò)綜復(fù)雜的現(xiàn)實(shí)世界完全“劇本化”?；蛘哒f，現(xiàn)實(shí)世界并不一定會按照數(shù)據(jù)和算法計(jì)算出的既定程序運(yùn)行，市場和技術(shù)共同參與了“戲劇性”的制作。因此，充分利用技術(shù)解放生產(chǎn)力的同時(shí)，也不能忽視智能化時(shí)代的風(fēng)險(xiǎn)和挑戰(zhàn)，如數(shù)據(jù)隱私的泄露、算法偏見、社會不公等。

智能化時(shí)代的風(fēng)險(xiǎn)和挑戰(zhàn)

根據(jù)國際數(shù)據(jù)公司（IDC）最新的支出指南，2019年全球人工智能（AI）系統(tǒng)支出預(yù)計(jì)將達(dá)到358億美元，比2018年增長44.0%。全球大數(shù)據(jù)和商業(yè)分析（BDA）解決方案的收入預(yù)計(jì)今年將達(dá)到1891億美元，比2018年增長12.0%。智能化時(shí)代創(chuàng)造的社會效益得到了廣泛認(rèn)可，同時(shí)這場技術(shù)變革帶來的社會風(fēng)險(xiǎn)也引起了學(xué)術(shù)界和IT界的關(guān)注和討論，數(shù)據(jù)風(fēng)險(xiǎn)、算法風(fēng)險(xiǎn)、可能引起的失業(yè)等問題亟待解決，下面從技術(shù)、社會和管理三個(gè)角度對智能化時(shí)代所面臨的風(fēng)險(xiǎn)和挑戰(zhàn)進(jìn)行討論，從而進(jìn)一步為降低風(fēng)險(xiǎn)和應(yīng)對挑戰(zhàn)尋找可能的解決方案。

技術(shù)視角。數(shù)據(jù)技術(shù)和算法技術(shù)在推動(dòng)智能化快速發(fā)展的同時(shí)，也帶來了新的問題和挑戰(zhàn)。第一，數(shù)據(jù)風(fēng)險(xiǎn)。隨著智能化的不斷深入，數(shù)據(jù)已經(jīng)成為一項(xiàng)必不可少的基礎(chǔ)設(shè)施，但海量產(chǎn)生的數(shù)據(jù)一定能夠客觀描述這個(gè)世界的真相嗎？

在數(shù)據(jù)生產(chǎn)環(huán)節(jié)：一是數(shù)據(jù)收集可能會產(chǎn)生以偏概全的風(fēng)險(xiǎn)。雖然大數(shù)據(jù)技術(shù)、數(shù)據(jù)采集技術(shù)在不斷發(fā)展，但由于平臺壟斷、商業(yè)利益等因素的影響，收集到全樣本的數(shù)據(jù)仍然很困難。同樣，在行業(yè)數(shù)據(jù)中，一方面，很多行業(yè)缺乏完整的數(shù)據(jù)積累;另一方面，出于商業(yè)保護(hù)也不愿公開（彭蘭，2018）。而傳統(tǒng)小樣本調(diào)研的代表性和數(shù)據(jù)質(zhì)量歷來受到學(xué)術(shù)界和業(yè)界的質(zhì)疑。數(shù)據(jù)采集是數(shù)據(jù)生命周期的第一環(huán)節(jié)，而樣本的以偏概全必然對數(shù)據(jù)分析結(jié)果產(chǎn)生影響。二是數(shù)據(jù)噪音帶來的污染。數(shù)據(jù)收集的過程中除了樣本偏差帶來的問題，多種渠道收集來的數(shù)據(jù)質(zhì)量也參差不齊，這些數(shù)據(jù)存在著嚴(yán)重的噪音問題，雖然數(shù)據(jù)在處理前會進(jìn)行數(shù)據(jù)清洗，各種數(shù)據(jù)清洗算法也層出不窮（W. B. Li， Li， Li， & Cui， 2019），但這些工作并不能完全消除噪音的污染。

在數(shù)據(jù)分析環(huán)節(jié)：一是數(shù)據(jù)挖掘技術(shù)的進(jìn)步難以匹配日益增長的數(shù)據(jù)量。當(dāng)前各種智能設(shè)備生成的數(shù)據(jù)量都在不斷增加，數(shù)據(jù)挖掘、可視化、統(tǒng)計(jì)分析和機(jī)器學(xué)習(xí)等技術(shù)的重要性不言而喻，但由于數(shù)據(jù)的復(fù)雜性和底層算法的可擴(kuò)展性，數(shù)據(jù)分析面對海量的數(shù)據(jù)仍舊是一個(gè)挑戰(zhàn)（Labrinidis & Jagadish， 2012）。二是數(shù)據(jù)分析的結(jié)果有可能被操作。數(shù)據(jù)分析一項(xiàng)重要的功能就是幫助人們客觀描述事物，但由于多方利益分配問題，數(shù)據(jù)分析的結(jié)果存在被干預(yù)的風(fēng)險(xiǎn)，F(xiàn)acebook在美國大選中操作輿論風(fēng)向就是一個(gè)典型的例子（彭蘭，2018）。

在數(shù)據(jù)保護(hù)環(huán)節(jié)：一是用戶隱私泄露風(fēng)險(xiǎn)。美國學(xué)者收集了5.8萬名志愿者在Facebook上的點(diǎn)贊、人口基本信息等資料，通過數(shù)學(xué)模型對這些數(shù)據(jù)進(jìn)行處理。研究結(jié)果顯示該模型正確區(qū)分了88%的同性戀和異性戀男性，95%的非洲裔美國人和高加索美國人，85%的民主黨和共和黨人（Kosinski， Stillwell， & Graepel， 2013）。智能化時(shí)代用戶在各種智能終端上留下大量個(gè)人信息，這些信息一旦被泄露和濫用將產(chǎn)生不可估量的后果。二是被遺忘權(quán)的缺失。由于數(shù)據(jù)挖掘技術(shù)和存儲技術(shù)的快速發(fā)展，用戶個(gè)人數(shù)據(jù)被搜索和挖掘的成本變得越來越低。大量用戶數(shù)據(jù)分散在互聯(lián)網(wǎng)的各個(gè)角落，但目前我國還沒有相關(guān)法律支持用戶行使數(shù)據(jù)被遺忘權(quán)，用戶面臨著數(shù)據(jù)被濫用和隱私泄露的風(fēng)險(xiǎn)。

第二，算法風(fēng)險(xiǎn)。算法是人工智能技術(shù)的核心，層出不窮的算法促進(jìn)了人工智能的快速發(fā)展，包括算法自動(dòng)化決策在內(nèi)的技術(shù)被廣泛應(yīng)用到各個(gè)領(lǐng)域，整體上提高了社會運(yùn)行的效率，但同時(shí)帶來的社會風(fēng)險(xiǎn)也引發(fā)全行業(yè)的關(guān)注。

一是不確定性風(fēng)險(xiǎn)。算法的普遍應(yīng)用在一定程度上降低了市場風(fēng)險(xiǎn)和不可預(yù)測性，自動(dòng)化決策技術(shù)往往是根據(jù)模型和算法對事物的發(fā)展趨勢作出預(yù)測，進(jìn)而尋找最優(yōu)的解決方案，但高度依賴算法的智能化技術(shù)就一定能夠精準(zhǔn)計(jì)算和預(yù)測這個(gè)動(dòng)態(tài)的復(fù)雜世界嗎？事實(shí)上，模型和算法能夠解決的不確定問題是極其有限的。首先，客觀現(xiàn)實(shí)抽象成計(jì)算模型必然會損失原始的全息數(shù)據(jù)（殷杰和邊旭興，2014），整個(gè)過程包括數(shù)據(jù)采集、輸入、建模和輸出都存在著巨大的不確定性，這使得抽象出來的模型必然具有邊界效應(yīng)。其次，這是因?yàn)槿斯ぶ悄芩惴ǖ倪壿嫽A(chǔ)具有不確定性，人工智能算法先輸入從現(xiàn)實(shí)世界中收集的數(shù)據(jù)，經(jīng)過處理和學(xué)習(xí)，總結(jié)出一個(gè)最優(yōu)模型或結(jié)論，然后再利用該模型或結(jié)論對更多的現(xiàn)象進(jìn)行演繹或預(yù)測。算法底層的邏輯是利用了相關(guān)關(guān)系而不是因果關(guān)系，而相關(guān)性較之于因果性而言具有一定程度的不確定性。由此觀之，一方面，算法無處不在的智能化時(shí)代降低了市場風(fēng)險(xiǎn)和不可預(yù)測性，為人類社會帶來便利和福祉;另一方面，卻因?yàn)槠浔旧硭哂械牟淮_定性，而把人類社會帶入了更大的不確定風(fēng)險(xiǎn)中，一種全新的不確定性世界觀正在形成。

二是信息繭房的危險(xiǎn)。個(gè)性化信息服務(wù)的出現(xiàn)催生了許多新媒體產(chǎn)品，如今日頭條、抖音等APP，這些新媒體的崛起為大眾提供了豐富多彩的娛樂享受，但同時(shí)也帶來了“精神麻醉”的負(fù)面作用（Fang， Wang， & Hao， 2019），在自動(dòng)化決策算法提供的個(gè)性化信息中，用戶只選擇使自己愉悅的訊息，這種“選擇性心理”被稱為“信息繭房”。一旦“信息繭房”效應(yīng)出現(xiàn)，表面上這些產(chǎn)品在算法自動(dòng)化決策的助推下滿足和迎合用戶需求，得到了用戶的青睞，獲得了商業(yè)上的成功，但實(shí)際上也使用戶陷入了“井蛙”困境中，難以“兼聽則明”。

三是偏見和歧視的風(fēng)險(xiǎn)。算法自動(dòng)化決策技術(shù)的普及引發(fā)了人們的深切擔(dān)憂：這種自動(dòng)化的選擇可能會產(chǎn)生歧視性的結(jié)果（Lambrecht & Tucker， 2019）。例如，算法可以記錄用戶的瀏覽和消費(fèi)記錄，進(jìn)而通過模型計(jì)算用戶的消費(fèi)能力，在此基礎(chǔ)上為消費(fèi)者推送不同類型的產(chǎn)品，甚至對不同用戶進(jìn)行不同的定價(jià)，最大程度上收割消費(fèi)者剩余。這種策略在保險(xiǎn)業(yè)也常常出現(xiàn)，保險(xiǎn)公司通過算法估算不同用戶可能發(fā)生的風(fēng)險(xiǎn)而為其收取不同的保費(fèi)。這種算法偏見和歧視在一定程度上損害了個(gè)人公平，還容易造成整個(gè)社會的“馬太效應(yīng)”，進(jìn)而損害群體公平。由于算法偏見造成的危害經(jīng)常在事后才能被發(fā)現(xiàn)（Crawford & Schultz， 2014），因此，識別關(guān)于算法帶來的偏見和歧視風(fēng)險(xiǎn)就顯得十分重要。

社會視角。智能化時(shí)代，社會視角下的風(fēng)險(xiǎn)和挑戰(zhàn)概括為就業(yè)、社會公平和規(guī)制問題。第一，就業(yè)結(jié)構(gòu)重構(gòu)的挑戰(zhàn)。雖然人工智能和自動(dòng)化可以提高工人的生產(chǎn)率，但同時(shí)也可以取代他人的工作。麥肯錫2017年發(fā)布的研究報(bào)告顯示，60%的職業(yè)存在被技術(shù)替代的可能性，人工智能和自動(dòng)化技術(shù)的快速發(fā)展將對勞動(dòng)力市場的供需平衡產(chǎn)生干擾。在經(jīng)濟(jì)不平等日益加劇的時(shí)期，自動(dòng)化水平不斷提高，引發(fā)了人們對大規(guī)模技術(shù)失業(yè)的擔(dān)憂，各方力量呼吁政府采取政策努力，解決技術(shù)變革帶來的負(fù)面影響（Frank et al.， 2019）。由于技術(shù)對勞動(dòng)力的影響存在不確定性，因此，很難構(gòu)建具有彈性的勞動(dòng)力市場。例如，設(shè)計(jì)可行的工人再培訓(xùn)計(jì)劃需要對當(dāng)?shù)貏趧?dòng)力有詳細(xì)的了解，熟練掌握當(dāng)前技術(shù)，并了解不同地區(qū)勞動(dòng)力市場之間的復(fù)雜依賴關(guān)系（Walter， 2017）。智能化時(shí)代的快速發(fā)展必然會對傳統(tǒng)的就業(yè)結(jié)構(gòu)產(chǎn)生影響和沖擊，如何協(xié)調(diào)和處理技術(shù)變革和就業(yè)結(jié)構(gòu)之間的關(guān)系逐漸成為新時(shí)代的挑戰(zhàn)。

第二，社會不公平的風(fēng)險(xiǎn)。隨著人工智能和算法的快速發(fā)展，整個(gè)經(jīng)濟(jì)呈現(xiàn)出以資本替代勞動(dòng)的趨勢。智能化時(shí)代最大受益者是智力和資本的提供者，如創(chuàng)新者、投資者和股東等，這使得勞動(dòng)力提供者和資本提供者之間的貧富差距不斷擴(kuò)大。智能化時(shí)代加速了平臺經(jīng)濟(jì)發(fā)展，平臺效應(yīng)下少數(shù)的大型平臺占據(jù)了市場主導(dǎo)地位。這些少數(shù)的大型平臺在市場上逐漸驅(qū)逐大部分的小型玩家，最終形成強(qiáng)者愈強(qiáng)、弱者愈弱的“馬太效應(yīng)”（唐鈞，2019）。為了防止價(jià)值和權(quán)力的過度集中導(dǎo)致的社會不公平問題，必須找到平衡數(shù)字平臺利益和風(fēng)險(xiǎn)的方法，確保開放和合作創(chuàng)新的機(jī)會（G. Li， Hou， & Wu， 2017）。

第三，規(guī)制風(fēng)險(xiǎn)。人工智能技術(shù)的實(shí)現(xiàn)主要是通過代碼和算法來完成的，程序員代碼編寫、模型構(gòu)建和測試均是不透明的，同時(shí)由于商業(yè)利益的保護(hù)，鮮有企業(yè)愿意公開源碼和數(shù)據(jù)，這就形成了人工智能的“研發(fā)黑箱”。同時(shí)由于人工智能本身的技術(shù)門檻較高，通常只有專業(yè)領(lǐng)域的人員才能理解人工智能編程和算法，即使政府要求企業(yè)披露計(jì)算機(jī)源碼以增強(qiáng)算法研發(fā)程序的透明性，非專業(yè)的監(jiān)管人員也很難對其形成準(zhǔn)確的認(rèn)知，這給監(jiān)管工作帶來大量的成本。目前我國尚未對人工智能算法研發(fā)和應(yīng)用可能帶來的風(fēng)險(xiǎn)進(jìn)行立法，如何監(jiān)管人工智能研發(fā)過程、平衡商業(yè)利益和規(guī)制風(fēng)險(xiǎn)，是智能化時(shí)代需要應(yīng)對的挑戰(zhàn)和亟待解決的難題。

（本文系國家自然科學(xué)基金項(xiàng)目“基于agent與眾包數(shù)據(jù)獲取服務(wù)的企業(yè)決策支持關(guān)鍵方法研究”和教育部人文社科基金項(xiàng)目“基于數(shù)據(jù)情境感知的互聯(lián)網(wǎng)醫(yī)療服務(wù)采納及應(yīng)用模式研究”的階段性研究成果，項(xiàng)目編號分別為：71771118、18YJCZH146）

參考文獻(xiàn)

Abrahams， A. S.， Fan， W. G.， Wang， G. A.， Zhang， Z. J.， & Jiao， J.， 2015， "An Integrated Text Analytic Framework for Product Defect Discovery"， Production and Operations Management， 24（6）.

Baumer， B.， 2015， "A Data Science Course for Undergraduates： Thinking With Data"， American Statistician， 69（4）.

Bollen， J.， Mao， H. N.， & Zeng， X. J.， 2011， "Twitter mood predicts the stock market"， Journal of Computational Science， 2（1）.

Chadefaux， T. 2014， "Early warning signals for war in the news"， Journal of Peace Research， 51（1）.

Challen， R.， Denny， J.， Pitt， M.， Gompels， L.， Edwards， T.， & Tsaneva-Atanasova， K.， 2019， "Artificial intelligence， bias and clinical safety"， Bmj Quality & Safety， 28（3）.

Crawford， K.， & Schultz， J.， 2014， "Big data and due process： Toward a framework to redress predictive privacy harms"， Boston College Law Review， 55（1）.

de Moraes， R. M.， & Martinez， L. ， 2015， "Computational Intelligence Applications for Data Science"， Knowledge-Based Systems， 87.

Erevelles， S.， Fukawa， N.， & Swayne， L.， 2016， "Big Data consumer analytics and the transformation of marketing"， Journal of Business Research， 69（2）.

Fang， J.， Wang， Z. Y.， & Hao， B.， 2019， "Analysis of 'Anesthesia' Mechanism in Mobile Short Video Applications Take 'Tik Tok' APP as an example"， Proceedings of the First International Symposium on Management and Social Sciences.

Morgan R. Frank， David Autor， James E. Bessen， Erik Brynjolfsson， Manuel Cebrian， David J. Deming， Maryann Feldman， Matthew Groh， José Lobo， Esteban Moro， Dashun Wang， Hyejin Youn， and Iyad Rahwan， 2019， "Toward understanding the impact of artificial intelligence on labor"， Proceedings of the National Academy of Sciences of the United States of America， 116（14）.

Galeano， P.， & Pena， D.， 2019， "Data science， big data and statistics"， Test， 28（2）.

Garbuio， M.， & Lin， N.， 2019， "Artificial Intelligence as a Growth Engine for Health Care Startups： Emerging Business Models"， California Management Review， 61（2）.

Hu， Z. H.， Li， X.， Wei， C.， & Zhou， H. L.， 2019， "Examining collaborative filtering algorithms for clothing recommendation in e-commerce"， Textile Research Journal， 89（14）.

Jarrahi， M. H.， 2018， "Artificial intelligence and the future of work： Human-Al symbiosis in organizational decision making"， Business Horizons， 61（4）.

Kosinski， M.， Stillwell， D.， & Graepel， T.， 2013， "Private traits and attributes are predictable from digital records of human behavior"， Proceedings of the National Academy of Sciences， 110（15）.

Labrinidis， A.， & Jagadish， H. V. ， 2012， "Challenges and opportunities with big data"， Proceedings of the VLDB Endowment， 5（12）.

Lambrecht， A.， & Tucker， C.， 2019， "Algorithmic Bias？ An Empirical Study of Apparent Gender-Based Discrimination in the Display of STEM Career Ads"，? Management Science.

Li， G.， Hou， Y.， & Wu， A.， 2017， "Fourth Industrial Revolution： Technological Drivers， Impacts and Coping Methods"， Chinese Geographical Science， 27（4）.

Li， W. B.， Li， L.， Li， Z. H.， & Cui， M. T.， 2019， "Statistical relational learning based automatic data cleaning"， Frontiers of Computer Science， 13（1）.

Olhede， S. C.， & Wolfe， P. J.， 2018， "The growing ubiquity of algorithms in society： implications， impacts and innovations"， Philosophical Transactions of the Royal Society a-Mathematical Physical and Engineering Sciences， 376（2128）.

Ramio Matas， C.， 2018， "Artificial Intelligence， Robotics and Public Administration Models"， Revista Del Clad Reforma Y Democracia， （72）.

Walter， S.， 2017， "Globalization and the demand-side of politics： How globalization shapes labor market risk perceptions and policy preferences"， Political Science Research and Methods， 5（1）.

Wirtz， B. W.， & Muller， W. M.， 2019， "An integrated artificial intelligence framework for public management"， Public Management Review， 21（7）.

Xin， Z.， & Wang， D. H.， 2019，? "Application of Artificial Intelligence Algorithms in Image Processing"， Journal of Visual Communication and Image Representation， 61.

陳振明，2015，《政府治理變革的技術(shù)基礎(chǔ)——大數(shù)據(jù)與智能化時(shí)代的政府改革述評》，《行政論壇》，第6期。

程承坪、鄧國清，2018，《大數(shù)據(jù)與社會主義市場經(jīng)濟(jì)體制——兼與馬云先生和張旭昆教授商榷》，《探索與爭鳴》，第4期。

高山行、劉嘉慧，2018，《人工智能對企業(yè)管理理論的沖擊及應(yīng)對》，《科學(xué)學(xué)研究》， 第11期。

賈根良，2016，《第三次工業(yè)革命與工業(yè)智能化》，《中國社會科學(xué)》，第6期。

李鴻磊、黃速建，2017，《智能化時(shí)代的商業(yè)模式特征及創(chuàng)新路徑》，《經(jīng)濟(jì)與管理研究》，第6期。

穆良平、姬振天， 2017，《中國搶占智能經(jīng)濟(jì)發(fā)展先機(jī)的戰(zhàn)略要素及重點(diǎn)領(lǐng)域》，《理論探討》，第4期。

彭蘭，2018，《假象、算法囚徒與權(quán)利讓渡：數(shù)據(jù)與算法時(shí)代的新風(fēng)險(xiǎn)》，《西北師大學(xué)報(bào)（社會科學(xué)版）》，第5期。

孫偉平，2017，《關(guān)于人工智能的價(jià)值反思》，《哲學(xué)研究》，第10期。

唐鈞，2019，《人工智能的社會風(fēng)險(xiǎn)應(yīng)對研究》，《教學(xué)與研究》，第4期。

王宇超、李心丹、劉海飛，2014，《算法交易的市場影響研究》，《管理科學(xué)學(xué)報(bào)》，第1期。

殷杰、邊旭興，2014，《不確定性與計(jì)算機(jī)模型思維變革》，《自然辯證法研究》，第4期。

張成崗，2018，《人工智能時(shí)代：技術(shù)發(fā)展、風(fēng)險(xiǎn)挑戰(zhàn)與秩序重構(gòu)》，《南京社會科學(xué)》，第5期。

責(zé) 編/肖晗題