瞿晶晶，王迎春

（1.上海市科學(xué)學(xué)研究所，上海 200031；2.復(fù)旦大學(xué)國際關(guān)系與公共事務(wù)學(xué)院，上海 200433）

新科技革命與產(chǎn)業(yè)革命正呼嘯而來，大數(shù)據(jù)、人工智能、云計(jì)算等新技術(shù)、新概念層出不窮，顛覆性創(chuàng)新呈現(xiàn)幾何級滲透擴(kuò)散，以革命性方式顛覆傳統(tǒng)產(chǎn)業(yè)。與此同時(shí)，新興技術(shù)的不確定性以及社會應(yīng)用的復(fù)雜性對傳統(tǒng)科技創(chuàng)新治理提出新的問題和挑戰(zhàn)，諸如“生物數(shù)據(jù)安全隱私保護(hù)”“信息繭房”“數(shù)字鴻溝”“算法殺熟”等新的倫理性與規(guī)范性問題也開始顯現(xiàn)。在這種背景下，“科技風(fēng)險(xiǎn)”“科技倫理”以及“科技與社會”成為學(xué)界熱點(diǎn)議題[1]，各國在制定相關(guān)政策時(shí)，也開始注重科技創(chuàng)新與社會發(fā)展的融合，要求不僅要能夠促進(jìn)科技進(jìn)步和推動經(jīng)濟(jì)增長，同時(shí)要滿足社會期望。

“負(fù)責(zé)任創(chuàng)新”（Responsible Innovation，RI）是近年來全球創(chuàng)新理論發(fā)展的一個(gè)重要成果，是基于科技、社會、治理三者動態(tài)交互形成的新興概念。這一理念的核心是將“責(zé)任”視為“創(chuàng)新”的內(nèi)在屬性，強(qiáng)調(diào)科技創(chuàng)新責(zé)任體系應(yīng)廣泛納入科學(xué)家、政府、社會、企業(yè)等多元主體，形成多主體的有機(jī)協(xié)同、系統(tǒng)性聯(lián)動，注重科技創(chuàng)新的倫理道德問題，體現(xiàn)科技創(chuàng)新增進(jìn)人類福祉的價(jià)值旨?xì)w。

近年來，我國科技領(lǐng)域高速發(fā)展，社會變遷不斷顯現(xiàn)。以往粗放式的經(jīng)濟(jì)增長方式不能滿足新時(shí)代經(jīng)濟(jì)健康增長、資源可持續(xù)發(fā)展和社會全面進(jìn)步等新要求。我國《“十三五”國家科技創(chuàng)新規(guī)劃》呼吁倡導(dǎo)負(fù)責(zé)任的研究與創(chuàng)新，加強(qiáng)科技倫理建設(shè)，強(qiáng)調(diào)科學(xué)創(chuàng)新在通過技術(shù)發(fā)展實(shí)現(xiàn)經(jīng)濟(jì)增長的同時(shí)也要實(shí)現(xiàn)其公共價(jià)值。2019年6月，《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》也將共擔(dān)責(zé)任作為一條重要原則。負(fù)責(zé)任的理念已經(jīng)在我國科技創(chuàng)新體系建設(shè)中有所顯現(xiàn)。

“以人民為中心”是新時(shí)代中國特色社會主義思想之核心，而負(fù)責(zé)任科技創(chuàng)新理念關(guān)注科技與社會的深層次關(guān)系，關(guān)注廣大人民的福祉，與“以人民為中心”思想耦合。本文基于負(fù)責(zé)任創(chuàng)新理論五維度框架，分析當(dāng)前我國建設(shè)負(fù)責(zé)任創(chuàng)新體系面臨的挑戰(zhàn)，總結(jié)我國建設(shè)負(fù)責(zé)任創(chuàng)新體系的現(xiàn)有基礎(chǔ)，最后提出圍繞“以人民為中心”建設(shè)中國特色負(fù)責(zé)任科技創(chuàng)新體系的若干建議。

1 負(fù)責(zé)任創(chuàng)新原則

“負(fù)責(zé)任”這一概念源于美國2001年國家納米技術(shù)計(jì)劃（NNI），該計(jì)劃確立了“負(fù)責(zé)任的納米技術(shù)發(fā)展”目標(biāo),并要求科學(xué)家在科研活動中不僅要促進(jìn)納米科學(xué)對社會的積極貢獻(xiàn)，也應(yīng)對其科研活動產(chǎn)生的社會負(fù)效應(yīng)承擔(dān)責(zé)任，以此減少納米技術(shù)研發(fā)與社會應(yīng)用的風(fēng)險(xiǎn)[2]。2003年，德國學(xué)者Hellstr?m將這一概念正式理論化，提出“基于‘負(fù)責(zé)任創(chuàng)新’框架，針對復(fù)雜創(chuàng)新系統(tǒng)的技術(shù)風(fēng)險(xiǎn)問題進(jìn)行評估”[3]。荷蘭學(xué)者Hoven則將“負(fù)責(zé)任創(chuàng)新”定義為“要通過綜合的方式，引導(dǎo)所有利益相關(guān)者都積極參與到科技創(chuàng)新之中，使科學(xué)家更好地理解自己的科研行為和選擇可能造成的影響是否符合倫理道德要求，以更好地指導(dǎo)新研究、新產(chǎn)品和新服務(wù)的設(shè)計(jì)與開發(fā)”[4]。2011年，歐盟政策委員會負(fù)責(zé)人Schomberg提出“責(zé)任式研究與創(chuàng)新”，將創(chuàng)新系統(tǒng)的責(zé)任主體從科學(xué)家進(jìn)一步明確并拓展至社會各類主體，認(rèn)為“負(fù)責(zé)任創(chuàng)新”是“一個(gè)透明、互動的過程，通過這個(gè)過程，社會行動者和創(chuàng)新者相互負(fù)責(zé)[1]，以期在技術(shù)創(chuàng)新過程中達(dá)到道德上可接受性、可持續(xù)性和社會期望，以使科學(xué)和技術(shù)進(jìn)步適當(dāng)?shù)厝谌胛覀兊纳鐣盵4]。歐盟委員會進(jìn)一步吸收了這一理念，并在地平線2020框架計(jì)劃中進(jìn)一步將之明確為“責(zé)任式創(chuàng)新”[1]，重點(diǎn)指出要對現(xiàn)有的科學(xué)與創(chuàng)新進(jìn)行集體管理，滿足科技創(chuàng)新多元利益相關(guān)者的需求[2]。至此，負(fù)責(zé)任創(chuàng)新理論迅速擴(kuò)張至各個(gè)新興科技領(lǐng)域，例如2019年經(jīng)濟(jì)合作與發(fā)展組織（OCED）頒發(fā)《政府間人工智能推薦性原則和建議》，呼吁發(fā)展負(fù)責(zé)任的人工智能[2]。

而后，學(xué)者在負(fù)責(zé)任創(chuàng)新概念的理論上又進(jìn)一步擴(kuò)展，相繼提出了負(fù)責(zé)任創(chuàng)新應(yīng)遵循的相關(guān)原則框架，例如：Owen等[5]提出包括預(yù)期性、反身性、包容性、反饋性的負(fù)責(zé)任創(chuàng)新的四維度原則；梅亮等[6]提出了包容性、預(yù)測性、自省性、響應(yīng)性的四維度原則；Setiawan等[7]提出了包含預(yù)期性、反身性、反饋性、參與性與審慎性在內(nèi)的負(fù)責(zé)任創(chuàng)新的五維度原則。其中上述五維度原則是目前應(yīng)用與討論最廣泛的框架，是被學(xué)界認(rèn)為比較全面與成熟的、融入科技評估理念的負(fù)責(zé)任創(chuàng)新框架。

1.1 預(yù)期性（Anticipation）

負(fù)責(zé)任框架中的預(yù)期性是指創(chuàng)新行為體或利益相關(guān)者為了預(yù)見創(chuàng)新的成效或不良后果而采取必要的前瞻行為。換而言之，預(yù)期意味著尋找新的創(chuàng)新應(yīng)用機(jī)會，針對未來可能出現(xiàn)的挑戰(zhàn)提前布局應(yīng)對。通過前瞻性的評估，研究環(huán)境、社會以及經(jīng)濟(jì)等影響，既可以拓展現(xiàn)有創(chuàng)新領(lǐng)域與渠道，加速創(chuàng)新擴(kuò)散[8]，也可以探索創(chuàng)新可能帶來的潛在風(fēng)險(xiǎn)。預(yù)期性理念在傳統(tǒng)技術(shù)評估方法中已有體現(xiàn)。例如研究者采用未來場景構(gòu)建情景方式對未來技術(shù)創(chuàng)新發(fā)展進(jìn)行預(yù)見，為技術(shù)發(fā)展提供戰(zhàn)略指導(dǎo)，并通過多方審議達(dá)到戰(zhàn)略與政策制定的共識[9,10]。

1.2 參與性（Participation）

負(fù)責(zé)任框架中的參與性對負(fù)責(zé)任創(chuàng)新概念中的“責(zé)任”主體進(jìn)行了理論闡釋，特別強(qiáng)調(diào)“參與”既是公眾的權(quán)利也是公眾的責(zé)任，并定義：負(fù)責(zé)任創(chuàng)新是指通過集體責(zé)任來關(guān)注未來以及當(dāng)下的科技發(fā)展，通過公眾參與、公眾對話活動等途徑將公眾意見和價(jià)值取向融入整個(gè)科技創(chuàng)新的過程之中[11]。同時(shí)負(fù)責(zé)任框架強(qiáng)調(diào)不同利益相關(guān)者參與方式的多樣化，鼓勵直接參與或是在科技創(chuàng)新過程中以某種形式間接參與（例如社會認(rèn)知的輿論調(diào)查），以達(dá)成社會各利益相關(guān)者的共同利益，實(shí)現(xiàn)利益分配共識，并注重各參與者特定知識和意見貢獻(xiàn)的價(jià)值[12-15]。

參與性原則衍生于參與式科技治理模式。該原則強(qiáng)調(diào)政策決定需要與公眾認(rèn)知價(jià)值吻合，認(rèn)為公眾認(rèn)知包含了深刻的制度特征、社會文化、社會訴求、公眾可接受創(chuàng)新融入方式以及社會風(fēng)險(xiǎn)控制的嵌入模式等知識。因此公眾認(rèn)知與專家判斷同樣重要且富有理性，應(yīng)成為政府決策的重要依據(jù)[16]。參與式評估鼓勵多元主體以多元渠道參與政府決策，對有效彌補(bǔ)政府-專家“二元主體為特征”的傳統(tǒng)治理模式在風(fēng)險(xiǎn)判斷上的社會主體缺失具有實(shí)質(zhì)性價(jià)值，能夠體現(xiàn)“認(rèn)知正義”，有助于增強(qiáng)風(fēng)險(xiǎn)決策合法性，并對保障政策效果的實(shí)現(xiàn)具有工具性價(jià)值[10]。20世紀(jì)后期，西方社會的科技決策制度開始引入公眾視角，發(fā)展出科學(xué)對話、科學(xué)聽證會、共識會議、公民陪審團(tuán)等多種形式的公眾參與科學(xué)模型，參與式治理成為了全球科技治理趨勢。

1.3 審慎性（Deliberation）

審慎性原則較早就融入了科技創(chuàng)新治理中，早在1946年《紐倫堡法典》中“無傷害”倫理準(zhǔn)則就被強(qiáng)調(diào)是醫(yī)學(xué)研究中必須堅(jiān)守的首位原則[17]，這一原則在1964年世界醫(yī)學(xué)大會發(fā)布的赫爾辛基宣言以及美國著名生命倫理學(xué)家比徹姆和丘卓斯提出的“生命醫(yī)學(xué)倫理原則”均被視為核心倫理原則反復(fù)強(qiáng)調(diào)。而切爾諾貝利核泄漏事件后，人們進(jìn)一步認(rèn)識到技術(shù)應(yīng)用帶來的負(fù)效應(yīng)可能會大規(guī)模威脅人類生命健康，且這種負(fù)效應(yīng)一旦發(fā)生不可逆轉(zhuǎn)。由此演進(jìn)出技術(shù)治理“預(yù)防原則”，強(qiáng)調(diào)在“科學(xué)證據(jù)不足而無法充分論證并量化科技風(fēng)險(xiǎn)”時(shí)應(yīng)該采取保守措施，暫?；蚪K止技術(shù)的社會創(chuàng)新應(yīng)用。審慎性原則較預(yù)防原則更加開放，在鼓勵支持技術(shù)創(chuàng)新應(yīng)用的同時(shí)要求采取更多措施保障技術(shù)的審慎應(yīng)用，確保技術(shù)風(fēng)險(xiǎn)被最小量化后進(jìn)入社會[18]。同時(shí)這一原則也強(qiáng)調(diào)要考慮某些情境下可能會受傷害的弱勢群體，要保障兒童、老人、少數(shù)群體等的權(quán)利，注重社會公平。

1.4 反身性（Refelxivity）與反饋性（Responsiveness）

負(fù)責(zé)任框架中的反身性與反饋性都強(qiáng)調(diào)了科技創(chuàng)新過程中的敏捷反應(yīng)和吸收學(xué)習(xí)的能力。反饋性強(qiáng)調(diào)在科技創(chuàng)新過程中構(gòu)建多元渠道，獲得創(chuàng)新反饋的新知識以及加快新知識獲取速度，做到敏捷獲取反饋信息。反饋性原則要求在創(chuàng)新過程中，創(chuàng)新參與者或利益相關(guān)者對關(guān)于創(chuàng)新要求、需求、觀點(diǎn)和價(jià)值觀等的問題隨時(shí)做出及時(shí)回應(yīng)，形成各相關(guān)利益者的良性互動，以一種適應(yīng)性的方式建構(gòu)技術(shù)創(chuàng)新的反饋性過程[19,20]。反身性強(qiáng)調(diào)后端新知識吸收的能力，注重經(jīng)驗(yàn)積累中學(xué)習(xí)的結(jié)果，研究創(chuàng)新過程的因果關(guān)系，從而實(shí)時(shí)完善創(chuàng)新機(jī)制。同時(shí)反身意味著根據(jù)行動結(jié)果進(jìn)行計(jì)劃，不斷反思創(chuàng)新的根本目的、潛在影響和動機(jī)，形成創(chuàng)新參與者或利益相關(guān)者創(chuàng)造和塑造創(chuàng)新的循環(huán)迭代閉環(huán)[5]。

負(fù)責(zé)任創(chuàng)新反映了科技革命背景下現(xiàn)代科技治理體系的三個(gè)趨勢：一是鼓勵公眾參與。拓寬科技創(chuàng)新決策主體的多元化，科技創(chuàng)新治理過程也向更廣泛的行動者開放。二是注重創(chuàng)新的情境性。強(qiáng)調(diào)更加精準(zhǔn)、動態(tài)性的治理體系，因此強(qiáng)調(diào)全周期的技術(shù)評估工作。三是重視倫理價(jià)值。負(fù)責(zé)任創(chuàng)新將倫理學(xué)尤其是責(zé)任方面的思考納入技術(shù)評估方法體系和流程中，強(qiáng)調(diào)對科技創(chuàng)新的倫理審查以及對社會影響的評估監(jiān)測是科技創(chuàng)新體系不可缺少的部分，科技創(chuàng)新不能突破人類倫理道德的底線。

習(xí)近平總書記指出：“當(dāng)今世界，新科技革命和全球產(chǎn)業(yè)變革正在孕育興起，新技術(shù)突破加速帶動產(chǎn)業(yè)變革，對世界經(jīng)濟(jì)結(jié)構(gòu)和競爭格局產(chǎn)生了重大影響?！边@要求我們在“新形勢”下推動“新時(shí)代”的科技創(chuàng)新體系來解決“新問題”“新挑戰(zhàn)”，推動科技創(chuàng)新成果在經(jīng)濟(jì)、政治、文化、社會、生態(tài)文明建設(shè)中廣泛應(yīng)用，最大程度地滿足人民美好生活需要，推動社會全面進(jìn)步[21]。因此，負(fù)責(zé)任創(chuàng)新理念具有借鑒意義。

2 我國發(fā)展負(fù)責(zé)任創(chuàng)新的挑戰(zhàn)

2.1 科技預(yù)期性治理措施不足

我國傳統(tǒng)科技治理主要遵循事后管理的路徑，往往導(dǎo)致“出了事，再管制”的刻板邏輯。中國農(nóng)業(yè)大學(xué)一項(xiàng)研究表明，我國的科研誠信政策大部分側(cè)重事后應(yīng)對懲處，僅少數(shù)為事前的科研誠信教育[22]?！百R建奎”事件發(fā)生后，國家進(jìn)一步加強(qiáng)對基因人體實(shí)驗(yàn)領(lǐng)域加強(qiáng)治理。在過去，我國憑借制度優(yōu)勢，在科技倫理事件發(fā)生后能第一時(shí)間反應(yīng)，第一時(shí)間執(zhí)行，顯現(xiàn)出強(qiáng)大的治理效率；但是由于新興科技的力量越來越大，技術(shù)社會應(yīng)用面臨“科林格里奇困境”[23]，事后追責(zé)的處理方式難以有效應(yīng)對顛覆性新技術(shù)帶來的風(fēng)險(xiǎn)，一旦出現(xiàn)“黑天鵝”事件，政府應(yīng)對將陷入被動[24]，事后追責(zé)也會失去應(yīng)有的意義[25]。而人工智能、大數(shù)據(jù)等具有強(qiáng)社會滲透性的信息技術(shù)，一旦發(fā)生偏差，涉及社會群體范圍廣、程度深，其結(jié)果很有可能是災(zāi)難性的，因此構(gòu)建科技應(yīng)用社會影響的前瞻性評估以及科技風(fēng)險(xiǎn)預(yù)警機(jī)制已經(jīng)迫在眉睫。

2.2 多元參與渠道較局限

負(fù)責(zé)任創(chuàng)新的成功需要政府、科研團(tuán)體、產(chǎn)業(yè)界和大眾的協(xié)商與合作[1]。負(fù)責(zé)任治理也要求科研機(jī)構(gòu)、產(chǎn)業(yè)部門和公眾等更積極地為科技創(chuàng)新決策獻(xiàn)技獻(xiàn)策[1]。當(dāng)前，我國社會主要矛盾已經(jīng)轉(zhuǎn)化為人民日益增長的美好生活需要和不平衡不充分的發(fā)展之間的矛盾[27]。因此，構(gòu)建科技創(chuàng)新的協(xié)商合作機(jī)制，既是推動負(fù)責(zé)任創(chuàng)新的重要條件，也是落實(shí)深化科技體制改革的應(yīng)有之舉。當(dāng)前，我國政府、科研團(tuán)體、產(chǎn)業(yè)界和公眾之間的交流溝通渠道較為單一，很多領(lǐng)域甚至缺失多元主體交流渠道，與負(fù)責(zé)任創(chuàng)新的要求相距甚遠(yuǎn)[1]。同時(shí)我國“政府-專家”科技決策模式也亟需變革更新，拓寬公民參與決策的呼聲也越來越高。但是現(xiàn)階段公眾參與科技治理仍存在著許多問題，如項(xiàng)目目標(biāo)不明確、過程不合理，公眾參與意識弱、能力不夠強(qiáng)等，因而需要政府積極發(fā)揮引領(lǐng)作用，建立健全相關(guān)規(guī)則，優(yōu)化制度環(huán)境，開拓公眾高效參與渠道[1]。

2.3 制度供給與科技創(chuàng)新速度不匹配

面對新興技術(shù)產(chǎn)生的新問題、新挑戰(zhàn)，傳統(tǒng)的科技制度政策上的供給已滯后于科技創(chuàng)新速度，一方面，無法有效規(guī)范科技創(chuàng)新行為，保障科技創(chuàng)新穩(wěn)健、有序發(fā)展；另一方面，由于缺乏制度保障，阻礙創(chuàng)新渠道暢通，因此創(chuàng)新發(fā)展速度受到制約。例如在智能時(shí)代，數(shù)據(jù)已經(jīng)成為了新的生產(chǎn)資料，但是數(shù)據(jù)相關(guān)權(quán)利的制度規(guī)范滯后于應(yīng)用，在一定程度上阻礙了數(shù)字經(jīng)濟(jì)發(fā)展。在數(shù)據(jù)共享上，數(shù)據(jù)主導(dǎo)、管理、使用等方面的權(quán)責(zé)不清晰，難以有效地推動數(shù)據(jù)流通、實(shí)現(xiàn)數(shù)據(jù)的高效共享，亦或者由于數(shù)據(jù)共享與流通缺乏規(guī)范，數(shù)據(jù)可被隨意復(fù)制，會滋生出一系列隱私泄露、非法數(shù)據(jù)交易等社會問題[26，27]。

3 我國負(fù)責(zé)任科技創(chuàng)新的發(fā)展基礎(chǔ)

3.1 科技社會屬性被決策者重視，科技倫理體系建設(shè)成為國家科技戰(zhàn)略的重要內(nèi)容

中國特色社會主義制度優(yōu)越性的體現(xiàn)之一在于政府的強(qiáng)力引導(dǎo)和干預(yù)能夠大幅度提高政策實(shí)施效率，實(shí)現(xiàn)相關(guān)社會目標(biāo)。習(xí)近平總書記強(qiáng)調(diào)，謀劃“十四五”時(shí)期發(fā)展，要堅(jiān)持發(fā)展為了人民、發(fā)展成果由人民共享，堅(jiān)持包容普惠、造福各國人民的倡議，堅(jiān)持“人民至上”的執(zhí)政理念。面對新興技術(shù)可能帶來的社會問題，政府近年來一直強(qiáng)調(diào)可持續(xù)、多樣性、包容性的發(fā)展模式，科技的社會屬性受到前所未有的重視，科技倫理建設(shè)成為國家科技創(chuàng)新規(guī)劃的重要內(nèi)容[2]。

經(jīng)濟(jì)、社會和科技在不斷發(fā)展，科技創(chuàng)新帶來的社會風(fēng)險(xiǎn)、倫理道德等問題日益凸顯并開始受到政府的關(guān)注，一系列推動負(fù)責(zé)任創(chuàng)新的法律、指南和倫理審查程序等陸續(xù)出臺。1997年以來，衛(wèi)生部、藥監(jiān)局等相關(guān)部門發(fā)布規(guī)定，首先在醫(yī)學(xué)研究單位推行倫理審查制度。2001年，國務(wù)院針對轉(zhuǎn)基因農(nóng)業(yè)領(lǐng)域發(fā)布《農(nóng)業(yè)轉(zhuǎn)基因生物安全管理?xiàng)l例》；自2005年起，國家自然科學(xué)基金委要求，涉及倫理的科研項(xiàng)目均需出具相關(guān)倫理委員會的證明[1]。在生物醫(yī)藥領(lǐng)域，2003年，科技部和衛(wèi)生部聯(lián)合下發(fā)了12條《人胚胎干細(xì)胞研究倫理指導(dǎo)原則》[1]；2016年，衛(wèi)生部發(fā)布了《涉及人的生物醫(yī)學(xué)研究倫理審查辦法》。人工智能領(lǐng)域，2019年6月，我國發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，把共擔(dān)責(zé)任作為一條重要原則。在人體基因等相關(guān)研究活動方面，2020年《民法典》規(guī)定，從事與人體基因、人體胚胎等有關(guān)的科研活動，不得違背倫理道德和損害公共利益。

3.2 科研人員倫理道德意識增強(qiáng)，負(fù)責(zé)任創(chuàng)新前瞻議題討論熱烈

2008年“第二次全國科技工作者狀況調(diào)查”和2012年針對國家自然科學(xué)基金申請人開展的科研倫理調(diào)查表明，我國科研人員的道德倫理意識在不斷加強(qiáng)[1]。中國的科研人員逐漸認(rèn)識到科技創(chuàng)新行為對社會可能產(chǎn)生的負(fù)面影響，并思考如何通過協(xié)商合作進(jìn)行負(fù)責(zé)任的創(chuàng)新活動，積極與公眾、政府、其他領(lǐng)域?qū)＜议_展對話與合作。例如，北京智源人工智能研究院聯(lián)合北京大學(xué)、清華大學(xué)、中國科學(xué)院自動化研究所、中國科學(xué)院計(jì)算技術(shù)研究所、新一代人工智能產(chǎn)業(yè)技術(shù)創(chuàng)新戰(zhàn)略聯(lián)盟等高校、科研院所和產(chǎn)業(yè)聯(lián)盟共同發(fā)布《人工智能北京共識》，提出研發(fā)、使用、治理的15條原則，實(shí)現(xiàn)人工智能“自律”“有序”[28]。在世界人工智能大會治理論壇，全球一流人工智能治理研究機(jī)構(gòu)在上海展開專題討論和合作，參與全球人工智能治理討論與規(guī)則制定。論壇期間，上海市計(jì)算機(jī)學(xué)會的青年代表發(fā)布《中國青年科學(xué)家2019人工智能創(chuàng)新治理上海宣言》，倡導(dǎo)社會各界開展合作，從科學(xué)技術(shù)、道德倫理、社會責(zé)任等方面創(chuàng)新人工智能治理[29]。

3.3 企業(yè)承擔(dān)更大的社會責(zé)任意愿增強(qiáng)，負(fù)責(zé)任科技創(chuàng)新體系主體地位逐步突出

隨著中國國際化進(jìn)程的深化，企業(yè)社會責(zé)任逐漸被重視并納入政策和法律規(guī)范，企業(yè)社會責(zé)任已經(jīng)逐步實(shí)現(xiàn)了法律化和標(biāo)準(zhǔn)化。2006年的《中華人民共和國公司法》修訂案規(guī)定公司的經(jīng)營活動要承擔(dān)社會責(zé)任。2015年6月2日，國家質(zhì)量監(jiān)督檢驗(yàn)檢疫總局、國家標(biāo)準(zhǔn)化管理委員會正式批準(zhǔn)發(fā)布《社會責(zé)任指南：GB/T 36000-2015》《社會責(zé)任報(bào)告編寫指南：GB/T 36001-2015》和《社會責(zé)任績效分類指引：GB/T 36002-2015》三項(xiàng)國家標(biāo)準(zhǔn)，從國家層面推進(jìn)社會責(zé)任工作[1]。

與此同時(shí)，中國企業(yè)社會責(zé)任主體意識逐漸加強(qiáng)，越來越多地發(fā)布社會責(zé)任報(bào)告。在新興技術(shù)領(lǐng)域，越來越多的企業(yè)也開始建立倫理自查委員會，例如人工智能領(lǐng)域的領(lǐng)軍企業(yè)商湯科技、曠視科技、依圖科技等成立倫理委員會等內(nèi)部機(jī)制，對人工智能技術(shù)和產(chǎn)品進(jìn)行自我審查。我國企業(yè)還積極融入負(fù)責(zé)任創(chuàng)新的國際話語體系，例如依圖科技參與了《信息安全技術(shù)-生物特征識別信息的保護(hù)要求》等多項(xiàng)國際標(biāo)準(zhǔn)的撰寫工作，并成為首家通過隱私信息國際權(quán)威認(rèn)證的中國人工智能公司，獲得ISO/IEC 27701:2019隱私信息管理體系認(rèn)證證書[30]。

3.4 公眾對科技創(chuàng)新責(zé)任發(fā)展的推動力不斷增強(qiáng)

隨著我國教育水平的提升和公眾科技素質(zhì)的增強(qiáng)，加上近年媒體對科技風(fēng)險(xiǎn)與科技負(fù)面后果的信息披露更加頻繁，公眾的風(fēng)險(xiǎn)意識大大提升，科技的社會影響越來越受到公眾的關(guān)注。這對科技創(chuàng)新提出了更高的社會責(zé)任和倫理道德要求[1]。例如科技的“鄰避問題”成為了學(xué)術(shù)上關(guān)于公眾在科技決策中作用的典型議題[31]。2011年“煙草院士”事件引發(fā)了廣泛爭議，“茅臺院士”再次引起輿論熱議。這些事件表明對科技創(chuàng)新的評價(jià)已不能局限于科技界內(nèi)部的討論，公眾觀點(diǎn)在對科技創(chuàng)新社會影響的評估中已處于重要地位。特別是以人工智能、大數(shù)據(jù)為代表的新興信息技術(shù)的廣泛應(yīng)用，諸如人臉識別、深度造假、健康碼、無人駕駛等一系列應(yīng)用場景均引起關(guān)注。一方面，如果缺乏有效的公眾溝通機(jī)制，會降低政府的社會信任度，阻礙新技術(shù)的應(yīng)用和發(fā)展；另一方面，社會公眾積極關(guān)注科技創(chuàng)新倫理道德和社會責(zé)任，豐富新技術(shù)的社會認(rèn)知，在技術(shù)創(chuàng)新擴(kuò)散過程中補(bǔ)充“常民知識”，亦是推動我國落實(shí)負(fù)責(zé)任創(chuàng)新的重要力量。

4 “以人民為中心”建設(shè)負(fù)責(zé)任的科技創(chuàng)新體系

未來的新興前沿科技會更加迅猛發(fā)展、更加快速和大規(guī)模應(yīng)用，其對中國的社會環(huán)境與人民生活方方面面的影響，無論是在深度還是廣度上都將更加突出。推進(jìn)科技創(chuàng)新治理體系和治理能力現(xiàn)代化，已成為科技界一項(xiàng)緊迫和重要的任務(wù)。習(xí)近平總書記強(qiáng)調(diào)“科技創(chuàng)新是提高社會生產(chǎn)力和綜合國力的戰(zhàn)略支撐，必須把科技創(chuàng)新擺在國家發(fā)展全局的核心位置”[32]“要把滿足人民對美好生活的向往作為科技創(chuàng)新的落腳點(diǎn)，把惠民、利民、富民、改善民生作為科技創(chuàng)新的重要方向”。因此要把 “以人民為中心”作為科技創(chuàng)新的核心驅(qū)動，從科技研發(fā)到社會應(yīng)用全周期融入負(fù)責(zé)任的治理理念，對人民負(fù)責(zé)，保障人民權(quán)利，發(fā)揮人民作用，增進(jìn)人民福祉，構(gòu)建中國特色的負(fù)責(zé)任創(chuàng)新體系，促進(jìn)我國科技穩(wěn)健發(fā)展。

4.1 創(chuàng)新制度供給，保障人民權(quán)利

面對科技迅速發(fā)展過程中的不確定性和復(fù)雜性，傳統(tǒng)制度在切實(shí)保護(hù)人民群眾的身心健康、個(gè)人隱私、信息安全等基本權(quán)利方面面臨挑戰(zhàn)，亟需進(jìn)行法律、規(guī)范、管理制度等制度供給的完善、創(chuàng)新，在新形勢下充分保障人民權(quán)利。

首先可以對已有法律進(jìn)行解釋性的補(bǔ)充。例如在人工智能領(lǐng)域，鑒于國內(nèi)已有多部法律交叉覆蓋了人工智能相關(guān)場景，例如《中華人民共和國網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法（草案）》，建議結(jié)合人工智能應(yīng)用場景的特點(diǎn)，一方面對現(xiàn)有法律補(bǔ)充解釋說明以提高人工智能數(shù)據(jù)安全的適用性，另一方面，進(jìn)行場景下的數(shù)據(jù)安全實(shí)施細(xì)則和執(zhí)行標(biāo)準(zhǔn)的制定。

其次，可以借鑒國際經(jīng)驗(yàn)對特殊場景進(jìn)行單獨(dú)立法。國際上，已有多個(gè)國家針對自動駕駛、人臉識別等人工智能應(yīng)用特殊場景單獨(dú)發(fā)布法律和標(biāo)準(zhǔn)，比如美國《自動駕駛法案》、英國《自動與電動汽車法案》、荷蘭《自動駕駛汽車測試法（草案）》。建議借鑒國際經(jīng)驗(yàn)，選定一批亟需法律保障以及可以試點(diǎn)的技術(shù)應(yīng)用場景進(jìn)行單獨(dú)立法，在不同場景中探索全社會性的技術(shù)安全規(guī)劃。

最后，鑒于目前國內(nèi)法律體制還沒有精準(zhǔn)覆蓋到人工智能、區(qū)塊鏈、腦機(jī)融合等技術(shù)應(yīng)用，且立法程序嚴(yán)謹(jǐn)復(fù)雜，需要較長的時(shí)間，因此考慮在管理體制方面先行先試，支撐完善國家科技治理體系。管理體制是國際上技術(shù)治理體系的重要內(nèi)容之一，例如，歐盟《通用數(shù)據(jù)管理?xiàng)l例》、美國《算法問責(zé)法（草案）》《人工智能未來法案》、日本《人工智能技術(shù)戰(zhàn)略政府“工程表”》等均主要針對管理體制做出規(guī)定。同時(shí)可以充分發(fā)揮國家科技倫理委員會功能，統(tǒng)籌指導(dǎo)各地科技倫理規(guī)范制度，形成有效的科技倫理監(jiān)察體系。

4.2 完善科技評估體系，增進(jìn)人民福祉

科技創(chuàng)新對社會產(chǎn)生方方面面的影響。實(shí)時(shí)總結(jié)優(yōu)秀的科技創(chuàng)新經(jīng)驗(yàn)，規(guī)避科技創(chuàng)新社會風(fēng)險(xiǎn)，保障人民生活福祉，需要精準(zhǔn)、前瞻、全面和深入的科技評估。要積極推動構(gòu)建技術(shù)安全監(jiān)測的預(yù)警機(jī)制，構(gòu)建預(yù)見性的長周期評估和動態(tài)性的短周期評估相結(jié)合的雙重評估機(jī)制、政策建議敏捷回應(yīng)的反饋機(jī)制，逐步形成預(yù)測、實(shí)踐、總結(jié)、反饋、調(diào)整的評估閉環(huán)。

一是可以將科技社會影響評估納入科技重大項(xiàng)目研究任務(wù)以及考核指標(biāo)。布局重大關(guān)鍵技術(shù)，是我國促進(jìn)科技創(chuàng)新發(fā)展的重要戰(zhàn)略，是保障我國科技創(chuàng)新領(lǐng)先的重要抓手。然而現(xiàn)行的科技重大項(xiàng)目主要側(cè)重項(xiàng)目經(jīng)濟(jì)績效，重技術(shù)研發(fā)成果的產(chǎn)出而輕技術(shù)研發(fā)成果的社會影響。通過第三方專業(yè)機(jī)構(gòu)和團(tuán)隊(duì)，將科技評估納入科技重大項(xiàng)目研究任務(wù)以及考核指標(biāo)，可以減少新興科技成果后續(xù)應(yīng)用的社會風(fēng)險(xiǎn)，保障新興科技成果有用于民、有益于民，防止諸如“賀建奎”“人工智能攝像頭監(jiān)視學(xué)生”“深度造假”等科技倫理惡性事件的發(fā)生，也可以控制“塑化劑”“抗生素”“人臉識別”等技術(shù)的濫用。同時(shí)，專業(yè)評估結(jié)果還可以為新興科技成果如何更好地應(yīng)用于社會提供建議和良策，從而提高科技成果轉(zhuǎn)化效率，促進(jìn)產(chǎn)學(xué)研的有益發(fā)展。

二是啟動先進(jìn)技術(shù)評估方法的研究工作，搭建技術(shù)評估平臺，構(gòu)建技術(shù)評估體系。技術(shù)評估是政策工具，也是前沿科學(xué)問題。隨著新興技術(shù)的發(fā)展日趨復(fù)雜和不確定，對先進(jìn)技術(shù)評估工具的需求就更高。在國際政府都抓緊研發(fā)新的技術(shù)評估工具的同時(shí)，應(yīng)在國內(nèi)組織相關(guān)研究，開發(fā)以人工智能、大數(shù)據(jù)等先進(jìn)硬核技術(shù)為支撐，綜合社會學(xué)、心理學(xué)、哲學(xué)、法學(xué)等各領(lǐng)域?qū)W科的技術(shù)評估方法，構(gòu)建逼真模擬社會系統(tǒng)的評估平臺，最終構(gòu)建人才供給、研究方法、資金保障、有效應(yīng)用的多層次技術(shù)評估支撐科技決策的良性生態(tài)體系。

4.3 構(gòu)建多元溝通渠道，發(fā)揮人民作用

目前我國在驅(qū)動科技創(chuàng)新發(fā)展中仍以政府為主導(dǎo)，在未來，企業(yè)應(yīng)該承擔(dān)更多主體責(zé)任，推動科技企業(yè)建立內(nèi)部的倫理委員會等機(jī)構(gòu)，形成企業(yè)內(nèi)部貫穿技術(shù)研發(fā)與應(yīng)用的合規(guī)自律流程、操作指南、工具包和評估機(jī)制。積極發(fā)揮技術(shù)應(yīng)用領(lǐng)域各行業(yè)組織的作用，推動其制定相關(guān)行業(yè)和領(lǐng)域的具體自律規(guī)范。

另一方面，鼓勵公眾多種形式參與科技決策。例如疫情引發(fā)了關(guān)于病毒研究等高危科研項(xiàng)目“鄰避效應(yīng)”的再討論，引發(fā)公眾對研發(fā)地點(diǎn)的顧慮，針對這方面問題，應(yīng)當(dāng)進(jìn)一步建立健全安全管理制度，同時(shí)做好與公眾溝通的預(yù)案。例如上海在《中國共產(chǎn)黨上海市第十一屆委員會第九次全體會議決議》中提出要積極聽取公眾意見，眾人的事情眾人商量，發(fā)揮公眾力量解決公眾問題。

此外，從國際經(jīng)驗(yàn)上看，由于缺乏實(shí)際接觸經(jīng)驗(yàn)和相關(guān)知識教育，公眾對于新興科技的了解和專業(yè)知識匱乏，使得公眾直接參與治理成為空中樓閣。因此，提高我國公眾的科技素養(yǎng)和數(shù)字化水平、加強(qiáng)科普建設(shè)、培養(yǎng)社會科學(xué)理性、構(gòu)建積極向上的科學(xué)文化也是負(fù)責(zé)任創(chuàng)新的重要保障。