李肆

近年來，生成式人工智能技術(shù)快速發(fā)展，為經(jīng)濟社會發(fā)展帶來新機遇的同時，也產(chǎn)生了傳播虛假信息、侵害個人信息權(quán)益、數(shù)據(jù)安全和偏見歧視等問題，如何統(tǒng)籌生成式人工智能發(fā)展和安全引起各方關(guān)注。

為此，國家網(wǎng)信辦聯(lián)合國家發(fā)改委、教育部、科技部、工信部、公安部、廣電總局公布《生成式人工智能服務(wù)管理暫行辦法》（下稱《辦法》）。據(jù)國家網(wǎng)信辦有關(guān)負(fù)責(zé)人表示：“出臺《辦法》，既是促進生成式人工智能健康發(fā)展的重要要求，也是防范生成式人工智能服務(wù)風(fēng)險的現(xiàn)實需要。”

推動生成式人工智能產(chǎn)業(yè)的健康發(fā)展

“制定《辦法》，是落實《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個人信息保護法》《科學(xué)技術(shù)進步法》有關(guān)規(guī)定的重要要求，進一步規(guī)范數(shù)據(jù)處理等活動，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權(quán)益?！惫膊坎块L王小洪表示。

《辦法》明確了生成式人工智能服務(wù)提供者是指利用生成式人工智能技術(shù)提供生成式人工智能服務(wù)（包括通過提供可編程接口等方式提供生成式人工智能服務(wù)）的組織、個人。生成式人工智能服務(wù)使用者，是指使用生成式人工智能服務(wù)生成內(nèi)容的組織、個人。

《辦法》規(guī)定，利用生成式人工智能技術(shù)向中華人民共和國境內(nèi)公眾提供生成文本、圖片、音頻、視頻等內(nèi)容的服務(wù)，適用本辦法。同時，《辦法》明確提出“不適用”場景，即“行業(yè)組織、企業(yè)、教育和科研機構(gòu)、公共文化機構(gòu)、有關(guān)專業(yè)機構(gòu)等研發(fā)、應(yīng)用生成式人工智能技術(shù)，未向境內(nèi)公眾提供生成式人工智能服務(wù)的，不適用本辦法的規(guī)定?！?/p>

傳播內(nèi)容認(rèn)知全國重點實驗室研究員郭俊波指出，此提法是一個重大突破。這說明《辦法》的目的是兼顧生成式人工智能的發(fā)展與安全，為其研究與發(fā)展留足空間。

“《辦法》提出‘不適用場景，讓規(guī)制對象目標(biāo)更明確、針對性更強，體現(xiàn)出中國對生成式人工智能在研究與應(yīng)用方面的支持和鼓勵?！北本┐蟪陕蓭熓聞?wù)所高級合伙人肖颯稱。

在肖颯看來，《辦法》實施后，將有望大幅擴充人工智能訓(xùn)練數(shù)據(jù)庫，極大促進中國人工智能應(yīng)用的深度與廣度。

上海蘭迪律師事務(wù)所律師丁學(xué)明表示，生成式人工智能技術(shù)會涉及多種法律風(fēng)險，如數(shù)據(jù)合規(guī)、算法歧視、知識產(chǎn)權(quán)、內(nèi)容違規(guī)等，《辦法》確定了生成式人工智能適用范圍，明確了合規(guī)要求以及內(nèi)部規(guī)范和外部監(jiān)管，提出人工智能服務(wù)的評估備案，推動生成式人工智能產(chǎn)業(yè)的健康發(fā)展。

“面對新技術(shù)，《辦法》的出臺不僅僅是規(guī)范其發(fā)展，更是良性引導(dǎo)和鼓勵創(chuàng)新?！掇k法》在明確行業(yè)規(guī)范的同時，也進一步促進生成式人工智能應(yīng)用加速落地。”北京社科院研究員、中國人民大學(xué)智能社會治理研究中心研究員王鵬說。

鼓勵創(chuàng)新，探索優(yōu)化應(yīng)用場景

伴隨生成式人工智能的技術(shù)迭代，更“聰明”的大模型必將滲透進更多的產(chǎn)業(yè)領(lǐng)域和生活場景。國家網(wǎng)信辦有關(guān)負(fù)責(zé)人表示，《辦法》明確鼓勵生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用，生成積極健康、向上向善的優(yōu)質(zhì)內(nèi)容，探索優(yōu)化應(yīng)用場景，構(gòu)建應(yīng)用生態(tài)體系。

《辦法》明確，生成式人工智能服務(wù)提供者應(yīng)當(dāng)依法開展預(yù)訓(xùn)練、優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動，使用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型；涉及知識產(chǎn)權(quán)的，不得侵害他人依法享有的知識產(chǎn)權(quán)；涉及個人信息的，應(yīng)當(dāng)取得個人同意或者符合法律、行政法規(guī)規(guī)定的其他情形；采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量，增強訓(xùn)練數(shù)據(jù)的真實性、準(zhǔn)確性、客觀性、多樣性。

此外，針對生成式人工智能內(nèi)容難以分辨，甚至出現(xiàn)技術(shù)濫用、誤用等問題，《辦法》明確服務(wù)提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對相關(guān)生成內(nèi)容進行標(biāo)識。肖颯對此表示：“目前來看，標(biāo)識人工生成、深度合成的內(nèi)容，是成本最低且有望從根本杜絕上述相關(guān)問題的方法。”

受此政策影響，百度、阿里巴巴、360等國內(nèi)大模型頭部廠商有望進入發(fā)展快車道。360集團創(chuàng)始人周鴻祎表示，《辦法》表明了有關(guān)部門鼓勵創(chuàng)新、支持大模型發(fā)展的態(tài)度，為科技企業(yè)創(chuàng)新提供了信心和保障。

“未來，大模型真正的發(fā)展機會就是企業(yè)級市場。在產(chǎn)業(yè)數(shù)字化戰(zhàn)略背景下，大模型作為工業(yè)革命級的生產(chǎn)力工具，應(yīng)當(dāng)幫助傳統(tǒng)產(chǎn)業(yè)特別是制造業(yè)實現(xiàn)數(shù)字化轉(zhuǎn)型到智能化升級。從《辦法》來看，國家對企業(yè)級場景的應(yīng)用研發(fā)和落地整體持大力支持的態(tài)度，對科技企業(yè)推動大模型在企業(yè)級場景的落地有積極意義?！敝茗櫟t認(rèn)為。

業(yè)內(nèi)人士普遍認(rèn)為，隨著《辦法》落地實施不斷深入，大模型行業(yè)將走上發(fā)展的快車道，國產(chǎn)大模型將充分釋放通用能力優(yōu)勢，推動產(chǎn)業(yè)加速發(fā)展。

《辦法》或促使行業(yè)迎來應(yīng)用的爆發(fā)

隨著人工智能與日常生活場景結(jié)合越來越密切，在此基礎(chǔ)上產(chǎn)生的隱私泄露、造謠詐騙等問題也不斷凸顯。對此，《辦法》將保護使用者的個人信息安全擺在重要位置?！掇k法》第九條提出，生成式人工智能服務(wù)提供者應(yīng)當(dāng)依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任，履行網(wǎng)絡(luò)信息安全義務(wù)。

“這將生成式人工智能服務(wù)提供者明確納入網(wǎng)絡(luò)平臺責(zé)任的規(guī)制范圍內(nèi)，讓違規(guī)違法者無灰色地帶可躲。”肖颯表示。

AIGC行業(yè)的境外廠商處于技術(shù)領(lǐng)先地位，境外投資者在該領(lǐng)域也更為活躍?！掇k法》首次原則性明確，對來源于境外向境內(nèi)提供生成式人工智能服務(wù)不符合法律、行政法規(guī)和本辦法規(guī)定的，國家網(wǎng)信部門應(yīng)當(dāng)通知有關(guān)機構(gòu)采取技術(shù)措施和其他必要措施予以處置。

“如果境外生成式人工智能服務(wù)商提供的產(chǎn)品涉及知識產(chǎn)權(quán)類侵權(quán)、個人信息泄漏，會影響到國家安全和公共安全，需及時有效的監(jiān)管介入。對于境外服務(wù)提供商，更要充分考慮生成式人工智能服務(wù)的‘不可知性、跨境屬性與風(fēng)險特點進行有針對性的管控，有效應(yīng)對境外服務(wù)提供商的法律規(guī)避行為?！鄙虾Ｖ幸蚵蓭熓聞?wù)所律師欒靖宣指出。

網(wǎng)易易盾專家提醒道，考慮到目前該領(lǐng)域外商投資的規(guī)定尚不明確，建議持續(xù)關(guān)注相關(guān)立法動態(tài)，且預(yù)計根據(jù)未來出臺的分類分級監(jiān)管規(guī)則，會適用不同的外商投資限制規(guī)定。

關(guān)于投訴和舉報，《辦法》在處罰措施方面較為“柔和”?！掇k法》第二十一條提出，提供者違反本辦法規(guī)定的，由有關(guān)主管部門依照《中華人民共和國網(wǎng)絡(luò)安全法》等法律、行政法規(guī)的規(guī)定予以處罰；法律、行政法規(guī)沒有規(guī)定的，由有關(guān)主管部門依據(jù)職責(zé)予以警告、通報批評，責(zé)令限期改正；拒不改正或者情節(jié)嚴(yán)重的，責(zé)令暫停提供相關(guān)服務(wù)。

“這采用的是逐漸加重的處罰措施，允許服務(wù)提供者不斷完善修正，而不是簡單的‘一棍子打死?！惫〔ǚQ。他還預(yù)計，下一步，監(jiān)管部門或?qū)⑨槍δ承┨囟I(lǐng)域，如醫(yī)療、金融等行業(yè)，根據(jù)相關(guān)行業(yè)法規(guī)，對其領(lǐng)域的生成式人工智能做出相應(yīng)規(guī)范。

網(wǎng)易易盾安全專家表示，隨著《辦法》的落實，監(jiān)管體系逐漸完善，生成式人工智能行業(yè)或?qū)⒂瓉響?yīng)用的爆發(fā)。但是，企業(yè)在訓(xùn)練數(shù)據(jù)合規(guī)性、生成內(nèi)容安全準(zhǔn)確和可靠性、生成式人工智能服務(wù)的透明度等方面的要求，需要企業(yè)結(jié)合技術(shù)與法律力量提出可行性的解決方案，符合監(jiān)管機構(gòu)的安全規(guī)范要求，共同推進生成式人工智能應(yīng)用生態(tài)發(fā)展。