鄧之湄

山姆·阿爾特曼：讓AI成為更安全的幫手

山姆·阿爾特曼

我們需要國際合作，以可驗(yàn)證的方式在全球范圍內(nèi)建立越來越強(qiáng)大的、可以信任和開發(fā)的AGI系統(tǒng)，盡管這并不容易。

最近一段時(shí)間，我走過五大洲的近20個(gè)國家，接觸了很多人工智能領(lǐng)域的學(xué)生和開發(fā)者，見證了全球各地的人們正利用AI改善生活，也和各界人士深入探討了如何確保強(qiáng)大的AI能安全地運(yùn)作。

我們發(fā)現(xiàn)，當(dāng)前AI還存在不少亟待解決的難題。

治理需國際合作

隨著 AI能力迅速提高，我們需要將AI技術(shù)負(fù)責(zé)任地應(yīng)用到各領(lǐng)域，必須預(yù)判并管理好風(fēng)險(xiǎn)。如果我們不做好規(guī)劃，一個(gè)本來計(jì)劃用于改善公共衛(wèi)生的AI系統(tǒng)，可能會(huì)因?yàn)橘Y源提供不平衡而破壞了整個(gè)系統(tǒng)。

我希望投入時(shí)間和精力集中攻關(guān)重要領(lǐng)域，其中一個(gè)重要領(lǐng)域就是AGI（通用人工智能）治理。如果我們能將AGI系統(tǒng)最核心的技術(shù)實(shí)現(xiàn)網(wǎng)絡(luò)共享，AGI系統(tǒng)就可以為全球經(jīng)濟(jì)創(chuàng)造巨大財(cái)富，解決人類面臨的挑戰(zhàn)，如全球氣候變化、人類健康安全等，在多個(gè)方面提升社會(huì)福祉。

我們需要建立包容的國際準(zhǔn)則和標(biāo)準(zhǔn)，并在所有國家就AGI的使用建立平等、統(tǒng)一的防護(hù)措施。

我們需要國際合作，以可驗(yàn)證的方式在全球范圍內(nèi)建立越來越強(qiáng)大的、可以信任和開發(fā)的AGI系統(tǒng)，盡管這并不容易。

《道德經(jīng)》告訴我們：“千里之行，始于足下?！睂Π踩M(jìn)行長期的關(guān)注和投入，最有建設(shè)性的第一步就是國際科技界開展合作，確保AGI安全的技術(shù)發(fā)展，增加技術(shù)透明度和建立知識(shí)共享機(jī)制，為應(yīng)對一旦出現(xiàn)的緊急問題，各國研究人員應(yīng)該共享研究成果。當(dāng)然，我們在呼吁國際合作的同時(shí)，也需要尊重和保護(hù)知識(shí)產(chǎn)權(quán)。

以AI監(jiān)督AI

當(dāng)前，我們關(guān)注的是如何使AI系統(tǒng)成為一個(gè)有益和安全的好幫手。隨著AGI時(shí)代的臨近，其帶來的潛在影響、問題將呈指數(shù)級增長，因此我們需要主動(dòng)應(yīng)對AGI帶來的挑戰(zhàn)，將可能遇到的風(fēng)險(xiǎn)降至最低。

從GPT-4完成預(yù)訓(xùn)練到部署運(yùn)用，我們用了8個(gè)月時(shí)間來研究如何預(yù)判風(fēng)險(xiǎn)，并給出對策。很慶幸我們做對了，大模型訓(xùn)練后的對齊（指AI系統(tǒng)的目標(biāo)和人類的價(jià)值觀與利益保持一致）是提高性能和改善體驗(yàn)的關(guān)鍵，GPT-4的對齊程度超過當(dāng)前所有代碼。不過，對于更高級的系統(tǒng)，對齊仍然是一個(gè)尚未解決的難題，需要采用新的技術(shù)方法，以及加強(qiáng)治理監(jiān)督。畢竟，未來的AGI可能是一個(gè)十萬行二進(jìn)制代碼的系統(tǒng)。

現(xiàn)階段，人類的監(jiān)督很難判斷如此規(guī)模的大模型是否在做一些于人類不利的事。因此，我們正在嘗試使用AI系統(tǒng)協(xié)助人類監(jiān)督其他AI系統(tǒng)。例如，我們可以訓(xùn)練一個(gè)模型來幫助監(jiān)督者找出其他模型代碼中的缺陷。

還有一個(gè)方向是可解釋性。我們希望更好地理解模型內(nèi)部發(fā)生的事情。最終，我們的目標(biāo)是訓(xùn)練AI系統(tǒng)具備更好的自我優(yōu)化能力。我們希望全世界的研究人員參與其中，在應(yīng)對AI領(lǐng)域的技術(shù)挑戰(zhàn)方面開展合作，利用AI解決全球重大問題，改善人類生存條件和質(zhì)量。

（山姆·阿爾特曼系OpenAI聯(lián)合創(chuàng)始人。本文根據(jù)山姆·阿爾特曼在2023 智源人工智能大會(huì)上的演講整理）

吳海：堅(jiān)定圍繞國家戰(zhàn)略投資布局

吳海

人工智能仍然處于發(fā)展的初級階段，從投資視角講，需要有更多耐心，以價(jià)值投資的理念來看待人工智能產(chǎn)業(yè)長期健康發(fā)展。

加快發(fā)展新一代人工智能，是贏得全球科技競爭主動(dòng)權(quán)的重要戰(zhàn)略抓手。2018年10月，中共中央政治局就人工智能發(fā)展現(xiàn)狀和趨勢舉行集體學(xué)習(xí)，指出加快發(fā)展新一代人工智能是事關(guān)我國能否抓住新一輪科技革命和產(chǎn)業(yè)變革機(jī)遇的戰(zhàn)略問題。作為網(wǎng)信領(lǐng)域國家級政府產(chǎn)業(yè)投資基金，中國互聯(lián)網(wǎng)投資基金（簡稱“中網(wǎng)投”）始終堅(jiān)持國家戰(zhàn)略導(dǎo)向，把服務(wù)網(wǎng)絡(luò)強(qiáng)國建設(shè)作為投資首要任務(wù)。

耐心助力產(chǎn)業(yè)發(fā)展

當(dāng)前，人工智能仍然處于發(fā)展的初級階段，從投資視角講，需要有更多耐心，以價(jià)值投資的理念來看待人工智能產(chǎn)業(yè)長期健康發(fā)展。

據(jù)公開數(shù)據(jù)，2022年國內(nèi)人工智能領(lǐng)域共超過800起融資事件（不含擬收購、被收購、定增、掛牌上市），盡管受疫情影響較2021年有所回落，但仍然保持高位活躍。從投資領(lǐng)域看，AI集成創(chuàng)新（即應(yīng)用層）在國內(nèi)最受關(guān)注，投資數(shù)量占比達(dá)到45%，包括智能機(jī)器人、自動(dòng)駕駛、智慧醫(yī)療、智能制造等。

隨著以大模型（如ChatGPT）為代表的現(xiàn)象級突破，預(yù)計(jì)在技術(shù)層及應(yīng)用層可能引發(fā)新一輪投資熱潮，與制造業(yè)、服務(wù)業(yè)等的融合創(chuàng)新也將進(jìn)一步提升智能化支撐水平。

重創(chuàng)新、保安全

按照國務(wù)院印發(fā)的《新一代人工智能發(fā)展規(guī)劃》，到2030年，我國人工智能核心產(chǎn)業(yè)規(guī)模將超過1萬億元，帶動(dòng)相關(guān)產(chǎn)業(yè)規(guī)模超過10萬億元。中網(wǎng)投在人工智能領(lǐng)域投資布局出發(fā)點(diǎn)是補(bǔ)齊短板、做強(qiáng)長板，支持核心技術(shù)創(chuàng)新突破、完善上下游協(xié)同生態(tài)，總體按照技術(shù)創(chuàng)新、基礎(chǔ)設(shè)施、產(chǎn)業(yè)融合、保障安全四個(gè)維度進(jìn)行投資布局：

一是支持核心技術(shù)創(chuàng)新。一方面深入布局視覺、語音、自然語言處理等較為成熟的算法框架；另一方面繼續(xù)關(guān)注理論突破和技術(shù)創(chuàng)新。如：多模態(tài)、大模型、無監(jiān)督學(xué)習(xí)、近存計(jì)算、類腦計(jì)算等。

二是關(guān)注算力數(shù)據(jù)基礎(chǔ)設(shè)施。深入布局面向新型計(jì)算架構(gòu)的AI芯片，兼顧專用計(jì)算及通用計(jì)算，關(guān)注面向可編程、可重構(gòu)的新型架構(gòu)，包括可能產(chǎn)生顛覆性創(chuàng)新、體系化革新的光電芯片、量子計(jì)算等。此外，投資布局一些服務(wù)于AI的高質(zhì)量數(shù)據(jù)平臺(tái)、行業(yè)大數(shù)據(jù)平臺(tái)。

三是助力產(chǎn)業(yè)融合應(yīng)用。根據(jù)當(dāng)前AI技術(shù)集成應(yīng)用成熟度和商業(yè)化落地情況，主要看好和投資有限受控場景下的無人駕駛系統(tǒng)、服務(wù)機(jī)器人以及有成熟商業(yè)模式的數(shù)據(jù)智能服務(wù)方向。

四是保障AI應(yīng)用安全。服務(wù)國家對AI、數(shù)據(jù)等安全監(jiān)管要求，守護(hù)科技向善，投向AI安全、數(shù)據(jù)安全，提升AI模型可靠性、穩(wěn)定性，保護(hù)個(gè)人隱私及行業(yè)數(shù)據(jù)安全。未來，我們希望在人工智能領(lǐng)域支持培育出更多產(chǎn)業(yè)領(lǐng)航能力的大中型企業(yè)和“專精特新”、單項(xiàng)冠軍企業(yè)。

（吳海系中國互聯(lián)網(wǎng)投資基金管理有限公司黨委書記、董事長。本文根據(jù)公開資料整理）

黃鐵軍：大模型需共建閉環(huán)

黃鐵軍

從長遠(yuǎn)來看，大模型只是標(biāo)簽而不是產(chǎn)品和某一家公司的工具，整個(gè)大模型開源開放生態(tài)是必然的。

智源研究院是國內(nèi)最早進(jìn)行大模型研究的科研機(jī)構(gòu)之一。近期，研究院發(fā)布了 “悟道3.0”版本，涵蓋語言、視覺、多模態(tài)（多模態(tài)模型指可以處理文本、圖像、聲音、視頻等多種不同類型數(shù)據(jù)的機(jī)器學(xué)習(xí)模型）等基礎(chǔ)大模型，現(xiàn)已全面開源。

其中，“悟道·視界”視覺大模型系列，解決了當(dāng)前計(jì)算機(jī)視覺領(lǐng)域的一系列瓶頸問題，實(shí)現(xiàn)了6項(xiàng)國際領(lǐng)先技術(shù)突破，被業(yè)界譽(yù)為點(diǎn)亮了通用視覺的曙光。天秤（FlagEval）大模型則旨在建立科學(xué)、公正、開放的評測基準(zhǔn)、方法和工具集，協(xié)助研究人員全方位評估模型性能，探索利用AI方法大幅提升評測的效率和客觀性。

大模型存活合理數(shù)：三個(gè)

可以說，智源研究院率先預(yù)見了“大模型時(shí)代”的到來。包括“大模型”這個(gè)名詞，就是2021年智源研究院發(fā)布“悟道1.0”時(shí)正式提出來的。

什么是大模型？我們認(rèn)為至少有三個(gè)特點(diǎn)：第一，規(guī)模要大，神經(jīng)網(wǎng)絡(luò)參數(shù)要達(dá)到百億規(guī)模以上。第二，要有涌現(xiàn)性，要產(chǎn)生預(yù)料之外的新能力，這是人工智能發(fā)展六七十年來，最具里程碑意義的新特性。第三，通用性，即不限于專門問題或者專門的領(lǐng)域，要能夠解決各類問題。當(dāng)然，受限于目前的技術(shù)發(fā)展階段，模型也不是所有問題都能解決，但要有很強(qiáng)的推廣性。

目前，國內(nèi)大模型發(fā)展的主要制約點(diǎn)是訓(xùn)練量太小、行業(yè)太熱，重復(fù)建設(shè)，資源分散。未來能夠存活的大模型生態(tài)合理數(shù)量為三個(gè)左右，今天的大模型都將是技術(shù)迭代的一個(gè)中間產(chǎn)品。

大模型產(chǎn)業(yè)難以形成壟斷，需要搭建共建產(chǎn)業(yè)閉環(huán)。從長遠(yuǎn)來看，大模型只是標(biāo)簽而不是產(chǎn)品和某一家公司的工具，整個(gè)大模型開源開放生態(tài)是必然的。

悟道3.0 系列大模型之悟道·天鷹

600維評測

現(xiàn)在，全世界發(fā)布了很多模型，這些模型到底哪些方面好、哪些方面不足。我們在科技部大模型旗艦項(xiàng)目的支持下推出了大語言模型的評測體系“天秤”，旨在建立科學(xué)、公正、開放的評測基準(zhǔn)方法工具集，協(xié)助研究人員全方位評估基礎(chǔ)模型，訓(xùn)練項(xiàng)目的性能。

目前，天秤大語言模型評測體系，在能力、任務(wù)、指標(biāo)三個(gè)維度上建立了全方位的評測體系，包括語言大模型可能具備的30多種能力，加上5種任務(wù)，再乘以4大類的指標(biāo)，總共差不多600維的評測體系，能比較全面衡量一個(gè)大模型的能力。

（黃鐵軍系智源研究院院長）

湯道生：大模型要解決真問題

湯道生

企業(yè)所需要的大模型能力，是在實(shí)際場景中真正解決了某個(gè)問題，而不是在100個(gè)場景中解決了70%-80%的問題。

過去半年，業(yè)界都在為大語言模型的發(fā)展感到興奮，不少人已經(jīng)試遍各個(gè)通用大模型的聊天機(jī)器人，不少企業(yè)管理者也在思考，如何將大模型技術(shù)應(yīng)用到自己企業(yè)的產(chǎn)業(yè)場景中。

但事實(shí)上，當(dāng)前通用大語言模型在應(yīng)對產(chǎn)業(yè)場景落地時(shí)還存在一定局限性。比如，通用大模型的訓(xùn)練數(shù)據(jù)主要來自公開數(shù)據(jù)集或網(wǎng)絡(luò)數(shù)據(jù)，對于特定行業(yè)的專業(yè)領(lǐng)域知識(shí)了解有限。比如，通用大語言模型的訓(xùn)練需要大量計(jì)算資源和漫長的訓(xùn)練周期，這對企業(yè)來說可能昂貴且耗時(shí)，且必須考量安全與合規(guī)。

因此，打造企業(yè)專屬的行業(yè)大模型至關(guān)重要，好用、易用的同時(shí)還能降低企業(yè)的成本和時(shí)間投入。

通用大模型一般都是基于廣泛的公開文獻(xiàn)與網(wǎng)絡(luò)信息來進(jìn)行訓(xùn)練，網(wǎng)上的信息可能有錯(cuò)誤、有謠言、有偏見，許多專業(yè)知識(shí)與行業(yè)數(shù)據(jù)積累不足，導(dǎo)致模型的專業(yè)性與精準(zhǔn)度不夠，數(shù)據(jù)“噪音”過大。

但在很多產(chǎn)業(yè)場景中，用戶對企業(yè)提供的專業(yè)服務(wù)要求高、容錯(cuò)性低。企業(yè)一旦提供了錯(cuò)誤信息，可能引起巨大的法律責(zé)任或公關(guān)危機(jī)。因此，企業(yè)使用的大模型必須可控、可追溯、可修正，而且必須充分測試才能上線。

企業(yè)所需要的大模型能力，是在實(shí)際場景中真正解決了某個(gè)問題，而不是在100個(gè)場景中解決了70%-80%的問題。

另外，大模型的訓(xùn)練數(shù)據(jù)越多，模型越大，訓(xùn)練與推理的成本也越高。但實(shí)際上，大部分的企業(yè)場景需求，不需要萬能的通用AI來滿足。因此，如何在合理的成本下，選擇合適的模型，才是企業(yè)需要思考與決策的。

企業(yè)需要有針對性的行業(yè)大模型，再加上企業(yè)自己的數(shù)據(jù)做訓(xùn)練或精調(diào)，才能打造出實(shí)用性更高、安全性更高的智能產(chǎn)品。模型最終要在真實(shí)場景落地，要達(dá)到理想的服務(wù)效果，往往需要企業(yè)將自身的數(shù)據(jù)也用起來。在模型研發(fā)過程中，既要關(guān)注敏感數(shù)據(jù)的保護(hù)與安全合規(guī)，也需要管理好大量的數(shù)據(jù)與標(biāo)簽，不斷測試與迭代模型。

因此，騰訊云推出了行業(yè)大模型精調(diào)解決方案，幫助模型開發(fā)者與算法工程師，一站式解決數(shù)據(jù)的處理問題，高效率、高品質(zhì)、低成本地創(chuàng)建和使用大模型；以模型的私有化部署、權(quán)限管控和數(shù)據(jù)加密等方式，讓企業(yè)用戶在打造模型與使用模型時(shí)都更放心。

我們正在進(jìn)入一個(gè)被AI重塑的時(shí)代，海量的創(chuàng)新應(yīng)用即將爆發(fā)。大模型只是起點(diǎn)，產(chǎn)業(yè)落地會(huì)是AI更大的應(yīng)用圖景。

（湯道生系騰訊集團(tuán)高級執(zhí)行副總裁）

騰訊云MaaS 全景圖