張貝貝

雖然業(yè)界普遍對(duì)人工智能的應(yīng)用前景看好，但AI系統(tǒng)的部署、建設(shè)并非一件容易事。這一點(diǎn)在企業(yè)真正的AI實(shí)踐中會(huì)表現(xiàn)得更為直觀。

近年來(lái)，人工智能技術(shù)在圖像（物體識(shí)別、人臉識(shí)別等）、自然語(yǔ)言（語(yǔ)音識(shí)別、翻譯、對(duì)話機(jī)器人）、智能醫(yī)療、智能推薦（廣告、新聞、視頻）等領(lǐng)域取得了飛速發(fā)展。不但眾多初創(chuàng)企業(yè)將人工智能研發(fā)作為揚(yáng)帆起航的契機(jī)，許多傳統(tǒng)企業(yè)也將其作為自身轉(zhuǎn)型升級(jí)所必備的利器。

人工智能正在走出象牙塔，走近普通企業(yè)和大眾。與此同時(shí)，人工智能技術(shù)對(duì)計(jì)算資源的需求也快速增加，因而“云計(jì)算如何服務(wù)于人工智能產(chǎn)業(yè)的發(fā)展”已成為公有云服務(wù)的一個(gè)新方向。

近日，由國(guó)內(nèi)云服務(wù)商UCloud發(fā)起的“中立可信賴，賦能夢(mèng)想者2018 Think in Cloud”峰會(huì)于北京召開(kāi)。本次峰會(huì)聚集了來(lái)自互聯(lián)網(wǎng)、企業(yè)服務(wù)、人工智能等領(lǐng)域的企業(yè)。在AI專場(chǎng)，來(lái)自UCloud的專家就如何利用公有云落地AI，UCloud如何通過(guò)AI平臺(tái)賦能企業(yè)部署AI等話題進(jìn)行了深入的分析和解讀。

雖然業(yè)界普遍對(duì)人工智能的應(yīng)用前景看好，但AI系統(tǒng)的部署、建設(shè)并非一件容易事。這一點(diǎn)在企業(yè)真正的AI實(shí)踐中會(huì)表現(xiàn)得更為直觀。

實(shí)際上，無(wú)論是初創(chuàng)企業(yè)想要踏上AI創(chuàng)新之旅，抓住人工智能發(fā)展的浪潮，還是傳統(tǒng)企業(yè)希望借助AI之力進(jìn)行企業(yè)的轉(zhuǎn)型升級(jí)，AI系統(tǒng)的設(shè)計(jì)、部署和運(yùn)維都需要提升更多的能力和多維度蓄力。

UCloud AI平臺(tái)技術(shù)專家宋翔認(rèn)為，在AI落地過(guò)程中可能會(huì)遇到的一些技術(shù)挑戰(zhàn)非常多，總結(jié)下大致有三部分。

第一部分是技術(shù)環(huán)境。技術(shù)環(huán)境是一個(gè)非常大的挑戰(zhàn)，整個(gè)技術(shù)環(huán)境涉及AI的框架，還有很多的算法庫(kù)，包括一些GPU的技術(shù)庫(kù)，還有各種各樣的設(shè)備，以及各種各樣的存儲(chǔ)，這些交叉起來(lái)會(huì)產(chǎn)生一個(gè)非常復(fù)雜的環(huán)境，如何把控這個(gè)環(huán)境，使得自己的研發(fā)人員在使用這些環(huán)境的時(shí)候更便捷，這是一個(gè)挑戰(zhàn)。

第二部分是當(dāng)深入到AI系統(tǒng)的核心建設(shè)時(shí)，就要考慮算法兼容性、平臺(tái)可用性等問(wèn)題，比如系統(tǒng)能不能去兼容不同的AI算法，在公司業(yè)務(wù)擴(kuò)張的時(shí)候，能不能做到一個(gè)業(yè)務(wù)的橫向擴(kuò)張或者快速地?cái)U(kuò)展，還有系統(tǒng)能不能是分布式的，能不能做到一些高可用或者容災(zāi)的能力。當(dāng)有新的硬件和新的技術(shù)發(fā)生的時(shí)候，系統(tǒng)能不能快速的跟上這些新的硬件和新的技術(shù)的發(fā)展。

第三部分是投入產(chǎn)出比的問(wèn)題。所有投資AI的人都要考慮投入產(chǎn)出比，如何以較小的投入得到較高的回報(bào)，比如當(dāng)開(kāi)展AI應(yīng)用的時(shí)候，如何控制研發(fā)成本，讓研發(fā)人員更關(guān)注于算法，而不是一些AI環(huán)境的部署或者資源管理。

在真正的部署實(shí)踐中，企業(yè)無(wú)一例外地發(fā)現(xiàn)，想要走上AI之路，并非坦途大道。那么，UCloud如何解決企業(yè)實(shí)際部署落地AI過(guò)程中的一些困難呢？

平臺(tái)化服務(wù)加速AI落地

據(jù)了解，早在2017年，UCloud提出了“CBA”戰(zhàn)略，其中“C”就是Cloud Computing（云計(jì)算），“B”是Big Data（大數(shù)據(jù)），“A”是AI（人工智能）。UAI-Inference就是UCloud布局AI的重要落地之舉。具體來(lái)看，可以理解為UCloud在AI領(lǐng)域是一個(gè)提供AI的PaaS平臺(tái)，降低AI應(yīng)用的落地門檻，另一方面聯(lián)合AI公司基于該平臺(tái)打造行業(yè)解決方案。

UAI-Inference面向初創(chuàng)企業(yè)、傳統(tǒng)企業(yè)AI轉(zhuǎn)型而生，旨在提供易部署、易運(yùn)維、更安全以及多AI框架支持的海量AI在線服務(wù)節(jié)點(diǎn)，自動(dòng)實(shí)現(xiàn)負(fù)載均衡、擴(kuò)容縮容。按實(shí)際使用量計(jì)費(fèi)，普遍適用于常見(jiàn)的AI在線服務(wù)場(chǎng)景，如圖像識(shí)別、自然語(yǔ)言處理。

在本次大會(huì)的AI論壇中，UCloud實(shí)驗(yàn)室負(fù)責(zé)人兼高級(jí)研發(fā)總監(jiān)葉理燈進(jìn)行了“基于云計(jì)算構(gòu)建機(jī)器學(xué)習(xí)系統(tǒng)的實(shí)踐”的演講，從技術(shù)、軟件架構(gòu)的角度剖析了在云計(jì)算環(huán)境下面，如何基于云計(jì)算提供的服務(wù)，搭建一個(gè)高可用、低成本的機(jī)器學(xué)習(xí)系統(tǒng)，以加快機(jī)器學(xué)習(xí)的落地，并降低應(yīng)用門檻和成本。

他提出，這幾年云計(jì)算發(fā)展有兩個(gè)趨勢(shì)，托管的力度越來(lái)越小，從硬件到函數(shù)力度越來(lái)越小。另外對(duì)研發(fā)越來(lái)越友好。目前PaaS服務(wù)非常豐富，除了對(duì)象存儲(chǔ)、IWS3、內(nèi)存存儲(chǔ)、快存儲(chǔ)等，還有很多DB類的數(shù)據(jù)庫(kù)服務(wù)、消息推送、用戶認(rèn)證等。這些服務(wù)對(duì)于研發(fā)來(lái)說(shuō)是非常有利的。“推動(dòng)這些發(fā)展的背后的動(dòng)力我覺(jué)得有兩大動(dòng)力，第一是成本，第二是效率。因?yàn)椴还苡肐aaS還是PaaS，開(kāi)發(fā)者或者這個(gè)公司的負(fù)責(zé)人去維護(hù)虛擬機(jī)，還得對(duì)這個(gè)資源進(jìn)行運(yùn)維，不是完全的應(yīng)用。所以后面這些豐富的功能的出現(xiàn)是為了解決資源維護(hù)，從而加速應(yīng)用。”

在UCloud看來(lái)，其實(shí)最核心的方法就是要平臺(tái)化。宋翔總結(jié)道：“利用公有云來(lái)做AI落地，首先享受到的是一些IaaS的服務(wù)，比如說(shuō)充足的網(wǎng)絡(luò)資源、存儲(chǔ)資源，其次你會(huì)有一些技術(shù)的環(huán)境，比如說(shuō)我有一些技術(shù)的虛擬機(jī)鏡像的能力，或者容器鏡像的服務(wù)，這樣可以降低一定的開(kāi)發(fā)應(yīng)用的成本。PaaS服務(wù)就會(huì)提供更多的能力，比如說(shuō)環(huán)境的分裝功能，我們提供了一些基礎(chǔ)的鏡像庫(kù)，也提供了一些算法的鏡像庫(kù)，同時(shí)PaaS服務(wù)會(huì)提供分布式系統(tǒng)，比如說(shuō)我們提供了一站式AI訓(xùn)練或者AI在線服務(wù)的系統(tǒng)，同時(shí)也支持分布式的訓(xùn)練?！?/p>

對(duì)于AI機(jī)器學(xué)習(xí)系統(tǒng)的落地，葉理燈認(rèn)為可以分為3個(gè)步驟：Build、Train、Inference。Build的意思是，根據(jù)面臨的技術(shù)性的問(wèn)題選定合適的算法，設(shè)定相關(guān)的參數(shù)，比如訓(xùn)練的深度和分類的個(gè)數(shù)。Train就是根據(jù)設(shè)定的那些參數(shù)拿出去做訓(xùn)練，訓(xùn)練之后的模型要變成在線服務(wù)，這就是Inference的過(guò)程。

大家可以看到，如果從數(shù)據(jù)流的角度來(lái)說(shuō)，Inference是個(gè)很簡(jiǎn)單的過(guò)程，那么怎么構(gòu)建一個(gè)系統(tǒng)來(lái)滿足Inference特性的系統(tǒng)需求呢？葉理燈總結(jié)有幾點(diǎn)。第一，無(wú)狀態(tài)的需求。第二，AutoScaling（自動(dòng)可擴(kuò)容）。第三，高可用性。第四，高并發(fā)。第五，海量計(jì)算?；谶@樣的需求和背景，構(gòu)建這個(gè)系統(tǒng)分3步來(lái)進(jìn)行：第一步，建設(shè)一個(gè)底層的計(jì)算平臺(tái)。第二步，上層APP管理，方便用戶去管理模型。第三步，提供SDK。方便用戶在不同的框架上面來(lái)使用系統(tǒng)。

據(jù)介紹，為了幫助客戶解決AI模型訓(xùn)練過(guò)程面臨關(guān)鍵的問(wèn)題，UCloud AI Train平臺(tái)基于UCloud性能強(qiáng)大的GPU云主機(jī)集群構(gòu)建，為AI訓(xùn)練任務(wù)提供充足的計(jì)算能力。同時(shí)，提供一站式訓(xùn)練任務(wù)托管服務(wù)，包括自動(dòng)實(shí)現(xiàn)計(jì)算節(jié)點(diǎn)調(diào)度、訓(xùn)練環(huán)境準(zhǔn)備、數(shù)據(jù)上傳下載以及任務(wù)容災(zāi)等功能，能夠幫助用戶從繁雜的GPU資源采購(gòu)、管理、運(yùn)維工作中解放出來(lái)。

另外，UAI Train平臺(tái)按照實(shí)際計(jì)算消耗付費(fèi)，不但可以降低GPU的成本投入，還可以避免閑置資源浪費(fèi)。

AI發(fā)揮價(jià)值離不開(kāi)行業(yè)應(yīng)用

去年，UCloud與英特爾達(dá)成戰(zhàn)略合作，雙方針對(duì)數(shù)據(jù)中心的存儲(chǔ)能力、計(jì)算能力以及網(wǎng)絡(luò)傳輸、軟件優(yōu)化等方面實(shí)現(xiàn)深層次合作，不僅如此，隨著云計(jì)算的普及，雙方的合作也希望能給人工智能領(lǐng)域的發(fā)展提供新的思路和方向。UCloud與英特爾的全面合作，基于英特爾至強(qiáng)可擴(kuò)展處理器和英特爾Caffe框架優(yōu)化等相關(guān)技術(shù)和產(chǎn)品，幫助企業(yè)客戶快速便捷部署云計(jì)算和人工智能基礎(chǔ)設(shè)施，為UCloud最終客戶帶來(lái)更多價(jià)值。

人工智能一定要與行業(yè)結(jié)合，形成真正有效的行業(yè)智能，才能助力傳統(tǒng)行業(yè)轉(zhuǎn)型升級(jí)，推進(jìn)人工智能與實(shí)體經(jīng)濟(jì)快速融合。同時(shí)人工智能技術(shù)作為新一輪產(chǎn)業(yè)變革的核心驅(qū)動(dòng)力，也必須與各行各業(yè)融合才能發(fā)揮作用。

葉理燈表示：“人工智能只是一門技術(shù)，它不是一個(gè)行業(yè)，它一定要跟行業(yè)結(jié)合起來(lái)，滲透到行業(yè)里面去，這才是人工智能的價(jià)值所在。UCloud是一個(gè)中立平臺(tái)，我們的宗旨是上不碰應(yīng)用，下不碰數(shù)據(jù)。人工智能價(jià)值的產(chǎn)生一定要解決行業(yè)問(wèn)題?！?/p>

關(guān)于應(yīng)用，宋翔舉例道，一家從事互聯(lián)網(wǎng)社交的公司希望通過(guò)他們自己的圖片識(shí)別的業(yè)務(wù)給自己的客戶打上更多的業(yè)務(wù)標(biāo)簽，這樣可以提升自己的精準(zhǔn)推送的能力，他們的需求其實(shí)非常簡(jiǎn)單，他自己開(kāi)發(fā)了一套圖片識(shí)別的服務(wù)，他需要把這個(gè)服務(wù)變成一個(gè)高可用的在線服務(wù)，他每天會(huì)有大量的用戶圖片信息發(fā)送到服務(wù)里面去，給這些圖片打標(biāo)簽。

在使用AI平臺(tái)的時(shí)候，用戶就會(huì)發(fā)現(xiàn)有幾個(gè)非常大的好處，第一個(gè)就是用戶可以快速地部署AI識(shí)別服務(wù)，因?yàn)閷?duì)于用戶來(lái)說(shuō)，整個(gè)研發(fā)團(tuán)隊(duì)不是很大，他在使用UCloudAI在線服務(wù)平臺(tái)的時(shí)候不需要投入人去研發(fā)在線的服務(wù)平臺(tái)，只需要直接用就行了。由于整個(gè)平臺(tái)有大量CPU的資源供他使用，所以對(duì)于它的業(yè)務(wù)高峰來(lái)說(shuō)，他完全有充足的資源來(lái)保證整個(gè)業(yè)務(wù)的穩(wěn)定，最后因?yàn)閁Cloud整個(gè)平臺(tái)是按需收費(fèi)的，其實(shí)對(duì)于他們來(lái)說(shuō)，每個(gè)月在這個(gè)平臺(tái)上的月銷也是非常低的，這樣大量節(jié)約了他們使用的成本。

那么對(duì)于UColud來(lái)說(shuō)，哪些是他們關(guān)注的第一梯隊(duì)需要利用AI賦能的用戶呢？

葉理燈認(rèn)為，如果從AI的需求來(lái)看的話：第一類：純AI的算法公司。這類公司大多因?yàn)槭莿?chuàng)業(yè)公司，可能不能儲(chǔ)備太多資源。第二類：傳統(tǒng)企業(yè)。傳統(tǒng)企業(yè)都會(huì)想到用機(jī)器學(xué)習(xí)來(lái)解決效率問(wèn)題，就是人工做的事情能不能用AI做。但是傳統(tǒng)企業(yè)的軟件架構(gòu)能力和IT建設(shè)的能力又不足，其實(shí)這個(gè)比較適合用公有云來(lái)賦能。第三類是一些有能力的互聯(lián)網(wǎng)公司，但是只是在某一方面有特殊需求，這類只用Pass系統(tǒng)就可以了。

宋翔介紹：“我們提供的思路主要是圍繞客戶的需求。第一個(gè)思路：一定要方便、便捷。對(duì)于落地來(lái)說(shuō)，無(wú)論是傳統(tǒng)企業(yè)還是互聯(lián)網(wǎng)企業(yè)，我們希望他們?cè)诼涞剡^(guò)程中，不會(huì)有太多的絆腳石，能快速地推進(jìn)，因此我們提供了很多基礎(chǔ)服務(wù)，比如說(shuō)通過(guò)提供鏡像、提供一些服務(wù)平臺(tái)的服務(wù)，去幫助用戶快速落地。第二個(gè)思路：解決痛點(diǎn)，成本的問(wèn)題。無(wú)論部署什么系統(tǒng)，使用什么平臺(tái)，最終都是要降低成本，提供效率，直達(dá)業(yè)務(wù)痛點(diǎn)的?！?/p>

本次UCloud Think in Cloud 2018于5月15日在北京富力萬(wàn)麗酒店圓滿落幕。除了云領(lǐng)域的最新技術(shù)趨勢(shì)解讀和UCloud兩大產(chǎn)品重磅發(fā)布，大會(huì)特別策劃的AI和區(qū)塊鏈技術(shù)專場(chǎng)，分享和呈現(xiàn)了“互聯(lián)網(wǎng)+”時(shí)代下，云計(jì)算在大數(shù)據(jù)交換及應(yīng)用、人工智能、區(qū)塊鏈、物聯(lián)網(wǎng)等諸多行業(yè)領(lǐng)域的應(yīng)用與實(shí)踐，也向業(yè)界傳達(dá)了最前沿的技術(shù)熱點(diǎn)與行業(yè)洞察，為開(kāi)發(fā)者提供了一些啟發(fā)和借鑒。