GPU：為何對HPC和AI越來越重要？

Andy Patrizio Charles

為什么原本用于電腦游戲的圖形處理芯片在企業(yè)計算中變得越來越重要了呢？ 答案可能在芯片之外。

很少有處理器能在其所設(shè)計應(yīng)用的領(lǐng)域之外獲得巨大成功，而圖形處理單元（GPU）正是如此。一款最初旨在加速游戲圖形的芯片，現(xiàn)在它的應(yīng)用幾乎包羅萬象——從Adobe Prime和數(shù)據(jù)庫到高性能計算（HPC）和人工智能（AI），等等。

幾乎所有OEM大廠和外包供應(yīng)商的服務(wù)器上現(xiàn)在都有GPU，但它們并非用于圖形加速。這是因為GPU本質(zhì)上是一個巨大的數(shù)學協(xié)處理器，現(xiàn)在被用來執(zhí)行從3D仿真到醫(yī)療成像，直至金融建模等計算量非常大的工作。

GPU與CPU

由于GPU設(shè)計用途單一，所以GPU的內(nèi)核要比CPU的內(nèi)核小得多，因此，GPU有數(shù)千個內(nèi)核，而CPU最多只有32個。對于一項任務(wù)而言，有5000個內(nèi)核可用，因此，這種設(shè)計非常適合于大規(guī)模并行處理。

Jon Peddie研究公司的主要業(yè)務(wù)針對圖形市場，其總裁Jon Peddie指出，對于任何需要并行處理的應(yīng)用程序，都是GPU計算的用武之地。

他說：“過去，并行處理是由x86這樣大量的處理器來完成的，因此成本非常高，而且很難編程。GPU作為一種專用的單用途處理器，其計算密度更高，已經(jīng)被用于很多數(shù)學加速任務(wù)中。”

支持GPU的應(yīng)用程序

GPU在數(shù)據(jù)中心中的應(yīng)用開始于本地開發(fā)的應(yīng)用程序，這得益于Nvidia開發(fā)的一種名為CUDA的語言。CUDA使用類似C語言的語法來調(diào)用GPU，而不是CPU，它不是一次調(diào)用，而是能夠并行執(zhí)行數(shù)千次。

隨著GPU性能的提高，以及處理器能夠應(yīng)用于非游戲任務(wù)，越來越多的打包應(yīng)用程序都開始支持GPU。這包括Adobe Permieri等桌面應(yīng)用程序，還有服務(wù)器端的應(yīng)用程序，包括SQL數(shù)據(jù)庫。GPU非常適合用于加速SQL查詢處理，因為SQL在指令集中的每一行都執(zhí)行相同的操作（通常是搜索）。GPU可以通過把一行數(shù)據(jù)分配給一個內(nèi)核來并行處理這一過程。

Brytlyt、SQream Technologies、MapD、Kinetica、PG-Strom和Blazegraph都在他們的數(shù)據(jù)庫中提供了GPU加速分析功能。甲骨文公司曾披露正在與Nvidia合作，但迄今為止似乎還沒有任何進展。微軟在SQL服務(wù)器上不支持GPU加速。

GPU與高性能計算（HPC）

GPU在HPC上也得到了應(yīng)用，仿真、金融建模和3D渲染等很多任務(wù)在并行環(huán)境中運行得非常好。據(jù)市場研究公司Intersect 360對HPC市場的調(diào)查數(shù)據(jù)，50個最受歡迎的HPC應(yīng)用軟件包中有34個提供GPU支持，包括所有排在前面的15個HPC應(yīng)用程序。

這包括化學應(yīng)用程序GROMACS、Gaussian和VASP，用于流體動力學的ANSYS和OpenFOAM，用于結(jié)構(gòu)分析的Simulia Abaqus和用于天氣/環(huán)境建模的WRF等等。

分析師們在報告中說：“我們相信GPU計算在HPC市場上已經(jīng)開始從量變到質(zhì)變，這將鼓勵開發(fā)者們不斷優(yōu)化應(yīng)用程序。”

GPU計算實例

GPU快速興起的市場是人工智能和機器學習，兩者都是大規(guī)模并行問題。硬件供應(yīng)商Supermicro的GPU服務(wù)器部門的產(chǎn)品管理主任Sarosh Irani說：“很多企業(yè)和首席信息官都在研究怎樣利用深度學習來解決自己的問題。有些人只是涉獵；而有的人則深入其中。而深度學習的應(yīng)用是非常全面的，人們認識到深度學習能夠幫助他們，他們需要一臺GPU服務(wù)器?！?/p>

如果你想在某項工作上變得聰明起來，只要有足夠多的樣本，人工智能就能讓你心想事成。人工智能系統(tǒng)學習識別某些東西，例如，癌細胞看起來是什么樣的，但是要做到這一點需要大量的數(shù)據(jù)，處理好這些數(shù)據(jù)，才能區(qū)分好壞。當發(fā)現(xiàn)相關(guān)性時，可以建立算法，進行分析。

例如，意大利能源公司Eni和美國的Stone Ridge科技能夠在不到一天的時間內(nèi)處理完油礦模型，而不是10天。使用3200個NVIDIA Tesla GPU和Stone Ridge的ECHELON軟件進行基于GPU的油礦仿真，在大約15.5個小時內(nèi)就能處理了10萬個油礦模型，每一個模型平均在28分鐘內(nèi)就能仿真了油礦15年的生產(chǎn)量。如果使用傳統(tǒng)的硬件和軟件，完成這項任務(wù)需要10天的時間。

油礦建模并非易事。通過從地球表面反射的聲波，尋找表明儲油量的回波來發(fā)現(xiàn)油礦。然后，反射波數(shù)據(jù)被轉(zhuǎn)換成圖像，地球科學家利用這些圖像來確定油礦是否含有碳氫化合物，以及碳氫化合物在圖像中的位置。這就決定了是否值得開采這一油礦。所有這些都需要繁重的數(shù)學處理，而這是GPU所擅長的。

GPU制造商：Nvidia和AMD

與CPU一樣，GPU市場也有兩家參與者——Nvidia和AMD。據(jù)Jon Peddie研究公司稱，在消費類游戲領(lǐng)域，競爭相當激烈，兩家公司的市場份額分別為60%和40%，Nvidia處于領(lǐng)先地位。

然而，在數(shù)據(jù)中心，兩家的差距非常大。Peddie報道說，Nvidia占有90%的市場份額，而AMD只占10%。這是因為Nvidia在這一領(lǐng)域深耕了20多年，支持GPU在數(shù)據(jù)中心以及其他非游戲類的應(yīng)用。

GPU與CUDA編程

在21世紀初，一些斯坦福大學的研究人員開始深入研究GPU的可編程和并行特性。Nvidia公司聘請這些研究人員開發(fā)了CUDA編程語言，支持開發(fā)人員采用C++編寫應(yīng)用程序，通過GPU進行加速。

Peddie評論說：“我非常信任Nvidia。他們資助了全世界的數(shù)百所大學來教授CUDA。因此，當一名學生畢業(yè)時，他們成為經(jīng)過預培訓的CUDA開發(fā)人員，為CUDA進入我們目前所熟知的行業(yè)奠定了基礎(chǔ)?！?/p>

CUDA團隊有一名斯坦福教授Ian Buck，現(xiàn)在成為Nvidia加速計算業(yè)務(wù)部的副總裁。他表示，CUDA的目的是便于學習和使用。他說：“任何知道C語言或者Fortran語言的人，我都能在一天內(nèi)教會他CUDA。我們早就意識到，我們不應(yīng)創(chuàng)造一種要求人們?nèi)W習新東西的全新的編程語言。”

因此，已經(jīng)在CPU上運行的應(yīng)用程序能夠相對快速地進行并行化處理。CUDA的主要變化在于不再像排序例程那樣只調(diào)用一次函數(shù)，而是調(diào)用數(shù)千次，每個內(nèi)核執(zhí)行一次。但是CUDA只適用于Nvidia GPU。要對AMD GPU編程，必須使用一個稱為OpenCL的庫，CUDA完全不支持它。

GPU與能耗

GPU在基本性能上是CPU強有力的替代者，但是性能和功耗之間有直接關(guān)系，所以兩者還保持著聯(lián)系。GPU的最大功率為300瓦。雖然Xeons的新一代版本Skylake功耗達到了200瓦，但CPU功耗平均低于100瓦。

最終，GPU因其規(guī)模而彌補了它的不足。因為它們可以完成幾十個CPU的工作，所以需要更少的GPU來進行同樣工作量的工作。Nvidia公司表示，進行同樣的工作，新的DGX-2 GPU服務(wù)器系統(tǒng)的功耗只是傳統(tǒng)CPU HPC集群的1/8。

對于Supermicro來說，這意味著它必須從頭開始設(shè)計一款使用GPU的產(chǎn)品。Irani說：“如果我把一個300瓦的GPU放在系統(tǒng)中，那么可能沒有足夠的功率容量或者散熱能力來支持它。8個GPU，絕對不可能。所以我需要一個定制的機架?！?/p>

如果數(shù)據(jù)中心的功率有限，那這就是個問題。并不是每個人都能夠奢侈地建造足球場那么大的數(shù)據(jù)中心，而且旁邊必須有一條河，用于水力發(fā)電和冷卻。David Rosenberg是彭博（Bloomberg）首席技術(shù)官辦公室的數(shù)據(jù)科學家，他非常喜歡使用GPU來減輕計算工作，CPU需要一年的時間，而GPU一個周末就完成了。

但他也經(jīng)常有這樣的情況，整個機柜只有一兩個GPU機架，因為它們消耗了機柜所能提供的全部功率。

他說：“我們一直在關(guān)注功耗問題。如果我們把500個GPU放到一個數(shù)據(jù)中心里，那就不能再放其他計算機了。與CPU相比，GPU所提供的計算能力更強。只是它們做的計算比CPU多得多，所以才占用了大量的功率。”

Andy Patrizio是南加州的一名自由撰稿人，20多年來一直從事計算機行業(yè)，他所擁有的每一臺x86個人計算機都是他自己組裝的，不包括筆記本計算機。

原文網(wǎng)址

https：//www.networkworld.com/article/3271077/servers/gpus-designed-for-gaming-now-crucial-to-hpc-and-ai.html