黃仁勛:串行計(jì)算過時(shí)并行計(jì)算是未來
記者:借助NVIDIA的Tesla,中國(guó)的超級(jí)計(jì)算機(jī)取得了世界領(lǐng)先的成績(jī)。我想中國(guó)要保持這種領(lǐng)先的成績(jī),在未來,需要做哪些方面的努力和創(chuàng)新?第二個(gè)問題,NVIDIA在這個(gè)過程中,對(duì)中國(guó)未來的超級(jí)計(jì)算機(jī)將會(huì)提供哪些支持?謝謝!
劉光明:剛才我給大家講過,中國(guó)的要性能計(jì)算機(jī)的發(fā)展經(jīng)歷了將近30年的歷程,從78年開始,以銀河1號(hào)為代表,中國(guó)就全面開展了高性能計(jì)算機(jī)的研制,這個(gè)研制并不是為了在世界上去爭(zhēng)排名,確確實(shí)實(shí)是因?yàn)槲覀儑?guó)家急需這樣的高性能計(jì)算機(jī)。作為天河來講,經(jīng)過32年的積累,在怎么做高性能計(jì)算機(jī),特別是研制承擔(dān)國(guó)家科技部“863”這個(gè)項(xiàng)目,千萬億次級(jí)別的高性能計(jì)算機(jī)研究過程中,遇到了一個(gè)世界性的難題,就是怎么去做。從2005年到2007年一直在研究,通用CPU我們這也有,我們的“飛騰1000”,在技術(shù)上怎么用別的有的稱為協(xié)處理器,有的稱為加速器,這種結(jié)構(gòu)也就叫做異構(gòu)的結(jié)構(gòu)去解決世界的難題。這里面過去實(shí)驗(yàn)過我們自己的流處理器芯片,當(dāng)時(shí)叫“飛騰100”,去年我們用的是AMD的,最后發(fā)現(xiàn)了NVIDIA的芯片的性能更好。
有一點(diǎn)請(qǐng)各位朋友注意的是,超級(jí)計(jì)算機(jī)做出來運(yùn)算峰值能做到4700萬億次,平均值2566萬億次,世界靠前。但這并不等于你能把這個(gè)機(jī)器在實(shí)際運(yùn)作中,能用的非常好。實(shí)際上在高性能計(jì)算方面是兩個(gè)問題,第一個(gè)是怎么把這臺(tái)計(jì)算機(jī)做出來,綜合性能是不錯(cuò)的,剛才楊教授介紹了,這就涉及到一個(gè)體系結(jié)構(gòu)的問題,涉及到我們計(jì)算部件的系統(tǒng)(計(jì)算子系統(tǒng)),包括高性能的通信系統(tǒng)。
第二個(gè)挑戰(zhàn)也是現(xiàn)在全世界都面臨的,就是它的應(yīng)用。也就是說,解決實(shí)際問題怎么去編程序。在這種通用CPU+GPU這種國(guó)際,國(guó)際上學(xué)術(shù)界稱為異構(gòu)協(xié)同、并行處理,或者叫異構(gòu)結(jié)構(gòu),它在編程上是非常困難的。這也是當(dāng)今世界上,人們面臨的第二個(gè)大的技術(shù)挑戰(zhàn),并不是所有的程序拿過來之后,都能夠在這個(gè)結(jié)構(gòu)上用的很好,包括國(guó)外。所以我們現(xiàn)在有一個(gè)很好的團(tuán)隊(duì),像楊教授帶領(lǐng)的這么一個(gè)團(tuán)隊(duì),從幾年前就在解決這個(gè)問題,應(yīng)該說現(xiàn)在已經(jīng)取得了非常好的成績(jī)。我們這一次能夠在實(shí)現(xiàn)4700萬億次情況下,能夠做到53%的計(jì)算效率,把平均值測(cè)到了2566萬億次,如果用同樣的結(jié)構(gòu)去給別的用戶測(cè),測(cè)不到這個(gè)水平,因?yàn)槲覀冞^去一直嘗試從事體系結(jié)構(gòu)的研究,就是機(jī)器怎么做,芯片的研制,知道這個(gè)程序怎么劃分。
通俗的講,這樣一個(gè)結(jié)構(gòu)里面,大家算出來它的核,包括通用CPU的核,再包括GPU的核,幾十萬億次,18萬多個(gè)。什么概念?就是一件工作你把它分為1000個(gè)人好分,1000個(gè)人你好領(lǐng)導(dǎo),把一件工作分給18萬個(gè)人,而且要把他們協(xié)調(diào)起來,讓他們同步聽命令、聽指揮的干好這件事,這在國(guó)際上也是個(gè)難題,對(duì)我們現(xiàn)在也是個(gè)難題,但是我們現(xiàn)在不斷的去解決,解決過程中有NVIDIA CUDA這樣的一個(gè)編程環(huán)境支持,又使這個(gè)難題開始解決了一部分,核心問題還要對(duì)物理過程分析怎么去并行化,計(jì)算機(jī)一般有超級(jí)計(jì)算機(jī)有超級(jí)并行計(jì)算機(jī),所以也就是并行。很直觀的講,18萬個(gè)人去干同一件事,這個(gè)組織,令行禁止,然后統(tǒng)一的行動(dòng)都是一個(gè)很難的事。大家可能知道,當(dāng)個(gè)小班長(zhǎng)、當(dāng)個(gè)小團(tuán)隊(duì)的老總很好當(dāng),當(dāng)個(gè)大國(guó)企的領(lǐng)導(dǎo)就不好當(dāng)了,也就是這個(gè)道理。
所以現(xiàn)在我們也在花很大力氣把應(yīng)用,就是過去在通用CPU環(huán)境下的應(yīng)用不斷的移植到異構(gòu)結(jié)構(gòu),應(yīng)該說我們?nèi)〉昧撕芎玫某煽?jī),當(dāng)然后面也還有大量的工作要去做,也請(qǐng)大家在宣傳的時(shí)候跟讀者們講清這個(gè)事。并不是說計(jì)算機(jī)做好之后就會(huì)用好,還需要我們進(jìn)一步的努力,把這機(jī)器在這樣的結(jié)構(gòu)情況下,在NVIDIA CUDA支持的情況下,還有新的技術(shù)上的突破、創(chuàng)新、進(jìn)步的基礎(chǔ)上,把應(yīng)用提升到一個(gè)更高、更實(shí)用的水平,使計(jì)算機(jī)天河一號(hào)A真正發(fā)揮它的實(shí)際用處。
黃仁勛:劉教授說的很對(duì),并行計(jì)算是一個(gè)非常復(fù)雜、非常大規(guī)模的計(jì)算,它的困難非常的多,但實(shí)際上如果你解決了這些困難的話,它能夠帶來的收益和效率也是非??捎^的。并行計(jì)算今天遇到的問題是整個(gè)計(jì)算界在過去30年,一直不停想要解決的問題,但是過去30年一直都沒有成功過。
有多少個(gè)超級(jí)計(jì)算機(jī)的公司在全球真正開發(fā)出來異構(gòu)計(jì)算、并行計(jì)算的呢?過去從事并行計(jì)算的這些公司今天都已經(jīng)不再存在了,因?yàn)樗麄兊募夹g(shù)和產(chǎn)品都沒有發(fā)揮作用。今天我們推出CUDA的新技術(shù),實(shí)際上是異構(gòu)計(jì)算,CPU+GPU的計(jì)算,一方面它很容易進(jìn)行推廣,另外一方面,它有非常強(qiáng)的擴(kuò)張能力。
革命性的一件事情是,花了NVIDIA公司很多年的時(shí)間來開發(fā)這個(gè)技術(shù),也花費(fèi)了我們幾十億美元的投資。在這個(gè)世界上,沒有任何一家公司在并行計(jì)算當(dāng)中的投資能超過NVIDIA。我們今天可以看到,因?yàn)镃UDA,并行計(jì)算有非常光明的前景。當(dāng)然,像劉博士剛才提到的,在這里我們還面臨著非常多的挑戰(zhàn)。在未來,我們需要不斷和劉博士及他的團(tuán)隊(duì)進(jìn)行合作,不斷地創(chuàng)造出更多或創(chuàng)造出下一代世界上最強(qiáng)的超級(jí)計(jì)算機(jī)。
中國(guó)已經(jīng)非常清楚地認(rèn)識(shí)到,開發(fā)和推廣超級(jí)計(jì)算機(jī)對(duì)于未來的知識(shí)、科學(xué)和技術(shù)的發(fā)展都有非常大的推動(dòng)作用。我們公司非常榮幸,能夠和國(guó)內(nèi)很多的科學(xué)家、研究人員、很到公司,還有很多的超級(jí)計(jì)算機(jī)中心一起合作,為超級(jí)計(jì)算方面的發(fā)展提供支持。在中國(guó),超級(jí)計(jì)算機(jī)領(lǐng)域的進(jìn)步以及中國(guó)在科學(xué)發(fā)展當(dāng)中不斷的進(jìn)步,會(huì)在全人類范圍內(nèi)給我們提供好處。
各位知道,世界已經(jīng)開始變得越來越小。現(xiàn)在對(duì)于知識(shí)、技術(shù)、科學(xué)的探索,對(duì)于全球整個(gè)人類都非常有益。我們會(huì)讓我們公司最強(qiáng)的技術(shù)人員和最強(qiáng)的技術(shù)隊(duì)不斷支持劉博士和楊博士以及整個(gè)超級(jí)計(jì)算天津中心,我們會(huì)用我們最出色的軟件工程師幫助劉博士的團(tuán)隊(duì)開發(fā)和拓展新的軟件,在CUDA上發(fā)揮得更好。我們會(huì)盡我們所有的力量,不斷投入,保證在中國(guó)所有的大學(xué)都能教授CUDA的課程,中國(guó)所有的大學(xué)都有這方面的知識(shí)和能力去不斷的推廣和教授并行計(jì)算的新技術(shù)。我深信,所有的計(jì)算機(jī)科學(xué)家和工程人員,都要學(xué)習(xí)并行計(jì)算。串行計(jì)算已經(jīng)是一個(gè)過去時(shí),并行計(jì)算才是未來。
劉光明:非常感謝各位朋友到我們天津中心來,也感謝NVIDIA的黃仁勛先生來現(xiàn)場(chǎng)和我們一起探討超級(jí)計(jì)算領(lǐng)域現(xiàn)有的技術(shù)以及未來的發(fā)展,給予我們很多新的啟示。從天河一號(hào)A得到世界靠前之后,獲得了世界和我們國(guó)家的關(guān)注,我們國(guó)家超級(jí)計(jì)算天津中心現(xiàn)在正在做兩件事兒,第一件事就是利用天河一號(hào)A,真正為濱海新區(qū)和天津地區(qū)的經(jīng)濟(jì)發(fā)展做好科技服務(wù),這是最關(guān)鍵的。未來,我們除了需要在高性能計(jì)算機(jī)方面做好科技服務(wù)之外,還會(huì)成立一個(gè)天津的云計(jì)算中心,盡管這是科學(xué)計(jì)算和數(shù)據(jù)服務(wù)兩件事,但我們會(huì)全方位服務(wù)于國(guó)家的發(fā)展。
第二方面,國(guó)家科技部在進(jìn)行“十二五”高性能計(jì)算機(jī)的發(fā)展規(guī)劃,根據(jù)我們現(xiàn)在研制高性能計(jì)算機(jī)的經(jīng)驗(yàn)和積累的技術(shù),會(huì)規(guī)劃一個(gè)未來符合國(guó)家整體戰(zhàn)略發(fā)展的新的更大的計(jì)算機(jī),這一點(diǎn)在“十二五”期間肯定會(huì)實(shí)現(xiàn)。我也希望跟NVIDIA的合作過程中,不斷利用雙方的經(jīng)驗(yàn)、技術(shù),為我們國(guó)家的高性能計(jì)算,為全世界高性能計(jì)算機(jī)的發(fā)展做出我們更大的貢獻(xiàn)。謝謝各位!■<
關(guān)注我們
