從云端到邊緣,Arm推動(dòng)AI體驗(yàn)革新
日前,Arm高級(jí)副總裁兼終端事業(yè)部總經(jīng)理Chris Bergey在北京接受了媒體采訪,分享了從云端到邊緣側(cè),Arm計(jì)算平臺(tái)如何構(gòu)筑AI基石,并展望了未來(lái)幾年內(nèi)AI技術(shù)在不同領(lǐng)域的應(yīng)用前景。
AI無(wú)處不在:端側(cè)智能體嶄露頭角
Chris Bergey談到,AI正在以驚人的速度滲透進(jìn)我們生活的各個(gè)角落,無(wú)論是行業(yè)還是個(gè)人生活領(lǐng)域。他指出,過(guò)去一年里,AI模型不僅變得更加智能化,而且在規(guī)??s小的同時(shí),實(shí)現(xiàn)了性能增強(qiáng),這主要得益于所需計(jì)算量的變化及模型本身的演進(jìn)。特別是端側(cè)AI的發(fā)展,已經(jīng)不突破了智能手機(jī)領(lǐng)域的局限,擴(kuò)展到了更廣泛的設(shè)備類型中,包括機(jī)器人技術(shù)等應(yīng)用。
值得注意的是,隨著AI智能體的出現(xiàn),眾多成功的商業(yè)案例不斷涌現(xiàn)。例如,在編程自動(dòng)化和客戶服務(wù)優(yōu)化方面,一些初創(chuàng)企業(yè)僅憑借不到百人的團(tuán)隊(duì)便實(shí)現(xiàn)了超過(guò)一億美元的收入。此外,實(shí)體AI如機(jī)器狗、配送機(jī)器人等也開始展現(xiàn)出巨大的市場(chǎng)潛力。Bergey預(yù)測(cè),在接下來(lái)的一到三年內(nèi),這些設(shè)備有望能夠?qū)崿F(xiàn)媲美人類操作的自主運(yùn)行水平,開啟新的發(fā)展篇章。
構(gòu)建高能效AI系統(tǒng)的三大要素
Chris Bergey表示,構(gòu)建一個(gè)無(wú)處不在的AI系統(tǒng)需要考慮三個(gè)核心要素:首先,需要打造一個(gè)從云端到邊緣無(wú)處不在的計(jì)算平臺(tái),以支持AI在不同場(chǎng)景下的靈活部署和應(yīng)用。這不僅有助于推動(dòng)先進(jìn)技術(shù)及產(chǎn)品的實(shí)現(xiàn),也為現(xiàn)有產(chǎn)品增加了新功能。其次,電力和每瓦性能至關(guān)重要。隨著AI模型的復(fù)雜性和規(guī)模增長(zhǎng),其能耗也顯著增加,尤其是在數(shù)據(jù)中心,其能耗從兆瓦級(jí) (MW) 躍升至吉瓦 (GW) 級(jí),而其中超過(guò) 50% 實(shí)際上來(lái)自于機(jī)架和半導(dǎo)體設(shè)備,這意味著“每瓦性能”可能是最關(guān)鍵的衡量指標(biāo)。
此外,軟件生態(tài)系統(tǒng)同樣扮演著不可或缺的角色。Arm擁有全球最大的開發(fā)者生態(tài),基于其架構(gòu)的芯片出貨量迄今已超3,100億顆芯片,這形成了良性循環(huán),促進(jìn)了豐富的軟件資源和硬件發(fā)展機(jī)會(huì)。
值得一提的是,Arm在去年推出的Kleidi軟件庫(kù),已被廣泛應(yīng)用于多個(gè)市場(chǎng),支持了眾多主流AI框架,并且針對(duì)最新的Armv9 CPU架構(gòu)進(jìn)行了優(yōu)化,進(jìn)一步提升了AI工作負(fù)載的執(zhí)行效率。截至目前,Kleidi已累計(jì)超過(guò)80億次安裝,并且在繼續(xù)快速增長(zhǎng)。
據(jù)Bergey分享,Arm預(yù)計(jì)將在今年稍晚推出新一代Armv9旗艦CPU(代號(hào)Travis),將在現(xiàn)有最高水平的IPC性能基礎(chǔ)上繼續(xù)實(shí)現(xiàn)兩位數(shù)的提升。更高的IPC意味著在不額外增加功耗的情況下,CPU能在單位時(shí)間內(nèi)處理更多任務(wù),對(duì)于依賴長(zhǎng)續(xù)航與散熱控制的智能手機(jī)來(lái)說(shuō)尤為重要。此外,Travis還將首次引入專為加速AI工作負(fù)載設(shè)計(jì)的可伸縮矩陣擴(kuò)展(SME)功能。
作為手機(jī)高性能GPU的領(lǐng)先提供商,Arm在GPU方面也持續(xù)進(jìn)行大量投入。其下一代 GPU(代號(hào) Drage)將與Travis CPU同步推出,集成Arm精銳超級(jí)分辨率技術(shù)(Arm ASR)增強(qiáng)了GPU性能,使得移動(dòng)設(shè)備能夠提供媲美游戲主機(jī)級(jí)別的畫質(zhì)和體驗(yàn)。這些進(jìn)展不僅鞏固了Arm在智能手機(jī)、物聯(lián)網(wǎng)等領(lǐng)域的領(lǐng)先地位,也推動(dòng)了AI技術(shù)向更廣泛的市場(chǎng)滲透。
據(jù)Bergey分享,這兩款產(chǎn)品的結(jié)合將引入今年即將發(fā)布的面向移動(dòng)端市場(chǎng)的Arm Lumex CSS解決方案。屆時(shí),行業(yè)將迎來(lái)Arm在移動(dòng)終端設(shè)備的又一次里程碑式創(chuàng)新,為智能終端構(gòu)建更強(qiáng)大的AI基石。
與此同時(shí),Arm與全球領(lǐng)先的科技企業(yè)緊密合作,共同推進(jìn)技術(shù)進(jìn)步。例如,NVIDIA在其DGX Spark AI 桌面計(jì)算平臺(tái)中集成了10個(gè)Arm Cortex-X925核心和10個(gè)Cortex-A725核心,并實(shí)現(xiàn)了高達(dá)1 PetaFLOPs的AI性能;而在數(shù)據(jù)中心領(lǐng)域,基于Arm架構(gòu)的AWS Graviton處理器已承擔(dān)了亞馬遜云科技相當(dāng)一部分的工作負(fù)載,且其超過(guò)90%的重要客戶(不包含Amazon)也在使用這一高效能解決方案。
Bergey在采訪中還表示,數(shù)據(jù)中心的未來(lái)將是Arm計(jì)算與加速器的緊密耦合,而在邊緣AI方面,鑒于70% 第三方AI應(yīng)用程序會(huì)始終運(yùn)行在 CPU 上,Arm將持續(xù)采用異構(gòu)計(jì)算的策略,關(guān)注CPU、GPU 和 NPU 之間的協(xié)同運(yùn)作。
總結(jié)
根據(jù)Arm的預(yù)測(cè),在2025年,出貨到頭部超大規(guī)模云服務(wù)提供商的算力中,將有近50%是基于Arm架構(gòu);同時(shí),在PC和平板市場(chǎng),Arm 架構(gòu)將占整體出貨量的40%以上。要實(shí)現(xiàn)這一目標(biāo)并非易事。面對(duì)來(lái)自x86架構(gòu)的競(jìng)爭(zhēng),Arm的一大優(yōu)勢(shì)是在于其龐大的開發(fā)者生態(tài)系統(tǒng)和靈活的設(shè)計(jì)理念。特別是在智能手機(jī)、云計(jì)算、物聯(lián)網(wǎng)等多個(gè)關(guān)鍵領(lǐng)域,Arm正通過(guò)持續(xù)優(yōu)化CPU和GPU性能,滿足日益復(fù)雜的AI需求。
隨著AI技術(shù)的不斷成熟,我們有理由相信,無(wú)論是在云端還是邊緣,Arm都將扮演重要角色,助力各行各業(yè)實(shí)現(xiàn)智能化轉(zhuǎn)型。而對(duì)于普通消費(fèi)者而言,這意味著更加智能便捷的生活體驗(yàn)即將到來(lái)。正如Chris Bergey所言,“AI 的未來(lái)前景廣闊,而這個(gè)未來(lái)將由 Arm 及其合作伙伴共同打造?!?/p>
關(guān)注我們
