近日，Arm Tech Symposia 年度技術(shù)大會(huì)國(guó)內(nèi)首站落地深圳。作為Arm最重要、規(guī)模最盛大的技術(shù)活動(dòng)之一，Arm Tech Symposia 年度技術(shù)大會(huì)以“Arm 正在構(gòu)建計(jì)算的未來(lái)”為主題，圍繞人工智能、機(jī)器學(xué)習(xí)、物聯(lián)網(wǎng)、基礎(chǔ)設(shè)施、汽車、終端、移動(dòng)計(jì)算等行業(yè)熱點(diǎn)話題展開(kāi)。在此次大會(huì)上，Arm傳遞出對(duì)于服務(wù)器市場(chǎng)的處理器技術(shù)以及合作生態(tài)的最新洞察，并介紹了所推出的相關(guān)技術(shù)產(chǎn)品以大力支持基礎(chǔ)設(shè)施的加速建設(shè)。

AI時(shí)代，定制化芯片改變服務(wù)器架構(gòu)

人工智能的大潮已經(jīng)涌現(xiàn)，基礎(chǔ)設(shè)施融入AI這一趨勢(shì)對(duì)于數(shù)據(jù)中心、服務(wù)器提出更高的算力和性能需求。Arm在服務(wù)器市場(chǎng)呈現(xiàn)快速發(fā)展的態(tài)勢(shì)，此外，Arm還幫助合作伙伴實(shí)現(xiàn)服務(wù)器架構(gòu)上的創(chuàng)新。

圖：Arm高級(jí)副總裁兼基礎(chǔ)設(shè)施事業(yè)部總經(jīng)理 Mohamed Awad 在大會(huì)中與媒體進(jìn)行訪談

Arm高級(jí)副總裁兼基礎(chǔ)設(shè)施事業(yè)部總經(jīng)理 Mohamed Awad解析，在傳統(tǒng)的服務(wù)器系統(tǒng)架構(gòu)中，左邊是內(nèi)存，然后內(nèi)存連接到一個(gè)通用的現(xiàn)成CPU，這個(gè) CPU 又負(fù)責(zé)管理多個(gè)加速器。這樣的傳統(tǒng)架構(gòu)是過(guò)去市場(chǎng)上唯一可用的架構(gòu)，但這個(gè)架構(gòu)的問(wèn)題在于，這個(gè)通用的現(xiàn)成CPU 以及加速器之間的接口直接限制了產(chǎn)品最終的性能水平，因?yàn)樗械募铀倨鞫急仨氁ㄟ^(guò)一個(gè) CPU 訪問(wèn)額外的內(nèi)存，這樣就無(wú)法達(dá)到內(nèi)存的一致性，也就意味著加速器的性能無(wú)法被充分利用，也就無(wú)法很好地支持生成式 AI 時(shí)代的需求。

基礎(chǔ)設(shè)施領(lǐng)域的傳統(tǒng)系統(tǒng)架構(gòu)

在Arm展現(xiàn)的一例新架構(gòu)中，加入了CPU的數(shù)量并為整個(gè)系統(tǒng)架構(gòu)提供更高的性能。具體來(lái)看，這種現(xiàn)代的系統(tǒng)架構(gòu)中，CPU 是根據(jù)實(shí)際需求進(jìn)行定制化設(shè)計(jì)，每一個(gè)定制化的CPU 都可以單獨(dú)和一個(gè)加速器相連，會(huì)有較強(qiáng)的內(nèi)存一致性。“在這樣的架構(gòu)下，設(shè)計(jì)方根據(jù)用戶的實(shí)際場(chǎng)景和用例進(jìn)行 CPU 設(shè)計(jì)，方能將加速器的使用效率提到最高?！盡ohamed Awad說(shuō)道。新的架構(gòu)設(shè)計(jì)能夠更好地支持包括生成式 AI在內(nèi)的基礎(chǔ)設(shè)施的市場(chǎng)需求。

面向新的應(yīng)用需求，基礎(chǔ)設(shè)施領(lǐng)域出現(xiàn)了現(xiàn)代化的系統(tǒng)架構(gòu)

這個(gè)架構(gòu)的重點(diǎn)是強(qiáng)調(diào)了CPU的定制化，以及對(duì)于鏈路上數(shù)據(jù)傳輸性能的提升。

Mohamed Awad解析，在過(guò)去的架構(gòu)中，一個(gè)CPU 需要對(duì)應(yīng)多個(gè)加速器或者多個(gè) GPU，但是這個(gè) CPU本身不是一個(gè)定制化的CPU。這種CPU是通過(guò) PCIe的接口和加速器連在一起的，其數(shù)據(jù)傳輸?shù)耐掏侣屎玩溌穾捠侵苯邮芟抻谟卸嗌贁?shù)據(jù)可以進(jìn)入到加速器。如果鏈路不佳，只有少量的數(shù)據(jù)進(jìn)入加速器，影響加速器的性能發(fā)揮。但在新架構(gòu)中，不僅是一個(gè) CPU 對(duì)應(yīng)一個(gè)加速器，更重要的是該 CPU 是一個(gè)定制的 CPU，跟加速器實(shí)現(xiàn)一對(duì)一組合后，它的整體鏈路以及數(shù)據(jù)吞吐率會(huì)達(dá)到最高，以提高加速器本身的利用水平。

這個(gè)新架構(gòu)說(shuō)來(lái)也不算新，因?yàn)檫@就是NVIDIA GH200 Grace Hopper 超級(jí)芯片所使用的架構(gòu)。

NVIDIA GH200 Grace Hopper 超級(jí)芯片采用 Arm Neoverse 搭配 NVIDIA GPU，滿足 AI 性能的需求

在這樣的架構(gòu)當(dāng)中，72 顆 Arm Neoverse 核心加上來(lái)自 NVIDIA 的 GPU的組合，其AI 性能較基于x86架構(gòu)的系統(tǒng)可提升 10 倍。

不過(guò)，未來(lái)的新架構(gòu)還會(huì)有很多可能。Mohamed Awad表示，現(xiàn)在判斷一個(gè)CPU對(duì)應(yīng)一個(gè) GPU這樣的結(jié)構(gòu)是不是未來(lái)的趨勢(shì)，仍為時(shí)尚早。但鑒于我們正處于計(jì)算加速的時(shí)代，在未來(lái)的架構(gòu)當(dāng)中任何的通用 CPU 旁邊都一定會(huì)有一個(gè)加速器。也就是說(shuō)，不管是通過(guò)緊密耦合、中度耦合或者是分散耦合的方式，都一定會(huì)存在一個(gè)加速器。但具體這個(gè)加速器是什么樣，采用什么樣的架構(gòu)，目前業(yè)界也還在不斷探索過(guò)程中。

從他的話語(yǔ)中可以判斷出CPU+加速器這種演進(jìn)的方向是確定的。至于Arm將如何引領(lǐng)這樣的方向，相信會(huì)有更多新技術(shù)新產(chǎn)品的出現(xiàn)。

簡(jiǎn)化定制芯片研發(fā)，Arm升級(jí)Neoverse計(jì)算子系統(tǒng)CSS

目前，Arm在服務(wù)器市場(chǎng)以Neoverse 平臺(tái)為主，為了簡(jiǎn)化客戶基于這一IP設(shè)計(jì)服務(wù)器芯片，近期 Arm不僅推出Neoverse 計(jì)算子系統(tǒng)(CSS)，還推出一項(xiàng)全面設(shè)計(jì)(Arm Total Design) 生態(tài)項(xiàng)目，目標(biāo)是集行業(yè)生態(tài)之力，加速基于Neoverse 計(jì)算子系統(tǒng)(CSS) 的定制系統(tǒng)級(jí)芯片(SoC) 的開(kāi)發(fā)與交付。

Arm Neoverse CSS預(yù)集成了 Arm Neoverse 平臺(tái)并完成驗(yàn)證配置，可降低開(kāi)發(fā)成本并加速產(chǎn)品上市進(jìn)程?；?Arm Neoverse N2 平臺(tái)所開(kāi)發(fā)的Arm Neoverse CSS N2 為Arm Neoverse CSS的第一代產(chǎn)品。據(jù)介紹，在一家合作伙伴的實(shí)現(xiàn)中，Arm NeoverseCSS 不但可降低SoC設(shè)計(jì)復(fù)雜性，并且節(jié)省了長(zhǎng)達(dá)80人/年的工程師時(shí)間。

Arm 全面設(shè)計(jì) (Arm Total Design) 生態(tài)項(xiàng)目助力合作伙伴加速基于 Neoverse CSS 的芯片開(kāi)發(fā)

Arm 全面設(shè)計(jì)匯集了專用集成電路(ASIC) 設(shè)計(jì)公司、IP 供應(yīng)商、EDA 工具提供商、代工廠和固件開(kāi)發(fā)者等行業(yè)領(lǐng)先企業(yè)，以加快并簡(jiǎn)化基于Neoverse CSS 的系統(tǒng)開(kāi)發(fā)。

例如，楷登電子(Cadence)、Rambus 和新思科技(Synopsys) 等合作伙伴的預(yù)集成、經(jīng)過(guò)驗(yàn)證的IP 和EDA 工具；ADTechnology、Alphawave Semi、博通(Broadcom)、凱捷(Capgemini)、智原科技、Socionext 和Sondrel 等合作伙伴的設(shè)計(jì)服務(wù)；來(lái)自英特爾代工服務(wù)(IFS) 和臺(tái)積公司(TSMC) 等代工廠合作伙伴的技術(shù)，專為領(lǐng)先工藝節(jié)點(diǎn)和先進(jìn)封裝技術(shù)進(jìn)行優(yōu)化；來(lái)自AMI 等基礎(chǔ)設(shè)施固件提供商，針對(duì)Neoverse CSS 提供商業(yè)軟件和固件支持。

引入這么多合作伙伴到這個(gè)生態(tài)系統(tǒng)中來(lái)，這意味著Arm已經(jīng)為IC設(shè)計(jì)公司做好了前期大量的準(zhǔn)備工作，而IC設(shè)計(jì)公司只需要聚焦于本身的產(chǎn)品創(chuàng)新即可。

Mohamed Awad表示，Arm 全面設(shè)計(jì)也進(jìn)一步提高了 Neoverse CSS生態(tài)系統(tǒng)中可供合作伙伴使用的可能性，不管是專用集成電路 (ASIC) 設(shè)計(jì)公司、IP 供應(yīng)商、EDA 工具提供商、代工廠和固件開(kāi)發(fā)者，Arm 都能進(jìn)一步支持和幫助他們的產(chǎn)品研發(fā)。

另外，Mohamed Awad強(qiáng)調(diào)，Arm 全面設(shè)計(jì)生態(tài)系統(tǒng)沒(méi)有排他性，歡迎更多的相關(guān)產(chǎn)業(yè)鏈伙伴加入其中。同時(shí)Neoverse CSS 還在不斷迭代發(fā)展，以支持新興的芯粒 (chiplet) 技術(shù)。

微軟 Azure Cobalt 100

近期，微軟發(fā)布的Cobalt 100 CPU，便是基于Neoverse CSS進(jìn)行研發(fā)的。此外也有中國(guó)的合作伙伴正在基于 CSS 進(jìn)行開(kāi)發(fā)。很多合作伙伴將會(huì)在 2024 年將第一代CSS設(shè)計(jì)投入生產(chǎn)。

加強(qiáng)生態(tài)，與國(guó)內(nèi)廠商推進(jìn)服務(wù)器芯片

現(xiàn)如今，所有主要的公有云都提供基于 Neoverse 的云實(shí)例，Arm Neoverse 平臺(tái)在整個(gè)市場(chǎng)中增速顯著。比較典型的合作伙伴包括超大規(guī)模云服務(wù)商亞馬遜云服務(wù) (AWS)、阿里巴巴，以及本土初創(chuàng)企業(yè)鴻鈞微電子、遇賢微電子與云豹智能等。

從超大規(guī)模云服務(wù)商到初創(chuàng)企業(yè)，在 Arm 平臺(tái)上賦能創(chuàng)新

據(jù)介紹，阿里巴巴的倚天 710 就是基于 Arm Neoverse 平臺(tái)打造的 CPU。另外鴻鈞微電子以及遇賢微電子，這兩家都是來(lái)自中國(guó)的本土初創(chuàng)企業(yè)，他們都基于 Arm 平臺(tái)打造服務(wù)器 SoC 解決方案。同時(shí)，中國(guó)本土的公司云豹智能，也借助 Arm Neoverse 平臺(tái)來(lái)創(chuàng)建云計(jì)算與數(shù)據(jù)中心的 DPU 解決方案。而聯(lián)想則更多地是將Arm架構(gòu)部署到 5G 領(lǐng)域。Mohamed Awad說(shuō)，通過(guò)攜手中國(guó)本土的強(qiáng)有力的合作伙伴，我們將在中國(guó)進(jìn)一步地推動(dòng) Neoverse 的發(fā)展。

Arm Neoverse 計(jì)算子系統(tǒng) (CSS)

Arm中國(guó)區(qū)業(yè)務(wù)全球副總裁鄒挺表示，在中國(guó)市場(chǎng)，Arm Neoverse 特別是在基礎(chǔ)設(shè)施領(lǐng)域擁有很多客戶。在過(guò)去的三、四年當(dāng)中，整個(gè) Neoverse 在中國(guó)的發(fā)展非常強(qiáng)勁。同時(shí)，Arm 也積極參與數(shù)據(jù)中心、云計(jì)算等本土的生態(tài)、開(kāi)源軟件社區(qū)，包括龍蜥社區(qū)等，幫助這些社區(qū)能更好地融入Arm全球生態(tài)系統(tǒng)中。


小結(jié)：

半導(dǎo)體的創(chuàng)新往往是從源頭開(kāi)始的，Arm的IP以及生態(tài)往往引領(lǐng)著一個(gè)潮流的方向。在移動(dòng)終端領(lǐng)域Arm是當(dāng)之無(wú)愧的霸主，在今年早前手機(jī)SoC廠商基于Armv9架構(gòu)推出全大核芯片，將高端手機(jī)推向新的高度。

對(duì)于這樣的集群配置，Arm 產(chǎn)品營(yíng)銷副總裁 Ian Smythe表示，在目前的高端智能手機(jī)市場(chǎng)，我們往往可以看到許多不同的創(chuàng)意，各家手機(jī)廠商在選擇其 CPU 集群的配置時(shí)，是根據(jù)他們最終面向的目標(biāo)受眾的用戶場(chǎng)景，來(lái)選擇合適的 CPU 進(jìn)行配置，這也正是 Arm CPU戰(zhàn)略的一部分，通過(guò)Arm IP的靈活配置帶來(lái)多元化與差異化。

而移動(dòng)終端上，Arm通過(guò)為移動(dòng)平臺(tái)提供的Arm全面計(jì)算解決方案，持續(xù)賦能移動(dòng)設(shè)備上 AI 的實(shí)現(xiàn)。此外，在物聯(lián)網(wǎng)領(lǐng)域，Arm擁有種類豐富的邊緣 AI 產(chǎn)品組合。憑借 Arm Cortex-M55、Cortex-M85 以及新推出的 Cortex-M52，持續(xù)提供合作伙伴所需的各種性能，從而滿足 AI 時(shí)代人們對(duì)物聯(lián)網(wǎng)日漸增長(zhǎng)的需求。

在AI時(shí)代，計(jì)算基礎(chǔ)設(shè)施也在迎來(lái)變革。在當(dāng)今 70% 的機(jī)器學(xué)習(xí)工作負(fù)載運(yùn)行在 Arm 平臺(tái)之上。Mohamed Awad表示，AI的關(guān)鍵在于硬件和軟件的緊密集成，以及性能和計(jì)算能力的提升。未來(lái)AI 將存在于邊緣、網(wǎng)絡(luò)、數(shù)據(jù)端、存儲(chǔ)、服務(wù)器，它將融入每一個(gè)過(guò)程當(dāng)中。Arm 正在不斷地加速推動(dòng)和賦能 AI 所帶來(lái)的變化和革新。