本期我們帶來高算力AI模組前沿應用,基于ARM架構的SoC陣列式服務器相關內容。澎湃算力、創(chuàng)新架構、異構計算,有望成為未來信息化社會的智能算力底座。
性能優(yōu)勢+AI驅動
ARM架構服務器加速滲透
一直以來,基于ARM架構的各類處理器芯片,以其低功耗、高效能、高可靠性、成本優(yōu)勢等綜合特性,廣泛應用于手機、平板電腦、物聯(lián)網終端設備等各類通信及電子產品領域,極大推動了人類社會的信息化和智能化進程。
而在服務器領域,之前一直是基于X86架構的產品占據(jù)主導,近年來,隨著下游對于異構算力、智能算力需求的不斷增長,以及類似于云游戲等安卓原生態(tài)應用的大規(guī)模興起,越來越多的廠商開始將ARM架構應用于服務器領域,并推出了一系列相關產品。
去年以來,在智能算力需求的不斷增長,以及生成式AI對于異構算力的龐大需求,ARM架構服務器在云游戲、數(shù)字人等新興應用市場展現(xiàn)出獨特優(yōu)勢,而對于傳統(tǒng)服務器領域的滲透,也有加速的跡象。
ARM架構服務器的特點:
一、低功耗:ARM架構具有低功耗優(yōu)勢,其采用的處理器芯片,與傳統(tǒng)X86架構芯片相比功耗更低,且具有更高的能效比,在IDC架構中集成ARM服務器,可以降低電費支出、節(jié)約能源消耗。
二、高效能:ARM架構具有更好的多核線程驅動性能,能夠實現(xiàn)更好的并行處理和任務處理能力。
三、成本低:ARM架構處理器芯片,較X86架構芯片的制造成本更低,ARM架構服務器價格具有極高性價比,且開發(fā)成本更低。
四、高可靠性:具有更好的故障容忍性,可以提供更高的可靠性和穩(wěn)定性。
據(jù)了解,亞馬遜、浪潮、騰訊、百度、阿里等頭部企業(yè),都推出了基于ARM架構的服務器產品,因其低功耗、高性價比、高效能等優(yōu)勢、在云計算、物聯(lián)網、智能交通、醫(yī)療健康等領域有廣泛應用。
據(jù)TrendForce集邦咨詢研究顯示,近年企業(yè)對于人工智能、高效能運算等數(shù)字轉型需求加速,帶動云端采用比例增加,全球主要云端服務業(yè)者為提升服務彈性,陸續(xù)導入ARM架構服務器,預期至2025年ARM架構在數(shù)據(jù)中心服務器滲透率將達22%。
基于ARM架構的SoC陣列式服務器
智能算力領域的新興力量
以ARM架構為基礎,創(chuàng)新性的采用SoC芯片作為算力來源,以靈活的陣列式架構打造的SoC陣列式服務器,也逐步進入企業(yè)級IDC以及各類邊緣計算場景。這是一種專門針對企業(yè)級數(shù)據(jù)中心和邊緣場景面臨的空間制約和節(jié)能要求而優(yōu)化設計的高密服務器,以高能效比、高性價比、高密度為設計原則,在一個機架式機箱內集成多達40路、60路、80路等針對服務器場景專門定制的高算力模組或者算力板,可為各類行業(yè)客戶構建適低成本、高密度、高并發(fā)、高性能的算力集群。
服務器內布置的每個算力模組或者算力板都是一個可以獨立運行的最小系統(tǒng),包含CPU、GPU、NPU、存儲、網絡等。相關SoC陣列式服務器可根據(jù)客戶需求、定制多種算力節(jié)點、其內部采用模塊化及熱插拔設計,可以實現(xiàn)不停機維護,在通信方面配置了10G/25G交換節(jié)點,支持SDN自動化網絡部署,并且內置了多維智能管理節(jié)點,可以進行全方位遠程運維工作,有效減低運維成本。
以云游戲場景為例,隨著《原神》、《崩壞》等爆款游戲的全球風靡,除了游戲運行向移動端轉移外,也極大帶動了云游戲市場的迅速擴展。而傳統(tǒng)的通用型服務器,在支撐云游戲運行上,存在兼容性差、成本高昂等問題,而ARM架構的陣列式服務器,基于對安卓生態(tài)天然的兼容性,避免了服務器端到應用端的軟件架構轉換以及轉換過程中的性能損耗,近年來在云游戲場景,幾乎占據(jù)主導地位,目前正逐步向數(shù)字人、工業(yè)視覺、邊緣AI、云XR渲染等領域拓展。
美格高算力AI模組
為SoC陣列式服務器提供澎湃算力
美格智能作為行業(yè)內最早推出高算力AI模組產品的企業(yè),也不斷推動AI模組產品在服務器、機器人、AI零售、無人機、云游戲、數(shù)字人、云桌面、云教育、工業(yè)AI檢測、云XR等各領域的深度應用,從而真正讓產品的AI能力能夠助力行業(yè)。
美格智能助力客戶定制推出SoC陣列服務器產品,集成了CPU+GPU+NPU+TPU復合異構算力集群,可以構建大規(guī)模智能算力矩陣;每個算力節(jié)點采用刀片+陣列式設計,支持熱插拔,輕松維護;整機80GB帶寬,每個板卡滿負載1GB帶寬;內置BMC多功能綜合監(jiān)控可視化管理系統(tǒng),可輕松遠程管理。
該SoC陣列式服務器,采用美格智能為其專門定制的高算力AI模組SNM970,基于高通 QCS8550(8 Gen2)研發(fā),支持16GB LPDDR5X + 256GB UFS 4.0內存,服務器中最高可配置80路高算力AI模組,單顆模組內部支持Android虛擬化,可虛擬出多路計算單元(如80路模組服務器,單顆模組根據(jù)下游算力需求,可以虛擬出多路虛擬機,比如虛擬出4路的情況下則可同時支撐320臺諸如手機等終端同時運行云游戲),更好的進行算力配置,充分發(fā)揮了高算力、高性價比、高能效比的優(yōu)勢,為實時互動云計算、邊緣AI云計算、云渲染等業(yè)務場景提供最佳算力底座。
隨著各行各業(yè)對于算力需求的爆發(fā)式增長,以及新興應用場景對于創(chuàng)新型服務器的迫切需求,美格智能也將加大力度推動高算力AI模組在服務器領域的深度應用。
目前,美格智能團隊已經與行業(yè)領先的SoC陣列式服務器客戶密切協(xié)作,陸續(xù)打造出了針對SoC陣列式服務器場景,基于高通驍龍865/SM8475/QCS8550三代SoC芯片的深度定制的算力模組,同時做到封裝兼容,更好助力客戶產品的算力提升和產品迭代,為相關產品后續(xù)在AIGC領域的應用推廣,以及向傳統(tǒng)服務器市場的滲透,提供更好助力。
中國電信終端產業(yè)協(xié)會于2023年4月26日發(fā)布了《基于ARM架構的SoC陣列服務器技術規(guī)范》,以團體標準的形式明確了ARM架構SoC陣列式服務器的通用技術要求,國內相關廠商也在為下一代服務器的產品標準在開始探討,相關產品將逐步進入發(fā)展快車道。
審核編輯:湯梓紅
-
服務器
+關注
關注
12文章
9123瀏覽量
85320 -
AI
+關注
關注
87文章
30728瀏覽量
268871 -
模組
+關注
關注
6文章
1487瀏覽量
30359 -
美格智能
+關注
關注
2文章
246瀏覽量
11112
原文標題:高算力AI模組前沿應用:基于ARM架構的SoC陣列式服務器
文章出處:【微信號:meigsmart,微信公眾號:美格智能】歡迎添加關注!文章轉載請注明出處。
發(fā)布評論請先 登錄
相關推薦
評論