RM新时代网站-首页

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

40+TOPS NPU,AI PC處理器開卷算力

花茶晶晶 ? 來源:電子發(fā)燒友 ? 作者:黃晶晶 ? 2024-07-14 01:11 ? 次閱讀

電子發(fā)燒友網(wǎng)報道(文/黃晶晶)今年初,微軟推出引入Copilot功能的全新個人電腦,Copilot作為AI語音助手被確定為AI PC不可或缺的按鍵以及功能,它能夠在不需要云數(shù)據(jù)中心的情況下處理本地的人工智能任務(wù)。同時,微軟還提出,這款全新電腦搭配擁有全新神經(jīng)處理單元NPU的芯片,可實現(xiàn)每秒超過40萬億次即40+TOPS的運算。那么也就是說,若要符合微軟給出的AI PC的定義,NPU的算力至少要達到40 TOPS。

這一定義的拋出,突顯了NPU的重要性。半導(dǎo)體大廠們普遍認為CPU+GPU+NPU的組合將是AI PC的算力基座。

《AI PC產(chǎn)業(yè)白皮書》中指出AI PC五大特性,包括提供多模態(tài)自然語言交互、終端內(nèi)嵌個人的大模型、標(biāo)配本地混合AI算力、連接開放的AI應(yīng)用生態(tài)、設(shè)備級個人數(shù)據(jù)和隱私安全保護。尤其是本地混合AI算力,即CPU+GPU+NPU異構(gòu)混合算力保證了AIPC本地推理的可行性,同時隨著端側(cè)算力的快速提升,AIPC可以承載更大的AI模型,執(zhí)行更加復(fù)雜的任務(wù)。

在分工上,CPU是計算機的運算核心和控制核心,GPU進行圖形處理和大規(guī)模并發(fā)計算,NPU提供高效能和低功耗的神經(jīng)網(wǎng)絡(luò)運算支持,在多種應(yīng)用場景中實用智能計算。三者的組合發(fā)揮各自的優(yōu)勢,協(xié)同工作,高效實現(xiàn)端側(cè)AI的能力。

不過,當(dāng)前來看NPU別說是多少算力的問題,甚至很多設(shè)備都還沒有NPU。以安卓平臺來看,目前70%的第三方 ML/AI 應(yīng)用運行在CPU上,特別是一些低級別設(shè)備很難承擔(dān)NPU的費用,CPU+GPU+NPU的組合或許要從高端設(shè)備開始。

AI PC的演進過程中,《白皮書》指出應(yīng)分為AIReady階段和AIOn階段。在AIReady階段,AIPC主要表現(xiàn)為芯片計算架構(gòu)的升級,具備基本的本地混合AI算力,能夠為AIPC的軟件及服務(wù)創(chuàng)新提供基本保障,開啟體驗創(chuàng)新。

如今,NPU以及高算力NPU的導(dǎo)入已經(jīng)開始。英特爾、AMD、蘋果、高通廠商紛紛推出了帶有NPU的處理器產(chǎn)品,不少新產(chǎn)品的NPU算力都達到40 TOPS,高算力應(yīng)對復(fù)雜且眾多的本地AI大模型需求,為迎接AI PC的應(yīng)用爆發(fā)做好準(zhǔn)備。

wKgaomaRAZCAdSMgAAJR7zgP_9M166.jpg

英特爾

去年12月,英特爾正式發(fā)布酷睿Ultra處理器。它是首款基于 Intel 4 制程工藝打造的處理器,代表了40年來英特爾架構(gòu)最大的革新。采用了先進的Foveros 3D 封裝技術(shù),在 CPU、GPU 和神經(jīng)網(wǎng)絡(luò)處理單元(NPU)的架構(gòu)中集成了專屬 AI 加速功能,從而成為英特爾歷史上 AI 性能最強、能效最佳的客戶端處理器。英特爾方面還宣布,將與主流 OEM 伙伴推出 230 余款機型,開啟AI PC新紀(jì)元。

根據(jù)英特爾的酷睿 Ultra 產(chǎn)品路線圖,2023年為Meteor Lake,2024年將有Lunar Lake、Arrow Lake,2025年為Panther Lake,2026年Future Products還沒有具體架構(gòu)代號。其中Lunar Lake采用臺積電3nm工藝,NPU性能將是上一代的4倍,達到48 TOPS,滿足 Copilot+ 需求。

另外,英特爾將于年內(nèi)發(fā)布Arrow Lake處理器。報道稱,Arrow Lake涵蓋了臺式機和筆記本電腦產(chǎn)品的多個細分平臺,其中“S”用于臺式機并采用LGA 1851插座,“HX”用于發(fā)燒級游戲本,算力方面,Arrow Lake-S和Arrow Lake-HX提供AI算力達37 TOPS,其中Arrow Lake-S/HX的GPU在新架構(gòu)加持下,AI算力從3 TOPS提高到9 TOPS;內(nèi)置的NPU提供13 TOPS的AI算力。

AMD

AMD于2023年5月推出的銳龍7040系列是全球首款內(nèi)置XDNA架構(gòu)NPU的X86處理器,同年12月推出銳龍8040系列移動處理器,提供高達16TOPS的NPU算力和39 TOPS的整體算力,相較上一代帶來60%的AI性能提升。

在今年6月的臺北電腦展上,AMD重磅發(fā)布了Ryzen AI 300 系列處理器,采用Zen 5架構(gòu)、第三代AMD Ryzen AI,內(nèi)置XDNA2 NPU,GPU升級為RDNA 3.5。

wKgaomaRAZyAX8DdAACC5X0tLE8368.jpg

作為一款專為AI PC打造的處理器,其NPU算力可達50 TOPS,相較而言上一代Ryzen 8040系列芯片只有16 TOPS。

可以看到,這款處理器的亮點之一就在于NPU算力的大幅提升。AMD表示,XDNA2 NPU的計算能力提供5倍多,多任務(wù)并行能力翻一番,能效提升最多2倍。并且,XDNA2首次引入全新的Block FP16浮點精度,傳統(tǒng)的8-bit INT8數(shù)據(jù)類型性能強但準(zhǔn)確性低,16-bit FP16數(shù)據(jù)類型準(zhǔn)確性高但性能弱。FP16 NPU可兼顧兩者的性能與準(zhǔn)確性,目前大多數(shù)AI應(yīng)用都采用了16-bit精度。另外,AMD已經(jīng)與超過150家AI賦能的ISV合作伙伴達成深度合作,進而為AMD Ryzen AI提供兼容性更好、性能體驗更好的各類型AI應(yīng)用。

蘋果

2023年,蘋果A17 Pro處理器對整塊芯片進行了全方位提升,包括 Apple 有史以來最大規(guī)模重新設(shè)計的圖形處理器。通過微架構(gòu)和設(shè)計上的改進,全新的中央處理器實現(xiàn)了多達 10% 的速度提升,神經(jīng)網(wǎng)絡(luò)引擎的速度也提升多達 2 倍。采用臺積電3nm工藝制程,其NPU擁有16核心,性能達到35 TOPS。

今年5月,蘋果發(fā)布的11英寸和13英寸iPad Pro搭載了M4處理器,該處理器基于臺積電第二代3nm工藝,擁有280億個晶體管,NPU算力從18TOPS提升到38 TOPS。

在前不久的蘋果全球開發(fā)者大會(WWDC)上,蘋果宣布了全新的AI系統(tǒng)Apple Intelligence。要提升系統(tǒng)的AI能力,NPU的升級必不可少。今年9月蘋果全新一代iPhone 16 Pro將配備最新的A18芯片,據(jù)悉臺積電啟動2nm芯片試產(chǎn),蘋果A18性能或提升30%,而在NPU性能上,有消息稱A18有望超越蘋果自家的M4處理器,可能達到45TOPS。


高通

此次微軟首批Copilot+PC,搭載高通驍龍(Snapdragon)X Elite 芯片。高通于2023年推出為AI PC設(shè)計的驍龍 X Elite 處理器,該處理器集成高通定制 Oryon CPU,基于 4nm 工藝打造,采用 12 顆 3.8GHz 大核,全新 Hexagon NPU 最高可提供 45 TOP(每秒萬億次運算)算力,并且可以在設(shè)備上以“驚人的速度”運行超過 13B 參數(shù)的生成式 AI LLM(大型語言模型)。首批搭載驍龍X Elite 芯片的PC制造商包括榮耀、聯(lián)想、小米等。

此外,消息稱,聯(lián)發(fā)科英偉達聯(lián)手研發(fā)Arm架構(gòu)AI PC處理器,新款芯片將對標(biāo)蘋果M4,預(yù)計2024年第三季度完成設(shè)計,第四季度進入驗證階段,將采用臺積電3nm工藝制造,并計劃2025年發(fā)布。

小結(jié):

微軟給AI PC劃了一條NPU算力的“紅線”,基于微軟強大的生態(tài)號召力,AI PC處理器廠商都十分重視NPU性能的提升,當(dāng)然這也有利于后續(xù)AI PC上端側(cè)AI真正的應(yīng)用普及。40+ TOPS NPU也許會成為今后用戶購買AI PC的一個必選項。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 處理器
    +關(guān)注

    關(guān)注

    68

    文章

    19259

    瀏覽量

    229645
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    30728

    瀏覽量

    268871
  • NPU
    NPU
    +關(guān)注

    關(guān)注

    2

    文章

    279

    瀏覽量

    18582
  • 算力
    +關(guān)注

    關(guān)注

    1

    文章

    964

    瀏覽量

    14792
  • AI PC
    +關(guān)注

    關(guān)注

    0

    文章

    123

    瀏覽量

    236
收藏 人收藏

    評論

    相關(guān)推薦

    【「芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗】--全書概覽

    、GPU、NPU,給我們剖析了芯片的微架構(gòu)。書中有對芯片方案商處理器的講解,理論聯(lián)系實際,使讀者能更好理解
    發(fā)表于 10-15 22:08

    超緊湊模塊提供高達 39 TOPS AI

    的 XDNA? NPU 和強大的 Radeon RDNA 3? 圖形處理器,可為AI推理提供高達39 TOPS的驚人
    發(fā)表于 09-25 13:46 ?1304次閱讀
     超緊湊模塊提供高達 39 <b class='flag-5'>TOPS</b> <b class='flag-5'>AI</b> <b class='flag-5'>算</b><b class='flag-5'>力</b>

    名單公布!【書籍評測活動NO.43】 芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析

    社會資源和資本力量關(guān)注芯片的發(fā)展,希望我們的國家能夠更獨立自主地設(shè)計制造高性能芯片。 內(nèi)容簡介: 本書介紹了超級計算機
    發(fā)表于 09-02 10:09

    ARMxy工業(yè)控制為視頻監(jiān)控提供1Tops支持

    ARMxy ARM工業(yè)控制以其1TopsNPU,在視頻監(jiān)控中的應(yīng)用展現(xiàn)出了不錯的性能和廣泛的應(yīng)用,為用戶提供了高效、穩(wěn)定和可靠的解決
    的頭像 發(fā)表于 08-20 12:03 ?300次閱讀
    ARMxy工業(yè)控制<b class='flag-5'>器</b>為視頻監(jiān)控提供1<b class='flag-5'>Tops</b><b class='flag-5'>算</b><b class='flag-5'>力</b>支持

    用ARMxy ARM工業(yè)控制自帶的1Tops實現(xiàn)高性能圖像處理

    ARMxy ARM工業(yè)控制憑借其強大的性能、靈活的配置和高度集成的特性,尤其是其內(nèi)置的1TopsNPU(神經(jīng)網(wǎng)絡(luò)
    的頭像 發(fā)表于 08-20 11:55 ?409次閱讀
    用ARMxy ARM工業(yè)控制<b class='flag-5'>器</b>自帶的1<b class='flag-5'>Tops</b><b class='flag-5'>算</b><b class='flag-5'>力</b>實現(xiàn)高性能圖像<b class='flag-5'>處理</b>

    刷新AI PC NPU,AMD銳龍AI 9 HX 375領(lǐng)銜55 TOPS

    電子發(fā)燒友網(wǎng)報道(文/黃晶晶)最近AMD官網(wǎng)上線了銳龍AI 300系列中的最新成員銳龍AI 9 HX 375處理器。原本Ryzen AI 9 HX 370的
    的頭像 發(fā)表于 08-07 00:28 ?3326次閱讀
    刷新<b class='flag-5'>AI</b> <b class='flag-5'>PC</b> <b class='flag-5'>NPU</b><b class='flag-5'>算</b><b class='flag-5'>力</b>,AMD銳龍<b class='flag-5'>AI</b> 9 HX 375領(lǐng)銜55 <b class='flag-5'>TOPS</b>

    NPUAI TOPS是什么?它們有哪些性能?

    可運行AI模型的性能、準(zhǔn)確性和效率。如今,TOPS(每秒萬億次運算)是衡量處理器AI性能的主要方式之一。TOPS是基于
    的頭像 發(fā)表于 06-13 10:33 ?808次閱讀

    Lunar Lake:NPU性能全面提升,能耗也大幅降低,綜合AI提升至120TOPS

    英特爾CEO帕特·基辛格在COMPUTEX 2024上發(fā)表主題演講,正式公布了下一代面向AI PC的移動處理器Lunar Lake,不僅CPU、GPU、NPU性能全面提升,能耗也大幅降
    的頭像 發(fā)表于 06-05 15:54 ?8374次閱讀
    Lunar Lake:<b class='flag-5'>NPU</b>性能全面提升,能耗也大幅降低,綜合<b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b>提升至120<b class='flag-5'>TOPS</b>

    AI PC引發(fā)的NPU大戰(zhàn)?英特爾:僅30%開發(fā)者選擇NPU

    隨著COMPUTEX 2024的日益臨近,關(guān)于人工智能(AI)個人計算機(PC)的話題開始變得愈發(fā)熱門和受關(guān)注。據(jù)微軟公司近期發(fā)布的相關(guān)技術(shù)規(guī)范要求,所有運行Windows操作系統(tǒng)的AI PC
    的頭像 發(fā)表于 06-03 17:24 ?863次閱讀

    實測NPU“空轉(zhuǎn)”,AI PC首個落地應(yīng)用只調(diào)用GPU?

    電子發(fā)燒友網(wǎng)報道(文/梁浩斌)去年開始,整個PC產(chǎn)業(yè)鏈,自上而下地都在為AI PC造勢。從處理器端的英特爾、AMD、高通等開始,到下游終端廠商,宣傳上清一色的
    的頭像 發(fā)表于 05-22 00:16 ?3165次閱讀

    AI PC市場爭霸:英特爾、AMD、高通芯片誰主沉?。?/a>

    目前英特爾的Meteor Lake處理器NPU只能提供10 TOPS的性能,沒有達到下一代AI PC的標(biāo)準(zhǔn)。而 Lunar Lake 的
    發(fā)表于 04-18 14:29 ?411次閱讀

    NPU3倍,新一代酷睿Ultra Lunar Lake搶先看

    在人工智能(AI)工作負載中可以提供100+ TOPS,其中45 TOPS來自于NPU。
    的頭像 發(fā)表于 04-14 11:04 ?635次閱讀

    AMD推出銳龍8000嵌入式處理器,AI高達39 T

    此款CPU選用4納米制程、AMD基于“Zen 4”架構(gòu)的CPU核心以及使用RDNA 3架構(gòu)GPU和XDNA架構(gòu)NPU,實現(xiàn)高達39TOPSAI
    的頭像 發(fā)表于 04-03 10:39 ?869次閱讀

    256Tops!CSA1-N8S1684X服務(wù)

    (基于BM1684X的高服務(wù))高AI處理器
    的頭像 發(fā)表于 03-23 08:02 ?1605次閱讀
    256<b class='flag-5'>Tops</b><b class='flag-5'>算</b><b class='flag-5'>力</b>!CSA1-N8S1684X<b class='flag-5'>算</b><b class='flag-5'>力</b>服務(wù)<b class='flag-5'>器</b>

    驍龍X Elite處理器AI生成圖片性能超群,英特爾亦被超越

    高通公司稱,該款處理器內(nèi)置AI協(xié)處理器NPU),性能達到驚人的45 TOPS(每秒萬億次運算)。視頻通過實例對比英特爾酷睿 Ultra 7
    的頭像 發(fā)表于 02-28 14:09 ?807次閱讀
    RM新时代网站-首页