RM新时代网站-首页

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

COMPUTEX2023 | NVIDIA 推出面向超大規(guī)模生成式 AI 的加速以太網(wǎng)平臺

NVIDIA英偉達(dá)企業(yè)解決方案 ? 來源:未知 ? 2023-05-30 01:40 ? 次閱讀

全新的 NVIDIA Spectrum-X 網(wǎng)絡(luò)平臺集 NVIDIA Spectrum-4、BlueField-3 DPU 和加速軟件于一身;全球頭部云服務(wù)提供商采用該平臺來橫向擴(kuò)展其生成式 AI 服務(wù)

COMPUTEX—2023 年 5 月 29 日NVIDIA 于今日宣布推出 NVIDIA Spectrum-X 網(wǎng)絡(luò)平臺,該平臺是一個(gè)加速網(wǎng)絡(luò)平臺,致力于提高基于以太網(wǎng) AI 云的性能與效率。

NVIDIA Spectrum-X 是基于網(wǎng)絡(luò)創(chuàng)新的新成果而構(gòu)建 —— 將 NVIDIA Spectrum-4 以太網(wǎng)交換機(jī)NVIDIA BlueField-3 DPU 緊密結(jié)合,取得了 1.7 倍的整體 AI 性能和能效提升,同時(shí)可在多租戶環(huán)境中提供一致、可預(yù)測的性能。Spectrum-X 還提供 NVIDIA 加速軟件和軟件開發(fā)套件(SDK),使開發(fā)人員能夠構(gòu)建軟件定義的云原生 AI 應(yīng)用。

這種端到端的功能交付,可以減少基于 transformer 的大規(guī)模生成式 AI 模型的運(yùn)行時(shí)間,助力網(wǎng)絡(luò)工程師、AI 數(shù)據(jù)科學(xué)家和云服務(wù)商及時(shí)取得更好的結(jié)果,并更快做出明智的決策。

全球頭部超大規(guī)模云服務(wù)商正在采用 NVIDIA Spectrum-X,包括領(lǐng)先的云創(chuàng)新企業(yè)。

作為 NVIDIA Spectrum-X 參考設(shè)計(jì)的藍(lán)圖和測試平臺,NVIDIA 正在構(gòu)建一臺超大規(guī)模生成式 AI 超級計(jì)算機(jī),命名為 Israel-1。它將被部署在 NVIDIA 以色列數(shù)據(jù)中心,由基于 NVIDIA HGX 平臺的戴爾 PowerEdge XE9680 服務(wù)器、BlueField-3 DPU 和 Spectrum-4 交換機(jī)等打造而成。

NVIDIA 網(wǎng)絡(luò)高級副總裁 Gilad Shainer 表示:“諸如生成式 AI 等革命性技術(shù)正在推動各家企業(yè)提升數(shù)據(jù)中心性能的極限,從而獲得更多競爭優(yōu)勢。作為新一代以太網(wǎng)絡(luò),NVIDIA Spectrum-X 為新一代 AI 工作負(fù)載掃清障礙,將會徹底改變整個(gè)行業(yè)?!?/p>

NVIDIA Spectrum-X 網(wǎng)絡(luò)平臺具有高度的通用性,可用于各種 AI 應(yīng)用。它采用完全標(biāo)準(zhǔn)的以太網(wǎng),與現(xiàn)有以太網(wǎng)的堆棧實(shí)現(xiàn)互通。

該平臺起步于 Spectrum-4,這是全球首款專為 AI 網(wǎng)絡(luò)打造的 51Tb/s 以太網(wǎng)交換機(jī)。先進(jìn)的 RoCE 擴(kuò)展功能可以跨 Spectrum-4 交換機(jī)、BlueField-3 DPU 和 NVIDIA LinkX 光纖相互協(xié)同,共同構(gòu)建了一個(gè)專為 AI 云優(yōu)化的端到端 400GbE 網(wǎng)絡(luò)。

NVIDIA Spectrum-X 通過性能隔離增強(qiáng)了多租戶環(huán)境,確保租戶的 AI 工作負(fù)載能以最佳性能持續(xù)運(yùn)行。NVIDIA Spectrum-X 還提供了更好的 AI 性能可見性,它可以識別性能瓶頸,而且具有全自動網(wǎng)絡(luò)驗(yàn)證功能。

驅(qū)動 Spectrum-X 的加速軟件包括 Cumulus Linux、純 SONiC 和 NetQ 等性能強(qiáng)大的 NVIDIA SDK,共同助力該網(wǎng)絡(luò)平臺實(shí)現(xiàn)極致性能。另外,Spectrum-X 還包括 BlueField DPU 的核心軟件—— NVIDIA DOCA 軟件框架。

NVIDIA Spectrum-X 單臺交換機(jī)即可實(shí)現(xiàn)突破性的 256 個(gè) 200Gb/s 端口的連接,使用兩層葉脊拓?fù)淇梢赃B接 16,000 個(gè)端口,以支持 AI 云的增長和擴(kuò)展,同時(shí)保持極高的性能和極低的網(wǎng)絡(luò)延時(shí)。

生態(tài)采用情況

提供 NVIDIA Spectrum-X 方案的公司包括戴爾科技、聯(lián)想和超微。

供貨情況

NVIDIA Spectrum-X、Spectrum-4 交換機(jī)、BlueField-3 DPU 和 400G LinkX 光纖現(xiàn)已上市。

聆聽 COMPUTEX 主題演講,進(jìn)一步了解 NVIDIA Spectrum-X。

47a3be26-fe47-11ed-90ce-dac502259ad0.png

點(diǎn)擊 “閱讀原文”,或掃描下方海報(bào)二維碼,觀看 NVIDIA 創(chuàng)始人兼 CEO 黃仁勛為 COMPUTEX 2023 帶來的主題演講直播回放,了解 AI、圖形及其他領(lǐng)域的最新進(jìn)展!


原文標(biāo)題:COMPUTEX2023 | NVIDIA 推出面向超大規(guī)模生成式 AI 的加速以太網(wǎng)平臺

文章出處:【微信公眾號:NVIDIA英偉達(dá)企業(yè)解決方案】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。


聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • 英偉達(dá)
    +關(guān)注

    關(guān)注

    22

    文章

    3767

    瀏覽量

    90974

原文標(biāo)題:COMPUTEX2023 | NVIDIA 推出面向超大規(guī)模生成式 AI 的加速以太網(wǎng)平臺

文章出處:【微信號:NVIDIA-Enterprise,微信公眾號:NVIDIA英偉達(dá)企業(yè)解決方案】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    NVIDIA SuperNIC推進(jìn)現(xiàn)代AI基礎(chǔ)設(shè)施發(fā)展

    生成 AI 時(shí)代,加速網(wǎng)絡(luò)對于為大規(guī)模分布 AI
    的頭像 發(fā)表于 11-06 13:59 ?227次閱讀

    NVIDIA助力xAI打造全球最大AI超級計(jì)算機(jī)

    以太網(wǎng)網(wǎng)絡(luò)平臺,該平臺是專為多租戶、超大規(guī)模AI 工廠提供卓越性能而設(shè)計(jì)的 RDMA(Remote Direct Memory Acc
    的頭像 發(fā)表于 10-30 11:38 ?352次閱讀

    NVIDIA 以太網(wǎng)加速 xAI 構(gòu)建的全球最大 AI 超級計(jì)算機(jī)

    市的 Colossus 超級計(jì)算機(jī)集群達(dá)到了 10 萬顆 NVIDIA? Hopper? GPU 的巨大規(guī)模。該集群使用了 NVIDIA Spectrum-X? 以太網(wǎng)網(wǎng)絡(luò)
    發(fā)表于 10-30 09:33 ?139次閱讀
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>以太網(wǎng)</b><b class='flag-5'>加速</b> xAI 構(gòu)建的全球最大 <b class='flag-5'>AI</b> 超級計(jì)算機(jī)

    Supermicro推出面向AI數(shù)據(jù)中心的液冷超級集群

    Supermicro, Inc.,作為人工智能(AI)、云端、存儲和5G/Edge領(lǐng)域的整體IT解決方案提供商,近日宣布推出面向人工智能數(shù)據(jù)中心的液冷超級集群。該集群由英偉達(dá)GB200 NVL72和英偉達(dá)HGX B200系統(tǒng)提供支持,開創(chuàng)了高能效
    的頭像 發(fā)表于 10-22 17:37 ?478次閱讀

    Zettabyte與緯創(chuàng)攜手打造臺灣首個(gè)超大規(guī)模AI數(shù)據(jù)中心

    在推動亞太地區(qū)AI計(jì)算領(lǐng)域邁向新紀(jì)元的征程中,Zettabyte與緯創(chuàng)資通(Wistron Corporation)攜手宣布了一項(xiàng)重大合作——共同建設(shè)臺灣地區(qū)首個(gè)超大規(guī)模AI數(shù)據(jù)中心,這一里程碑
    的頭像 發(fā)表于 09-05 16:26 ?374次閱讀

    燧原科技與清程極智攜手共創(chuàng)AI未來:共筑超大規(guī)模智算集群新篇章

    協(xié)議,雙方將攜手步入全新的合作階段,共同探索并開發(fā)面向超萬億參數(shù)大模型和超大規(guī)模集群的高性能系統(tǒng)軟件方案,標(biāo)志著雙方在推動AI技術(shù)邊界、加速產(chǎn)業(yè)智能化進(jìn)程上邁出了堅(jiān)實(shí)的一步。
    的頭像 發(fā)表于 07-05 14:50 ?772次閱讀

    HPE 攜手 NVIDIA 推出 NVIDIA AI Computing by HPE,加速生成 AI 變革

    by HPE 包含了可持續(xù)的加速計(jì)算產(chǎn)品組合以及全生命周期服務(wù),將簡化 AI 創(chuàng)造價(jià)值的過程,加速生成
    的頭像 發(fā)表于 06-21 14:39 ?353次閱讀

    NVIDIA推出NVIDIA AI Computing by HPE加速生成 AI 變革

    簡化 AI 創(chuàng)造價(jià)值的過程,加速生成 AI 的發(fā)展步伐。 NVIDIA
    的頭像 發(fā)表于 06-20 17:36 ?711次閱讀

    NVIDIA面向生成AI打造強(qiáng)大的以太網(wǎng)網(wǎng)絡(luò)

    NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛在 COMPUTEX 開幕前發(fā)表主題演講,展示了 NVIDIA 最新的全棧技術(shù)平臺如何通過廣泛的合作伙伴網(wǎng)絡(luò)觸及終端用戶和客戶——無論是通過
    的頭像 發(fā)表于 06-06 17:33 ?831次閱讀

    NVIDIA宣布全面推出 NVIDIA ACE 生成 AI 微服務(wù)

    采用 NVIDIA 宣布全面推出 NVIDIA ACE 生成 AI 微服務(wù),以
    的頭像 發(fā)表于 06-04 10:18 ?655次閱讀

    NVIDIA Spectrum-X 以太網(wǎng)網(wǎng)絡(luò)平臺已被業(yè)界廣泛使用

    網(wǎng)絡(luò)平臺已被業(yè)界廣泛使用,并且將進(jìn)一步加快新品發(fā)布計(jì)劃。 Spectrum-X 是全球首款專為 AI 打造的以太網(wǎng)網(wǎng)絡(luò)平臺,可將生成
    的頭像 發(fā)表于 06-03 18:20 ?963次閱讀

    NVIDIA發(fā)布數(shù)字人微服務(wù),為制作生成AI數(shù)字化身鋪平未來之路

    ? ? COMPUTEX—2024年6月2日— NVIDIA宣布全面推出NVIDIA ACE生成
    發(fā)表于 06-03 17:43 ?176次閱讀

    NVIDIA數(shù)字人技術(shù)加速部署生成AI驅(qū)動的游戲角色

    NVIDIA 在 GDC 2024 大會上宣布,Inworld AI 等領(lǐng)先的 AI 應(yīng)用程序開發(fā)者,正在使用 NVIDIA 數(shù)字人技術(shù)加速
    的頭像 發(fā)表于 04-09 10:08 ?661次閱讀
    <b class='flag-5'>NVIDIA</b>數(shù)字人技術(shù)<b class='flag-5'>加速</b>部署<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>AI</b>驅(qū)動的游戲角色

    NVIDIA Isaac將生成AI應(yīng)用于制造業(yè)和物流業(yè)

    NVIDIA Isaac 機(jī)器人平臺利用最新的生成 AI 和先進(jìn)的仿真技術(shù),加速
    的頭像 發(fā)表于 03-22 10:06 ?527次閱讀
    <b class='flag-5'>NVIDIA</b> Isaac將<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>AI</b>應(yīng)用于制造業(yè)和物流業(yè)

    晶晟微納發(fā)布N800超大規(guī)模AI算力芯片測試探針卡

    近日,上海韜盛科技旗下的蘇州晶晟微納宣布推出其最新研發(fā)的N800超大規(guī)模AI算力芯片測試探針卡。這款高性能探針卡采用了前沿的嵌入合金納米堆疊技術(shù),旨在滿足當(dāng)前
    的頭像 發(fā)表于 03-04 13:59 ?1004次閱讀
    RM新时代网站-首页