昨天分享了GB200關(guān)于線纜的一些問題，今天給大家分享下GB200關(guān)于PCB相關(guān)的問答。GB200中信號的速率比較高，鏈路也比較長，所以采用了比較低損的材料和高端的制造工藝，據(jù)悉PCB采用了M8級別的PCB材料以及20層HDI設(shè)計。再加上其預(yù)計在2025年將達到5.8W個機架，所以總量會爆發(fā)式增長。

Q1：GB200PCB板塊的架構(gòu)有哪些核心更新？

答：GB200 PCB板塊的架構(gòu)帶來了一些重要的更新，這些更新對于整個PCB行業(yè)的價值有著顯著的影響。首先，GB200的結(jié)構(gòu)中PCB的使用量預(yù)計將顯著增加。在一個擁有72個GPU的機架配置中，每個機架包含多個基礎(chǔ)組件，其中Compute Tray結(jié)構(gòu)是核心部分，每個Tray包含兩個PCB單元，每個單元裝有兩個GPU和一個CPU。此外，NV Switch Tray作為GPU間信息交換的中介，以及InfiniBand(IB)交換機用于網(wǎng)絡(luò)連接，這些都是PCB應(yīng)用的關(guān)鍵領(lǐng)域。

Q2：銅線是否會替代PCB，這兩者之間的價量關(guān)系如何？

答：雖然市場上有專家探討銅線可能替代PCB的話題，但我們認(rèn)為這種看法過于簡化。在GB200的架構(gòu)中，盡管引入了銅線，但ASIC芯片必須使用PCB。隨著電子產(chǎn)品集成度的提高，PCB的作用不可替代。此外，從經(jīng)濟角度來看，PCB的價值量預(yù)計將顯著提升，尤其是在交換機ASIC的帶寬增加方面。

Q3：市場上關(guān)于銅線可能取代PCB的說法有何依據(jù)？ 答：市場上關(guān)于銅線可能取代PCB的說法主要基于銅線在某些應(yīng)用中的使用。然而，這種看法忽略了PCB在高性能計算、高速數(shù)據(jù)傳輸?shù)确矫娴牟豢商娲?。機架式服務(wù)器從未普遍采用PCB背板，而且英偉達的GB200架構(gòu)已經(jīng)開始使用銅線，但這并不意味著PCB將被徹底取代。隨著電子產(chǎn)品集成度的提高，PCB的重要性將進一步凸顯。

Q4：GB200架構(gòu)的推廣對PCB廠商有何影響？

答：GB200架構(gòu)的推廣將對PCB廠商產(chǎn)生積極影響。隨著GB200架構(gòu)增強了GPU間的連接層，導(dǎo)致交換機ASIC數(shù)量增加，從而推動了PCB價值量提升。單個GPU對應(yīng)的PCB價值量大約為0.3萬元，相比H100的Super Pod提升了150%。這意味著主流PCB廠商在未來值得期待，并將受益于GB200架構(gòu)的推廣以及相應(yīng)產(chǎn)品規(guī)格的提升。

Q5：在更大規(guī)模的集群中，PCB的價值量如何變化？

答：在更大規(guī)模的集群中，例如8個機架相連的配置，整體PCB價值量可達三百多萬元，每個GPU對應(yīng)的PCB價值量約為0.53萬元。這比單個機架的配置提升了近300%，主要得益于L2層的增加及更多級別的IB Switch網(wǎng)絡(luò)。這一變化表明，隨著集群規(guī)模的擴大，PCB的價值量也隨之增加。

Q6：GB200架構(gòu)中PCB的價值量提升主要受哪些因素影響？

答：GB200架構(gòu)中PCB的價值量提升主要受到交換機ASIC帶寬增加的影響。隨著帶寬的提升，對PCB的性能要求也相應(yīng)提高，從而推動了PCB的價值量上漲。此外，由于GB200架構(gòu)增強了GPU間的連接層，導(dǎo)致交換機ASIC數(shù)量增加，這也是PCB價值量提升的一個重要因素。

Q7：GB200架構(gòu)中PCB的價值量如何計算？ 答：在GB200架構(gòu)中，我們通過分析每個板上的帶寬來確定相應(yīng)的PCB規(guī)格和價值量。例如，承載GPU和CPU的PCB帶寬大約是900GB/s，需要采用高密度互連(HDI)工藝。而交換機PCB的帶寬約為57.6TB，計算得出，一個機架包含兩個IB Switch。一個機架的主要PCB組成包括36個PCB單元，每個單元帶寬0.9TB，價格約為2萬元人民幣每平方米，價值量72,000元。NV Link Switch的PCB單價約為6萬元每平方米，價值量超過10萬元。每兩臺IB Switch的總價值量為18,000元。

Q8：GB200架構(gòu)的電源供電需求是否有變化？

答：關(guān)于GB200架構(gòu)的電源供電問題，目前沒有明顯的跡象表明其電源供電需求與之前相比有顯著變化。電源供電的設(shè)計通常會根據(jù)硬件的功耗和性能需求進行調(diào)整。由于GB200架構(gòu)在GPU數(shù)量和性能上的提升，可能會對電源供電系統(tǒng)提出更高的要求，但具體的供電需求還需根據(jù)實際的產(chǎn)品規(guī)格和設(shè)計來確定。

Q9：GB100和GB200的PCB供應(yīng)商有哪些？ 答：GB100的PCB供應(yīng)商主要是繼續(xù)利用之前H100的供應(yīng)鏈。GB200的PCB供應(yīng)商目前還不完全確定，但主流廠商特別是像滬電、欣興這樣的交換機供應(yīng)商應(yīng)該會有較大的增量機會。聽說擅長做卡的PCB廠也有可能有機會。 Q10：GB200架構(gòu)中PCB用量增加的原因是什么？

答：GB200架構(gòu)中PCB用量增加主要與NV Link和NV Switch相關(guān)。雖然GPU的數(shù)量由過去的每個單元對應(yīng)一個GPU提升到現(xiàn)在的每個單元對應(yīng)兩個GPU，但整體價值量的提升并不像預(yù)期的那么大。規(guī)格上，PCB達到了六階HDI水平，盡管帶寬有所下降，但規(guī)格的提升使得整體價值量確實有所增加。

Q11：GB200NVL72rack和機柜之間的配置關(guān)系是怎樣的？

答：在一個機柜中，有18個節(jié)點，按照72個GPU滿配，一個NV Link Switch將使用九個ASIC芯片，每個芯片的總帶寬為57.6T。這里主要講述的是下行鏈路的配置，至于上行鏈路，在一個rack中需配置2個IB的Switch，這就是GB200NVL72rack和機柜之間的基本配置關(guān)系。

Q12：機柜內(nèi)部互連是否會減少對外部交換機的使用量，以及整體機架質(zhì)量如何變化？

答：在討論GB200架構(gòu)時，我們需要明確網(wǎng)絡(luò)架構(gòu)的關(guān)系。機柜內(nèi)部互連使用的NV Link Switch并不是傳統(tǒng)意義上的交換機，而是一種專門用于GPU之間下行互連的交換板。由于它需要連接72個GPU，因此互連鏈路的數(shù)量和帶寬要求都非常高。這就要求使用更高帶寬的ASIC進行連接，相應(yīng)地，作為載體的PCB也需要提升其質(zhì)量和性能。另一方面，外部交換機的架構(gòu)與H100的Super Pod的外部IB網(wǎng)絡(luò)架構(gòu)相同。隨著總帶寬的提升，外部IB網(wǎng)絡(luò)的交換機帶寬也相應(yīng)提升，從而提高了整體的動態(tài)性能。因此，整體機架的質(zhì)量得到了提升，以滿足更高的性能要求。

Q13：GB200架構(gòu)中PCB價值量如何計算？

答：在GB200架構(gòu)中，整個機柜的PCB用量可以分為四個主要部分：Compute Node、NV Link Switch、IB leaf Switch和IB spine Switch。這四個部分的合計PCB用量大約為21.6萬人民幣的價值量，其中Compute Node部分大約為7萬人民幣，NV Link Switch部分大約為10萬人民幣，而IB的兩個Switch部分加起來大約為3.6萬人民幣。

如果將8個rack連接在一起，由于L2層的連接和spy網(wǎng)絡(luò)帶寬的新增，整體的PCB用量將達到超過300萬元人民幣。按照每個GPU計算，相當(dāng)于0.553萬元人民幣的PCB用量水平。

Q14：GB200與GH200以及B100與H100的PCB用量有何不同？

答：在比較GB200與GH200，以及B100與H100的PCB用量時，我們需要注意的是，B100與H100之間的比較主要與帶寬提升和網(wǎng)絡(luò)接口C×8或C×7的使用有關(guān)，因此PCB用量的增加并不會太大。而GB200的PCB用量則顯著增加，這是因為雖然GPU帶寬只增加了兩倍，但連接數(shù)量增加了數(shù)倍。

Q15：GB200的市場滲透率預(yù)期如何？

答：GB200的市場滲透率受到廣泛關(guān)注，因為預(yù)期其滲透率較高。如果滲透率能達到50%，那么整個AI服務(wù)器PCB的價值量有可能會翻倍增長。這表明GB200架構(gòu)的市場潛力巨大，對PCB行業(yè)的影響深遠。

Q16：對GB200的GPU和Rack數(shù)量有何預(yù)測？

答：目前對GPU方面的預(yù)測可能有超過百萬片，因此對應(yīng)的rack數(shù)量應(yīng)該有幾萬臺。關(guān)于GB200的數(shù)量及分布預(yù)期，目前看來大約有100萬片GB200，200萬片B100，以及一些H系列產(chǎn)品。明年的B100和B200系列的預(yù)期是200萬張。

Q17：GB200的機柜數(shù)量預(yù)估是多少？

答：如果以100多萬片CPU計算，按照每個機柜配置18個GB200，那么能夠出貨的機柜數(shù)量將是5.8萬個。這只是一個初步估計，有信號顯示這個數(shù)字可能會上調(diào)。這表明GB200架構(gòu)的推廣將為PCB行業(yè)帶來大量需求，對行業(yè)的發(fā)展具有積極影響。

Q18：根據(jù)計算，明年的PCB產(chǎn)量預(yù)計只有三百多萬張，這個數(shù)量是否偏少？

答：盡管這個數(shù)字可能看起來較為保守，但我們需要考慮到PCB主要用于推理任務(wù)，而推理需求的增長速度可能較快。目前還沒有一個明確的數(shù)字來預(yù)測具體的數(shù)量能增長到多少，但推理用PCB的市場潛力不容忽視。

Q19：如果PCB僅用于訓(xùn)練，三百多萬張是否已足夠？

答：實際上，如果PCB僅用于訓(xùn)練任務(wù)，三百多萬張的數(shù)量確實可能已經(jīng)足夠。然而，由于部分訓(xùn)練用PCB也被用于推理任務(wù)應(yīng)用，這可能導(dǎo)致市場對PCB的需求增加，從而成為上調(diào)預(yù)期的一個因素。隨著AI技術(shù)的發(fā)展和應(yīng)用領(lǐng)域的擴大，推理任務(wù)應(yīng)用對PCB的需求也在不斷上升。

Q20：推理用PCB與訓(xùn)練用PCB的價值有何區(qū)別？

答：推理用PCB與訓(xùn)練用PCB在價值上存在顯著差異。同規(guī)格的PCB在價格上可能會有很大的差距。例如，如果以70美元來估算H版PCB的價格，那么L40可能只有十幾到二十美元。從表面上看，推理PCB的價格并不高。但關(guān)鍵在于，隨著越來越多的訓(xùn)練用PCB被用于推理任務(wù)，推理PCB的價值正在逐漸上升。這是當(dāng)前AI硬件市場換代的一個主要因素，也是推動市場對推理用PCB需求增長的關(guān)鍵驅(qū)動力。

Q21：推理用PCB的市場前景如何？

答：推理用PCB的市場前景非常廣闊。隨著人工智能技術(shù)的不斷進步和應(yīng)用領(lǐng)域的不斷擴大，推理任務(wù)應(yīng)用在各個行業(yè)中的作用越來越重要。從自動駕駛到智能家居，從醫(yī)療診斷到金融服務(wù)，推理PCB在支持這些智能應(yīng)用中扮演著關(guān)鍵角色。因此，推理用PCB的需求預(yù)計將隨著AI技術(shù)的普及而持續(xù)增長。

Q22：GB200PCB版塊的增長動力是什么？

答：GB200PCB版塊的增長動力主要來自于幾個方面。首先是AI技術(shù)的快速發(fā)展，特別是在深度學(xué)習(xí)和機器學(xué)習(xí)領(lǐng)域，對高性能計算硬件的需求不斷增加。其次，隨著AI應(yīng)用在各個行業(yè)的滲透，推理任務(wù)應(yīng)用對PCB的需求也在不斷上升。此外，隨著GB200產(chǎn)品的市場滲透率提高，預(yù)計將帶來更多的PCB需求。最后，由于訓(xùn)練用PCB也被用于推理任務(wù)，這將進一步推動GB200PCB版塊的增長。

審核編輯：黃飛