Marvell發(fā)布突破性CPO架構(gòu) 助力定制AI加速器

  ICC訊  美國加州圣克拉拉，2025年1月6日——數(shù)據(jù)基礎(chǔ)設(shè)施半導(dǎo)體解決方案的領(lǐng)導(dǎo)者Marvell Technology, Inc.（納斯達克：MRVL），今天宣布其在共封裝光學(xué)（Co-Packaged Optics，CPO）技術(shù)上的重要進展，用于定制AI加速器（XPU）?；谧罱l(fā)布的高帶寬內(nèi)存（HBM）計算架構(gòu)，Marvell正在擴展其定制硅片領(lǐng)導(dǎo)地位，通過讓客戶將CPO無縫集成到下一代定制XPU中，實現(xiàn)從當前單個機架內(nèi)數(shù)十個XPU使用銅纜連接，到跨多個機架數(shù)百個XPU使用CPO連接的轉(zhuǎn)變，從而顯著提升AI服務(wù)器性能。

  Marvell的創(chuàng)新架構(gòu)使云超大規(guī)模供應(yīng)商能夠開發(fā)出更高帶寬密度的定制XPU，并在單一AI服務(wù)器內(nèi)實現(xiàn)更遠距離的XPU間連接，同時保持最優(yōu)的延遲和功耗效率。此架構(gòu)現(xiàn)已可用于Marvell客戶的下一代定制XPU設(shè)計中。

  Marvell的定制AI加速器架構(gòu)將XPU計算芯片、HBM和其他Chiplets與Marvell 3D SiPho引擎結(jié)合在同一襯底上，采用高速SerDes、模對模接口和先進封裝技術(shù)。這一做法消除了電信號需要離開XPU封裝進入銅纜或穿過印刷電路板的需求。通過集成光學(xué)組件，XPU之間的連接可以實現(xiàn)比傳統(tǒng)電氣線纜快百倍的數(shù)據(jù)傳輸速率和距離，使得AI服務(wù)器內(nèi)的擴展連接能夠跨越多個機架，同時保持最佳的延遲和功耗。

  CPO技術(shù)將光學(xué)組件直接集成在一個封裝內(nèi)，最小化電路徑長度。這種緊密耦合大大減少了信號損失，增強了高速信號完整性，并降低了延遲。CPO通過利用高帶寬硅光子學(xué)光學(xué)引擎來提高數(shù)據(jù)吞吐量，相比傳統(tǒng)銅連接，這些引擎提供更高的數(shù)據(jù)傳輸速率且不易受電磁干擾影響。此外，它還通過減少對高功率電驅(qū)動器、重定時器的需求來改善功耗效率。CPO技術(shù)通過啟用更長距離和更高密度的XPU至XPU連接，促進了高性能、大容量的可擴展AI服務(wù)器的發(fā)展，優(yōu)化了下一代加速基礎(chǔ)設(shè)施的計算性能和功耗。

  在OFC 2024上首次亮相的Marvell 3D SiPho引擎，是業(yè)內(nèi)首款支持200Gbps電接口和光接口的技術(shù)，為將共封裝光學(xué)（CPO）集成到XPU中提供了基礎(chǔ)構(gòu)建模塊。Marvell的6.4T 3D SiPho引擎是一個高度集成的光引擎，它集成了32個通道的200Gbps電接口和光接口，以及包括調(diào)制器、光電探測器、調(diào)制器驅(qū)動器、跨阻抗放大器、微控制器在內(nèi)的數(shù)百個組件，以及其他眾多無源組件，所有這些都被整合到一個統(tǒng)一的設(shè)備中，從而實現(xiàn)了相比100Gbps接口的同類設(shè)備兩倍的帶寬、兩倍的輸入/輸出帶寬密度，并且每比特功耗降低了30%。目前，多家客戶正在評估這項技術(shù)，考慮將其集成到下一代解決方案中。

  八年多來，Marvell為連續(xù)幾代高性能、低功耗COLORZ®數(shù)據(jù)中心互連光模塊提供硅光子學(xué)技術(shù)。該技術(shù)已被許多領(lǐng)先的超大規(guī)模企業(yè)認證并部署在大批量生產(chǎn)中，以滿足其不斷增長的數(shù)據(jù)中心到數(shù)據(jù)中心帶寬需求。Marvell硅光子學(xué)器件的工作時間已超過100億小時。

  Marvell一直是互連技術(shù)變革的先驅(qū)，致力于提升加速基礎(chǔ)設(shè)施的性能、可擴展性和經(jīng)濟效益。Marvell的互連產(chǎn)品組合包括用于定制XPU內(nèi)部高性能通信的高速SerDes和芯片間技術(shù)知識產(chǎn)權(quán)（IP）、用于同一電路板上CPU與XPU之間高效短距離連接的PCIe重定時器、用于克服內(nèi)存挑戰(zhàn)的突破性CXL設(shè)備、用于機架內(nèi)短距離連接的有源電纜（AEC）和有源光纜（AOC）數(shù)字信號處理器（DSP），以及不斷擴展的用于數(shù)據(jù)中心內(nèi)機架到機架連接的PAM光學(xué)DSP系列，還有用于連接相隔數(shù)千公里的數(shù)據(jù)中心的相干DSP和數(shù)據(jù)中心互連模塊。

  “Marvell的定制AI加速器CPO架構(gòu)使云超大規(guī)模供應(yīng)商能夠開發(fā)出顯著增加其AI服務(wù)器密度和性能的定制XPU?！盡arvell定制、計算和存儲集團高級副總裁兼總經(jīng)理Will Chu表示，“將光學(xué)組件直接集成到XPU中，將定制加速基礎(chǔ)設(shè)施提升到了超大規(guī)模供應(yīng)商必須提供的下一個級別的規(guī)模和優(yōu)化水平，以滿足AI應(yīng)用不斷增長的需求。”

  “為了支持前所未有的XPU集群規(guī)模，AI可擴展服務(wù)器需要具有更高速度的信號傳輸能力和更長距離的連接?！盡arvell網(wǎng)絡(luò)交換業(yè)務(wù)部高級副總裁兼總經(jīng)理Nick Kucharewski說，“在定制XPU中集成共封裝光學(xué)是提升性能、實現(xiàn)更高互連帶寬和更遠距離的合理下一步?！?

  “硅光子對于擴展加速基礎(chǔ)設(shè)施的連接至關(guān)重要，可以滿足日益增長的帶寬需求、互連距離、功耗和總擁有成本?！盡arvell光平臺高級副總裁兼首席技術(shù)官Radha Nagarajan說，“自2017年以來，Marvell一直是高產(chǎn)量硅光子器件領(lǐng)域的先驅(qū)，我們利用這一專長為定制XPU連接這一殺手級CPO用例創(chuàng)建了前沿的CPO架構(gòu)?！?

  “云超大規(guī)模供應(yīng)商將把CPO技術(shù)集成到他們下一代的定制XPU和可擴展服務(wù)器中，以滿足AI性能需求的急劇增長?！盠ightCounting創(chuàng)始人兼首席執(zhí)行官Vlad Kozlov預(yù)測，“我們預(yù)計，CPO將從目前不到5萬端口的發(fā)貨量增長到2029年超過1800萬個CPO端口，其中大多數(shù)端口將用于服務(wù)器內(nèi)部的連接。憑借在光學(xué)技術(shù)和定制XPU方面的豐富經(jīng)驗，Marvell處于絕佳的優(yōu)勢地位，能夠幫助超大規(guī)模企業(yè)充分挖掘共封裝光學(xué)（CPO）的潛力，并將其作為基礎(chǔ)設(shè)施的關(guān)鍵組成部分?！?

  原文：https://www.marvell.com/company/newsroom/marvell-co-packaged-optics-architecture-custom-ai-accelerators.html