NVIDIA與軟銀公司合作，利用Grace Hopper超級(jí)芯片建設(shè)面向生成式AI和5G/6G的軟銀下一代數(shù)據(jù)中心

  基于Arm架構(gòu)的超級(jí)芯片和BlueField-3 DPU帶來(lái)革命性的架構(gòu)，以實(shí)現(xiàn)生成式AI驅(qū)動(dòng)的無(wú)線通信

  COMPUTEX——2023年5月29日——NVIDIA和軟銀公司今天宣布，雙方正在合作打造一個(gè)基于NVIDIA GH200 Grace Hopper 超級(jí)芯片、面向生成式AI和5G/6G應(yīng)用的開創(chuàng)性平臺(tái)。軟銀計(jì)劃在日本各地的全新分布式AI數(shù)據(jù)中心采用該平臺(tái)。

  為在全球范圍內(nèi)快速部署生成式AI應(yīng)用和服務(wù)鋪平道路，通過(guò)與NVIDIA合作，軟銀將打造能夠在多租戶通用服務(wù)器平臺(tái)上托管生成式AI和無(wú)線應(yīng)用的數(shù)據(jù)中心，以降低成本和更節(jié)能。

  該平臺(tái)將使用全新NVIDIA MGX 參考架構(gòu)和基于Arm Neoverse的GH200超級(jí)芯片，有望提高應(yīng)用程序工作負(fù)載的性能、可擴(kuò)展性和資源利用率。

  軟銀公司總裁兼首席執(zhí)行官Junichi Miyakawa表示：“隨著我們進(jìn)入一個(gè)社會(huì)與AI共存的時(shí)代，對(duì)數(shù)據(jù)處理和電力的需求將不斷增長(zhǎng)。軟銀將提供下一代社會(huì)基礎(chǔ)設(shè)施，以支持日本的超級(jí)數(shù)字化社會(huì)。與NVIDIA的合作將幫助我們的基礎(chǔ)設(shè)施利用AI實(shí)現(xiàn)更高的性能，包括對(duì)RAN的優(yōu)化。我們期待這也可以幫助我們降低能耗，創(chuàng)建一個(gè)互連的數(shù)據(jù)中心網(wǎng)絡(luò)，用于共享資源并托管一系列生成式AI應(yīng)用。”

  NVIDIA創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“對(duì)加速計(jì)算和生成式AI的需求正在推動(dòng)數(shù)據(jù)中心架構(gòu)的根本性變革。NVIDIA Grace Hopper是一個(gè)革命性的計(jì)算平臺(tái)，專為處理和擴(kuò)展生成式AI服務(wù)而設(shè)計(jì)。與以往富有遠(yuǎn)見的其它舉措一樣，軟銀正在引領(lǐng)世界創(chuàng)建一個(gè)電信網(wǎng)絡(luò)來(lái)承載生成式AI服務(wù)?！?

  相比以往的數(shù)據(jù)中心，這些新數(shù)據(jù)中心的分布將更加均衡，并能夠同時(shí)處理AI和5G工作負(fù)載。這將讓它們更好地保持峰值運(yùn)行，同時(shí)保持低時(shí)延并大幅降低總體能源成本。

  軟銀正在為自動(dòng)駕駛、AI工廠、增強(qiáng)現(xiàn)實(shí)和虛擬現(xiàn)實(shí)、計(jì)算機(jī)視覺(jué)和數(shù)字孿生開發(fā)5G應(yīng)用。

  虛擬RAN的吞吐量破紀(jì)錄

  NVIDIA Grace Hopper和NVIDIA BlueField -3 DPU將加速軟件定義的5G vRAN以及生成式AI應(yīng)用，而無(wú)需定制硬件加速器或?qū)Ｓ?G CPU。此外，配備BlueField-3的NVIDIA Spectrum以太網(wǎng)交換機(jī)將為5G提供高精度時(shí)間同步協(xié)議。

  該解決方案在NVIDIA加速的1U MGX服務(wù)器設(shè)計(jì)上實(shí)現(xiàn)了突破性的5G速度，根據(jù)公開的5G加速器數(shù)據(jù)，它實(shí)現(xiàn)了業(yè)內(nèi)吞吐量最高的36Gbps下行鏈路容量。運(yùn)營(yíng)商一直難以通過(guò)行業(yè)標(biāo)準(zhǔn)服務(wù)器實(shí)現(xiàn)如此高的下行鏈路容量。

  全新參考架構(gòu)

  NVIDIA MGX是一個(gè)模塊化參考架構(gòu)，讓系統(tǒng)制造商和超大規(guī)模企業(yè)客戶能夠快速、經(jīng)濟(jì)地構(gòu)建100多種服務(wù)器機(jī)型，適用于各種AI、HPC和NVIDIA Omniverse 應(yīng)用。

  通過(guò)將NVIDIA Aerial 軟件引入到高性能的軟件定義的云原生5G網(wǎng)絡(luò)中，這些5G基站將允許運(yùn)營(yíng)商動(dòng)態(tài)地分配計(jì)算資源，并實(shí)現(xiàn)比競(jìng)品高2.5倍的能效。

  Arm首席執(zhí)行官Rene Haas表示：“生成式AI的未來(lái)發(fā)展需要高性能、節(jié)能的計(jì)算，就像NVIDIA 基于Arm Neoverse的 Grace Hopper超級(jí)芯片那樣。結(jié)合NVIDIA BlueField DPU，Grace Hopper使軟銀新的5G數(shù)據(jù)中心能夠運(yùn)行最苛刻的計(jì)算和內(nèi)存密集型應(yīng)用，并為Arm上的軟件定義5G和AI帶來(lái)指數(shù)級(jí)的能效提升。”