IBM引入“光的力量”至芯片 使速度提升80倍

訊石光通訊網(wǎng) 2024/12/10 9:10:15

  ICC  周一,IBM宣布在光學(xué)技術(shù)上取得了突破性的進(jìn)展,該技術(shù)有望大幅改進(jìn)數(shù)據(jù)中心訓(xùn)練和運(yùn)行生成式人工智能(AI)模型的方式。其新型共封裝光學(xué)技術(shù)(Co-packaged optics)基本實(shí)現(xiàn)了將光學(xué)技術(shù)的力量帶入芯片內(nèi)部,使得數(shù)據(jù)中心內(nèi)的連接可以達(dá)到光速。

圖片來源:IBM官網(wǎng)

  在一次媒體簡(jiǎn)報(bào)會(huì)上,IBM半導(dǎo)體總經(jīng)理Mukesh Khare對(duì)記者說,電信行業(yè)在制造更快的芯片方面已經(jīng)取得了顯著進(jìn)步,但是這些芯片之間的通信速度并沒有跟上這個(gè)步伐。計(jì)算能力的增長(zhǎng)速度與芯片間通信速度的增長(zhǎng)速度之間存在幾個(gè)數(shù)量級(jí)的差距。

  他指出:“實(shí)際上,從更基礎(chǔ)的層面上講,芯片依然通過電進(jìn)行通信,它們使用銅線。而我們都知道,最優(yōu)秀的通信技術(shù)是光纖,這就是為什么在長(zhǎng)距離通信中到處都在使用光纖?!?

  盡管共封裝光學(xué)技術(shù)已經(jīng)存在一段時(shí)間,但I(xiàn)BM開發(fā)了一種新型的聚合物光波導(dǎo)(PWG)技術(shù),為共封裝光學(xué)帶來了革新。PWG技術(shù)使得芯片制造商能夠在硅光子芯片的邊緣區(qū)域——這一被稱為“黃金地段”的寶貴空間——布置比以往多六倍的光纖。每根光纖的寬度大約是人類頭發(fā)的三倍,長(zhǎng)度可以從幾厘米延伸到數(shù)百米,并且能夠以每秒太比特的速度傳輸數(shù)據(jù)。

  這一切意味著什么呢?

  該公司表示,這項(xiàng)技術(shù)將使得芯片間的通信帶寬比現(xiàn)在使用電子技術(shù)時(shí)快80倍,并將能耗降低五倍以上。

  此外,它還可以使大型語(yǔ)言模型(LLM)的訓(xùn)練速度提高多達(dá)五倍,將訓(xùn)練標(biāo)準(zhǔn)LLM所需的時(shí)間從三個(gè)月縮短到三周,而且隨著更大模型和更多GPU的使用,性能增益還會(huì)增加。

  除了讓GPU和加速器之間更快地相互通信之外,這種技術(shù)還可能重新定義計(jì)算行業(yè)通過電路板和服務(wù)器傳輸高帶寬數(shù)據(jù)的方式。

  Khare表示:“我們非常興奮能夠引入光的力量,從根本上加速了人工智能世界和許多其他應(yīng)用的發(fā)展。”

  當(dāng)被問及這項(xiàng)技術(shù)何時(shí)會(huì)商業(yè)化時(shí),Khare表示IBM的研究部門“已經(jīng)準(zhǔn)備好投入使用”。

  官方原文:https://uk.newsroom.ibm.com/IBM-Brings-the-Speed-of-Light-to-the-Generative-AI-Era-with-Optics-Breakthrough

新聞來源:訊石光通訊網(wǎng)

相關(guān)文章