ICC訊 黃仁勛認(rèn)為,整個(gè)數(shù)據(jù)中心行業(yè)正在經(jīng)歷一次全新的變革。
他在當(dāng)?shù)貢r(shí)間周三召開(kāi)的英偉達(dá)財(cái)報(bào)電話會(huì)上表示,AI工廠作為一種新型的數(shù)據(jù)中心,將數(shù)據(jù)轉(zhuǎn)化為極具價(jià)值的“代幣”,比如人們?cè)谑褂肅hatGPT、Midjourney等服務(wù)中體驗(yàn)到的東西。
黃仁勛表示,計(jì)算機(jī)行業(yè)正同時(shí)處于加速計(jì)算與生成式AI轉(zhuǎn)型的開(kāi)端,這將推動(dòng)全球數(shù)據(jù)中心基礎(chǔ)設(shè)施安裝量在未來(lái)5年內(nèi)翻一番,創(chuàng)造每年數(shù)千億美元的市場(chǎng)機(jī)會(huì)。
考慮到廣闊的市場(chǎng)前景,黃仁勛稱,2024年及以后,數(shù)據(jù)中心業(yè)務(wù)持續(xù)增長(zhǎng)的條件都非常優(yōu)秀,預(yù)計(jì)AI Enterprise未來(lái)會(huì)成為一項(xiàng)非常重要的業(yè)務(wù)。
至于英偉達(dá)是否進(jìn)軍ASIC(專用芯片設(shè)計(jì))市場(chǎng),黃仁勛并沒(méi)有做直接回答。
英偉達(dá)CFO Colette Kress則在財(cái)報(bào)電話會(huì)議時(shí)表示,雖然當(dāng)前GPU的供應(yīng)正在改善,但需求仍然強(qiáng)勁,預(yù)計(jì)下一代產(chǎn)品的市場(chǎng)需求將超過(guò)供給,尤其是預(yù)計(jì)今年晚些時(shí)候發(fā)貨的新一代芯片B100。他表示,“構(gòu)建和部署AI解決方案已經(jīng)觸及幾乎每一個(gè)行業(yè)”,預(yù)計(jì)數(shù)據(jù)中心基礎(chǔ)設(shè)施規(guī)模將在五年內(nèi)翻番。
當(dāng)?shù)貢r(shí)間周三公布的財(cái)報(bào)顯示,英偉達(dá)四季度營(yíng)收同比猛增265%至221億美元,高于分析師預(yù)期的204.1億美元,單季度收入甚至高于2021年全年。最大營(yíng)收來(lái)源數(shù)據(jù)中心部門(mén),四季度營(yíng)收達(dá)到184億美元,同比暴增409%。
英偉達(dá)營(yíng)收和利潤(rùn)已連續(xù)三個(gè)季度創(chuàng)歷史紀(jì)錄,2024全財(cái)年?duì)I收增長(zhǎng)126%。
以下是英偉達(dá)第四季度財(cái)報(bào)電話會(huì)分析師問(wèn)答全文內(nèi)容:
高盛Toshiya Hari:
我的問(wèn)題是關(guān)于數(shù)據(jù)中心業(yè)務(wù)的,Jensen(黃仁勛)。
很明顯,你知道你在這個(gè)行業(yè)做得非常好。我很好奇你對(duì)2024-2025日歷年的數(shù)據(jù)中心業(yè)務(wù)的預(yù)期,過(guò)去三個(gè)月內(nèi)有何變化?。
希望您能談?wù)剶?shù)據(jù)中心領(lǐng)域中的一些新興方向,比如軟件、主權(quán)AI等。我認(rèn)為您已經(jīng)非常明確地表達(dá)了中長(zhǎng)期的問(wèn)題。
最近有一篇關(guān)于英偉達(dá)可能進(jìn)軍ASIC(專用芯片設(shè)計(jì))市場(chǎng)的文章,這有任何可信度嗎?如果是這樣,英偉達(dá)在未來(lái)幾年內(nèi)在這個(gè)市場(chǎng)上競(jìng)爭(zhēng)和發(fā)展?
黃仁勛:
對(duì)于第一個(gè)問(wèn)題。
我們一次性指引一個(gè)季度,但從根本上講,2024-2025年及以后的持續(xù)增長(zhǎng)環(huán)境非常好。理由是,我們正處于兩個(gè)全行業(yè)轉(zhuǎn)型的開(kāi)端,這兩個(gè)轉(zhuǎn)型都是全行業(yè)的。
第一個(gè)是從通用計(jì)算到加速計(jì)算的轉(zhuǎn)變,如您所知,通用計(jì)算開(kāi)始失去動(dòng)力。你可以從云服務(wù)提供商(CSP)的擴(kuò)張和許多數(shù)據(jù)中心中看出,包括我們自己的通用計(jì)算中心,它可以將折舊從四年延長(zhǎng)到六年。但當(dāng)它不能像以前那樣從根本上顯著提高其數(shù)據(jù)處理量時(shí),就沒(méi)有理由使用更多CPU進(jìn)行更新,因此必須加速一切。
這是英偉達(dá)一直在開(kāi)創(chuàng)的。加速計(jì)算可以顯著提高LNG 效率,可以將數(shù)據(jù)處理成本下降20倍,這是一個(gè)巨大的數(shù)字。當(dāng)然,還有速度。
這種速度令人難以置信,以至于我們今天實(shí)現(xiàn)了第二次全行業(yè)的轉(zhuǎn)型,稱為生成式AI。
是的,我們可以,我相信我們會(huì)在通話中談?wù)摵芏啵?qǐng)記住,生成式AI是一種新的應(yīng)用。它正在賦能一種新的軟件生成方式,新類型的軟件正在被創(chuàng)建。這是一種新的計(jì)算方式。您可以在傳統(tǒng)的通用計(jì)算設(shè)備上進(jìn)行生成式AI的任務(wù)。這一過(guò)程必須得到加速。
第三,它正在賦能一個(gè)全新的行業(yè),這是值得退一步審視的事情,與你最后一個(gè)關(guān)于主權(quán)AI的問(wèn)題有關(guān)。
在某種意義上,整個(gè)數(shù)據(jù)中心行業(yè)正在經(jīng)歷一次全新的變革。傳統(tǒng)上的數(shù)據(jù)中心僅僅被用來(lái)計(jì)算數(shù)據(jù)、存儲(chǔ)數(shù)據(jù)、為公司員工提供服務(wù),現(xiàn)在,我們有了一種新型的數(shù)據(jù)中心,它專注于AI生成。我曾把它描述為AI工廠,本質(zhì)上利用原材料,也就是數(shù)據(jù),用英偉達(dá)生產(chǎn)的這些AI超級(jí)計(jì)算機(jī)來(lái)改造數(shù)據(jù),將其轉(zhuǎn)化為極具價(jià)值的“代幣”。
這些“代幣”就是人們?cè)谡鸷车腃hatGPT、Midjourney或者現(xiàn)在搜索等服務(wù)中體驗(yàn)到的東西,所有這些推薦系統(tǒng)現(xiàn)在都由此增強(qiáng)。
與此相關(guān)的所有超個(gè)性化服務(wù),這些不可思議的初創(chuàng)公司,生成蛋白質(zhì)、化學(xué)物質(zhì)的數(shù)字生物學(xué)等等,所有這些“代幣”都是在一種非常專業(yè)化的數(shù)據(jù)中心內(nèi)生成的。我們稱這種數(shù)據(jù)中心為AI超級(jí)計(jì)算機(jī)和AI生成工廠。
但是我們看到的是多樣性,我們?cè)谶@一方面取得了許多進(jìn)步。第一,我們做的推理量已經(jīng)飆升,幾乎每一次你和ChatGPT互動(dòng),我們都在做推理,每次你使用Midjourney時(shí),我們也在做推理。每次你看到這些令人驚嘆的生成視頻,或者Runway、Firefly編輯的視頻,英偉達(dá)都在做推理,我們的推理業(yè)務(wù)擴(kuò)張巨大,大約在40%左右。
訓(xùn)練量正在繼續(xù)增加,因?yàn)檫@些模型變得越來(lái)越大,推理量也在增長(zhǎng),但我們也正在多樣化進(jìn)入新的行業(yè)。大型CSP仍在繼續(xù)擴(kuò)張。你可以從他們的資本支出和討論中看出來(lái)。企業(yè)軟件平臺(tái)正在部署AI服務(wù),Adobe就是一個(gè)很好的例子,還有SAP和其他公司。
還有,消費(fèi)者互聯(lián)網(wǎng)服務(wù)現(xiàn)在正在通過(guò)生成式AI來(lái)增強(qiáng)他們所有的服務(wù),以創(chuàng)建更多超個(gè)性化的內(nèi)容。
我們?cè)谡務(wù)摴I(yè)化的生成式AI??偟膩?lái)說(shuō),以汽車、金融服務(wù)和醫(yī)療保健為的首垂直行業(yè),現(xiàn)在已經(jīng)達(dá)到了數(shù)十億美元的規(guī)模。
當(dāng)然,還有主權(quán)AI。
提出主權(quán)AI的原因是每個(gè)地區(qū)的語(yǔ)言、知識(shí)、歷史和文化不同,他們擁有自己的數(shù)據(jù)。
他們想要利用自己的數(shù)據(jù),數(shù)據(jù)訓(xùn)練AI模型,開(kāi)發(fā)數(shù)字化智能服務(wù),創(chuàng)造屬于自己的AI體系。世界各地的數(shù)據(jù)都不一樣。
因?yàn)檫@些數(shù)據(jù)對(duì)本國(guó)最有價(jià)值,因此各國(guó)會(huì)保護(hù)本國(guó)的數(shù)據(jù),自己處理數(shù)據(jù),自己開(kāi)發(fā)、提供AI服務(wù),而不是依賴外部AI系統(tǒng)。
所以我們看到,日本、加拿大、法國(guó)、我和許多其他地區(qū)正在建設(shè)主權(quán)AI基礎(chǔ)設(shè)施。因此,我的期望是,美國(guó)西部的經(jīng)驗(yàn),肯定會(huì)在世界各地復(fù)制。未來(lái)這些AI代工廠將遍布每個(gè)行業(yè)、每個(gè)公司、每個(gè)地區(qū)。
所以我認(rèn)為,生成式AI已經(jīng)在去年真正成為一個(gè)全新的應(yīng)用空間,一種全新的計(jì)算方式。一個(gè)全新的產(chǎn)業(yè)正在形成,這推動(dòng)了我們的增長(zhǎng)。
摩根士丹利分析師Joe Moore:
40%的收入來(lái)自推理業(yè)務(wù),這比我預(yù)期的要大。這個(gè)比例一年前大概是什么水平,大模型相關(guān)的推理業(yè)務(wù)增長(zhǎng)了多少?英偉達(dá)是如何測(cè)量這一比例的?是否可靠?因?yàn)槲壹僭O(shè)在某些情況下,同一塊GPU既可以用來(lái)訓(xùn)練也能夠用來(lái)推理。
黃仁勛:
我倒過(guò)來(lái)說(shuō),這個(gè)比例可能被低估了。讓我告訴你為什么。一年前,當(dāng)人們使用互聯(lián)網(wǎng)、瀏覽新聞、觀看視頻、聽(tīng)音樂(lè)、查看推薦產(chǎn)品時(shí),面對(duì)的是數(shù)萬(wàn)億的數(shù)據(jù),而假設(shè)你的手機(jī)只有三英寸,要將所有這些信息整合到如此小的空間中,需要強(qiáng)大的推薦系統(tǒng)。
這些推薦系統(tǒng)過(guò)去全部基于CPU,但在最近轉(zhuǎn)向了深度學(xué)習(xí)和生成式AI,這些推薦系統(tǒng)直接受益于GPU的加速。
它需要GPU來(lái)加速嵌入、近鄰搜索、重新排名,以及生成個(gè)性化推薦信息,所以現(xiàn)在的推薦系統(tǒng)運(yùn)行的每一步都需要GPU。如你所知,推薦系統(tǒng)是這個(gè)星球上最大的軟件引擎。世界上幾乎所有主要公司都需要運(yùn)行這些大型推薦系統(tǒng)。
每當(dāng)你使用ChatGPT就是在推斷,每當(dāng)你聽(tīng)到中途和他們?yōu)橄M(fèi)者產(chǎn)生的東西的數(shù)量。當(dāng)你看到Getty時(shí),我們用Getty和來(lái)自Adobe的Firefly所做的工作,這些都是生成模型。列表還在繼續(xù)。這些我一年前提到的都不存在,都是100%新的。
每當(dāng)你使用ChatGPT時(shí)就是在做推理,Midjourney也是一樣。我們與Getty、Adobe、Firefly等的合作,以及這些應(yīng)用生成式模型,這些還在不斷增加。我剛才提到的所有這些,一年前都不存在,100%都是新的。
Bernstein Research分析師Stacy Rasgon:
你們預(yù)計(jì)下一代產(chǎn)品會(huì)面臨供不應(yīng)求,我想深入了解這方面的情況,導(dǎo)致下一代產(chǎn)品供應(yīng)緊張的原因是什么?既然GPU供應(yīng)正在放松,為什么下一代產(chǎn)品還會(huì)出現(xiàn)供不應(yīng)求的局面。
你預(yù)計(jì)這種限制會(huì)持續(xù)多久?是否意味著整個(gè)2025年日歷年,下一代產(chǎn)品都會(huì)出現(xiàn)供應(yīng)短缺。
黃仁勛:
總的來(lái)說(shuō),我們的供應(yīng)正在改善。我們的供應(yīng)鏈做得非常出色,從晶圓,封裝,存儲(chǔ),所有的電源調(diào)節(jié)器,到收發(fā)器、網(wǎng)絡(luò)、電纜等我們所用到的組件,供應(yīng)都在改善。。如您所知,人們認(rèn)為英偉達(dá)GPU只是一塊芯片,但英偉達(dá)Hopper GPU由35000個(gè)零件組成,重70磅。這些東西是我們制造的非常復(fù)雜的東西,人們稱之為AI超級(jí)計(jì)算機(jī)是有充分理由的。如果你看看數(shù)據(jù)中心的后面,系統(tǒng),布線令人難以置信。它是世界上最密集、最復(fù)雜的網(wǎng)絡(luò)布線系統(tǒng)。
我們的InfiniBand業(yè)務(wù)同比增長(zhǎng)了5倍。供應(yīng)鏈為我們提供了很大支持。所以總體來(lái)說(shuō),供應(yīng)正在改善。我們預(yù)計(jì)需求仍會(huì)大于供給,我們會(huì)全力以赴。制程周期正在縮短,我們會(huì)繼續(xù)努力。
然而,正如你所知,每當(dāng)我們開(kāi)發(fā)新產(chǎn)品時(shí),它就會(huì)從零上升到非常大的數(shù)字,這不可能在一夜之間完成。一切都在加速,但它不會(huì)。因此,當(dāng)我們開(kāi)發(fā)出新一代產(chǎn)品后,無(wú)法在短期內(nèi)完全滿足需求,現(xiàn)在我們正在增加H200的供應(yīng)。
我們也在擴(kuò)大構(gòu)建Spectrum-X平臺(tái)。這是我們進(jìn)入以太網(wǎng)世界的全新產(chǎn)品,目前已取得非常好的進(jìn)展。InfiniBand是AI專用系統(tǒng)的標(biāo)準(zhǔn),我們?cè)谝蕴W(wǎng)的基礎(chǔ)新功能之上進(jìn)行了增強(qiáng),如自適應(yīng)路由、擁塞控制、噪聲隔離或流量隔離,以便我們可以針對(duì)AI優(yōu)化以太網(wǎng)。因此,InfiniBand將是我們AI專用基礎(chǔ)設(shè)施。Spectrum-X將是我們AI優(yōu)化的網(wǎng)絡(luò),而且正在加速。
所以,需求大于供應(yīng),這就是新產(chǎn)品通常會(huì)面臨的問(wèn)題。我們盡可能快地工作,以滿足需求。但總的來(lái)說(shuō),我們的供應(yīng)正在非常順利地增加。
TDCowen分析師Matt Ramsey:
下午好,Jason,我的問(wèn)題由兩部分組成,涉及到Stacy剛剛提到的供不應(yīng)求的問(wèn)題。首先是,貴公司如何考慮產(chǎn)品分配以滿足客戶的需求,以及是否監(jiān)控產(chǎn)品庫(kù)存情況避免庫(kù)存積累。
然后我想,Jason,我真的很想聽(tīng)聽(tīng)你和英偉達(dá)在客戶之間分配產(chǎn)品的想法,許多客戶競(jìng)相搶奪芯片,從行業(yè)到小型初創(chuàng)公司,從醫(yī)療保健領(lǐng)域到政府。這是一項(xiàng)非常獨(dú)特的技術(shù)活,你正在推動(dòng)它,我非常想聽(tīng)聽(tīng)你如何思考如何公平分配,才能在保障公司利益的同時(shí)兼顧整個(gè)行業(yè)利益。
黃仁勛:
首先回答你關(guān)于我們?nèi)绾闻c客戶合作搭建GPU實(shí)例以及我們的分配流程的問(wèn)題。
我們合作的客戶一直是多年來(lái)的長(zhǎng)期合作伙伴,我們一直在協(xié)助他們?cè)谠贫瞬渴鹨约皟?nèi)部設(shè)置。許多服務(wù)提供商同時(shí)運(yùn)營(yíng)多個(gè)產(chǎn)品,以滿足終端用戶各種需求以及內(nèi)部需求。
當(dāng)然,他們會(huì)提前規(guī)劃新集群所需配置,我們不僅討論當(dāng)前的Hopper架構(gòu),也幫助他們了解下一波產(chǎn)品,聽(tīng)取他們的興趣和需求。所以他們的采購(gòu)和構(gòu)建內(nèi)容是一個(gè)持續(xù)變化的過(guò)程。但是我們建立的關(guān)系和他們對(duì)構(gòu)建復(fù)雜性的理解確實(shí)幫助了我們進(jìn)行分配,并且兩者都有助于我們與他們的溝通。
首先,我們的CSP對(duì)產(chǎn)品路線圖和迭代有非常清晰的了解。我們與他們的透明溝通讓其對(duì)產(chǎn)品放置時(shí)間和地點(diǎn)很有信心。他們了解產(chǎn)品的時(shí)間線和大致供應(yīng)量。在分配上,我們盡量公平分配,避免不必要分配。如你之前說(shuō)的,如果數(shù)據(jù)中心沒(méi)準(zhǔn)備好,分配沒(méi)有任何意義。沒(méi)有什么比閑置資源公平分配和避免不必要的分配更困難的了。
關(guān)于你問(wèn)到的終端市場(chǎng),我們有一個(gè)優(yōu)秀的生態(tài)系統(tǒng),包括OEM、ODM、CSP和非常重要的終端市場(chǎng)。
英偉達(dá)真正的獨(dú)特之處是我們?yōu)楹献骰锇楹涂蛻舸顦?。我們將云服?wù)供應(yīng)商和代工與醫(yī)療、金融、AI開(kāi)發(fā)者、大語(yǔ)言模型開(kāi)發(fā)者、自動(dòng)駕駛公司、機(jī)器人公司等客戶連接。正在出現(xiàn)的各種機(jī)器人創(chuàng)業(yè)公司,從倉(cāng)儲(chǔ)機(jī)器人、手術(shù)機(jī)器人、人形機(jī)器人、各種非常有趣的機(jī)器人公司、農(nóng)業(yè)機(jī)器人公司
到外科到人形機(jī)器人。所有這些創(chuàng)業(yè)公司和大公司都是構(gòu)建在我們平臺(tái)之上。我們直接支持他們。通常,我們可以通過(guò)分配給云服務(wù)供應(yīng)商并同時(shí)將客戶引入云服務(wù)供應(yīng)商來(lái)實(shí)現(xiàn)雙贏。
獨(dú)特的地方在于我們帶來(lái)了我們的客戶,我們帶來(lái)了我們的合作伙伴、CSP和Oem,我們?yōu)樗麄儙?lái)了客戶。生物公司、醫(yī)療保健公司、金融服務(wù)公司、AI開(kāi)發(fā)商、大型語(yǔ)言模型開(kāi)發(fā)商、自動(dòng)駕駛汽車公司、機(jī)器人公司。只有一大批機(jī)器人公司正在崛起。他們的倉(cāng)庫(kù)機(jī)器人、手術(shù)機(jī)器人、人形機(jī)器人、農(nóng)業(yè)機(jī)器人……各種非常有趣的機(jī)器人公司,所有這些初創(chuàng)公司都在幫助醫(yī)療保健、金融服務(wù)和汽車等領(lǐng)域的大公司在英偉達(dá)平臺(tái)上工作。我們直接支持他們。通常,我們可以通過(guò)分配給CSP并同時(shí)將客戶引入CSP來(lái)實(shí)現(xiàn)雙贏。
所以這個(gè)生態(tài)系統(tǒng),你說(shuō)得對(duì),它是充滿活力的,但在它的核心,我們希望公平分配,避免資源浪費(fèi),尋找連接合作伙伴和終端用戶的機(jī)會(huì),我們一直在尋找這些機(jī)會(huì)。
瑞銀分析師Timothy R.Curry:
非常感謝。我想問(wèn)一下你們?nèi)绾螌⒎e壓訂單轉(zhuǎn)化為收入。顯然,您的產(chǎn)品交貨時(shí)間已經(jīng)大大縮短了,但Colette沒(méi)有談?wù)搸?kù)存購(gòu)買承諾,但如果我把加上你們獲得的庫(kù)存采購(gòu)承諾和預(yù)付支持供應(yīng),你知道的,你的供應(yīng)總和,實(shí)際上有點(diǎn)下降。我們應(yīng)該如何解讀這種下降?是因?yàn)榻回洉r(shí)間縮短,英偉達(dá)不需要對(duì)供應(yīng)商作出那么大的財(cái)務(wù)承諾了嗎?還是英偉達(dá)正在接近填補(bǔ)訂單和積壓訂單的平衡狀態(tài)?
Colette Kress:
是的,讓我強(qiáng)調(diào)一下我們對(duì)供應(yīng)的三個(gè)不同方面的看法。你說(shuō)得對(duì),我們手頭的庫(kù)存,考慮到我們正在進(jìn)行的分配,我們正在努力,因?yàn)樨浧啡霂?kù)后立即發(fā)給客戶。我認(rèn)為客戶會(huì)贊賞我們滿足他們需要的交貨時(shí)間表的能力。
其次,我們的購(gòu)買承諾有很多不同組成部分,不僅包括我們生產(chǎn)所需的組件,也包括我們滿足產(chǎn)能所需的組件,需求時(shí)間長(zhǎng)度不一,其中一些可能會(huì)持續(xù)兩個(gè)季度,但其中一些可能會(huì)持續(xù)多年。
預(yù)付款也是一樣,它們都是為了確保我們?cè)趲准夜?yīng)商那里獲得未來(lái)所需的備用產(chǎn)能。
所以不應(yīng)該過(guò)分解讀這些大致相同的數(shù)字,因?yàn)槲覀冋谔岣吖?yīng)量。所有這些都有不同的時(shí)間跨度,因?yàn)槲覀冇袝r(shí)不得不提前很長(zhǎng)時(shí)間購(gòu)買東西或?yàn)槲覀兘a(chǎn)能。
Melius Research分析師Ben Reitzes:
好的,謝謝。恭喜取得了如此亮眼的成績(jī)。Colette,我想談?wù)勀銓?duì)于毛利率的看法,它們回到了75%左右的水平,這是因?yàn)樾庐a(chǎn)品中HBM內(nèi)存含量嗎?您認(rèn)為還有其他原因嗎?非常感謝。
Colette Kress:
是的,感謝您的問(wèn)題。正如我們?cè)陂_(kāi)場(chǎng)白中強(qiáng)調(diào)的,我們第四季度的業(yè)績(jī)和第一季度的展望都比較特殊。這兩個(gè)季度的毛利率也都是獨(dú)特的,因?yàn)樗鼈兌际芤嬗诠?yīng)鏈中的組件成本,這種益處覆蓋了我們的計(jì)算和網(wǎng)絡(luò)產(chǎn)品,以及制造過(guò)程的多個(gè)階段。
展望未來(lái),我們預(yù)測(cè)本財(cái)年的毛利率將回歸到75%左右的水平,回到我們?cè)诘谒募径群偷谝患径确逯抵暗乃健K哉嬲?qū)動(dòng)未來(lái)全年的毛利率的是我們產(chǎn)品組合,這將是最重要的驅(qū)動(dòng)因素。這些就是驅(qū)動(dòng)毛利率的主要因素。
Cantra Fitzgerald分析師CJ Muse:
下午好,Jason,GPU算力在過(guò)去十年提升了100萬(wàn)倍,面對(duì)這種飛速提升,英偉達(dá)客戶如何看待他們今天所做的英偉達(dá)投資的長(zhǎng)期可用性。今天用于訓(xùn)練的系統(tǒng)未來(lái)是否還可以用于推理。你認(rèn)為這會(huì)如何發(fā)展?
黃仁勛:
謝謝你的問(wèn)題。是的,真正酷的地方在于,我們能夠極大地提升性能,那是因?yàn)槲覀兊钠脚_(tái)有兩大特點(diǎn):一是加速的能力,二是可編程性。
英偉達(dá)是唯一一個(gè)從最初就始終如一的架構(gòu),從最開(kāi)始的卷積神經(jīng)網(wǎng)絡(luò),Alex Krizhevsky、Ilya Sutskever和Geoffrey Hinton首次提出的AlexNet,到RNN、LSTM、RLS,再到Transformers,比如Vision Transformers、Multi-modality Transformers 等,每一個(gè)AI的變種模型,我們都能支持它們,優(yōu)化我們的堆棧,并將其部署到我們安裝的用戶設(shè)備基礎(chǔ)上。
這真的是最了不起的地方。一方面,我們可以發(fā)明新的架構(gòu)和技術(shù),像我們的Tensor Core(張量核心),張量核心轉(zhuǎn)換引擎,改進(jìn)數(shù)據(jù)格式和處理結(jié)構(gòu),就像在Tensor Core中所做的工作那樣。
同時(shí),我們也支持原有的安裝基礎(chǔ)。因此,我們的所有新軟件算法創(chuàng)新,以及行業(yè)的所有新模型創(chuàng)新,都可以在一個(gè)基礎(chǔ)上運(yùn)行。另一方面,當(dāng)我們看到革命性的東西,例如轉(zhuǎn)換器,我們可以創(chuàng)建全新的東西,像Hopper轉(zhuǎn)換引擎,并在未來(lái)進(jìn)行應(yīng)用。
因此,我們同時(shí)擁有將軟件引入安裝基礎(chǔ)并不斷改進(jìn)的能力,因此隨著時(shí)間的推移,我們的客戶安裝基礎(chǔ)隨著我們的新軟件而豐富。另一方面,新技術(shù)創(chuàng)造了革命性的能力。
如果未來(lái)一代在LLM上出現(xiàn)突破,不要感到驚訝。這些突破,其中一些是軟件方面的,因?yàn)樗鼈冞\(yùn)行在CUDA平臺(tái)上,提供給安裝基礎(chǔ)。所以我們帶著所有人一起前進(jìn)。一方面,我們?nèi)〉镁薮笸黄?另一方面,我們支持原有基礎(chǔ)。
Piper Sandler分析師Harsh Kumar:
我想談?wù)動(dòng)ミ_(dá)的軟件業(yè)務(wù),很高興聽(tīng)到它的營(yíng)收超過(guò)10億美元。但我希望,Jensen或Collatif,幫助我們稍微拆解一下,以便我們更好地了解該業(yè)務(wù)的增長(zhǎng)源。
黃仁勛:
讓我退后一步解釋,英偉達(dá)在軟件中非常成功的根本原因。
首先,你知道,加速計(jì)算真正在云端蓬勃發(fā)展。CSP有非常大的工程團(tuán)隊(duì), 我們與他們合作的方式允許他們運(yùn)營(yíng)和管理自己的業(yè)務(wù)。。如果有任何問(wèn)題,我們會(huì)派出大型團(tuán)隊(duì)為他們服務(wù)。他們的工程團(tuán)隊(duì)直接與我們的工程團(tuán)隊(duì)對(duì)接,改進(jìn)、修復(fù)、維護(hù)、修復(fù)復(fù)雜的加速計(jì)算軟件棧。
加速計(jì)算和通用計(jì)算截然不同,并不是從C++這樣的程序開(kāi)始,編譯后在所有CPU上運(yùn)行。從數(shù)據(jù)處理、結(jié)構(gòu)化數(shù)據(jù)與所有圖像、文本、PDF這樣的非結(jié)構(gòu)化數(shù)據(jù),到經(jīng)典機(jī)器學(xué)習(xí)、計(jì)算機(jī)視覺(jué)、語(yǔ)音、大語(yǔ)言模型,再到所有推薦系統(tǒng),每個(gè)領(lǐng)域都需要不同的軟件棧。這就是為什么英偉達(dá)有數(shù)百個(gè)軟件庫(kù)的原因。沒(méi)有軟件就無(wú)法開(kāi)拓新市場(chǎng),無(wú)法啟用新的應(yīng)用。軟件對(duì)加速計(jì)算來(lái)說(shuō)是基礎(chǔ)。
如您所知,加速計(jì)算與通用計(jì)算非常不同。你不是從C++這樣的程序開(kāi)始的。你編譯它,一切都在你的所有CPU上運(yùn)行。每個(gè)領(lǐng)域所需的軟件堆棧從數(shù)據(jù)處理、SQL數(shù)據(jù)庫(kù)、結(jié)構(gòu)數(shù)據(jù)與所有圖像、文本和PDF(非結(jié)構(gòu)化)到經(jīng)典機(jī)器學(xué)習(xí)、計(jì)算機(jī)視覺(jué)、語(yǔ)音、兩個(gè)大型語(yǔ)言模型、所有推薦系統(tǒng),所有這些都需要不同的軟件堆棧。
這就是英偉達(dá)擁有數(shù)百個(gè)庫(kù)的原因。如果你沒(méi)有軟件,你就無(wú)法打開(kāi)新市場(chǎng)。如果您沒(méi)有軟件,則無(wú)法打開(kāi)和啟用新應(yīng)用程序。軟件對(duì)于加速計(jì)算至關(guān)重要。
這是加速計(jì)算和通用計(jì)算之間的根本區(qū)別,大多數(shù)人花了很長(zhǎng)時(shí)間才理解,現(xiàn)在人們明白,軟件在我們與CSP合作的方式中非常關(guān)鍵。這非常簡(jiǎn)單,我們的大型團(tuán)隊(duì)正在與他們的大型團(tuán)隊(duì)合作。然而,現(xiàn)在生成式AI使每個(gè)企業(yè)和企業(yè)軟件公司都能擁抱加速計(jì)算,擁抱加速計(jì)算現(xiàn)在是必需的,僅僅依靠通用計(jì)算提高處理量已不再可行。所有這些企業(yè)軟件公司和企業(yè)公司都沒(méi)有大型工程團(tuán)隊(duì)來(lái)維護(hù)和優(yōu)化他們的軟件堆棧,以在全球所有云和私有云以及本地運(yùn)行。
因此,我們將對(duì)他們所有的軟件堆棧進(jìn)行管理、優(yōu)化、修補(bǔ)、調(diào)整,優(yōu)化安裝基礎(chǔ)。我們將它們?nèi)萜骰轿覀兊亩褩V校覀兎Q之為英偉達(dá)AIEnterprise。我們將其推向市場(chǎng)的方式是將英偉達(dá)AIEnterprise視為運(yùn)行時(shí),就像操作系統(tǒng)一樣。這是一個(gè)人工智能操作系統(tǒng)。我們每年對(duì)每個(gè)GPU收取4500美元。我的猜測(cè)是,世界上的每一家企業(yè),每一家在所有云和私有云中部署軟件的軟件企業(yè)公司。首先,我們將在英偉達(dá)AI企業(yè)上運(yùn)行,尤其是,你知道,顯然是為了我們的GPU。因此,隨著時(shí)間的推移,這可能會(huì)成為一項(xiàng)非常重要的業(yè)務(wù)。我們有一個(gè)很好的開(kāi)始。Collette提到它已經(jīng)以10億美元的速度增長(zhǎng),我們才剛剛開(kāi)始。
黃仁勛閉會(huì)總結(jié):
計(jì)算機(jī)行業(yè)正在同時(shí)向兩個(gè)方向轉(zhuǎn)變 (加速計(jì)算與生成式 AI)。
價(jià)值數(shù)萬(wàn)億美元的數(shù)據(jù)中心安裝基礎(chǔ)正在從通用計(jì)算轉(zhuǎn)向加速計(jì)算。每個(gè)數(shù)據(jù)中心都將得到加速,使世界能夠在提高處理量來(lái)滿足計(jì)算需求的同時(shí),管理成本和能源。英偉達(dá)實(shí)現(xiàn)了令人難以置信的加速,它實(shí)現(xiàn)了一種全新的計(jì)算范式,即生成式 AI,其中軟件可以學(xué)習(xí)、理解和生成從人類語(yǔ)言到生物結(jié)構(gòu)和 3D 世界的任何信息。
我們現(xiàn)在正處于一個(gè)新興行業(yè)的開(kāi)端,專用AI數(shù)據(jù)中心處理大量原始數(shù)據(jù)以將其提煉成數(shù)字智能,就像上一場(chǎng)工業(yè)革命的交流發(fā)電廠。英偉達(dá)AI超級(jí)計(jì)算機(jī)實(shí)際上是這場(chǎng)工業(yè)革命的AI生成工廠。
每個(gè)公司和每個(gè)行業(yè)從根本上來(lái)說(shuō)都是建立在其專有的商業(yè)智能之上,在未來(lái),他們專有的生成式AI啟動(dòng)了一個(gè)全新的投資周期,以構(gòu)建下一個(gè)萬(wàn)億美元的AI生成工廠基礎(chǔ)設(shè)施。
我們相信,這兩大趨勢(shì)將推動(dòng)未來(lái) 5 年內(nèi)使全球數(shù)據(jù)中心基礎(chǔ)設(shè)施安裝量翻一番,每年創(chuàng)造數(shù)千億美元的市場(chǎng)機(jī)會(huì)。這種新的人工智能基礎(chǔ)設(shè)施將開(kāi)辟一個(gè)今天不可能實(shí)現(xiàn)的全新應(yīng)用世界。
我們與超大規(guī)模云提供商和消費(fèi)者互聯(lián)網(wǎng)公司一起開(kāi)啟了人工智能之旅?,F(xiàn)在,從汽車、醫(yī)療保健、金融服務(wù)到工業(yè)電信、媒體和娛樂(lè),每個(gè)行業(yè)都參與其中。英偉達(dá)的全棧計(jì)算平臺(tái)具有特定行業(yè)的應(yīng)用框架以及龐大的開(kāi)發(fā)者和合作伙伴生態(tài)系統(tǒng),為我們提供了速度、規(guī)模和影響力,幫助每個(gè)公司、每個(gè)行業(yè)的公司成為人工智能公司。
在下個(gè)月于圣何塞舉行的GTC上,我們有很多東西要與您分享,所以請(qǐng)務(wù)必加入我們。我們期待向您介紹下季度的最新進(jìn)展。
新聞來(lái)源:華爾街見(jiàn)聞
相關(guān)文章