-
英偉達(dá)宣布推出最強(qiáng)AI芯片,成本和能耗較前代改善25倍
號(hào)稱今年全球頭號(hào)人工智能(AI)領(lǐng)域開(kāi)發(fā)者大會(huì)的英偉達(dá)2024 GTC AI大會(huì)于美東時(shí)間3月18日周一拉開(kāi)帷幕。今年是英偉達(dá)時(shí)隔五年首次讓年度GTC重回線下,也是此前分析認(rèn)為英偉達(dá)要“拿出點(diǎn)真家伙”的AI盛會(huì)。
當(dāng)?shù)貢r(shí)間周一下午,英偉達(dá)創(chuàng)始人兼CEO黃仁勛在美國(guó)加州圣何塞SAP中心進(jìn)行主題為“面向開(kāi)發(fā)者的1#AI峰會(huì)”(1#AI Conference for Developers)演講。黃仁勛介紹了運(yùn)行AI模型的新一代芯片和軟件。英偉達(dá)正式推出名為Blackwell的新一代AI圖形處理器(GPU),預(yù)計(jì)將在今年晚些時(shí)候發(fā)貨。
Blackwell平臺(tái)能夠在萬(wàn)億參數(shù)級(jí)的大型語(yǔ)言模型(LLM)上構(gòu)建和運(yùn)行實(shí)時(shí)生成式AI,而成本和能耗比前身低25倍。
另?yè)?jù)媒體報(bào)道,英偉達(dá)CEO黃仁勛在GTC宣布,將在其企業(yè)軟件訂閱中增加一款名為NIM的新產(chǎn)品。NIM可以更容易地使用舊的英偉達(dá)GPU進(jìn)行推理,并允許公司繼續(xù)使用他們已經(jīng)擁有的數(shù)億個(gè)英偉達(dá)GPU。該產(chǎn)品將使新人工智能模型的初始訓(xùn)練推理所需的算力更少。該公司的策略是讓購(gòu)買英偉達(dá)服務(wù)器的客戶注冊(cè)英偉達(dá)企業(yè)版,每個(gè)GPU每年收取費(fèi)用4500美元。黃仁勛表示,該軟件還將幫助在配備GPU的筆記本電腦上運(yùn)行人工智能,而不是在云服務(wù)器上運(yùn)行。
此外,英偉達(dá)CEO黃仁勛宣布推出下一代人工智能超級(jí)計(jì)算機(jī),英偉達(dá)還發(fā)布6G研究云平臺(tái),以便用AI技術(shù)推進(jìn)無(wú)線通信。
英偉達(dá)推新AI芯片
據(jù)外媒報(bào)道,英偉達(dá)于周一宣布推出新一代人工智能芯片和用于運(yùn)行人工智能模型的軟件。該公司在美國(guó)圣何塞舉行的開(kāi)發(fā)者大會(huì)上宣布了這一消息,正值這家芯片制造商尋求鞏固其作為人工智能公司首選供應(yīng)商的地位。
自O(shè)penAI的ChatGPT于2022年末掀起人工智能熱潮以來(lái),英偉達(dá)的股價(jià)上漲了五倍,總銷售額增長(zhǎng)了兩倍多。英偉達(dá)的高端服務(wù)器GPU對(duì)于訓(xùn)練和部署大型AI模型至關(guān)重要。微軟和Meta等公司已經(jīng)花費(fèi)了數(shù)十億美元購(gòu)買這些芯片。
來(lái)源:視頻截圖
新一代AI圖形處理器命名為Blackwell。首款Blackwell芯片名為GB200,將于今年晚些時(shí)候發(fā)貨。英偉達(dá)正在用更強(qiáng)大的芯片吸引客戶,以刺激新訂單。例如,各公司和軟件制造商仍在爭(zhēng)相搶購(gòu)當(dāng)前一代的“Hopper”H100芯片及類似產(chǎn)品。
“Hopper很棒,但我們需要更大的GPU,”英偉達(dá)首席執(zhí)行官黃仁勛周一在該公司于加利福尼亞州舉行的開(kāi)發(fā)者大會(huì)上表示。不過(guò),周一盤后交易中,英偉達(dá)股價(jià)下跌超過(guò)1%。該公司還推出了名為NIM的創(chuàng)收軟件,該軟件將簡(jiǎn)化AI的部署,為客戶提供了在日益增多的競(jìng)爭(zhēng)者中堅(jiān)持使用英偉達(dá)芯片的另一個(gè)理由。
英偉達(dá)高管表示,該公司正從一個(gè)唯利是圖的芯片提供商轉(zhuǎn)變?yōu)楦裎④浕蛱O果的平臺(tái)提供商,其他公司可以在此基礎(chǔ)上構(gòu)建軟件。
“Blackwell不僅僅是一款芯片,而是一個(gè)平臺(tái)的名稱,”黃仁勛表示。
英偉達(dá)企業(yè)副總裁Manuvir Das在接受采訪時(shí)表示:“可銷售的商業(yè)產(chǎn)品是GPU,而軟件則是為了幫助人們以不同的方式使用GPU。當(dāng)然,我們現(xiàn)在仍然這樣做。但真正改變的是,我們現(xiàn)在真的有了商業(yè)軟件業(yè)務(wù)?!?
Das表示,英偉達(dá)的新軟件將更容易在任何英偉達(dá)GPU上運(yùn)行程序,甚至是那些可能更適合部署而不是構(gòu)建AI的老舊GPU?!叭绻闶情_(kāi)發(fā)者,你有一個(gè)有趣的模型,你希望人們采用它,如果你把它放入NIM中,我們會(huì)確保它可以在我們所有的GPU上運(yùn)行,這樣你就可以覆蓋很多人,”Das說(shuō)道。
Blackwell擁有六項(xiàng)革命性技術(shù)
英偉達(dá)每?jī)赡旮乱淮纹銰PU架構(gòu),實(shí)現(xiàn)性能的飛躍。過(guò)去一年發(fā)布的許多AI模型都是在該公司的Hopper架構(gòu)上訓(xùn)練的,該架構(gòu)被用于H100等芯片,于2022年宣布推出。
來(lái)源:視頻截圖
據(jù)悉,英偉達(dá)稱,Blackwell擁有六項(xiàng)革命性的技術(shù),可以支持多達(dá)10萬(wàn)億參數(shù)的模型進(jìn)行AI訓(xùn)練和實(shí)時(shí)LLM推理:
全球最強(qiáng)大的芯片:Blackwell架構(gòu)GPU由2080億個(gè)晶體管組成,采用量身定制的臺(tái)積電4納米工藝制造,兩個(gè)reticle極限GPU裸片將10 TB/秒的芯片到芯片鏈路連接成單個(gè)統(tǒng)一的GPU。
第二代Transformer引擎:結(jié)合了Blackwell Tensor Core技術(shù)和TensorRT-LLM和NeMo Megatron框架中的英偉達(dá)先進(jìn)動(dòng)態(tài)范圍管理算法,Blackwell將通過(guò)新的4位浮點(diǎn)AI支持雙倍的計(jì)算和模型大小推理能力。
第五代NVLink:為提高數(shù)萬(wàn)億參數(shù)和混合專家AI模型的性能,最新一代英偉達(dá)NVLink為每個(gè)GPU提供了突破性的1.8TB/s雙向吞吐量,確保最復(fù)雜LLM之間多達(dá)576個(gè)GPU之間的無(wú)縫高速通信。
RAS引擎:Blackwell支持的GPU包含一個(gè)專用引擎,實(shí)現(xiàn)可靠性、可用性和服務(wù)性。此外,Blackwell架構(gòu)還增加了芯片級(jí)功能,利用基于AI的預(yù)防性維護(hù)進(jìn)行診斷和預(yù)測(cè)可靠性問(wèn)題。這可以最大限度地延長(zhǎng)系統(tǒng)正常運(yùn)行時(shí)間,并提高大部署規(guī)模AI的彈性,使其能連續(xù)運(yùn)行數(shù)周甚至數(shù)月,并降低運(yùn)營(yíng)成本。
安全人工智能:先進(jìn)的機(jī)密計(jì)算功能可在不影響性能的情況下保護(hù)AI模型和客戶數(shù)據(jù),并支持新的本機(jī)接口加密協(xié)議,這對(duì)于醫(yī)療保健和金融服務(wù)等隱私敏感行業(yè)至關(guān)重要。
解壓縮引擎:專用解壓縮引擎支持最新格式,加快數(shù)據(jù)庫(kù)查詢,提供數(shù)據(jù)分析和數(shù)據(jù)科學(xué)的最高性能。未來(lái)幾年,在企業(yè)每年花費(fèi)數(shù)百億美元的數(shù)據(jù)處理方面,將越來(lái)越多地由GPU加速。
來(lái)源:視頻截圖
Blackwell GPU體積龐大,將兩個(gè)單獨(dú)制造的晶粒組合成一個(gè)由臺(tái)積電制造的芯片。它還將作為一款名為GB200 NVLink 2的整個(gè)服務(wù)器提供,該服務(wù)器結(jié)合了72個(gè)Blackwell GPU和其他旨在訓(xùn)練AI模型的英偉達(dá)部件。
亞馬遜、谷歌、微軟和甲骨文將通過(guò)云服務(wù)提供對(duì)GB200的訪問(wèn)。GB200將兩個(gè)B200 Blackwell GPU與一個(gè)基于Arm的Grace CPU配對(duì)。英偉達(dá)表示,亞馬遜網(wǎng)絡(luò)服務(wù)將構(gòu)建一個(gè)包含20000個(gè)GB200芯片的服務(wù)器集群。
英偉達(dá)沒(méi)有提供新款GB200或其使用系統(tǒng)的成本。據(jù)分析師估計(jì),英偉達(dá)基于Hopper的H100芯片成本在2.5萬(wàn)至4萬(wàn)美元之間,而整個(gè)系統(tǒng)的成本高達(dá)20萬(wàn)美元。
英偉達(dá)推理微服務(wù)
英偉達(dá)還宣布,將在其英偉達(dá)企業(yè)軟件訂閱中添加一款名為NIM(英偉達(dá)推理微服務(wù))的新產(chǎn)品。NIM讓使用較舊的英偉達(dá)GPU進(jìn)行推理(或運(yùn)行AI軟件的過(guò)程)變得更加簡(jiǎn)單,并允許公司繼續(xù)使用其已經(jīng)擁有的數(shù)億個(gè)英偉達(dá)GPU。與新AI模型的初始訓(xùn)練相比,推理所需的計(jì)算能力較少。對(duì)于那些希望運(yùn)行自己的AI模型,而不是從OpenAI等公司購(gòu)買AI結(jié)果作為服務(wù)的企業(yè)來(lái)說(shuō),NIM無(wú)疑是他們的得力助手。
英偉達(dá)的策略是吸引購(gòu)買基于英偉達(dá)的服務(wù)器的客戶注冊(cè)英偉達(dá)企業(yè)版,每個(gè)GPU每年的許可費(fèi)為4500美元。
英偉達(dá)將與微軟或Hugging Face等AI公司合作,確保他們的AI模型能夠在所有兼容的英偉達(dá)芯片上運(yùn)行。隨后,開(kāi)發(fā)者可以使用NIM在自有服務(wù)器或基于云端的英偉達(dá)服務(wù)器上高效運(yùn)行模型,無(wú)需繁瑣的配置過(guò)程。
“在我原本調(diào)用OpenAI的代碼中,我只需替換一行代碼,將其指向從英偉達(dá)獲取的NIM即可?!盌as說(shuō)道。
英偉達(dá)表示,該軟件還將助力AI在配備GPU的筆記本電腦上運(yùn)行,而非僅限于云端服務(wù)器。
- 原標(biāo)題:重磅!“我們需要更大的GPU”,英偉達(dá)宣布推出最強(qiáng)AI芯片,成本和能耗較前代改善25倍
- 責(zé)任編輯: 林鈴錦 
-
閱文去年歸母凈利增長(zhǎng)32%,展望2024為“爆款之年”
2024-03-18 18:00 觀網(wǎng)財(cái)經(jīng)-互聯(lián)網(wǎng) -
獨(dú)家:盒馬CEO侯毅正式退休
2024-03-18 16:47 觀網(wǎng)財(cái)經(jīng)-互聯(lián)網(wǎng) -
谷歌再次誤報(bào)林吉特匯率數(shù)據(jù),馬來(lái)西亞央行:請(qǐng)解釋!
2024-03-18 14:13 -
歐洲要搶在美國(guó)前面降息了?
2024-03-18 11:29 -
首次!簽“陰陽(yáng)合同”被明確列舉為逃稅
2024-03-18 10:46 依法治國(guó) -
前2月新建商品房銷售額降29.3%,其中住宅降32.7%
2024-03-18 10:21 觀網(wǎng)財(cái)經(jīng)-房產(chǎn) -
前2月社零總額增長(zhǎng)5.5%,其中餐飲增長(zhǎng)12.5%
2024-03-18 10:09 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
福耀玻璃六成凈利用于分紅 北向資金去年加倉(cāng)1.1億股
2024-03-17 09:59 -
波音要求航司檢查787駕駛艙座椅:可能導(dǎo)致飛機(jī)快速墜落
2024-03-16 17:27 大公司 -
北京警方:已對(duì)“中植系”所屬財(cái)富公司主要涉案嫌疑人采取強(qiáng)制措施
2024-03-16 15:50 觀網(wǎng)財(cái)經(jīng)-金融 -
一周內(nèi),多家上市公司實(shí)控人被留置
2024-03-16 07:24 觀網(wǎng)財(cái)經(jīng)-金融 -
淋巴、腺體肉眼做梅菜扣肉預(yù)制菜,生產(chǎn)場(chǎng)景觸目驚心…
2024-03-15 20:40 食品安全 -
3·15晚會(huì):個(gè)別企業(yè)用普通鋼化玻璃打上防火標(biāo),冒充防火玻璃進(jìn)行銷售
2024-03-15 20:21 315維權(quán) -
中國(guó)電視霸主的雄心與遠(yuǎn)見(jiàn)
2024-03-15 17:06 -
央行:前兩個(gè)月社融增加8.06萬(wàn)億元,2月底規(guī)模存量385.72萬(wàn)億元
2024-03-15 16:51 宏觀經(jīng)濟(jì) -
爭(zhēng)議“僅退款”:錢退了,假貨有人管嗎?
2024-03-15 16:50 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
央行:2月末M2余額299.56萬(wàn)億元,同比增長(zhǎng)8.7%
2024-03-15 16:43 -
證監(jiān)會(huì):對(duì)分紅采取強(qiáng)約束措施,推動(dòng)一年多次分紅
2024-03-15 15:34 股市 -
中央決定:簡(jiǎn)勤任中國(guó)聯(lián)通總經(jīng)理
2024-03-15 15:06 國(guó)企備忘錄
相關(guān)推薦 -
“美國(guó)急著找替代,卻發(fā)現(xiàn)印度越來(lái)越依賴中國(guó)” 評(píng)論 16史上首次!大眾汽車考慮關(guān)閉德國(guó)工廠,與中國(guó)有關(guān)? 評(píng)論 154“現(xiàn)在,以色列處于重大轉(zhuǎn)折點(diǎn)邊緣” 評(píng)論 88歐盟進(jìn)口天然氣單季總量,俄羅斯反超美國(guó)了 評(píng)論 104最新聞 Hot
-
“美國(guó)急著找替代,卻發(fā)現(xiàn)印度越來(lái)越依賴中國(guó)”
-
中國(guó)鐵路扭虧為盈!負(fù)債率回落至10年來(lái)最低水平
-
韓國(guó)要吃不上泡菜了,還得靠中國(guó)?
-
委內(nèi)瑞拉發(fā)出逮捕令,馬杜羅:他竟敢說(shuō)不承認(rèn)法律
-
史上首次!大眾汽車考慮關(guān)閉德國(guó)工廠,與中國(guó)有關(guān)?
-
美國(guó)大兵在土耳其被套頭胖揍:滾回家去
-
哈里斯首度發(fā)聲:不能賣!
-
“現(xiàn)在,以色列處于重大轉(zhuǎn)折點(diǎn)邊緣”
-
“唯一能結(jié)束俄烏沖突的國(guó)家”?他竟這樣強(qiáng)扯中國(guó)…
-
聞所未聞!美國(guó)把馬杜羅“專機(jī)”扣了
-
波音“星際客機(jī)”發(fā)出異響,NASA回應(yīng)
-
她宣稱:歐洲應(yīng)吸取過(guò)度依賴俄油氣的教訓(xùn),減少對(duì)華技術(shù)依賴
-
“日本敢這么干,中國(guó)有狠招等它”
-
惡臭無(wú)比!以色列本國(guó)抗議者也被用上這東西了
-
歐盟進(jìn)口天然氣單季總量,俄羅斯反超美國(guó)了
-
韓高官:想讓我們對(duì)付中國(guó),美國(guó)得“加錢”
快訊- 習(xí)近平會(huì)見(jiàn)馬拉維總統(tǒng),中馬關(guān)系提升為戰(zhàn)略伙伴關(guān)系
- 我國(guó)新增3個(gè)世界地質(zhì)遺產(chǎn)地
- 莫言:我夢(mèng)到被馬斯克聘去火星寫劇本
- 將HPV疫苗納入國(guó)家免疫規(guī)劃?國(guó)家衛(wèi)健委回應(yīng)代表建議
- 青島警方通報(bào)“路虎女司機(jī)逆行打人”:不構(gòu)成尋釁滋事
- 習(xí)近平會(huì)見(jiàn)乍得總統(tǒng),中乍關(guān)系提升為戰(zhàn)略伙伴關(guān)系
- 中美氣候北京會(huì)談將舉行
- 新米價(jià)格大漲,日本政府再次拒絕投放庫(kù)存米
-