觀察員
-
蘋果在谷歌芯片上訓練AI，打響拋棄英偉達GPU第一槍？
最后更新: 2024-07-30 13:06:37
美東時間7月29日，蘋果公司發布iPhone AI的首個預覽版，隨后發布論文，稱其人工智能模型是在谷歌的TPU（張量處理單元）上訓練的。論文中介紹了為支持Apple Intelligence功能而開發的基礎語言模型，包括一個設計用于在設備上高效運行的約30億參數模型和一個基于私有云計算的云側大模型。
蘋果基礎模型的建模概述蘋果官方發布論文
蘋果發布的論文稱，他們在8192塊TPU v4芯片上訓練云側AFM（Apple Foundation Model），使用4096的序列長度和4096個序列的批量大小，進行了6.3萬億token訓練。端側AFM在2048塊TPU v5p芯片上進行訓練。
蘋果的決定表明，一些大型科技公司在人工智能訓練方面可能正在尋找英偉達圖形處理單元的替代品。
一些芯片行業媒體稱，這是蘋果打響了拋棄英偉達GPU的第一槍。
今年6月初，日本證券公司瑞穗證券估計，英偉達控制著用于訓練和部署OpenAI的GPT等模型的AI芯片市場的70%至95%。一些專家將英偉達在AI芯片市場的地位描述為護城河，其旗艦AI圖形處理單元GPU（例如H100）與該公司的CUDA軟件相結合，使其在競爭中占據了先機。
包括谷歌、Meta、甲骨文和特斯拉在內的科技公司一直在努力構建自己的人工智能系統和產品。
心智觀察所研究員潘攻愚指出，蘋果宣布其Apple Foundation Model（AFM）在谷歌自主開發的Tensor處理單元（TPU）進行訓練，而且還租用了谷歌的云服務。蘋果在AI訓練方面的權衡折射出了英偉達通用型AI加速器和谷歌的ASIC定制化AI服務體系的競爭升級。
谷歌自2015年以來一直在使用自主設計的TPU來訓練和部署AI模型。不是設計通用處理器，而是將其設計為專門用于神經網絡工作負載的矩陣處理器，在整個大量計算和數據傳遞過程中，根本不需要訪問內存。
今年5月，谷歌宣布推出了人工智能（AI）數據中心芯片Trillium，據稱該芯片的速度相比之前的版本提升了幾乎5倍。該公司表示，這款芯片將用于開發自己的模型，包括Gemini和Imagen。
谷歌稱，如果提前三年預訂，最新的TPU每小時使用成本不到2美元。谷歌于2015年首次推出TPU用于內部工作負載，并于2017年向公眾開放。它們現在是專為人工智能設計的最成熟的定制芯片之一。
盡管如此，谷歌仍是英偉達最大的客戶之一。它使用英偉達 的GPU和自己的TPU來訓練AI系統，并且還在其云端出售英偉達技術的訪問權限。
“雖然英偉達目前控制著高達80%份額的高端AI芯片市場，但剩余市場份額大多被大型云服務供應商如谷歌、微軟、亞馬遜占據。這一次蘋果采用的谷歌TPUv5雖然在通用性上較英偉達同生態位芯片遜色，但主打一個性價比，綜合總成本（TCO）要低英偉達四倍，而且拿貨周期短。目前谷歌TPUv5所在的市場大約有300億美元，英偉達一直覬覦這塊‘肥肉’，但考慮到和谷歌微妙的競合關系，英偉達目前還不會貿然大舉進入ASIC領域。”潘攻愚分析稱。
Meta首席執行官馬克·扎克伯格和Alphabet首席執行官桑達爾·皮查伊上周均發表評論稱，他們的公司和業內其他公司可能在AI基礎設施上投資過度，但他們也承認，不這樣做的商業風險太高。一旦落后，將無法掌握未來10到15年最重要的技術。
本文系觀察者網獨家稿件，未經授權，不得轉載。
- 責任編輯: 李亞麗
-
10分鐘漲到1.8元，多地共享單車漲價
2024-07-30 10:07 觀網財經-消費 -
吳清主席會見英國駐華大使吳若蘭
2024-07-29 21:00 金融觀察 -
國產品牌力挺，國產手機OLED面板全球份額超50%
2024-07-29 18:53 觀網財經-科創 -
10億投資臺灣，AMD和英偉達貼身肉搏
2024-07-29 18:35 觀網財經-科創 -
國家電網投資將首次超過6000億元 特高壓建設高景氣有望延續
2024-07-29 17:56 能源戰略 -
抖音支付等16家機構率先更換“新版”支付牌照
2024-07-29 11:40 觀網財經-互聯網 -
恒大汽車附屬公司被申請破產重整
2024-07-29 08:09 觀方車訊 -
全國首例！南京一住宅項目停工兩年，官方協調集中退房退首付
2024-07-27 20:49 觀網財經-房產 -
廣州上半年GDP超1.4萬億元，同比增長2.5%
2024-07-27 20:19 -
中信建投回應實習生事件：系某團隊負責人違規引入，已被撤職
2024-07-27 20:15 -
上半年深圳GDP1.73萬億，同比增長5.9%
2024-07-27 17:10 -
華為與聯發科互訴，最關心結果的是高通？
2024-07-27 11:01 觀網財經-科創 -
香港要做的，是把股民從美股身上搶回來
2024-07-27 10:31 -
困在“調度費”里的新鄭機場網約車司機
2024-07-26 21:02 -
中日匯率飆漲，正讓美元資產很難受
2024-07-26 18:55 觀網財經-金融 -
證監會：研究謀劃進一步全面深化資本市場改革開放的一攬子舉措
2024-07-26 18:35 金融觀察 -
不應泛化新質生產力，什么好東西都往這個“筐”里裝
2024-07-26 16:09 2024中國經濟季度觀察 -
俞敏洪：東方甄選不會再出現某個主播成立獨立平臺
2024-07-26 16:04 -
財政部：6月份全國共銷售彩票559.37億元，同比增長14.8%
2024-07-26 15:22 -
開啟內測！OpenAI的搜索引擎要來了
2024-07-26 11:31 觀網財經-科創
相關推薦 -
“中國在非洲真正贏得了民心，就連斯威士蘭…” 評論 20
“日企抱團是絕望之舉，中國工廠效率質量都是第一” 評論 81
“她下月訪華，盡管特朗普團隊表達了擔憂” 評論 46
“中國有能力讓夢想照進現實，將贏得史詩般競爭” 評論 110
美國政府“逃過一劫” 評論 125最新聞 Hot-
“中國在非洲真正贏得了民心，就連斯威士蘭…”
-
“日企抱團是絕望之舉，中國工廠效率質量都是第一”
-
“中國有能力讓夢想照進現實，將贏得史詩般競爭”
-
被災民暴罵到當場破防，馬克龍發飆：你該慶幸你在法國！
-
美高校敦促國際學生抓緊回來：萬一把中印拉黑名單呢
-
美國政府“逃過一劫”
-
“澤連斯基要求歐盟新外長：對華批評要降調”
-
澳大利亞來了，中國就得走人？澳總理這么回應
-
美媒感慨：基建狂魔發力，我們又要被超越了
-
英國剛公布新任大使，特朗普顧問就痛罵：傻X
-
“來自中國的老大哥能確保我們…”
-
俄羅斯的報復來了
-
澤連斯基罵普京“傻子”，俄方怒斥
-
還在扯皮中國，“涉華條款全刪了”
-
中國“光伏OPEC”發文嚴厲質問央企，怎么回事？
-
“最后一道貿易障礙，中國解除了！”
-
Copyright ? 2014-2024 觀察者 All rights reserved。
滬ICP備10213822號-2 互聯網新聞信息服務許可證：31220170001
網登網視備（滬）02020000041-1號 互聯網宗教信息服務許可證：滬（2024）0000009
廣播電視節目制作經營許可證：（滬）字第03952號
增值電信業務經營許可證：滬B2-20210968 違法及不良信息舉報電話：021-62376571
滬公網安備 31010502000027號
中國互聯網舉報中心
上海市互聯網違法與不良信息舉報中心
