-
蘋果在谷歌芯片上訓(xùn)練AI,打響拋棄英偉達GPU第一槍?
最后更新: 2024-07-30 13:06:37美東時間7月29日,蘋果公司發(fā)布iPhone AI的首個預(yù)覽版,隨后發(fā)布論文,稱其人工智能模型是在谷歌的TPU(張量處理單元)上訓(xùn)練的。論文中介紹了為支持Apple Intelligence功能而開發(fā)的基礎(chǔ)語言模型,包括一個設(shè)計用于在設(shè)備上高效運行的約30億參數(shù)模型和一個基于私有云計算的云側(cè)大模型。
蘋果基礎(chǔ)模型的建模概述蘋果官方發(fā)布論文
蘋果發(fā)布的論文稱,他們在8192塊TPU v4芯片上訓(xùn)練云側(cè)AFM(Apple Foundation Model),使用4096的序列長度和4096個序列的批量大小,進行了6.3萬億token訓(xùn)練。端側(cè)AFM在2048塊TPU v5p芯片上進行訓(xùn)練。
蘋果的決定表明,一些大型科技公司在人工智能訓(xùn)練方面可能正在尋找英偉達圖形處理單元的替代品。
一些芯片行業(yè)媒體稱,這是蘋果打響了拋棄英偉達GPU的第一槍。
今年6月初,日本證券公司瑞穗證券估計,英偉達控制著用于訓(xùn)練和部署OpenAI的GPT等模型的AI芯片市場的70%至95%。一些專家將英偉達在AI芯片市場的地位描述為護城河,其旗艦AI圖形處理單元GPU(例如H100)與該公司的CUDA軟件相結(jié)合,使其在競爭中占據(jù)了先機。
包括谷歌、Meta、甲骨文和特斯拉在內(nèi)的科技公司一直在努力構(gòu)建自己的人工智能系統(tǒng)和產(chǎn)品。
心智觀察所研究員潘攻愚指出,蘋果宣布其Apple Foundation Model(AFM)在谷歌自主開發(fā)的Tensor處理單元(TPU)進行訓(xùn)練,而且還租用了谷歌的云服務(wù)。蘋果在AI訓(xùn)練方面的權(quán)衡折射出了英偉達通用型AI加速器和谷歌的ASIC定制化AI服務(wù)體系的競爭升級。
谷歌自2015年以來一直在使用自主設(shè)計的TPU來訓(xùn)練和部署AI模型。不是設(shè)計通用處理器,而是將其設(shè)計為專門用于神經(jīng)網(wǎng)絡(luò)工作負載的矩陣處理器,在整個大量計算和數(shù)據(jù)傳遞過程中,根本不需要訪問內(nèi)存。
今年5月,谷歌宣布推出了人工智能(AI)數(shù)據(jù)中心芯片Trillium,據(jù)稱該芯片的速度相比之前的版本提升了幾乎5倍。該公司表示,這款芯片將用于開發(fā)自己的模型,包括Gemini和Imagen。
谷歌稱,如果提前三年預(yù)訂,最新的TPU每小時使用成本不到2美元。谷歌于2015年首次推出TPU用于內(nèi)部工作負載,并于2017年向公眾開放。它們現(xiàn)在是專為人工智能設(shè)計的最成熟的定制芯片之一。
盡管如此,谷歌仍是英偉達最大的客戶之一。它使用英偉達 的GPU和自己的TPU來訓(xùn)練AI系統(tǒng),并且還在其云端出售英偉達技術(shù)的訪問權(quán)限。
“雖然英偉達目前控制著高達80%份額的高端AI芯片市場,但剩余市場份額大多被大型云服務(wù)供應(yīng)商如谷歌、微軟、亞馬遜占據(jù)。這一次蘋果采用的谷歌TPUv5雖然在通用性上較英偉達同生態(tài)位芯片遜色,但主打一個性價比,綜合總成本(TCO)要低英偉達四倍,而且拿貨周期短。目前谷歌TPUv5所在的市場大約有300億美元,英偉達一直覬覦這塊‘肥肉’,但考慮到和谷歌微妙的競合關(guān)系,英偉達目前還不會貿(mào)然大舉進入ASIC領(lǐng)域?!迸斯ビ薹治龇Q。
Meta首席執(zhí)行官馬克·扎克伯格和Alphabet首席執(zhí)行官桑達爾·皮查伊上周均發(fā)表評論稱,他們的公司和業(yè)內(nèi)其他公司可能在AI基礎(chǔ)設(shè)施上投資過度,但他們也承認,不這樣做的商業(yè)風險太高。一旦落后,將無法掌握未來10到15年最重要的技術(shù)。
本文系觀察者網(wǎng)獨家稿件,未經(jīng)授權(quán),不得轉(zhuǎn)載。
- 責任編輯: 李亞麗 
-
10分鐘漲到1.8元,多地共享單車漲價
2024-07-30 10:07 觀網(wǎng)財經(jīng)-消費 -
吳清主席會見英國駐華大使吳若蘭
2024-07-29 21:00 金融觀察 -
國產(chǎn)品牌力挺,國產(chǎn)手機OLED面板全球份額超50%
2024-07-29 18:53 觀網(wǎng)財經(jīng)-科創(chuàng) -
10億投資臺灣,AMD和英偉達貼身肉搏
2024-07-29 18:35 觀網(wǎng)財經(jīng)-科創(chuàng) -
國家電網(wǎng)投資將首次超過6000億元 特高壓建設(shè)高景氣有望延續(xù)
2024-07-29 17:56 能源戰(zhàn)略 -
抖音支付等16家機構(gòu)率先更換“新版”支付牌照
2024-07-29 11:40 觀網(wǎng)財經(jīng)-互聯(lián)網(wǎng) -
恒大汽車附屬公司被申請破產(chǎn)重整
2024-07-29 08:09 觀方車訊 -
全國首例!南京一住宅項目停工兩年,官方協(xié)調(diào)集中退房退首付
2024-07-27 20:49 觀網(wǎng)財經(jīng)-房產(chǎn) -
廣州上半年GDP超1.4萬億元,同比增長2.5%
2024-07-27 20:19 -
中信建投回應(yīng)實習生事件:系某團隊負責人違規(guī)引入,已被撤職
2024-07-27 20:15 -
上半年深圳GDP1.73萬億,同比增長5.9%
2024-07-27 17:10 -
華為與聯(lián)發(fā)科互訴,最關(guān)心結(jié)果的是高通?
2024-07-27 11:01 觀網(wǎng)財經(jīng)-科創(chuàng) -
香港要做的,是把股民從美股身上搶回來
2024-07-27 10:31 -
困在“調(diào)度費”里的新鄭機場網(wǎng)約車司機
2024-07-26 21:02 -
中日匯率飆漲,正讓美元資產(chǎn)很難受
2024-07-26 18:55 觀網(wǎng)財經(jīng)-金融 -
證監(jiān)會:研究謀劃進一步全面深化資本市場改革開放的一攬子舉措
2024-07-26 18:35 金融觀察 -
不應(yīng)泛化新質(zhì)生產(chǎn)力,什么好東西都往這個“筐”里裝
2024-07-26 16:09 2024中國經(jīng)濟季度觀察 -
俞敏洪:東方甄選不會再出現(xiàn)某個主播成立獨立平臺
2024-07-26 16:04 -
財政部:6月份全國共銷售彩票559.37億元,同比增長14.8%
2024-07-26 15:22 -
開啟內(nèi)測!OpenAI的搜索引擎要來了
2024-07-26 11:31 觀網(wǎng)財經(jīng)-科創(chuàng)
相關(guān)推薦 -
最新聞 Hot
-
印度稱“不想升級”,巴方想“就此打住”
-
英法德波領(lǐng)導(dǎo)人訪問基輔,將與澤連斯基共同討論?;饐栴}
-
印軍否認S-400防空系統(tǒng)被摧毀
-
印度前高官:勸巴基斯坦,中國的話好使
-
空中爆炸!巴軍通報7日空戰(zhàn)細節(jié),含擊落“陣風”錄音
-
要松口了?印官員稱將“適時”公開
-
印度32座機場暫停對所有民用航班運營
-
英官員承認:美英貿(mào)易協(xié)議這條款,沖中國來的
-
巴外長:印度讓巴基斯坦別無選擇
-
巴基斯坦稱使用“梟龍”戰(zhàn)機擊毀印度S-400防空系統(tǒng)
-
搞錢色交易、貪欲膨脹,深圳市政協(xié)原副主席王幼鵬被“雙開”
-
“跟巴西建這條鐵路,中國非常感興趣”
-
果然,英國被用來“立規(guī)矩”了
-
印度官員:印軍正做出回應(yīng)
-
印方:一高級官員在巴方炮擊中身亡
-
巴基斯坦發(fā)起“銅墻鐵壁”行動:已打擊20多處印度軍事設(shè)施
-