-
華為推出DeepSeek訓(xùn)/推一體機(jī),國產(chǎn)芯片迎來新機(jī)遇?
-
連政guanchazhewanxgun
DeepSeek的熱潮,終于帶火了AI一體機(jī)產(chǎn)品?這種頗具“中國特色”的AI硬件,能否給國產(chǎn)芯片的普及再加一把火?
2月16日,據(jù)“華為數(shù)據(jù)存儲”公眾號消息,華為DCS AI解決方案針對DeepSeek的本地部署,推出了DS版FusionCube A3000訓(xùn)/推超融合一體機(jī),深度適配DeepSeekV3&R1及蒸餾模型,支持私有化部署。
配置清單顯示,DS版的FusionCube A3000訓(xùn)/推超融合一體機(jī)有三種型號,分別為Ultra(滿血版)、Pro(蒸餾版)和 Lite(蒸餾輕量版)。
其中滿血版可以完美適配DeepSeek-R1、V3的671B模型,硬件使用2個(gè)華為Atlas800l A2,處理速度達(dá)到671B: 1911 token/s 。而蒸餾版則配備1個(gè)Atlas800l A2,適配DeepSeek R1-Distill-Qwen-32B、Llama-70B等蒸餾模型,處理速度 70B: 3300 token/s,32B: 4940 token/s。
Atlas800l A2是華為推出的鯤鵬920+昇騰 AI處理器的AI推理服務(wù)器,應(yīng)用于深度學(xué)習(xí)模型開發(fā)和AI推理服務(wù)場景,目前面向公有云、互聯(lián)網(wǎng)、運(yùn)營商、政府、交通、金融、高校、電力等領(lǐng)域,用于企業(yè)機(jī)房部署和大規(guī)模數(shù)據(jù)中心集群部署。
軟件方面,DS版訓(xùn)/推超融合一體機(jī)使用大模型訓(xùn)練、推理和應(yīng)用開發(fā)的華為ModelEngine AI平臺,該平臺基于昇騰AI芯片,通過推理框架優(yōu)化和MoE存算協(xié)同,提供動態(tài)換入換出和全局統(tǒng)一緩存,實(shí)現(xiàn)推理高并發(fā)和低時(shí)延。2月6日,華為對外宣布,ModelEngine平臺全面支持DeepSeek大模型R1&V3和蒸餾系列模型的本地部署與優(yōu)化,開發(fā)者可通過該平臺實(shí)現(xiàn)上述DeepSeek大模型的“一鍵部署”。
近一段時(shí)間以來,DeepSeek線上算力的嚴(yán)重不足,帶火了大模型本地部署需求,許多廠商開始營銷各類AI一體機(jī)產(chǎn)品。
2月5日,聯(lián)想與國內(nèi)AI芯片廠商沐曦聯(lián)合發(fā)布基于DeepSeek 大模型的一體機(jī)解決方案,采用ThinkStation PX工作站為載體,搭載沐曦曦思N260 GPU。
2月14日,中科曙光也發(fā)布了全國產(chǎn)的DeepSeek超融合一體機(jī),該一體機(jī)采用全國產(chǎn)技術(shù)路線,選用國產(chǎn)X86 CPU和國產(chǎn)GPGPU加速卡,支持全精度、半精度混合訓(xùn)練與推理。
中科曙光的DS超融合一體機(jī)
在模型適配方面,中科曙光一體機(jī)同樣全面適配DeepSeek系列模型,如DeepSeek V3、DeepSeek R1和DeepSeek Janus Pro,還支持全系列量化蒸餾版本。同時(shí),對QWen2.5、LLama3.2、ChatGLM等主流大模型也全面兼容,滿足各種業(yè)務(wù)場景需求。
中科曙光公眾號的文章,就毫不吝惜地稱呼該一體機(jī)為“國貨之光”,將為政府和企業(yè)的數(shù)字化、智能化轉(zhuǎn)型按下“加速鍵”。
實(shí)際上,AI一體機(jī)并不是最近才出現(xiàn)的新事物。在中國市場上,由于大量企業(yè)不愿意為單純的軟件和算力付費(fèi),或者處于數(shù)據(jù)安全等原因傾向于將硬件本地部署,因此把軟硬件打包在一起的“一體機(jī)”一直擁有獨(dú)特的生存空間。
作為對比,盡管英偉達(dá)也推出了Jetson系列的硬件集成平臺,但是主要用于機(jī)器人和嵌入式邊緣計(jì)算等場景,而非去做通用大模型的推理。
不過,隨著大模型推理成本的降低,以及C端用戶需求的增長,英偉達(dá)也將目光投向了個(gè)人市場。今年早些時(shí)候,英偉達(dá)就推出了個(gè)人超級計(jì)算機(jī)“Project DIGITS”,該產(chǎn)品搭載英偉達(dá)全新GB10超級芯片,最高可提供達(dá)1 PFLOPS的AI性能,主要用于AI大模型的原型設(shè)計(jì)、微調(diào)及運(yùn)行。
Project DIGITS(左下角類紙盒物品)號稱全球最小的可運(yùn)行 200B 參數(shù)模型的 AI 超級計(jì)算機(jī)。英偉達(dá)官網(wǎng)
英偉達(dá)表示,GB10超級芯片讓Project DIGITS只需使用標(biāo)準(zhǔn)電源插座就能提供強(qiáng)大的性能。借助 Project DIGITS,用戶則可以使用自己的桌面系統(tǒng)開發(fā)和運(yùn)行模型推理,并在加速的云或數(shù)據(jù)中心基礎(chǔ)設(shè)施上無縫部署模型。同時(shí),用戶還可以通過英偉達(dá)技術(shù)將兩臺Project DIGITS AI超級計(jì)算機(jī)連接在一起,運(yùn)行包含高達(dá)4050億參數(shù)的模型。
華為DS版FusionCube A3000以及中科曙光的DS超融合一體機(jī)價(jià)格暫不清楚,而英偉達(dá)面向個(gè)人的消費(fèi)級Project DIGITS的具體售價(jià)約在3000美元左右,今年晚些時(shí)候上市。
本文系觀察者網(wǎng)獨(dú)家稿件,未經(jīng)授權(quán),不得轉(zhuǎn)載。
- 責(zé)任編輯: 連政 
-
韓國芯片巨頭要停用中國EDA?
2025-02-17 15:50 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
美年健康7天5板,AI醫(yī)療板塊熱度不減
2025-02-17 11:29 股市 -
深度對話|AI眼鏡“百鏡大戰(zhàn)”,跑對方向比搶跑更重要?
2025-02-16 16:46 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
頭部主播的下半場:就此隱身,還是學(xué)習(xí)胖東來?
2025-02-15 17:00 觀網(wǎng)財(cái)經(jīng)-互聯(lián)網(wǎng) -
-
奔馳集團(tuán)董事長向中方表態(tài)
2025-02-14 21:54 -
騰訊元寶接入滿血版DeepSeek,可切換雙模型
2025-02-14 21:30 觀網(wǎng)財(cái)經(jīng)-互聯(lián)網(wǎng) -
“鯰魚”京東,打響2025年“品質(zhì)外賣”第一槍
2025-02-14 21:20 觀網(wǎng)財(cái)經(jīng)-互聯(lián)網(wǎng) -
馬云現(xiàn)身長沙盒馬
2025-02-14 21:12 -
百度放棄閉源,但或許回歸了最初的自己
2025-02-14 19:41 -
“蘋果股價(jià)正越來越依賴中國”
2025-02-14 18:52 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
2024年我國國際收支貨物貿(mào)易順差同比增長近三成
2025-02-14 18:12 -
頂級域名認(rèn)證Deepseek?ai.com的前世今生
2025-02-14 16:49 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
榮耀DeepSeek-R1聯(lián)網(wǎng)版正式上線
2025-02-14 14:31 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
-
本源量子:本源悟空全球訪問量破2000萬次,境外美國排第一
2025-02-14 14:01 科技前沿 -
力帆科技更名千里科技,“AI+車”劍指全球智能出行高地
2025-02-14 10:51 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
百度突然宣布下一代文心大模型開源
2025-02-14 10:44 -
牽手阿里后,傳蘋果AI仍會與百度合作
2025-02-14 10:23 大公司 -
央行去年總資產(chǎn)減少1.65萬億,專家:央行縮表不代表貨幣緊縮
2025-02-14 07:56 宏觀經(jīng)濟(jì)
相關(guān)推薦 -
-
真急了!“請求中國取消限制” 評論 65歐盟多國大停電,“我們需要中國技術(shù)” 評論 110中俄元首在主觀禮臺出席紅場閱兵式 評論 57英方拿到了,“簡直像在平行宇宙,中國太超前了” 評論 88最新聞 Hot
-
真急了!“請求中國取消限制”
-
嚴(yán)管執(zhí)行!中方再出手,美媒發(fā)愁
-
俄副總理:中俄“西伯利亞力量-2”項(xiàng)目談判取得進(jìn)展
-
“歐洲在華企業(yè)偷著樂:機(jī)會來了”
-
歐盟多國大停電,“我們需要中國技術(shù)”
-
普京閱兵式演講,特別提到中國
-
“對華閹割版,又要降級”
-
“全球都將研究,中國與西方最強(qiáng)大武器直接對決”
-
英方拿到了,“簡直像在平行宇宙,中國太超前了”
-
微軟:從中企學(xué)到,誰先一步拿下,誰就難被取代
-
美國農(nóng)民發(fā)愁:雞爪、魚頭...除了中國,好難找到買家
-
首位“美國教皇”利奧十四世是誰?
-
許紅兵,主動投案
-
美國官員:殲-10擊落陣風(fēng),沒用F-16
-
特朗普:對華關(guān)稅145%到頂了,要降
-
美大使污蔑“中國不是好盟友”,我駐巴拿馬使館駁斥
-