每日經(jīng)濟新聞 2024-12-26 21:12:41
12月26日,據(jù)報道,小米正在著手搭建自己的GPU萬卡集群,將對AI大模型大力投入。《每日經(jīng)濟新聞》記者就此事向小米方面求證,截至發(fā)稿時未獲回應。萬卡集群是指由一萬張及以上的加速卡組成的高性能計算系統(tǒng),用以訓練基礎大模型。目前,科技大廠正競相投入萬卡集群的建設。
每經(jīng)記者 楊煜 楊卉 每經(jīng)編輯 文多
12月26日,據(jù)界面新聞等報道,小米正著手搭建自己的GPU萬卡集群,將對AI大模型大力投入。小米大模型團隊在成立時已有6500張GPU資源。《每日經(jīng)濟新聞》記者就此事向小米方面求證,截至發(fā)稿時未獲回應。
萬卡集群是指由一萬張及以上的加速卡(如GPU、TPU或其他專用AI加速芯片)組成的高性能計算系統(tǒng),用以訓練基礎大模型。建設萬卡集群是個“百億元”成本的投入,其中單是GPU采購成本就高達幾十億元。
科技大廠正競相投入萬卡集群的建設。國際上,OpenAI、Meta等科技巨頭,都爭相部署萬卡集群;在國內(nèi),運營商、頭部互聯(lián)網(wǎng)大廠、大型AI研發(fā)企業(yè)等先后入局,一些巨頭甚至已開始邁向“十萬卡集群”。
如果小米搭建萬卡集群的消息屬實,獨立電信分析師付亮分析道,小米將大模型視為 “人車家”戰(zhàn)略的重要支撐,其建設萬卡集群的方向或與其他企業(yè)不同,“別人沒有利用率,小米自帶利用率”。
搭建萬卡集群需要耗費巨大的財力。
百度集團執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖今年9月曾介紹,GPU集群有三個特征:極致規(guī)模、極致“高密”和極致互聯(lián)。建一個萬卡集群,單是GPU的采購成本就高達幾十億元。而建設GPU萬卡集群需要面臨的風險之一便是故障率,沈抖介紹:“Meta訓練Llama3的時候,用了1.6萬張GPU卡的集群,平均每3小時就會出一次故障。”
盡管造價高昂,但“萬卡集群”使得訓練復雜的大模型成為可能,被業(yè)界視作這一輪大模型競賽的“入場券”。
“模型大小和訓練數(shù)據(jù)量大小成為決定模型能力的關鍵因素。在同等模型參數(shù)和數(shù)據(jù)集下,集群訓練時間有望顯著縮短。更大、更先進的集群能及時對市場趨勢作出反應,快速進行迭代訓練。整體上超萬卡的集群將有助于壓縮大模型訓練時間,實現(xiàn)模型能力的快速迭代,并及時對市場趨勢作出應對,實現(xiàn)大模型技術上的追趕和領先。”長江證券研報闡釋道。
作為長于端側的科技公司,小米集團也多次提到將自研大模型與端側融合。
2023年5月,小米集團業(yè)績公告顯示,其當年4月正式組建了AI實驗室大模型團隊,AI領域相關人員超1200人,并將不斷挖掘AI相關的用戶場景,發(fā)揮自身技術優(yōu)勢,并以開放的態(tài)度與合作伙伴開拓更多機會。
2023年8月,小米集團的公告中顯示,AI是公司長期投入的底層賽道。小米60億參數(shù)的自研大模型在同參數(shù)量級中排名第一。
2023年11月,小米披露將AI大模型與小米澎湃OS深度融合,為用戶提供基于端側大模型的各類便利和智能的功能。
根據(jù)小米集團財報,今年前三季度,小米集團經(jīng)調整凈利潤(非國際財務報告準則計量)189.18億元,同比上漲31.7%。在當前經(jīng)營穩(wěn)健,盈利能力提升的基礎上,擴大對算力基礎的投入,也成為可選項。
目前,多家頭部企業(yè)正競相投入萬卡集群的建設。
運營商是我國算力基礎設施建設的中堅力量。中國移動呼和浩特、哈爾濱兩大萬卡級別智算中心已先后投產(chǎn)運行。中國電信上海、北京兩個萬卡集群已經(jīng)投產(chǎn)。
在國內(nèi),百度等公司已在討論如何構建十萬卡集群。今年9月,沈抖就在百度智云大會上說道:“很快就會有更多的10萬卡集群出現(xiàn)。”
海外頭部AI大廠的步調更為激進,據(jù)報道。OpenAI正在設計能夠將1000萬塊GPU連在一起的計算模型,Meta到今年年底將擁有35萬張H100。
國內(nèi)的端側大廠,鮮少大舉投入建設萬卡集群,但端側擁抱AI已是共識。就在不久前,理想汽車創(chuàng)始人李想接受采訪時還提出,理想汽車不再僅僅是一家汽車制造企業(yè),而是一家AI企業(yè)。
端側AI在今年以來呈現(xiàn)爆發(fā)式創(chuàng)新的趨勢。
以手機為例,AI的能力在未來的競爭中舉足輕重。今年10月,在被問及如何看待AI時代的智能手機競爭時,vivo副總裁、AI全球研究院院長周圍表示,AI會提供給傳統(tǒng)的手機廠商更多自主研發(fā)的空間,這意味著更多個性化機會正在出現(xiàn)。未來人工智能會成為各個廠商手機產(chǎn)品體驗差異的分水嶺。
家電行業(yè)也掀起AI大模型的競賽。美的集團、海爾智家等頭部家電企業(yè)紛紛推出AI大模型,在大模型的加持下,AI電視、AI洗烘套裝、AI廚電、AI掃地機、AI凈水器、AI家庭機器人等接連被推向市場。
小米集團擁有手機、家電、智駕等諸多終端產(chǎn)品。不過,獨立電信分析師付亮向《每日經(jīng)濟新聞》記者表示,不要把小米理解為硬件廠商,小米在生產(chǎn)手機的同時,一直是一個活躍的互聯(lián)網(wǎng)平臺。付亮表示,小米認為大模型是其“人車家”戰(zhàn)略的重要支撐,如果其建設萬卡集群,方向也與其他企業(yè)不同,“別人沒有利用率,小米自帶利用率”。
封面圖片來源:每經(jīng)記者 張建 攝 (資料圖)
如需轉載請與《每日經(jīng)濟新聞》報社聯(lián)系。
未經(jīng)《每日經(jīng)濟新聞》報社授權,嚴禁轉載或鏡像,違者必究。
讀者熱線:4008890008
特別提醒:如果我們使用了您的圖片,請作者與本站聯(lián)系索取稿酬。如您不希望作品出現(xiàn)在本站,可聯(lián)系我們要求撤下您的作品。
歡迎關注每日經(jīng)濟新聞APP