大模型發(fā)展需要算力 更需要“朋友圈”
2024-06-26 來源:中國IDC圈 評論:0新一輪AI浪潮席卷而來,生成式人工智能技術(shù)正飛速向千行百業(yè)融入,“千模大戰(zhàn)”的產(chǎn)品涉及多模態(tài)、多行業(yè)。面對前所未有的激烈競爭,大模型發(fā)展既需要跨過算力門檻,更還需要齊全的“朋友圈”。
AI的迫切性與算力新需求
得益于AI高效的生產(chǎn)力與簡單的交互方式,以大模型為代表的新一波AI浪潮,在帶來生產(chǎn)力爆發(fā)的同時(shí),還將引發(fā)新一輪的產(chǎn)業(yè)市場洗牌。
這恰恰說明,AI不是大模型廠商的專屬,與其他領(lǐng)域、傳統(tǒng)行業(yè)都有關(guān),與每個(gè)企業(yè)也息息相關(guān),業(yè)界甚至有“企業(yè)不參與AI就會被淘汰”的說法。
看得見的大模型、AI狂飆背后,是看不見的算力在支撐。以大模型為代表的新一波AI浪潮,正在對算力提出新需求。
需求一:從通用算力到智能算力
隨著人工智能產(chǎn)業(yè)進(jìn)入爆發(fā)增長期,企業(yè)數(shù)量快速增加,大模型不斷涌現(xiàn),模型參數(shù)達(dá)千億級甚至萬億級,智能算力需求呈指數(shù)級增長。截至去年6月,我國算力總規(guī)模達(dá)到197EFLOPS,其中智能算力規(guī)模占整體算力規(guī)模的比例提高到25.4%,超過四分之一,智能算力規(guī)模同比增長45%,比算力規(guī)模整體增速高15個(gè)百分點(diǎn)。
可以看出,以通用算力為主的算力格局迎來改變,智能算力成為增長主力。
這一點(diǎn)在“東數(shù)西算”樞紐與數(shù)據(jù)中心集群體現(xiàn)的更為明顯。在和林格爾數(shù)據(jù)中心集群,服務(wù)器裝機(jī)能力已超過370萬臺,算力總規(guī)模達(dá)到4.7萬P,其中智能算力4.1萬P,位居全國前列;預(yù)計(jì)到今年底,和林格爾數(shù)據(jù)中心集群內(nèi)服務(wù)器裝機(jī)能力超過400萬臺,算力總規(guī)模將達(dá)到6.5萬P,其中智能算力5.8萬P,智算占比將達(dá)到89%,有力支撐人工智能產(chǎn)業(yè)發(fā)展。
需求二:高性能
大模型迭代速度越來越快,參數(shù)越來越大,對智能算力提出了更高性能的挑戰(zhàn)。
面對萬億級參數(shù)的大模型,單體服務(wù)器乃至單體智算中心都算力有限,需要將大量服務(wù)器通過高性能網(wǎng)絡(luò)相連,打造大規(guī)模智算集群,目前GPU并行是大模型訓(xùn)練的必備技術(shù),對于大模型并行計(jì)算來說,不僅需要更高性能的芯片與服務(wù)器,以加快計(jì)算速度,對網(wǎng)絡(luò)也有更高要求——需要將龐大的參數(shù)有機(jī)地分布到多張GPU卡中,并保持不同GPU卡之間有效的通信,整體配合完成大模型的訓(xùn)練部署。
更高的計(jì)算精度、更高吞吐和更低延遲,意味著更高的計(jì)算效率,更快的訓(xùn)練與推理,搶先贏得市場和用戶青睞。
需求三:高可靠性
作為大模型的基石,算力的穩(wěn)定性與可靠性至關(guān)重要。大模型等AI訓(xùn)練周期往往長達(dá)數(shù)月,海量服務(wù)器組成的AI計(jì)算集群易發(fā)生故障,算力不穩(wěn)情況下會造成訓(xùn)練中斷,降低訓(xùn)練成功率,也使訓(xùn)練成本居高不下。而據(jù)統(tǒng)計(jì),在數(shù)據(jù)中心宕機(jī)事故中,電力因素占比近一半,可以說,電力穩(wěn)定性在一定程度上決定算力的穩(wěn)定性。
提到智算中心的電力供應(yīng)保障,和林格爾表現(xiàn)優(yōu)秀。目前,和林格爾新區(qū)已建成變電站8座,其中500千伏變電站2座,220千伏變電站2座,110千伏變電站4座,形成了五路八回的電力保障優(yōu)勢,供電負(fù)荷完全可以保證現(xiàn)有數(shù)據(jù)中心需求。
需求四:綠色低碳
大模型訓(xùn)練需要大量能源,智算中心比傳統(tǒng)的數(shù)據(jù)中心要消耗更多電力,也付出更多運(yùn)營成本。OpenAI曾發(fā)布報(bào)告指出,自2012年以來,AI訓(xùn)練應(yīng)用的電力需求每3到4個(gè)月就會翻一倍。ChatGPT每天要響應(yīng)大約2億個(gè)請求,在此過程中消耗超過50萬度電力,也就是說,ChatGPT每天用電量相當(dāng)于1.7萬個(gè)美國家庭的用電量,
成本壓力之外,還有我國“雙碳”戰(zhàn)略的不斷推進(jìn),都促使綠色低碳成為智算發(fā)展的必然趨勢,其中使用綠色能源成為最重要也是必需的手段。
據(jù)悉,和林格爾所在的呼和浩特市正增強(qiáng)綠色能源替代,已經(jīng)與華電集團(tuán)合作,建設(shè)華電和林格爾數(shù)據(jù)中心集群綠色能源供給示范項(xiàng)目,積極探索綠電直供模式,實(shí)施綠色能源供給示范項(xiàng)目,通過“風(fēng)-光-儲”一體化清潔能源供電方式為算力基礎(chǔ)設(shè)施提供“綠電”,未來,該地?cái)?shù)據(jù)中心可實(shí)現(xiàn)100%綠電供應(yīng)。
定于6月29日在呼和浩特舉辦的2024中國綠色算力(人工智能)大會,將匯聚國家部委和單位領(lǐng)導(dǎo)、自治區(qū)領(lǐng)導(dǎo)、院士、知名專家學(xué)者,國內(nèi)算力相關(guān)企業(yè)、機(jī)構(gòu)、高校負(fù)責(zé)人等,展開綠色算力與人工智能發(fā)展的前沿交流與合作,聚焦產(chǎn)業(yè)熱點(diǎn)與趨勢進(jìn)行深度分享與對話。
算力之外大模型發(fā)展還需要朋友圈
過去的一年,科技大廠、人工智能企業(yè)和創(chuàng)業(yè)公司等眾多玩家切入大模型賽道,上半場的競爭是資源和投入的比拼,隨著產(chǎn)業(yè)發(fā)展的日趨成熟,技術(shù)落地和商業(yè)閉環(huán)的形成將成為產(chǎn)業(yè)發(fā)展面臨的新挑戰(zhàn)。
目前AI大模型產(chǎn)業(yè)鏈可以分為三部分:上游為基礎(chǔ)層,包括芯片、服務(wù)器、算力、數(shù)據(jù)、網(wǎng)絡(luò)、模型開發(fā)訓(xùn)練平臺等;中游為大模型,我國生成式人工智能技術(shù)發(fā)展時(shí)間較短,目前產(chǎn)品和企業(yè)主要集中在中游,大模型數(shù)量不斷增加,這也帶來了產(chǎn)業(yè)規(guī)??焖贁U(kuò)大;下游為應(yīng)用層,大模型可以生成包括文本、圖片、音頻、視頻等在內(nèi)的多種模態(tài)的內(nèi)容,應(yīng)用于傳媒、電商、影視、金融、游戲、制造、教育等領(lǐng)域,千行百業(yè)通過使用模型技術(shù),可以提高效率、降低成本、改善用戶體驗(yàn)等,推動各個(gè)行業(yè)的發(fā)展和變革。
現(xiàn)階段,智算中心建設(shè)時(shí)拉動地區(qū)實(shí)現(xiàn)人工智能發(fā)展的重要驅(qū)動力,各地十分重視算力尤其是智能算力的投入。以和林格爾數(shù)據(jù)中心集群所在的呼和浩特市為例,他們在現(xiàn)有數(shù)據(jù)裝機(jī)規(guī)模的基礎(chǔ)上,繼續(xù)引進(jìn)建設(shè)一批國家部委、大型國有企業(yè)、頭部企業(yè)數(shù)據(jù)中心項(xiàng)目,包括加快建設(shè)中國建設(shè)銀行、交通銀行、浦發(fā)銀行、人保集團(tuán)等數(shù)據(jù)中心項(xiàng)目,積極爭取華夏銀行、光大銀行等數(shù)據(jù)中心項(xiàng)目落地,不斷做大數(shù)據(jù)存儲和算力規(guī)模,到“十四五”末裝機(jī)能力達(dá)到350萬臺。
對于希望發(fā)展AI產(chǎn)業(yè)的地區(qū)來說,需要重視算力的建設(shè),又不能僅僅只建設(shè)算力,從上游服務(wù)器制造、數(shù)據(jù)清洗標(biāo)記,到下游行業(yè)應(yīng)用場景開發(fā)對接,構(gòu)建完善的產(chǎn)業(yè)生態(tài),聚合產(chǎn)業(yè)鏈上、中、下游的玩家,實(shí)現(xiàn)互補(bǔ)協(xié)同,打通供需鏈接,方能吸引越來越多AI企業(yè)落地發(fā)展。
和林格爾數(shù)據(jù)中心集群,正是產(chǎn)業(yè)上下游生態(tài)集聚的典型代表:上游集聚了服務(wù)器、傳感器、高低壓電控設(shè)備、機(jī)柜等設(shè)備制造以及半導(dǎo)體材料生產(chǎn)企業(yè)10多家;中游建成了國家互聯(lián)網(wǎng)骨干直聯(lián)點(diǎn)城市和國際互聯(lián)網(wǎng)數(shù)據(jù)專用通道,以及前文提到的眾多智算項(xiàng)目落地;下游則招引了20多家數(shù)據(jù)加工處理企業(yè)、10多家運(yùn)營運(yùn)維企業(yè)以及10個(gè)通用大模型,訓(xùn)練總參數(shù)量超過萬億,綠色算力全產(chǎn)業(yè)鏈集聚發(fā)展的生態(tài)體系加快形成。
生態(tài)聚集特點(diǎn),在即將召開的2024中國綠色算力(人工智能)大會上同樣有直接體現(xiàn),大會議程不僅聚焦綠色算力發(fā)展與優(yōu)勢,更匯聚人工智能及算力產(chǎn)業(yè)生態(tài)和上中下游領(lǐng)軍企業(yè)和機(jī)構(gòu),展開政產(chǎn)學(xué)研用多方面分享交流。
大會開幕式上將舉辦智能算力基地落地運(yùn)營、人工智能模型訓(xùn)練推理基地落地、信創(chuàng)適配基地新產(chǎn)品落地首發(fā)儀式,并進(jìn)行重點(diǎn)項(xiàng)目簽約儀式,展現(xiàn)和林格爾新區(qū)及呼和浩特對算力與人工智能產(chǎn)業(yè)的全面布局、發(fā)展。
將于6月29日在呼和浩特舉辦的2024中國綠色算力(人工智能)大會,由內(nèi)蒙古自治區(qū)人民政府主辦,中國信息通信研究院、呼和浩特市人民政府承辦,以“共筑綠色算力網(wǎng)絡(luò),共贏人工智能未來”為主題,旨在打造綠色算力暨人工智能前沿技術(shù)交流合作平臺、高質(zhì)量發(fā)展成果展示窗口。
大會將搭建“1+11+1+1”高端交流平臺,包括1個(gè)開幕式暨主旨演講、11個(gè)平行會議、1個(gè)“東數(shù)西算”工程算力樞紐節(jié)點(diǎn)交流會與1個(gè)人工智能展覽展示體驗(yàn)。
其中,11個(gè)平行會議,分別圍繞AI賦能新場景、AI算力、算網(wǎng)融合、構(gòu)建算力生態(tài)等主題,匯聚智算、綠色算力、綠色能源、大模型、數(shù)據(jù)要素市場化等領(lǐng)域產(chǎn)業(yè)研究機(jī)構(gòu)、行業(yè)協(xié)會及眾多上中下游領(lǐng)軍企業(yè),分享產(chǎn)業(yè)趨勢與技術(shù)實(shí)踐。
大會官網(wǎng)地址:http://www.idcquan.com/Special/2024cgcpc/,點(diǎn)擊進(jìn)入可查看詳情、參會報(bào)名,大會即將開啟,精彩不容錯過!
2024中國綠色算力(人工智能)大會掃碼報(bào)名
相關(guān)熱詞搜索:AI 算力 人工智能- ·不看“馬力”看“算力”潮流下的汽車產(chǎn)業(yè)創(chuàng)新加速之道2022-07-22
- ·第一期國際AIGC微專業(yè)認(rèn)證師資培訓(xùn)班成功舉辦 2024-05-27
- ·【干貨分享】IDC武連峰:發(fā)展新質(zhì)生產(chǎn)力,加速生成式AI落地2024-06-06
- ·2024中國綠色算力(人工智能)大會新聞發(fā)布會在呼和浩特召開2024-06-21
- ·區(qū)塊鏈爆紅,工業(yè)互聯(lián)網(wǎng)大熱,2018最強(qiáng)風(fēng)向標(biāo)來啦!2018-03-05
評論排行
- 2021長三角G60智能制造創(chuàng)新生態(tài)合作大會
- 2020AMC長三角G60科創(chuàng)走廊制造業(yè)高質(zhì)量發(fā)展合作論壇于9月召開
- 下一波機(jī)遇?快來解鎖2020先進(jìn)制造業(yè)關(guān)鍵詞...
- 2019第七屆先進(jìn)制造業(yè)大會即將盛大召開精彩大會亮點(diǎn)速覽
- 2019(第七屆)先進(jìn)制造業(yè)大會”暨長三角制造業(yè)高質(zhì)量發(fā)展
- 2018(第六屆)先進(jìn)制造業(yè)大會
- 2017(第五屆)先進(jìn)制造業(yè)大會
- 2017全球先進(jìn)制造業(yè)博覽會(上海)
- 2016(第四屆)先進(jìn)制造業(yè)大會暨展覽會精彩播報(bào)
- 2016(第四屆)先進(jìn)制造業(yè)大會暨展覽會
- 2021長三角G60智能制造創(chuàng)新生態(tài)合作大會
- 2020AMC長三角G60科創(chuàng)走廊制造業(yè)高質(zhì)量發(fā)展合作論壇于9月召開
- 下一波機(jī)遇?快來解鎖2020先進(jìn)制造業(yè)關(guān)鍵詞...
- 2019第七屆先進(jìn)制造業(yè)大會即將盛大召開精彩大會亮點(diǎn)速覽
- 2019(第七屆)先進(jìn)制造業(yè)大會”暨長三角制造業(yè)高質(zhì)量發(fā)展
- 2018(第六屆)先進(jìn)制造業(yè)大會
- 2017(第五屆)先進(jìn)制造業(yè)大會
- 2017全球先進(jìn)制造業(yè)博覽會(上海)
- 2016(第四屆)先進(jìn)制造業(yè)大會暨展覽會精彩播報(bào)