大模型備案月均增長(zhǎng)近16款 數(shù)據(jù)中心如何做好算力準(zhǔn)備 ？
來(lái)源： 作者：中國(guó)IDC圈 發(fā)布日期：2024-07-02 訪問(wèn)次數(shù)：702
2023年8月
，8款生成式人工智能服務(wù)器通過(guò)首批備案；2024年3月底，這一數(shù)字已增至117款，短短7個(gè)月增長(zhǎng)了109款。這反映了我國(guó)大模型的快速發(fā)展，背后則是快速增長(zhǎng)的算力需求。
面對(duì)這一情況
，傳統(tǒng)數(shù)據(jù)中心已經(jīng)力有不逮，正從芯片、服務(wù)器、散熱、建設(shè)、設(shè)計(jì)等多方面進(jìn)行優(yōu)化，多項(xiàng)新技術(shù)、新解決方案不斷涌現(xiàn)。以中科可控日前發(fā)布的新一代高融合一體化算力平臺(tái)D9000 G5為例，其支持高密算力、高效調(diào)度，可提供9216個(gè)核心的澎湃動(dòng)力，一柜相當(dāng)于2000臺(tái)傳統(tǒng)服務(wù)器的算力總和，為數(shù)據(jù)中心滿足高算力發(fā)展提供了新思路。
圖：D9000 G5整機(jī)柜集群
新一代整機(jī)柜助力數(shù)據(jù)中心實(shí)現(xiàn)高密算力
當(dāng)前
，芯片功率不斷提高，為滿足持續(xù)提升的算力需求，作為算力基礎(chǔ)設(shè)施的數(shù)據(jù)中心必然向高密化方向發(fā)展 ，以降低算力成本 ，提升算力建設(shè)效率。
整機(jī)柜是將原有機(jī)架+機(jī)器分離的架構(gòu)進(jìn)行融合,打包成為一個(gè)獨(dú)立的產(chǎn)品
。以一個(gè)整機(jī)柜為最小顆粒度進(jìn)行交付的服務(wù)器 ，是算力的優(yōu)質(zhì)載體。通過(guò)技術(shù)與設(shè)計(jì)上的深入研發(fā) ，新一代整機(jī)柜能夠持續(xù)優(yōu)化架構(gòu) ，實(shí)現(xiàn)高密算力，有效降低算力成本，提升算力建設(shè)效率，讓數(shù)據(jù)中心具備更強(qiáng)的市場(chǎng)競(jìng)爭(zhēng)力，獲得更好的商業(yè)利益。如D9000 G5，其單節(jié)點(diǎn)最高支持256顆物理核心，512線程的算力，可實(shí)現(xiàn)6組xHCL高速互聯(lián)，峰值帶寬達(dá)230.4GB/s，算力密度提升4-8倍以上。
圖：D9000 G5支持高密算力
同時(shí)
，智能化、數(shù)字化均會(huì)產(chǎn)生海量數(shù)據(jù)，數(shù)據(jù)中心想要滿足人工智能算力需求，也要有先進(jìn)的存儲(chǔ)力。D9000 G5在存儲(chǔ)力層面同樣有著較大優(yōu)勢(shì)，可提供3.2P全閃存儲(chǔ)空間，實(shí)現(xiàn)高達(dá)61萬(wàn)+IOPS數(shù)據(jù)吞吐量，能夠滿足語(yǔ)料讀取和大模型 Checkpoint需求。
以此來(lái)看
，數(shù)據(jù)中心搭載D9000 G5后，其計(jì)算能力與存儲(chǔ)能力均能夠得到有效提高，能夠更好地實(shí)現(xiàn)市場(chǎng)價(jià)值與商業(yè)目的。
值得注意的是，實(shí)現(xiàn)高密算力的必要前提是高效制冷
。芯片功率的提升，密度的提高，都要求整機(jī)柜需要具備良好的散熱能力，以保證芯片的安全運(yùn)行。D9000 G5同樣在此方面進(jìn)行了全面優(yōu)化，在覆蓋風(fēng)冷、風(fēng)液混合、全液冷等全類節(jié)能形式的基礎(chǔ)上，著重應(yīng)用了液冷這一高效制冷方式，液冷覆蓋率超過(guò)95%，以提供穩(wěn)定的溫度及環(huán)境，進(jìn)一步激活芯片算力潛能，確保算力的全面輸出。
新一代整機(jī)柜助推數(shù)據(jù)中心節(jié)能降碳
伴隨智能化、數(shù)字化發(fā)展
，全社會(huì)對(duì)算力的需求快速提升，算力產(chǎn)業(yè)規(guī)模迅速擴(kuò)大，尤其是智能算力需求隨著大模型數(shù)量的快速增長(zhǎng)而迅速上升。據(jù)中國(guó)信通院統(tǒng)計(jì)，截至2023年底，我國(guó)智算規(guī)模約69 EFLOPS，相較于2023年6月的50EFLOPS，半年時(shí)間規(guī)模增加38%。
算力的產(chǎn)生主要依賴于電力的支撐，算力產(chǎn)業(yè)擴(kuò)大的同時(shí)
，用電耗能也在快速增長(zhǎng)。以GPT-3為例，GPT-3前期訓(xùn)練的耗電量為128.7萬(wàn)度，相當(dāng)于國(guó)內(nèi)348個(gè)家庭一年的生活用電；GPT每日訪問(wèn)量約為2.7億次，平均每次訪問(wèn)5個(gè)問(wèn)題，每月用在回答問(wèn)題上的推理計(jì)算耗電量則是1872萬(wàn)度，這就導(dǎo)致了大量的碳排放。這種情況下，伴隨“雙碳”目標(biāo)的臨近，綠色化已成為數(shù)據(jù)中心發(fā)展的必然趨勢(shì)。
目前數(shù)據(jù)中心已經(jīng)在設(shè)備
、建設(shè)等方面采取多種節(jié)能減碳措施。而新一代整機(jī)柜通過(guò)持續(xù)創(chuàng)新，在綠色化方面的作用日益顯著。
圖：D9000 G5采用液冷、智能流量調(diào)節(jié)等降低能耗
作為其中的代表，D9000 G5有效降低了數(shù)據(jù)中心用能
，減少了碳排放。它采用智能供電技術(shù)，集中供電效率提升，整柜節(jié)能20%以上；通過(guò)智能流量調(diào)節(jié)技術(shù)，二次側(cè)液冷系統(tǒng)最高節(jié)能56%。同時(shí)，液冷高效率制冷的能力可大幅度減少散熱的電能消耗，讓數(shù)據(jù)中心實(shí)現(xiàn)低PUE。全液冷模式下，搭載D9000 G5的數(shù)據(jù)中心PUE可低至1.09，有效減少了碳排放。
新一代整機(jī)柜可適配數(shù)據(jù)中心差異化配置需要
整機(jī)柜需要應(yīng)用于數(shù)據(jù)中心才能體現(xiàn)出其價(jià)值
，但不同的數(shù)據(jù)中心在供電、建設(shè)規(guī)模等方面存在著差異。整機(jī)柜能否實(shí)現(xiàn)靈活配置，其自身在運(yùn)維過(guò)程中是否便捷，可否實(shí)現(xiàn)快速交付等都成為擺在整機(jī)柜面前的挑戰(zhàn)。也正因如此，新一代整機(jī)柜在設(shè)計(jì)、布局、配置等方面進(jìn)行了多項(xiàng)創(chuàng)新，將這些問(wèn)題一一化解，已經(jīng)具備高可用性。
以D9000 G5為例
，其自主研發(fā)的“積木式”模塊化部署可滿足服務(wù)器節(jié)點(diǎn)、交換節(jié)點(diǎn)、管理模塊、電源模塊的一體化集成、一體化運(yùn)輸，實(shí)現(xiàn)機(jī)柜級(jí)交付。同時(shí)，D9000 G5支持水、電、網(wǎng)三線全盲插，在安裝過(guò)程中無(wú)需精準(zhǔn)對(duì)位，極大地提升了部署效率。經(jīng)測(cè)試，D9000 G5的安裝時(shí)間比傳統(tǒng)方式縮短了80%。
圖：D9000 G5支持水、電、網(wǎng)三線全盲插
D9000 G5還實(shí)現(xiàn)了智能運(yùn)維
，通過(guò)集成的U位識(shí)別技術(shù)，可全面掌握RMC整柜和節(jié)點(diǎn)信息，簡(jiǎn)化遠(yuǎn)程智能運(yùn)維場(chǎng)景。一旦有機(jī)器發(fā)生故障，系統(tǒng)能迅速鎖定位置，配合自動(dòng)化機(jī)械臂的介入，可顯著降低人力運(yùn)維成本，確保數(shù)據(jù)中心高效運(yùn)行狀態(tài)；面向機(jī)房無(wú)人化運(yùn)維場(chǎng)景，D9000 G5節(jié)點(diǎn)級(jí)與機(jī)柜級(jí)智能雙重漏液防控設(shè)計(jì)，可實(shí)現(xiàn)遠(yuǎn)程智能操控供電、供液；通過(guò)智能化操作，D9000 G5節(jié)點(diǎn)級(jí)MTTR可節(jié)省30%以上。
D9000 G5能夠進(jìn)行靈活配置
，電源箱、交換機(jī)，節(jié)點(diǎn)位置可根據(jù)場(chǎng)景靈活配置。如電源箱通過(guò)靈活布局能夠支持高中低不同位置的安裝，完美適應(yīng)不同機(jī)房的走電規(guī)劃，而且與液冷系統(tǒng)的緊密結(jié)合，可徹底消除水電交叉可能引發(fā)的安全隱患。
此外
，D9000 G5具備靈活形態(tài)，支持整柜、半柜等不同交付形式。其中，整機(jī)柜設(shè)計(jì)適用通信、金融、科教等用戶；半柜則適用中小型數(shù)據(jù)中心，有效滿足了不同規(guī)模不同場(chǎng)景下的使用需求，實(shí)現(xiàn)全屋定制。
算力的產(chǎn)出依賴于芯片
，整機(jī)柜與數(shù)據(jù)中心的協(xié)同發(fā)展是為了最大可能釋放芯片潛能 ，目前D9000 G5通過(guò)算、存 、管 、用的設(shè)計(jì)創(chuàng)新正加快推動(dòng)數(shù)據(jù)中心突破算力瓶頸，而這可能僅僅是第一步 ，伴隨算力需求的提升 ，整機(jī)柜乃至數(shù)據(jù)中心的形態(tài)均有可能發(fā)生新的變化，包括在軟件層面上的進(jìn)一步契合等 。智能化的未來(lái) ，整機(jī)柜與數(shù)據(jù)中心還將從多個(gè)層面上進(jìn)行突破，最終實(shí)現(xiàn)契合智能化
Copyright ?英和數(shù)據(jù) 版權(quán)所有
蘇ICP備2022020863號(hào)
咨詢熱線：
0510-68186618
電 話：0510-68186618 、68186628
地 址：無(wú)錫市梁溪區(qū)人民西路98號(hào)12樓
關(guān)注我們
2023年8月
面對(duì)這一情況
，傳統(tǒng)數(shù)據(jù)中心已經(jīng)力有不逮，正從芯片、服務(wù)器、散熱、建設(shè)、設(shè)計(jì)等多方面進(jìn)行優(yōu)化，多項(xiàng)新技術(shù)、新解決方案不斷涌現(xiàn)。以中科可控日前發(fā)布的新一代高融合一體化算力平臺(tái)D9000 G5為例，其支持高密算力、高效調(diào)度，可提供9216個(gè)核心的澎湃動(dòng)力，一柜相當(dāng)于2000臺(tái)傳統(tǒng)服務(wù)器的算力總和，為數(shù)據(jù)中心滿足高算力發(fā)展提供了新思路。
圖：D9000 G5整機(jī)柜集群
新一代整機(jī)柜助力數(shù)據(jù)中心實(shí)現(xiàn)高密算力
當(dāng)前
，芯片功率不斷提高，為滿足持續(xù)提升的算力需求，作為算力基礎(chǔ)設(shè)施的數(shù)據(jù)中心必然向高密化方向發(fā)展整機(jī)柜是將原有機(jī)架+機(jī)器分離的架構(gòu)進(jìn)行融合,打包成為一個(gè)獨(dú)立的產(chǎn)品
圖：D9000 G5支持高密算力
同時(shí)
，智能化、數(shù)字化均會(huì)產(chǎn)生海量數(shù)據(jù)，數(shù)據(jù)中心想要滿足人工智能算力需求，也要有先進(jìn)的存儲(chǔ)力。D9000 G5在存儲(chǔ)力層面同樣有著較大優(yōu)勢(shì)，可提供3.2P全閃存儲(chǔ)空間，實(shí)現(xiàn)高達(dá)61萬(wàn)+IOPS數(shù)據(jù)吞吐量，能夠滿足語(yǔ)料讀取和大模型 Checkpoint需求。以此來(lái)看
，數(shù)據(jù)中心搭載D9000 G5后，其計(jì)算能力與存儲(chǔ)能力均能夠得到有效提高，能夠更好地實(shí)現(xiàn)市場(chǎng)價(jià)值與商業(yè)目的。值得注意的是，實(shí)現(xiàn)高密算力的必要前提是高效制冷
。芯片功率的提升，密度的提高，都要求整機(jī)柜需要具備良好的散熱能力，以保證芯片的安全運(yùn)行。D9000 G5同樣在此方面進(jìn)行了全面優(yōu)化，在覆蓋風(fēng)冷、風(fēng)液混合、全液冷等全類節(jié)能形式的基礎(chǔ)上，著重應(yīng)用了液冷這一高效制冷方式，液冷覆蓋率超過(guò)95%，以提供穩(wěn)定的溫度及環(huán)境，進(jìn)一步激活芯片算力潛能新一代整機(jī)柜助推數(shù)據(jù)中心節(jié)能降碳
伴隨智能化、數(shù)字化發(fā)展
算力的產(chǎn)生主要依賴于電力的支撐，算力產(chǎn)業(yè)擴(kuò)大的同時(shí)
，用電耗能也在快速增長(zhǎng)。以GPT-3為例，GPT-3前期訓(xùn)練的耗電量為128.7萬(wàn)度，相當(dāng)于國(guó)內(nèi)348個(gè)家庭一年的生活用電；GPT每日訪問(wèn)量約為2.7億次，平均每次訪問(wèn)5個(gè)問(wèn)題，每月用在回答問(wèn)題上的推理計(jì)算耗電量則是1872萬(wàn)度，這就導(dǎo)致了大量的碳排放。這種情況下，伴隨“雙碳”目標(biāo)的臨近，綠色化已成為數(shù)據(jù)中心發(fā)展的必然趨勢(shì)。目前數(shù)據(jù)中心已經(jīng)在設(shè)備
、建設(shè)等方面采取多種節(jié)能減碳措施。而新一代整機(jī)柜通過(guò)持續(xù)創(chuàng)新，在綠色化方面的作用日益顯著。
圖：D9000 G5采用液冷、智能流量調(diào)節(jié)等降低能耗
作為其中的代表，D9000 G5有效降低了數(shù)據(jù)中心用能
，減少了碳排放。它采用智能供電技術(shù)，集中供電效率提升，整柜節(jié)能20%以上新一代整機(jī)柜可適配數(shù)據(jù)中心差異化配置需要
整機(jī)柜需要應(yīng)用于數(shù)據(jù)中心才能體現(xiàn)出其價(jià)值
以D9000 G5為例
圖：D9000 G5支持水
D9000 G5還實(shí)現(xiàn)了智能運(yùn)維
D9000 G5能夠進(jìn)行靈活配置
此外
算力的產(chǎn)出依賴于芯片
蘇ICP備2022020863號(hào)
0510-68186618
地 址：無(wú)錫市梁溪區(qū)人民西路98號(hào)12樓