當(dāng)前位置:首頁(yè) >  科技 >  IT業(yè)界 >  正文

科華數(shù)據(jù):與金融大模型激情共舞

 2024-08-23 14:06  來(lái)源: 互聯(lián)網(wǎng)   我來(lái)投稿 撤稿糾錯(cuò)

  域名預(yù)訂/競(jìng)價(jià),好“米”不錯(cuò)過(guò)

在全球金融科技領(lǐng)域,中國(guó)金融機(jī)構(gòu)正以驚人的速度崛起,不僅在大模型專(zhuān)利創(chuàng)新上占據(jù)領(lǐng)先地位,更在智能金融服務(wù)的實(shí)際應(yīng)用中展現(xiàn)出強(qiáng)大的實(shí)力。

這一趨勢(shì)的背后,是算力需求的爆炸性增長(zhǎng),以及對(duì)高效、可靠、節(jié)能的數(shù)據(jù)中心基礎(chǔ)設(shè)施的迫切需求。

* 上述摘要由筆者通過(guò)「大模型」讀取本文智能生成。

近日,全球知名科技刊物《麻省理工技術(shù)評(píng)論》(MIT Technology Review)發(fā)布相關(guān)報(bào)告,“全球金融機(jī)構(gòu)大模型領(lǐng)域?qū)@麆?chuàng)新排行榜”揭開(kāi)面紗。在全球金融機(jī)構(gòu)大模型專(zhuān)利創(chuàng)新領(lǐng)域,中國(guó)申請(qǐng)公開(kāi)量達(dá)1909件,占比超75%。更令人欣喜的是,在這份榜單的TOP10,在全球頂尖的金融機(jī)構(gòu)列表中,中國(guó)強(qiáng)勢(shì)占據(jù)8席,展現(xiàn)出泱泱大國(guó)在全球科技領(lǐng)域的熠煜之姿。

螞蟻集團(tuán)、平安集團(tuán)、工商銀行、建設(shè)銀行、中國(guó)銀行、馬上消費(fèi)金融、微眾銀行、農(nóng)業(yè)銀行……中國(guó)領(lǐng)先的金融機(jī)構(gòu)于科技制高點(diǎn)布局的各類(lèi)金融大模型,正如同浩瀚宇宙中點(diǎn)綴著的繁星,每一顆都閃爍著智慧的光芒。

同樣浩瀚的,是高速流轉(zhuǎn)于服務(wù)器之間的數(shù)據(jù)流量,更是全球秩序及格局博弈下中國(guó)科技自強(qiáng)不息的奮進(jìn)力量。

01 千帆競(jìng)渡,金融智算登上時(shí)代舞臺(tái)

據(jù)IDC數(shù)據(jù),2023年下半年中國(guó)智算服務(wù)市場(chǎng)整體規(guī)模達(dá)114.1億元,同比增長(zhǎng)85.8%;全年來(lái)看,這一數(shù)據(jù)可達(dá)194.2億元,同比增長(zhǎng)72.5%。據(jù)預(yù)測(cè),2022-2027年期間,我國(guó)智能算力規(guī)模的年均復(fù)合增長(zhǎng)率將達(dá)到33.9%,遠(yuǎn)高于通用算力16.6%的增速。

在金融行業(yè),央行2022年1月發(fā)布的《金融科技發(fā)展規(guī)劃(2022-2025 年)》即明確提出,“要抓住全球人工智能發(fā)展新機(jī)遇,以人為本全面推進(jìn)智能技術(shù)在金融領(lǐng)域深化應(yīng)用”。

我們看到,圓融詼諧的機(jī)器人早已成為智慧網(wǎng)點(diǎn)的基本標(biāo)配,西裝革履的數(shù)字員工在屏幕上對(duì)答如流,智能客服、智能辦公、智能研發(fā)、智能投研等多個(gè)業(yè)務(wù)場(chǎng)景上均有著大模型在金融業(yè)的合理探索及應(yīng)用,金融機(jī)構(gòu)的服務(wù)半徑得以迅速擴(kuò)大。作為新質(zhì)生產(chǎn)力的典型縮影,金融智算在金融科技的強(qiáng)催化下登上時(shí)代舞臺(tái),正翩然起舞。

再來(lái)看看金融智算在一線(xiàn)的公開(kāi)戰(zhàn)績(jī)。

據(jù)工商銀行2023年年報(bào)披露,其首個(gè)基于大模型的網(wǎng)點(diǎn)員工智能助手上線(xiàn),提升網(wǎng)點(diǎn)效能,全年運(yùn)營(yíng)領(lǐng)域智能處理業(yè)務(wù)量3.2億筆,比上年增長(zhǎng)14%;農(nóng)業(yè)銀行ChatABC在智能問(wèn)答場(chǎng)景已提供超過(guò)200萬(wàn)次問(wèn)答服務(wù),在輔助編碼場(chǎng)景已編寫(xiě)超過(guò)8萬(wàn)行代碼投入生產(chǎn)應(yīng)用;建設(shè)銀行智能客服工單生成每單平均節(jié)約客服工作時(shí)間15-20秒,可用率達(dá)82%,一致性達(dá)80%。

“方舟計(jì)劃”、倉(cāng)頡、軒轅、天鏡……一個(gè)個(gè)上古神學(xué)中耳熟能詳?shù)拿?,身披大模型?ldquo;外衣”從遙遠(yuǎn)的神話(huà)走到了現(xiàn)實(shí),成為金融垂直領(lǐng)域數(shù)字化轉(zhuǎn)型的關(guān)鍵力量,推動(dòng)探索虛擬現(xiàn)實(shí)與AIGC(人工智能)融合發(fā)展邁向新高度。

據(jù)不完全統(tǒng)計(jì),現(xiàn)階段各大金融機(jī)構(gòu)在大模型應(yīng)用上的情況如下表,可以看出,頭部金融機(jī)構(gòu)在大模型各場(chǎng)景上已有較多投入和應(yīng)用,他們依托于自有數(shù)據(jù)加速訓(xùn)練著適合自己的大模型。

同時(shí),部分中等規(guī)模的金融機(jī)構(gòu),如城商行農(nóng)商行等,也積極擁抱大模型,或采購(gòu)GPU服務(wù)器部署開(kāi)源大模型用于內(nèi)部訓(xùn)練,或依托于大模型公司的算力能力快速應(yīng)用落地相關(guān)服務(wù)場(chǎng)景。

總而言之,金融行業(yè)在大模型上的研究和布局上奮力向前,不斷有金融機(jī)構(gòu)加大投入力度。

02 應(yīng)對(duì)“烤”驗(yàn),跨越 AI時(shí)代的算力鴻溝

前文提到,IDC預(yù)測(cè)近年來(lái)我國(guó)智算規(guī)模的年均復(fù)合增長(zhǎng)率將遠(yuǎn)高于通算,與之相應(yīng)的即是算力需求飛速增長(zhǎng)與數(shù)據(jù)中心能耗急劇攀升沖突之下造成的“算力鴻溝”。

近日,華泰證券出具的一份研報(bào)引用了麥肯錫的數(shù)據(jù)——在AI大模型相關(guān)算力需求的快速增加推動(dòng)下,以能耗衡量的全球服務(wù)器規(guī)模將從2024年的70GW增長(zhǎng)至2030年的390GW,年均復(fù)合增長(zhǎng)率高達(dá)33%。研報(bào)同時(shí)指出,隨著AI算力需求的持續(xù)增長(zhǎng),2030年全球數(shù)據(jù)中心用電量規(guī)模將達(dá)到約2.2萬(wàn)億度電,是2022年的3.6倍。

這一說(shuō)法在金融行業(yè)也得到驗(yàn)證。

行業(yè)資深人士透露,過(guò)去10年,基于低負(fù)載及高冗余的特性,一貫以來(lái)將業(yè)務(wù)連續(xù)性視為“命根子”的金融數(shù)據(jù)中心的PUE普遍都大于1.5,“這意味著IT設(shè)備每消耗1度電,就有額外的0.5度電用于散熱等其他用途”。

而隨著百億級(jí)、千億級(jí)金融AI大模型的孵化,過(guò)往老舊機(jī)房確已難堪負(fù)荷,這一條“算力鴻溝”,在AI+金融的時(shí)代背景下顯得愈發(fā)淵深難測(cè)。

跨越這條鴻溝,一方面需應(yīng)對(duì)全球氣候系統(tǒng)變暖趨勢(shì)下數(shù)據(jù)中心面臨的嚴(yán)峻“烤”驗(yàn),一方面需應(yīng)對(duì)數(shù)據(jù)中心各部件、整機(jī)的高密功耗帶來(lái)的散熱剛需,共同推動(dòng)金融智算基礎(chǔ)設(shè)施加快建設(shè)步伐。

現(xiàn)階段,我國(guó)數(shù)據(jù)中心的散熱方式仍以風(fēng)冷為主,以高可靠、高安全著稱(chēng)的金融數(shù)據(jù)中心尤是。我們需注意到,部分用戶(hù)采購(gòu)風(fēng)冷GPU服務(wù)器后,由于單臺(tái)設(shè)備功率高達(dá)6-10.5kW,因此在現(xiàn)有機(jī)房中,單機(jī)柜只能放置1~2臺(tái)GPU服務(wù)器。此方案可以暫時(shí)滿(mǎn)足GPU服務(wù)器的散熱需求,但是綜合來(lái)看,風(fēng)冷散熱模式下,GPU處于較高運(yùn)行溫度下,也會(huì)導(dǎo)致運(yùn)行速度減緩、器件提前老化的情況,此時(shí)昂貴的GPU發(fā)揮不出其極致的算力,生產(chǎn)力打折,著實(shí)可惜。

03 可靠解耦,液冷助力釋放底層算力潛能

在算力激增及高密高熱的雙重推動(dòng)下,液冷成為智算數(shù)據(jù)中心主流的溫控方式。據(jù)財(cái)信證券研報(bào)中引用的行業(yè)數(shù)據(jù)顯示,2025-2028年液冷技術(shù)的滲透率預(yù)計(jì)有望達(dá)到30%。

液冷,是一種采用液體來(lái)進(jìn)行電子設(shè)備冷卻的散熱技術(shù),可顯著提高數(shù)據(jù)中心的散熱效率。目前,液冷技術(shù)主要包括冷板式、浸沒(méi)式和噴淋式三種類(lèi)型,并以前兩者為應(yīng)用主流。

根據(jù)行業(yè)研報(bào),以華東地區(qū)數(shù)據(jù)中心建設(shè)情況為例,基于一定的測(cè)算前提條件下,冷板式液冷方案的TCO甚至Capex已經(jīng)低于風(fēng)冷,浸沒(méi)式液冷方案的TCO也將在運(yùn)行五年左右之后出現(xiàn)低于風(fēng)冷方案的拐點(diǎn)。

囿于成本的緣故,現(xiàn)階段冷板式液冷相較浸沒(méi)式液冷而言,技術(shù)更為成熟、應(yīng)用更為廣泛,在改造及建設(shè)成本,安全可靠性,后期運(yùn)營(yíng)維護(hù)方面均具備顯著優(yōu)勢(shì)。按照服務(wù)器出貨量口徑統(tǒng)計(jì),2023H1我國(guó)冷板式液冷服務(wù)器比例為90%左右,浸沒(méi)式液冷滲透率為10%。

過(guò)去幾年,算力設(shè)備廠商一站式整體交付算力設(shè)備+液冷基礎(chǔ)設(shè)施,優(yōu)勢(shì)是交叉配合界面少、整體交付速度快、后期運(yùn)維一家負(fù)責(zé),但算力設(shè)備與液冷基礎(chǔ)設(shè)施強(qiáng)耦合后,劣勢(shì)也很明顯:

① 二期算力擴(kuò)容時(shí),較難兼容其他品牌的算力設(shè)備,甚至是無(wú)法兼容;

② 算力設(shè)備廠商集成的液冷基礎(chǔ)設(shè)施,在系統(tǒng)冗余性、在線(xiàn)維護(hù)性、服務(wù)能力上較難達(dá)到用戶(hù)需求;

③ 液冷基礎(chǔ)設(shè)施溢價(jià)高,成本甚至超過(guò)30萬(wàn)元/柜,遠(yuǎn)高于解耦型冷板式液冷。

如同所有居于供給側(cè)、在AI+金融市場(chǎng)鉆研鏖戰(zhàn)的科技廠商一般,科華數(shù)據(jù)也秉持著行業(yè)領(lǐng)先者的責(zé)任感,乘著這股浩蕩東風(fēng),推出「解耦型冷板式液冷數(shù)據(jù)中心解決方案」,致力于共同助力金融機(jī)構(gòu)釋放算力潛能,為金融智算筑建堅(jiān)實(shí)底座。

經(jīng)過(guò)充分的市場(chǎng)調(diào)研和案例應(yīng)用,科華數(shù)據(jù)冷板式液冷數(shù)據(jù)中心解決方案凝聚了「6大優(yōu)勢(shì)」。

01 整體優(yōu)化架構(gòu),服務(wù)器全解耦,可兼容多品牌算力設(shè)備,分期建設(shè)無(wú)憂(yōu)

科華數(shù)據(jù)冷板式液冷解決方案,可解耦國(guó)內(nèi)主流品牌液冷算力服務(wù)器,解耦點(diǎn)在液冷服務(wù)器側(cè)或液冷整機(jī)柜側(cè),目前已交付多個(gè)項(xiàng)目,并安全穩(wěn)定運(yùn)行,實(shí)現(xiàn)了客戶(hù)對(duì)于液冷數(shù)據(jù)中心兼容解耦的部署架構(gòu)。

02 高密智算液冷POD解決方案,整系統(tǒng)可靠驗(yàn)證,現(xiàn)場(chǎng)高質(zhì)量快速交付

基于豐富的項(xiàng)目經(jīng)驗(yàn),實(shí)現(xiàn)了建設(shè)方案、系統(tǒng)架構(gòu)、核心產(chǎn)品的標(biāo)準(zhǔn)化,并推出了一站式交付的液冷算力POD解決方案,既優(yōu)化了方案論證、產(chǎn)品選型階段的復(fù)雜工作,又提升了產(chǎn)品質(zhì)量、交付速度、確保系統(tǒng)穩(wěn)定運(yùn)行,維護(hù)管理更加簡(jiǎn)便易用,運(yùn)營(yíng)效率得以大幅提升。

03 核心產(chǎn)品優(yōu)異,CDU循環(huán)泵雙泵冗余,水泵、過(guò)濾器等不停機(jī)更換維護(hù)

作為液冷系統(tǒng)中的核心產(chǎn)品,科華數(shù)據(jù)液冷CDU采用N+1冗余架構(gòu)設(shè)計(jì),并可放置在精密空調(diào)間,確保一次側(cè)冷卻水不進(jìn)入算力機(jī)房?jī)?nèi)。CDU內(nèi)的循環(huán)水泵采用節(jié)能型變頻雙泵冗余設(shè)計(jì),單臺(tái)水泵即可滿(mǎn)足100%散熱需求,水泵和過(guò)濾器均按滿(mǎn)足在線(xiàn)維護(hù)要求,實(shí)現(xiàn)不停機(jī)即可更換維護(hù)。

04 預(yù)制化生產(chǎn)制造,工程產(chǎn)品化,確保交付質(zhì)量,又好又快

基于智能微模塊的豐富經(jīng)驗(yàn),科華數(shù)據(jù)液冷系統(tǒng)將預(yù)制化底座、二次側(cè)管路系統(tǒng)、機(jī)柜(含manifold)、通道封閉、智能小母線(xiàn)、風(fēng)補(bǔ)列間空調(diào)、液冷微模塊監(jiān)測(cè)系統(tǒng)、一次側(cè)水力模塊等進(jìn)行預(yù)制化設(shè)計(jì)生產(chǎn),現(xiàn)場(chǎng)快速交付。

05 交付安全穩(wěn)定,基于正向設(shè)計(jì)理念,通過(guò)BIM+CFD仿真模擬及液冷測(cè)試平臺(tái)嚴(yán)格驗(yàn)證

項(xiàng)目正式進(jìn)場(chǎng)后,科華基于BIM三維建模技術(shù),實(shí)現(xiàn)1:1數(shù)字孿生,模擬每一個(gè)設(shè)備、每一段管路和閥門(mén)的位置,做到所設(shè)即所得,減少現(xiàn)場(chǎng)管路交叉干涉,確保交付質(zhì)量和速度。通過(guò)CFD流體仿真技術(shù),模擬管路流體路徑和機(jī)房?jī)?nèi)的氣流組織,不斷優(yōu)化設(shè)備布局和設(shè)置參數(shù),確保智算機(jī)房高質(zhì)量運(yùn)行。同時(shí),每一套液冷系統(tǒng)出廠前,均會(huì)在科華液冷整系統(tǒng)測(cè)試平臺(tái)中進(jìn)行測(cè)試,驗(yàn)證可靠性和功能參數(shù),確保方案質(zhì)量和系統(tǒng)長(zhǎng)期穩(wěn)定運(yùn)行。

06 項(xiàng)目經(jīng)驗(yàn)豐富,成功交付多個(gè)液冷數(shù)據(jù)中心項(xiàng)目,全生命周期服務(wù)值得用戶(hù)信賴(lài)

得益于高效散熱、節(jié)能減排、安全可靠等優(yōu)勢(shì),科華冷板式液冷案例覆蓋了通信、互聯(lián)網(wǎng)、高校、金融等多個(gè)行業(yè)用戶(hù),如河北承德智算中心、中國(guó)移動(dòng)蘇州數(shù)據(jù)中心、廈門(mén)大學(xué)嘉庚智算中心等。

科華數(shù)據(jù)冷板式液冷解決方案可囊括從通用算力服務(wù)器20kW/柜到智算算力服務(wù)器高密度50kW/柜,甚至科研場(chǎng)景的70~120kW/柜,為各行業(yè)高密度智算中心打造安全可靠、綠色低碳的液冷數(shù)據(jù)中心,賦能千行百業(yè)。在推動(dòng)新技術(shù)發(fā)展的同時(shí),科華數(shù)據(jù)也不斷優(yōu)化整體服務(wù)流程,使每一次交付都得到客戶(hù)的高度認(rèn)可。

如,于「通信行業(yè)長(zhǎng)三角地區(qū)重要液冷數(shù)據(jù)中心項(xiàng)目」上,科華數(shù)據(jù)冷板式液冷解決方案助力項(xiàng)目運(yùn)行指標(biāo)大幅提升——

丨散熱能耗降低超50%

丨PUE降至1.2

丨節(jié)約空調(diào)電費(fèi)超50%

丨提高服務(wù)器算力能力5%-10%

從通信,到金融,行業(yè)天然自帶壁壘又何妨,高可靠的產(chǎn)品技術(shù)是其互通的媒介。

當(dāng)金融機(jī)構(gòu)行至全面擁抱大模型、戰(zhàn)略布局AI算力的風(fēng)口,技術(shù)先行者已在此處,等著共同攀越那崢嶸山崗。

結(jié)語(yǔ):

人工智能先驅(qū)之一,穆斯塔法·蘇萊曼在其出版的《大浪將至》中提到,“技術(shù)是一種創(chuàng)新集群,即將到來(lái)的浪潮是像寒武紀(jì)大爆發(fā)一樣的進(jìn)化爆發(fā),將涌現(xiàn)出成千上萬(wàn)種新應(yīng)用,這些技術(shù)中的每一項(xiàng)都與其他技術(shù)相互交叉、相互加強(qiáng)、相互完善。”

AI賦能智算行業(yè)蓬勃發(fā)展,創(chuàng)新技術(shù)在金融行業(yè)的各類(lèi)場(chǎng)景中不斷應(yīng)用、驗(yàn)證、迭代,算力基座也正朝著更可靠、更可用、更節(jié)能、更智慧的方向演進(jìn)。

久經(jīng)檢驗(yàn)的金融數(shù)字化轉(zhuǎn)型合作伙伴——科華數(shù)據(jù),正融合30余年電力電子核心技術(shù)及十?dāng)?shù)年數(shù)據(jù)中心建設(shè)運(yùn)維經(jīng)驗(yàn),深刻洞察金融應(yīng)用側(cè)在新建及改造數(shù)據(jù)中心的能耗痛點(diǎn),以更可靠、更解耦的液冷解決方案,助力更多金融機(jī)構(gòu)實(shí)現(xiàn)更高的算力密度、節(jié)省更多的機(jī)柜空間,推動(dòng)底層算力潛能的進(jìn)一步釋放。

申請(qǐng)創(chuàng)業(yè)報(bào)道,分享創(chuàng)業(yè)好點(diǎn)子。點(diǎn)擊此處,共同探討創(chuàng)業(yè)新機(jī)遇!

相關(guān)文章

熱門(mén)排行

信息推薦