北京2023年7月4日 /美通社/ -- 就在前段時(shi)間，繼ChatGPT迎(ying)來「iPhone時(shi)刻」之后，OpenAI又計(ji)劃推出(chu)LLM版的(de)(de)App Store。簡單來講(jiang)，OpenAI打(da)造(zao)獨(du)屬的(de)(de)「大模(mo)型(xing)應用商店」，就是(shi)要把市面上的(de)(de)大模(mo)型(xing)拉進一個雙向對接(jie)的(de)(de)平(ping)臺(tai)。這(zhe)樣，開發(fa)者根(gen)據(ju)特殊(shu)用途，去出(chu)售基(ji)于(yu)ChatGPT定制的(de)(de)AI模(mo)型(xing)。而(er)企業也能夠(gou)根(gen)據(ju)自身需求快速找(zhao)到適配的(de)(de)LLM。
OpenAI此(ci)舉，意味著(zhu)生態系統將實現(xian)融(rong)合，大家能(neng)夠更容易去獲取使用(yong)各種應用(yong)，無需重復「造輪子」。
無獨有偶，國內(nei)的浪潮信息(xi)在走這樣的生(sheng)態(tai)開放之路(lu)。更有趣的是，浪潮信息(xi)打造(zao)了(le)AIStore，作(zuo)為元腦生(sheng)態(tai)的內(nei)容承載平臺。LLM爆(bao)火(huo)之后，OpenAI也順勢打造(zao)了(le)APPstore。
元腦AIStore，智算時代的「App Store」
浪(lang)潮信息的(de)(de)(de)(de)(de)生態開放之(zhi)路(lu)是(shi)怎么走的(de)(de)(de)(de)(de)？其中(zhong)一個生動的(de)(de)(de)(de)(de)例子，就是(shi)它(ta)打造的(de)(de)(de)(de)(de)元腦AIStore平(ping)臺。在這里(li)，「左(zuo)手伙伴」負責提(ti)供場景化應用以及(ji)服務；當「右(you)手伙伴」有業(ye)(ye)務創新需求(qiu)(qiu)時，就可(ke)以在平(ping)臺上根據提(ti)供的(de)(de)(de)(de)(de)信息尋(xun)找合(he)作(zuo)。同時，「右(you)手伙伴」也可(ke)以在平(ping)臺上發布自己(ji)的(de)(de)(de)(de)(de)需求(qiu)(qiu)，由左(zuo)手伙伴承接(jie)，然后(hou)提(ti)供定制服務。而作(zuo)為「平(ping)臺」的(de)(de)(de)(de)(de)AIStore，就是(shi)把二者連接(jie)起來，依托算(suan)力、算(suan)法、資(zi)源平(ping)臺等全棧化的(de)(de)(de)(de)(de)生態優勢，助(zhu)力伙伴雙(shuang)(shuang)方實(shi)現技術和商業(ye)(ye)的(de)(de)(de)(de)(de)雙(shuang)(shuang)融合(he)，助(zhu)力大家進行(xing)更高效的(de)(de)(de)(de)(de)合(he)作(zuo)與營銷。
如(ru)果說，小(xiao)紅書是C端(duan)(duan)的種草內容生態(tai)，AIStore平臺可以理解成是B端(duan)(duan)應用的線(xian)上(shang)社區化商(shang)城。
元(yuan)腦生(sheng)態(tai)致(zhi)力(li)于牽手伙伴(ban)輸(shu)出技(ji)術領(ling)先、落地性(xing)強的聯(lian)合(he)方(fang)(fang)案，不斷(duan)提(ti)升方(fang)(fang)案的可服務(wu)性(xing)、開放性(xing)和易購性(xing)，滿足(zu)客戶需(xu)求的同時，助力(li)伙伴(ban)獲(huo)取更多商機。這個過程中，體現的是連接、信(xin)任、合(he)作(zuo)，是這種合(he)作(zuo)模式的價值認同。也正(zheng)是在(zai)這樣(yang)的實踐(jian)探索中，浪(lang)(lang)潮信(xin)息的生(sheng)態(tai)伙伴(ban)數量在(zai)不斷(duan)增加，據了(le)解，截止至(zhi)2022年(nian)底，浪(lang)(lang)潮信(xin)息的生(sheng)態(tai)伙伴(ban)數量已達(da)20000余家。
如今(jin)，在(zai)元腦AlStore平(ping)臺上，我們已經可(ke)以看到(dao)很多面向(xiang)不(bu)同(tong)AI業務場景的(de)解決方(fang)案，其(qi)中有(you)不(bu)少是兩家以上合(he)(he)作伙伴(ban)聯合(he)(he)開發的(de)。此外，為了(le)方(fang)便客戶(hu)獲得更直觀的(de)體驗，浪潮信息還(huan)在(zai)元腦AIStore平(ping)臺加(jia)入了(le)部分解決方(fang)案的(de)demo。比如打開「合(he)(he)合(he)(he)信息OCR」，就可(ke)以一鍵試用(yong)各種票(piao)據(ju)和證件的(de)識別。
據(ju)介紹，目前元(yuan)腦(nao)AlStore已經入(ru)駐了超(chao)過1200家伙伴，上線產品和解決方(fang)案超(chao)過150個，有(you)幾(ji)十家伙伴的產品方(fang)案通過了元(yuan)腦(nao)認證。
其實早在(zai)2019年(nian)，浪潮信息便(bian)提出了智算(suan)時代之下的生(sheng)(sheng)(sheng)態(tai)新范式(shi)——元腦(nao)生(sheng)(sheng)(sheng)態(tai)。元腦(nao)AIStore正是(shi)元腦(nao)生(sheng)(sheng)(sheng)態(tai)的內容承載平(ping)臺，不僅(jin)如此，AIStore還是(shi)合作伙伴的營銷(xiao)平(ping)臺。而2022年(nian)底生(sheng)(sheng)(sheng)成式(shi)AI爆(bao)火后產生(sheng)(sheng)(sheng)的產業需求，更是(shi)驗證了這一路線的前(qian)瞻性。
技術落地，建立開放產業生態環境
ChatGPT引爆技(ji)術革(ge)新(xin)，徹底帶火了生(sheng)成式(shi)AI等新(xin)一(yi)代(dai)技(ji)術的(de)(de)突(tu)破。如何(he)(he)將技(ji)術和(he)場(chang)景融合，賦能產業(ye)(ye)，已經成為新(xin)一(yi)輪時代(dai)科技(ji)革(ge)命的(de)(de)一(yi)個重點(dian)。那么在這樣大背景之下， 生(sheng)態又(you)將如何(he)(he)重構？「變」與(yu)「不變」的(de)(de)革(ge)新(xin)又(you)在于何(he)(he)處？這是新(xin)型產業(ye)(ye)化落地最后一(yi)公里面臨(lin)的(de)(de)困境。
我們看(kan)到，大(da)型(xing)語言模(mo)型(xing)的(de)(de)(de)發展(zhan)(zhan)越來(lai)越成(cheng)熟，如(ru)(ru)何實現轉化，才是(shi)展(zhan)(zhan)現大(da)模(mo)型(xing)真正(zheng)實力的(de)(de)(de)關(guan)鍵一環。技術與產(chan)業的(de)(de)(de)關(guan)系(xi)猶如(ru)(ru)毛與皮的(de)(de)(de)關(guan)系(xi)，有「皮」的(de)(de)(de)存在(zai)，「毛」才有存在(zai)的(de)(de)(de)可能和價(jia)值。「皮」是(shi)產(chan)業，更是(shi)市場需求(qiu)，技術通過(guo)真正(zheng)地賦(fu)能場景(jing)，解(jie)決市場需求(qiu)，才能夠持續獲得收(shou)益而發展(zhan)(zhan)。對(dui)于一些特定(ding)場景(jing)，如(ru)(ru)果沒(mei)有定(ding)制化的(de)(de)(de)適配(pei)，就無法(fa)100%發揮技術的(de)(de)(de)價(jia)值。或者說(shuo)，若(ruo)沒(mei)有多(duo)配(pei)套(tao)的(de)(de)(de)產(chan)線支撐(cheng)與需求(qiu)市場，做出的(de)(de)(de)技術也將偏離產(chan)業化初衷。而OpenAI計劃打造的(de)(de)(de)LLM「應(ying)用商店」，正(zheng)是(shi)要推(tui)動技術賦(fu)能場景(jing)的(de)(de)(de)一個新生態的(de)(de)(de)形成(cheng)。
比如(ru)，教(jiao)育(yu)APP制造商Khan Academy（可汗學院(yuan)），就是在ChatGPT的(de)基礎上，開發了個性化AI導(dao)師(shi)Khanmigo。而(er)另一(yi)家企(qi)業AI平臺Aquant，則利用獨有(you)數(shu)據微調(diao)了ChatGPT大模(mo)型，打造了聊(liao)天機器人(ren)應用Service Copilot。開發的(de)產(chan)品(pin)能(neng)夠智能(neng)回復客戶有(you)關設備(bei)維護、維修(xiu)等方面的(de)問題。
由(you)此(ci)可(ke)(ke)見，面(mian)向未來(lai)產業(ye)的(de)(de)發(fa)展(zhan)(zhan)，生態(tai)(tai)亟(ji)需應勢(shi)(shi)而變(bian)，在(zai)變(bian)局中(zhong)以「競爭(zheng)、合作、開(kai)放(fang)」的(de)(de)姿態(tai)(tai)變(bian)革重構(gou)。這樣做(zuo)的(de)(de)優(you)勢(shi)(shi)在(zai)于：首先，從場景實踐(jian)中(zhong)提升技術的(de)(de)創(chuang)新(xin)能力。技術推動(dong)(dong)產業(ye)發(fa)展(zhan)(zhan)，進而反哺技術創(chuang)新(xin)。通(tong)過跨(kua)界融合，能夠促進數據、技術、知識等業(ye)務共(gong)享和(he)(he)協(xie)同，由(you)此(ci)再推動(dong)(dong)不(bu)同領域的(de)(de)創(chuang)新(xin)。用(yong)「開(kai)放(fang)共(gong)贏」的(de)(de)姿態(tai)(tai)提升個(ge)體伙伴(ban)的(de)(de)競爭(zheng)力，以此(ci)提升整體產業(ye)的(de)(de)效率與競爭(zheng)力。其次，優(you)化產業(ye)布局，發(fa)揮(hui)生態(tai)(tai)內的(de)(de)單一環節的(de)(de)競爭(zheng)優(you)勢(shi)(shi)。未來(lai)的(de)(de)產業(ye)生態(tai)(tai)，需要根(gen)據不(bu)同環節的(de)(de)發(fa)展(zhan)(zhan)特點和(he)(he)優(you)勢(shi)(shi)，將單一伙伴(ban)的(de)(de)價值最大(da)化，實現產業(ye)優(you)化升級和(he)(he)可(ke)(ke)持續發(fa)展(zhan)(zhan)力。
浪(lang)潮信(xin)息的元腦生態(tai)，從2019年(nian)開始，一直就(jiu)走在這種合作新(xin)范(fan)式的路上。即用技術賦能場景，用「智算(suan)」聚生態(tai)之(zhi)力(li)，建立(li)場景共同體，打通產業AI落地的最后一公里。
元腦生態，智算時代的生態新范式
元腦生(sheng)態，正(zheng)是要開啟一個新時代的(de)生(sheng)態范式。現(xian)在，浪潮信息(xi)打(da)造(zao)的(de)元腦生(sheng)態中，已(yi)經有了(le)500余(yu)個左手(shou)伙(huo)伴，4500余(yu)個右手(shou)伙(huo)伴。他們始終倡導所踐行(xing)的(de)「聚合產業(ye)(ye)力量」，便是指具備(bei)AI開發核(he)心(xin)能(neng)力的(de)「左手(shou)伙(huo)伴」和具備(bei)行(xing)業(ye)(ye)AI整體(ti)方案交付(fu)能(neng)力的(de)「右手(shou)伙(huo)伴」。
簡言之，元(yuan)腦生態不獨屬于某一個企業(ye)，而是(shi)(shi)左手(shou)伙伴+右手(shou)伙伴+浪潮信息的三元(yuan)素結合(he)，是(shi)(shi)熱帶雨林式的合(he)作范式，從而實現優勢互補、各取(qu)所需(xu)、合(he)作共(gong)贏的局面。也就是(shi)(shi)說，元(yuan)腦生態將(jiang)成為(wei)一片肥(fei)沃的土壤，促進AI行(xing)業(ye)融合(he)和落(luo)地發展(zhan)。這一生態構建，已(yi)在(zai)具體(ti)實踐(jian)中取(qu)得了卓越成效。
聚生態之力，用AI賦能場景落地最后一公里
在(zai)金融(rong)行(xing)業中(zhong)，許多業務已(yi)實(shi)現了(le)數字化轉型(xing)，并實(shi)現效率提升。不(bu)得不(bu)承認的(de)(de)是(shi)，目前仍存(cun)在(zai)一些(xie)無法(fa)用(yong)AI亟待解決的(de)(de)問題。比如，在(zai)票(piao)據(ju)處理方(fang)(fang)面(mian)，許多銀行(xing)還依舊采用(yong)人工錄入的(de)(de)方(fang)(fang)式(shi)，不(bu)僅耗時且成本高昂，柳州銀行(xing)便是(shi)其中(zhong)一個的(de)(de)代表。
當前(qian)，OCR技(ji)術的(de)(de)發展，已經能夠將圖像(xiang)文件(jian)中的(de)(de)字(zi)符快(kuai)速識別(bie)，并轉化成文本。而且(qie)在算法的(de)(de)加持下，即便遇到票據背景復雜、清晰度不高、文字(zi)傾斜等情況，也能實現智(zhi)能提取。
一直深耕(geng)智(zhi)能(neng)(neng)文(wen)字識(shi)別領域的(de)(de)(de)合合信息(xi)（左手伙伴(ban)）便是(shi)典型(xing)代表。它在智(zhi)能(neng)(neng)文(wen)字識(shi)別技術上破解(jie)了傳統OCR應(ying)(ying)用(yong)識(shi)別難(nan)題(ti)，推(tui)出(chu)的(de)(de)(de)TextIn Studio智(zhi)能(neng)(neng)文(wen)字訓練平臺，能(neng)(neng)夠提供(gong)上百種(zhong)文(wen)檔圖像處理服務。另外，與其他(ta)行(xing)業(ye)(ye)不同，「高網(wang)絡安全性(xing)(xing)、高數(shu)據備份(fen)要求性(xing)(xing)、高監(jian)控和審(shen)計能(neng)(neng)力(li)性(xing)(xing)、高應(ying)(ying)急響應(ying)(ying)能(neng)(neng)力(li)」的(de)(de)(de)銀行(xing)特性(xing)(xing)，讓金(jin)(jin)融(rong)行(xing)業(ye)(ye)落地的(de)(de)(de)挑(tiao)戰變得(de)更加困難(nan)。而深耕(geng)金(jin)(jin)融(rong)隱私計算領域多年的(de)(de)(de)可利邦（右手伙伴(ban)），能(neng)(neng)夠提供(gong)整體的(de)(de)(de)IT、金(jin)(jin)融(rong)化(hua)信息(xi)的(de)(de)(de)解(jie)決方案。
立于元(yuan)腦生(sheng)態(tai)，合(he)合(he)信息和(he)可利邦，能夠全面利用(yong)浪潮信息提(ti)供的(de)AI計算平臺、AI資(zi)源平臺、AI工(gong)具平臺的(de)能力。那(nei)么，有(you)了這個行業(ye)AI大(da)腦，浪潮信息的(de)左右手(shou)伙伴在柳州銀行案例中是如何(he)發揮所長，打造生(sheng)態(tai)新范(fan)式(shi)？
在柳州銀(yin)行(xing)OCR智能平臺建(jian)設中，面臨著極為兩難的(de)現實問題(ti)：一(yi)方面，銀(yin)行(xing)面臨數(shu)據繁多(duo)、場(chang)景復雜(za)的(de)核心瓶頸，隨著高(gao)爆發、高(gao)增長的(de)數(shu)據量，都對模型(xing)訓練和推理提出(chu)了更(geng)高(gao)要求(qiu)。另(ling)一(yi)方面，就用(yong)戶(hu)數(shu)據安全維度考(kao)慮，定制模型(xing)的(de)所有數(shu)據標注、訓練，都必須在銀(yin)行(xing)內網完成(cheng)。
由此，針對(dui)柳(liu)州銀(yin)行(xing)(xing)「算力資源(yuan)少，場景應(ying)用(yong)多(duo)」等實際落地的(de)困難，合(he)合(he)信息(xi)攜(xie)手(shou)可利邦聯合(he)打造了(le)業內領(ling)先的(de)一站式(shi)智能OCR解(jie)決(jue)方案。這樣，通(tong)過生態的(de)協(xie)同優勢，跨越產業落地鴻溝，打通(tong)金(jin)融數智化(hua)轉型的(de)最后(hou)一公(gong)里。那么(me)，他們具體又(you)是如何(he)基(ji)于浪潮信息(xi)元腦生態，幫助柳(liu)州銀(yin)行(xing)(xing)解(jie)決(jue)業務中的(de)痛點(dian)？
首先，從算(suan)力(li)方(fang)(fang)面入(ru)手。AIGC時代來(lai)臨(lin)，許多大語言模型基(ji)于海量數(shu)據(ju)集(ji)進(jin)(jin)行訓(xun)練(lian)和推理時，對算(suan)力(li)提出(chu)(chu)極大需(xu)求(qiu)(qiu)。傳統銀(yin)(yin)行業務(wu)(wu)(wu)在技術側方(fang)(fang)面，對高(gao)爆發、高(gao)增長(chang)業務(wu)(wu)(wu)數(shu)據(ju)處(chu)理、以及大量定(ding)制(zhi)模型訓(xun)練(lian)提出(chu)(chu)了需(xu)求(qiu)(qiu)。只有底層算(suan)力(li)系統，足(zu)夠強大才能滿足(zu)這一極高(gao)的要求(qiu)(qiu)。然而(er)，當硬件性能已經到(dao)頂，就(jiu)需(xu)要用軟件平臺對算(suan)力(li)實現更(geng)精細調度(du)。通過優化底層資(zi)(zi)源調度(du)，實現算(suan)力(li)最大化利用。針對柳州(zhou)銀(yin)(yin)行業務(wu)(wu)(wu)流量潮(chao)汐特征(zheng)，合合信息與可(ke)利邦(bang)進(jin)(jin)行了解決方(fang)(fang)案算(suan)力(li)調配的快速(su)移植與優化，從而(er)實現算(suan)力(li)資(zi)(zi)源均(jun)衡分配。具體來(lai)講，基(ji)于業務(wu)(wu)(wu)流量波峰(feng)波谷特征(zheng)，進(jin)(jin)行算(suan)力(li)的自動彈性收(shou)縮，在保障業務(wu)(wu)(wu)不受影響的前提下，將資(zi)(zi)源利用率提升約(yue)40%。
另外，基于(yu)銀行多(duo)業務場景常規并發需(xu)求，通過算力資源的細粒(li)度切分，實現一卡多(duo)用。最大化提高算力利用率，在幾乎零(ling)性能損失(shi)情況下（≈1%），將算力利用率提升至3-5倍。
其次，從(cong)算法框(kuang)架來看。合合信息(xi)針(zhen)對柳州銀(yin)行初始化(hua)樣本不足，缺少數據(ju)標注、憑(ping)證板式復(fu)雜等問題，進行了(le)模(mo)型定制，然后針(zhen)對復(fu)雜的單據(ju)、票(piao)證進行針(zhen)對性訓練。由此(ci)，構建(jian)了(le)高(gao)敏強(qiang)化(hua)學習訓練機制，讓OCR票(piao)證識別(bie)精度和(he)效率大幅提升(sheng)。
這一方(fang)案，將合合信息的(de)算法識別(bie)能(neng)力發揮(hui)至極致，實(shi)現了一站式(shi)覆蓋端(duan)到(dao)端(duan)AI業務。而元(yuan)腦生態(tai)之下的(de)資源平臺(tai)AIStation，則助力其實(shi)現了模型的(de)一鍵(jian)部署，能(neng)夠將人證核驗(yan)、圖像定損、單據識別(bie)等AI 應用快速嵌入到(dao)銀行業務流程中(zhong)。值得一提的(de)是，整(zheng)個過程中(zhong)，模型訓練時(shi)間也(ye)(ye)大幅(fu)縮短，從2天削(xue)減到(dao)4小時(shi)，部署時(shi)間也(ye)(ye)從2天縮短到(dao)5分鐘。
一(yi)站式智(zhi)能(neng)(neng)(neng)(neng)OCR解(jie)決(jue)方案，能(neng)(neng)(neng)(neng)夠讓金(jin)融機(ji)(ji)構「0門檻」開發(fa)OCR。基于(yu)(yu)幾十張票證(zheng)小樣本(ben)，開發(fa)者便能(neng)(neng)(neng)(neng)完成OCR模型(xing)開發(fa)，實(shi)現快速(su)部署與(yu)訓練。顯然，這可(ke)以(yi)大大加快金(jin)融機(ji)(ji)構智(zhi)能(neng)(neng)(neng)(neng)OCR應用(yong)的(de)(de)開發(fa)與(yu)上線的(de)(de)速(su)度。同時，最大化(hua)滿足特(te)定場景智(zhi)能(neng)(neng)(neng)(neng)OCR應用(yong)需求。實(shi)踐證(zheng)明(ming)，一(yi)站式智(zhi)能(neng)(neng)(neng)(neng)OCR解(jie)決(jue)方案，將柳(liu)州(zhou)銀行票證(zheng)錄(lu)入效率(lv)提(ti)升百(bai)倍以(yi)上，人力(li)資源成本(ben)節省數百(bai)萬元，實(shi)現業(ye)務提(ti)速(su)。未來，這個OCR解(jie)決(jue)方案，也不僅限于(yu)(yu)柳(liu)州(zhou)銀行，甚至在證(zheng)券、保險等金(jin)融機(ji)(ji)構，同樣適用(yong)。除了算(suan)力(li)、算(suan)法(fa)，在智(zhi)能(neng)(neng)(neng)(neng)平(ping)臺(tai)運維方面(mian)，基于(yu)(yu)浪潮信息的(de)(de)AIStation平(ping)臺(tai)，通過建立(li)穩(wen)定的(de)(de)智(zhi)能(neng)(neng)(neng)(neng)容錯機(ji)(ji)制，不斷強化(hua)上層應用(yong)的(de)(de)業(ye)務安全(quan)保障能(neng)(neng)(neng)(neng)力(li)。真正實(shi)現了為金(jin)融數智(zhi)化(hua)轉型(xing)的(de)(de)最后一(yi)公里保駕護航。
全流程「保駕護航」：AIStation一鍵部署，高效算力平臺管理，加速技術迭代革新
可(ke)以(yi)看到，在方(fang)案(an)(an)的(de)(de)落地過程中，一(yi)套穩健(jian)的(de)(de)人工智(zhi)能應用(yong)系統必(bi)不可(ke)少。而浪潮(chao)信息(xi)推出的(de)(de)智(zhi)能業(ye)務生(sheng)產(chan)創(chuang)新(xin)平臺——AIStation，滿足的(de)(de)正是這個需求。具(ju)體來說，AIStation是專為人工智(zhi)能開(kai)發(fa)和(he)部(bu)署(shu)打造的(de)(de)端到端平臺，可(ke)以(yi)實現從模(mo)型開(kai)發(fa)、訓(xun)練、部(bu)署(shu)、測試(shi)、發(fa)布、服(fu)務的(de)(de)全流程一(yi)站式(shi)高效交付。基于資源管理(li)調度、平臺流程支持(chi)能力，它在異構芯片(pian)、創(chuang)新(xin)生(sheng)產(chan)工具(ju)、行業(ye)伙(huo)伴應用(yong)、客戶(hu)方(fang)案(an)(an)等不同層面(mian)，與元(yuan)腦合作伙(huo)伴展開(kai)了(le)大量適配對接認證工作，并積累了(le)大量經驗、模(mo)式(shi)與方(fang)案(an)(an)，成為了(le)元(yuan)腦生(sheng)態(tai)的(de)(de)重要承載平臺。
舉個例子(zi)，比如智源研(yan)究院的(de)FlagAI一站式大模(mo)型(xing)(xing)工(gong)具，就是基于AIStation平臺(tai)(tai)進行本地化部署的(de)。我(wo)們都(dou)知道，大模(mo)型(xing)(xing)的(de)訓練(lian)，需要(yao)構建包含計算、網絡、存(cun)(cun)儲(chu)、框架等在內的(de)系(xi)統(tong)性分布(bu)式訓練(lian)環境。傳統(tong)的(de)分散化管理，讓平臺(tai)(tai)的(de)整體(ti)協同性較差，訓練(lian)效率(lv)(lv)(lv)低(di)。而AIStation實(shi)現了異構算力集群的(de)統(tong)一池化管理，通(tong)(tong)(tong)過(guo)自適應系(xi)統(tong)將訓練(lian)底(di)層的(de)計算、存(cun)(cun)儲(chu)、網絡環境自動化配置(zhi)。通(tong)(tong)(tong)過(guo)多種資源高(gao)效管理和調度策略，AIStation能實(shi)現萬卡集群的(de)毫秒級(ji)調度，提(ti)(ti)升(sheng)(sheng)整體(ti)資源利用率(lv)(lv)(lv)到70%以上。通(tong)(tong)(tong)過(guo)數據(ju)緩存(cun)(cun)機(ji)制，AIStation可(ke)(ke)以讓模(mo)型(xing)(xing)訓練(lian)效率(lv)(lv)(lv)獲得200%-300%的(de)提(ti)(ti)升(sheng)(sheng)。并且，還達到了健壯性與穩定性這(zhe)樣的(de)大模(mo)型(xing)(xing)訓練(lian)的(de)強(qiang)要(yao)求。根據(ju)服(fu)(fu)務(wu)(wu)(wu)資源需求的(de)變化，AIStation可(ke)(ke)以及(ji)時調整資源配給，實(shi)現秒級(ji)服(fu)(fu)務(wu)(wu)(wu)擴(kuo)縮容，可(ke)(ke)支(zhi)持百(bai)萬級(ji)高(gao)并發的(de)大規模(mo)AI推理服(fu)(fu)務(wu)(wu)(wu)場(chang)景(jing)，服(fu)(fu)務(wu)(wu)(wu)響(xiang)應平均延遲(chi)低(di)于1ms，突發的(de)訪問(wen)高(gao)峰(feng)的(de)響(xiang)應效率(lv)(lv)(lv)提(ti)(ti)升(sheng)(sheng)50%。
就在6月25日，AIStation憑借著專業的AI開發與部署(shu)能(neng)力(li)(li)支撐，有效降低大模(mo)型時(shi)代(dai)的大規模(mo)分布式AI算力(li)(li)平臺的配置與維護門檻，榮獲了2023全球人(ren)工智能(neng)產品應(ying)用博覽會「產品金獎」。
水利萬物，普惠AIGC
從(cong)元腦生態(tai)的(de)角度(du)來看，浪潮(chao)信息布(bu)局產(chan)業AI是率(lv)(lv)先布(bu)局、并(bing)率(lv)(lv)先入(ru)局，從(cong)2019年到現在，短(duan)短(duan)四年間，獲得了極多(duo)合(he)作(zuo)伙伴的(de)支(zhi)持。今年AIGC才開(kai)始迸發(fa)出(chu)來，之前大(da)家都(dou)處于探索期。在實踐中可以發(fa)現，大(da)家都(dou)在面(mian)臨(lin)著可落地的(de)商業化途徑的(de)問題(ti)，比如量化金融智能客服，大(da)模型(xing)+數字人等(deng)等(deng)。許(xu)多(duo)客戶(hu)都(dou)有非(fei)常理(li)想、非(fei)常美好的(de)需求(qiu)，但實現起來并(bing)不(bu)那(nei)么容易。
有的(de)(de)(de)(de)客戶(hu)是(shi)(shi)(shi)有數據、有資源(yuan)，他們的(de)(de)(de)(de)訴求(qiu)是(shi)(shi)(shi)希(xi)望基于自(zi)己的(de)(de)(de)(de)數據進行挖掘，從而讓(rang)它變(bian)得更智能；有的(de)(de)(de)(de)客戶(hu)是(shi)(shi)(shi)有場景(jing)，希(xi)望能讓(rang)場景(jing)變(bian)成更智能化(hua)的(de)(de)(de)(de)體驗(yan)；有的(de)(de)(de)(de)是(shi)(shi)(shi)中(zhong)(zhong)間的(de)(de)(de)(de)集成方軟(ruan)件服務(wu)商，希(xi)望被賦能。這(zhe)就(jiu)對生態(tai)提(ti)出(chu)了(le)全方位的(de)(de)(de)(de)考驗(yan)。相對來說，元腦生態(tai)不(bu)是(shi)(shi)(shi)中(zhong)(zhong)心(xin)化(hua)的(de)(de)(de)(de)生態(tai)，不(bu)強調誰(shui)依附于誰(shui)，更開放。不(bu)同(tong)企(qi)業的(de)(de)(de)(de)產品落地，所面臨(lin)的(de)(de)(de)(de)鴻溝，以及(ji)面臨(lin)的(de)(de)(de)(de)困境，是(shi)(shi)(shi)完全不(bu)同(tong)的(de)(de)(de)(de)。在快速(su)迭代的(de)(de)(de)(de)時代背景(jing)下，生態(tai)需要(yao)去(qu)融合(he)、去(qu)重塑。這(zhe)也正是(shi)(shi)(shi)元腦生態(tai)中(zhong)(zhong)所謂「水(shui)利萬物」的(de)(de)(de)(de)要(yao)義(yi)。
而出乎意料的(de)是(shi)，元腦生態真(zhen)正上線之(zhi)后，許多客(ke)戶都表現出了意想不到的(de)熱情。這是(shi)因為，在此(ci)期間，客(ke)戶發現了浪潮信息(xi)具有的(de)獨特優勢——
1. 圍(wei)繞大(da)模型提供的(de)(de)算力算法(fa)，具有(you)(you)一個全棧的(de)(de)基礎設(she)施(shi)(shi)方(fang)案(an)服務能(neng)力。尤其是在(zai)超大(da)規(gui)模的(de)(de)算力集群中(zhong)，可以圍(wei)繞遷移參數的(de)(de)算法(fa)進行調(diao)優優化。浪潮(chao)信息作為基礎設(she)施(shi)(shi)廠商，在(zai)這方(fang)面有(you)(you)得天獨厚的(de)(de)優勢。有(you)(you)算力，但更懂如何去用好算力。猶如足(zu)球比賽(sai)(sai)中(zhong)的(de)(de)教練，賽(sai)(sai)前(qian)根據「對手」情況部署戰(zhan)術(shu)安排，臨場(chang)根據比賽(sai)(sai)進程實時進行人(ren)員和(he)位置調(diao)整。此外，還要善于激發每(mei)名球員的(de)(de)潛能(neng)。
2. 作為(wei)多(duo)元(yuan)化(hua)(hua)的(de)算力平(ping)臺(tai)，浪潮信(xin)息信(xin)息提供的(de)是(shi)更(geng)開(kai)放、更(geng)多(duo)元(yuan)的(de)平(ping)臺(tai)。既(ji)能(neng)支持(chi)目前(qian)國際領先(xian)的(de)GPU，也(ye)能(neng)率先(xian)支持(chi)數(shu)十種(zhong)國產算力。不管是(shi)圍繞大模(mo)型的(de)超大集(ji)群訓練場景(jing)，還是(shi)針對于特定的(de)AI推(tui)理場景(jing)，都有更(geng)多(duo)元(yuan)化(hua)(hua)的(de)算力產品和適配能(neng)力。
3. 通過(guo)元腦生態，打造AIGC時(shi)代(dai)的(de)(de)(de)生態鏈。不論是(shi)(shi)浪潮信息自身推廣的(de)(de)(de)算力算法服務，還是(shi)(shi)圍繞更多(duo)的(de)(de)(de)合作伙伴，基于這(zhe)(zhe)種生態把伙伴的(de)(de)(de)能力開放共享給(gei)更多(duo)的(de)(de)(de)終端客戶。在這(zhe)(zhe)個過(guo)程中，或許有(you)人(ren)是(shi)(shi)鎖(suo)，有(you)人(ren)是(shi)(shi)鑰(yao)匙(chi)，一(yi)旦鎖(suo)找到了鑰(yao)匙(chi)，就是(shi)(shi)迸發中心(xin)的(de)(de)(de)商業模型。To B領域(yu)的(de)(de)(de)業務正在AIGC的(de)(de)(de)時(shi)代(dai)被逐個重塑。也許新的(de)(de)(de)商機就在不遠處。
面對如雨后春筍般的(de)大模(mo)型(xing)，我們是否真的(de)已經準(zhun)備好了掘金(jin)AIGC？除了面對技(ji)術(shu)(shu)的(de)挑戰(zhan)之外，在技(ji)術(shu)(shu)與產業的(de)這(zhe)臺天平上，通過生態形(xing)成(cheng)(cheng)協同優(you)勢(shi)的(de)重要性，也漸漸顯露了出來。聚生態之力(li)，普惠AIGC，讓AIGC真的(de)成(cheng)(cheng)為像「水一樣的(de)利萬物(wu)」，是當下最好的(de)答案。而這(zhe)，也是浪(lang)潮信息元腦生態始(shi)終(zhong)在踐行的(de)。
