北(bei)京2024年2月29日 /美通社/ -- 近日，潞(lu)晨(chen)科技Colossal-AI大模型開(kai)(kai)發(fa)工具(ju)與浪潮信息AIStation智能業務(wu)創(chuang)新生產平臺(tai)完成兼容性(xing)互(hu)認(ren)證。基于(yu)AIStation平臺(tai)部署與調度的潞(lu)晨(chen)科技Colossal-AI系統，用(yong)戶可實現(xian)在本地算力平臺(tai)一(yi)鍵訓練(lian)、微調、推理(li)、部署大模型，將大模型開(kai)(kai)發(fa)效率(lv)提升(sheng)(sheng)10倍以上，并將算力效率(lv)提升(sheng)(sheng)2-3倍，在最大化提升(sheng)(sheng)大模型開(kai)(kai)發(fa)效率(lv)的同時，降低大模型開(kai)(kai)發(fa)及應用(yong)的門檻(jian)和成本。

Colossal-AI系統由元腦生態伙伴(ban)潞晨科技(ji)開(kai)發，是(shi)全(quan)球(qiu)最大、最活躍的(de)大模(mo)型開(kai)發工(gong)具與(yu)社區(qu)之一。Colossal-AI包(bao)含高效多維(wei)并行、內存管理、低延(yan)遲推理系統等(deng)模(mo)塊，可(ke)顯著提高AI大模(mo)型訓練(lian)、微調和(he)部署效率。以當前(qian)被廣泛使用的(de)LLaMA大模(mo)型為例(li)，Colossal-AI提供開(kai)箱即用的(de)650億參數預訓練(lian)方案，可(ke)將訓練(lian)速度提升(sheng)38%，僅需32張GPU卡。Colossal-AI發布后多次登(deng)頂(ding)GitHub熱度榜世界第一，目前(qian)已與(yu)PyTorch、Hugging Face等(deng)全(quan)球(qiu)頂(ding)級AI生態深度融(rong)合，位列全(quan)球(qiu)TOP400，細(xi)分賽道(dao)世界第一，并且已與(yu)國內外多家500強企業合作(zuo)，促進AI大模(mo)型在自(zi)動駕駛(shi)、云計(ji)算、零售、醫(yi)藥、金(jin)融(rong)等(deng)領域落(luo)地。

本次兼容性測(ce)試(shi)完成(cheng)了Colossal-AI異構內存管(guan)理(li)(li)(li)(li)系統(tong)、高效自動(dong)N維(wei)并(bing)行系統(tong)、低延時推理(li)(li)(li)(li)系統(tong)等核心(xin)模塊在AIStation平臺(tai)上的(de)驗證(zheng)測(ce)試(shi)。測(ce)試(shi)結果表明，Colossal-AI框架在浪潮(chao)信息AIStation平臺(tai)上運行穩(wen)定、性能(neng)表現優異，滿足雙方兼容性認證(zheng)的(de)各(ge)項標(biao)準，在ChatGPT等大(da)模型訓練場景下，可(ke)將(jiang)算力(li)效率(lv)提(ti)升(sheng)2-3倍，訓練/推理(li)(li)(li)(li)速度提(ti)升(sheng)10倍以上。浪潮(chao)信息AIStation平臺(tai)為(wei)上層AI大(da)模型開發提(ti)供了資源管(guan)理(li)(li)(li)(li)、任務調度、運維(wei)管(guan)理(li)(li)(li)(li)等能(neng)力(li)，能(neng)夠幫助用戶更快速靈活(huo)地獲取本地AI算力(li)，讓計算平臺(tai)更好地支(zhi)持Colossal-AI高效運行。

Colossal-AI攜手浪潮信息AIStation，將為AI大(da)模(mo)(mo)(mo)型應用(yong)開發(fa)提供開箱即用(yong)、更快速、高(gao)性能、低損耗的(de)本(ben)地化解(jie)決方案，大(da)幅提升AI大(da)模(mo)(mo)(mo)型訓(xun)練、微(wei)調(diao)、推理、部署的(de)效率，并降低AI大(da)模(mo)(mo)(mo)型的(de)開發(fa)成(cheng)本(ben)和計算(suan)資(zi)源需求。

浪潮信(xin)息AIStation是(shi)面(mian)(mian)向企(qi)業級訓練(lian)與(yu)(yu)推(tui)(tui)理場景開(kai)發(fa)的智能(neng)業務生(sheng)(sheng)產創(chuang)新平(ping)臺(tai)，實現從(cong)模(mo)型(xing)開(kai)發(fa)、訓練(lian)、部署(shu)、測試、發(fa)布、服(fu)務的全(quan)流(liu)程一站式(shi)高效交付。通過對(dui)計(ji)算資源、數據(ju)資源、深度學(xue)習軟(ruan)件棧(zhan)資源進(jin)行統(tong)一管(guan)理，AIStation為環境(jing)構建、模(mo)型(xing)開(kai)發(fa)、模(mo)型(xing)訓練(lian)、模(mo)型(xing)評估(gu)、模(mo)型(xing)推(tui)(tui)理、上線(xian)部署(shu)全(quan)鏈條全(quan)面(mian)(mian)提速，加快(kuai)AI開(kai)發(fa)應(ying)用創(chuang)新落(luo)地。AIStation基于(yu)資源管(guan)理調度、平(ping)臺(tai)流(liu)程支(zhi)持能(neng)力，在異(yi)構芯片、創(chuang)新生(sheng)(sheng)產工具、行業伙(huo)伴(ban)應(ying)用、客戶方案等不同層面(mian)(mian)，與(yu)(yu)元腦合作伙(huo)伴(ban)展開(kai)了大(da)量適配對(dui)接(jie)認證工作，并積(ji)累了大(da)量的適配對(dui)接(jie)經驗、模(mo)式(shi)與(yu)(yu)方案，成為了元腦生(sheng)(sheng)態的重要承(cheng)載平(ping)臺(tai)。