上海2020年12月21日 /美(mei)通社/ -- 燧原科技(ji)今日發布(bu)首款(kuan)人工智能(neng)(neng)推理(li)產品(pin) “云(yun)燧®i10”。這是一款(kuan)面(mian)向(xiang)云(yun)端數(shu)據(ju)(ju)中心(xin)的高性能(neng)(neng)推理(li)卡(ka)。云(yun)燧i10是單槽位標(biao)準卡(ka),支持PCIe 4.0,FP32算力達到17.6TFLOPS,BF16/FP16算力70.4TFLOPS。同時,燧原科技(ji)發布(bu)了(le)推理(li)引擎“鑒算TopsInference”,可以為深度學習應用提供低延遲、高吞吐率的推理(li)性能(neng)(neng),并(bing)降低數(shu)據(ju)(ju)中心(xin)的部署成本。云(yun)燧i10將(jiang)于明年第一季(ji)度上市。
燧原科技發布首(shou)款人(ren)工智能推(tui)理產品(pin) -- “云燧i10”
根據(ju)權(quan)威市(shi)場機(ji)構預(yu)測,云數據(ju)中心對于(yu)人工智能推(tui)(tui)理芯片的需(xu)求將從2022年開始超(chao)越對于(yu)訓練芯片的需(xu)求,整個推(tui)(tui)理市(shi)場蓄勢待發(fa)。云端推(tui)(tui)理解決方案更注重綜(zong)合指(zhi)標,包括(kuo)算力、時延、成本(ben)等,也(ye)更為(wei)關注用戶(hu)體驗的優化。
“云燧i10”擁(yong)有卓越的(de)算力、出(chu)色的(de)通用性以(yi)及優(you)異的(de)價值特性:
燧原科技同時推(tui)出(chu)針(zhen)對推(tui)理(li)產品的(de)高性(xing)能(neng)神經網絡模(mo)型推(tui)理(li)引擎“鑒算(suan)(suan)TopsInference”,通(tong)過計(ji)算(suan)(suan)圖優化(hua)、算(suan)(suan)子融合、模(mo)型壓(ya)縮、量化(hua)等優化(hua)技術,可(ke)以為深度(du)學習應(ying)用提供低延遲、高吞吐率的(de)推(tui)理(li)性(xing)能(neng)。通(tong)過TopsInference的(de)推(tui)理(li)加速,配合i10 的(de)高算(suan)(suan)力及虛擬化(hua)技術,數(shu)據中心可(ke)以高性(xing)價比地部署計(ji)算(suan)(suan)密集型深度(du)學習工作負載。此(ci)外TopsInference除TensorFlow、PyTorch模(mo)型格式外,還支持ONNX通(tong)用模(mo)型格式,借助(zhu)燧原GCU-CARA架(jia)構(gou)的(de)可(ke)編(bian)程性(xing),可(ke)以應(ying)對未來(lai)深度(du)神經網絡日(ri)益多樣化(hua)、復雜(za)的(de)增(zeng)長趨勢。
燧原(yuan)科技(ji)創始人兼CEO趙(zhao)立東表(biao)示燧原(yuan)科技(ji)要堅持(chi)雙輪驅動(dong),爭做(zuo)行(xing)業領導者
“繼去(qu)年12月發(fa)(fa)布了(le)首款面(mian)向數(shu)據中心的(de)(de)人工智能訓(xun)練(lian)加(jia)速(su)(su)卡“云(yun)(yun)(yun)燧(sui)(sui)(sui)T10”,今天(tian)我們(men)又推(tui)(tui)出針對(dui)云(yun)(yun)(yun)端推(tui)(tui)理市(shi)場(chang)的(de)(de)第(di)一款人工智能推(tui)(tui)理加(jia)速(su)(su)卡“云(yun)(yun)(yun)燧(sui)(sui)(sui)i10”,以滿足由(you)于AI應用(yong)和(he)落(luo)地(di)場(chang)景迅速(su)(su)擴(kuo)大,市(shi)場(chang)和(he)客戶對(dui)更(geng)高性(xing)價比(bi)以及(ji)國(guo)產(chan)化和(he)差異(yi)化云(yun)(yun)(yun)端推(tui)(tui)理產(chan)品的(de)(de)需求。燧(sui)(sui)(sui)原(yuan)科技也因(yin)此成(cheng)為(wei)國(guo)內(nei)唯一一家同時擁有(you)云(yun)(yun)(yun)端訓(xun)練(lian)和(he)推(tui)(tui)理加(jia)速(su)(su)產(chan)品的(de)(de)初創公司,形成(cheng)業務閉環(huan)。”燧(sui)(sui)(sui)原(yuan)科技CEO趙立東表示(shi),“當前全球科技產(chan)業特別(bie)是集成(cheng)電路(lu)產(chan)業正在(zai)發(fa)(fa)生(sheng)深刻變(bian)革,燧(sui)(sui)(sui)原(yuan)科技會繼續加(jia)速(su)(su)技術(shu)創新和(he)產(chan)品迭代,拉近與(yu)世(shi)界先進水(shui)平的(de)(de)距(ju)離,構筑自主創新技術(shu)的(de)(de)護城(cheng)河。與(yu)此同時,與(yu)上下游(you)伙伴合作,加(jia)速(su)(su)業務落(luo)地(di),擴(kuo)大市(shi)場(chang)規模。針對(dui)互聯網數(shu)據中心、垂直行業(金(jin)融(rong)、保險、教育、醫療及(ji)運營商(shang)等)、新基建三大業務方向的(de)(de)應用(yong)場(chang)景,完善訓(xun)練(lian)和(he)推(tui)(tui)理軟(ruan)件棧、工具(ju)鏈和(he)解決方案。通過產(chan)學(xue)研協作,共建國(guo)產(chan)化產(chan)業生(sheng)態,助力(li)中國(guo)人工智能和(he)集成(cheng)電路(lu)產(chan)業的(de)(de)發(fa)(fa)展。”
燧原(yuan)科技(ji)創始人兼COO張亞(ya)林介紹“云燧i10”推理(li)系統
燧(sui)原科技COO張亞林介紹(shao)道:“云(yun)燧(sui)i10在(zai)多項基準測試中(zhong),性能領先(xian),并已完成與浪潮(chao)、新華(hua)三及Supermicro等(deng)服務器廠商(shang)推(tui)理服務器的(de)適配(pei)。可(ke)適用(yong)于視頻圖像、語(yu)音、自(zi)然(ran)語(yu)言處理、知識圖譜等(deng)多種應用(yong)場景,并針對內容(rong)理解、推(tui)薦(jian)、識別等(deng)高精度(du)場景做了優化(hua)。與此(ci)同(tong)時,面向(xiang)多元的(de)開(kai)發需求(qiu),我們提供不同(tong)層(ceng)次的(de)開(kai)發模(mo)式,針對客(ke)(ke)戶(hu)定制化(hua)算法模(mo)型(xing)(xing)聯合開(kai)發,從而實(shi)現與客(ke)(ke)戶(hu)的(de)雙贏(ying)。此(ci)外,云(yun)燧(sui)i10與云(yun)燧(sui)T10以及“馭算TopsRider”軟件平臺搭配(pei),可(ke)實(shi)現算法模(mo)型(xing)(xing)在(zai)數據中(zhong)心訓推(tui)一體(ti)化(hua)的(de)快速(su)生產部(bu)署。”