上海2018年12月14日(ri)電 /美(mei)通社/ -- 近年來，深(shen)度學習作(zuo)為(wei)AI領(ling)域(yu)較受(shou)歡迎的(de)技(ji)能(neng)之(zhi)一(yi)，在圖像、語音識(shi)別等眾多領(ling)域(yu)都有著(zhu)重大(da)的(de)技(ji)術飛躍(yue)，越來越多的(de)公司在大(da)力開發(fa)基于(yu)深(shen)度學習的(de)能(neng)力。深(shen)度學習始于(yu)研究人腦(nao)神(shen)經元，其涉及(ji)如概(gai)率論、統計(ji)學等多個(ge)學科，目的(de)是使機器有能(neng)力自主“學習”，輔(fu)助人們(men)(men)檢(jian)測、決(jue)策，便利人們(men)(men)的(de)生活，隨著(zhu)深(shen)度學習的(de)不(bu)斷發(fa)展，也在不(bu)斷拓展整個(ge)AI的(de)應(ying)(ying)用(yong)。深(shen)度學習技(ji)術在當(dang)前行(xing)業智能(neng)化(hua)轉型的(de)過程(cheng)中能(neng)夠(gou)發(fa)揮的(de)作(zuo)用(yong)已經不(bu)言而喻，因此，選擇一(yi)款真正便于(yu)應(ying)(ying)用(yong)的(de)高(gao)度集成(cheng)化(hua)深(shen)度學習平臺就成(cheng)了(le)決(jue)策者(zhe)們(men)(men)需要考慮的(de)問題。

近日，七(qi)牛云聯合Gartner最新發布了一份《深(shen)度(du)學(xue)習(xi)平(ping)臺完全實(shi)踐指南》（A Complete Practical Guide of Deep Learning Platform）白(bai)皮書，該(gai)白(bai)皮書從(cong)多(duo)角度(du)闡述了用戶(hu)如何選擇最能滿足業務(wu)需求場景的深(shen)度(du)學(xue)習(xi)平(ping)臺，并(bing)展示深(shen)度(du)學(xue)習(xi)技術(shu)在今后行(xing)業應(ying)用中體現的巨(ju)大(da)價(jia)值，本(ben)文則是結(jie)合Gartner白(bai)皮書進(jin)行(xing)了編譯解讀(du)。

深度學習平臺解讀：十項綜合評價標準需參考

為了(le)更好地(di)滿足業(ye)務場(chang)景并持(chi)續提高研(yan)發能力(li)，國(guo)內外技術(shu)(shu)實力(li)雄(xiong)厚的(de)公司都紛紛發力(li)自研(yan)深度學習(xi)(xi)平臺(tai)(tai)。如 Google Cloud Platform、AWS Machine Learning、騰訊DI-X、阿(a)里云PAI、七牛云AVA等。各大(da)深度學習(xi)(xi)平臺(tai)(tai)都擁有著(zhu)自身(shen)獨到的(de)優(you)勢，然而(er)對于想要將深度學習(xi)(xi)技術(shu)(shu)與業(ye)務場(chang)景充(chong)分結合的(de)使用者來說，有些標(biao)準是在(zai)搭(da)建、選擇平臺(tai)(tai)時需必須(xu)遵(zun)循(xun)的(de)。

在本(ben)篇報告中，則詳細(xi)介紹了選(xuan)擇深度學習(xi)平(ping)臺需要參考的十項(xiang)綜合評價標準，主要包括：

1、支持數據預處理；
2、性能指標可視化；
3、支持全部主流框架，如MXNET、TENSORFLOW、PYTORCH、CAFFE等；
4、訓練參數交換延遲低；
5、具有強可擴展性；
6、用戶友好度高；
7、私有化部署時間短；
8、存儲與計算分離；
9、調參及迭代優化；
10、安全性

為了適(shi)應(ying)用戶不(bu)停變化(hua)的需求(qiu)，深度學習(xi)平臺(tai)則需要不(bu)斷自我(wo)演進，并適(shi)配不(bu)同(tong)的框架和(he)算法，這使得(de)搭建使用深度學習(xi)平臺(tai)的過程(cheng)遇到諸多挑戰(zhan)，但在當(dang)下大規模的深度訓練(lian)平臺(tai)傾向(xiang)于數據存儲和(he)計算獨立擴展，并通過訓練(lian)過程(cheng)的優(you)化(hua)，滿足各(ge)種各(ge)樣(yang)的挑戰(zhan)。

在本篇報告中，則明確指(zhi)出了應對方案，如：基于云存(cun)儲搭建深(shen)度訓練平臺，存(cun)儲系(xi)統具有良好的擴展(zhan)性(xing)；提(ti)供高(gao)效(xiao)(xiao)便捷的數據集管(guan)理，支持格式自動轉換；定制化(hua)計算策略(lve)，提(ti)升(sheng)GPU使用效(xiao)(xiao)率(lv)；優化(hua)流程，提(ti)升(sheng)訓練效(xiao)(xiao)率(lv)；高(gao)性(xing)能深(shen)度學習平臺等應對方案。

綜(zong)上所述，深度訓練的過程中難(nan)免會遇(yu)到各種挑戰(zhan)，但如果能(neng)(neng)利用好(hao)高(gao)性(xing)能(neng)(neng)的深度學習平臺，這些挑戰(zhan)就能(neng)(neng)被逐(zhu)一解決(jue)。

探尋深度學習新路徑：AVA深度學習平臺四大優勢

AVA深度(du)學(xue)習平臺(tai)(tai)基于(yu)通用服務器和(he)(he)標準開源組件搭建，并(bing)在(zai)其中完(wan)成(cheng)大量優化。從以下AVA平臺(tai)(tai)的(de)整(zheng)體架(jia)構(gou)圖可(ke)見，存儲和(he)(he)計算集群獨(du)立建設、演進。由(you)于(yu)存儲完(wan)全搭建在(zai)云端，能(neng)夠同時(shi)對(dui)接各主流廠(chang)商(shang)的(de)對(dui)象存儲，使訓(xun)練不受地(di)域限制，并(bing)配以本地(di)高速(su)緩(huan)存，滿足高性(xing)能(neng)和(he)(he)高擴展(zhan)性(xing)要求。AVA深度(du)學(xue)習平臺(tai)(tai)使用Kubernetes負責(ze)管(guan)理GPU集群，并(bing)配以自定(ding)義的(de)調度(du)器和(he)(he)Quota管(guan)理框(kuang)架(jia)，充分發揮GPU資源，提高訓(xun)練速(su)度(du)。

報告中(zhong)顯示，七牛云AVA深度學習平臺具有如下(xia)優勢：

1、通過資源調度較大化GPU利用率：調度算法設計的好壞對訓練速度和效果有至關重要的影響。對此，AVA做了以下優化，調度時選取具有Affinity的GPU、通過配置，可選均衡調度或集中調度方式，缺省采取集中調度模式。此外，由于不同訓練任務之間可能需要通訊，而位于同一臺機器上兩個訓練任務間的通訊效率明顯高于將任務分置于兩臺機器。通過指定策略，AVA可以通過指定策略，采取不同的調度方法，適應不同的訓練需求。

2、安裝簡單，易于集成和使用：AVA平臺所有(you)(you)服務均基(ji)于(yu)Docker和(he)Kubernetes打造，并(bing)以Docker鏡像加Kubernetes部署(shu)Yaml腳本方(fang)式對(dui)(dui)外提供(gong)服務。AVA平臺可同(tong)時部署(shu)在公有(you)(you)云和(he)私(si)有(you)(you)云。對(dui)(dui)接常用的(de)公有(you)(you)云標準組件，只需(xu)一天即(ji)可完成部署(shu)調(diao)(diao)試(shi)，而對(dui)(dui)于(yu)比較復雜的(de)私(si)有(you)(you)云環境，也只需(xu)2到3天即(ji)可完成部署(shu)和(he)調(diao)(diao)試(shi)過程。

3、部署靈活，支持公有云和私有云：AVA平(ping)臺具有(you)很大的(de)靈(ling)活性，既(ji)可(ke)以部(bu)署(shu)(shu)在(zai)私(si)有(you)云環境(jing)中，也可(ke)以部(bu)署(shu)(shu)在(zai)不(bu)同的(de)公(gong)有(you)云環境(jing)中，且能避免數(shu)據(ju)或(huo)服(fu)務局限在(zai)單一服(fu)務商。用(yong)戶(hu)完(wan)成部(bu)署(shu)(shu)后，能夠方便地(di)從(cong)公(gong)有(you)云遷(qian)到私(si)有(you)云，反之(zhi)亦然。對(dui)于(yu)數(shu)據(ju)較為敏感的(de)行業，用(yong)戶(hu)可(ke)以將AVA平(ping)臺部(bu)署(shu)(shu)于(yu)私(si)有(you)存儲系統，在(zai)數(shu)據(ju)不(bu)出島(dao)的(de)情況下進(jin)行訓(xun)練。此外訓(xun)練平(ping)臺和(he)數(shu)據(ju)可(ke)以分開部(bu)署(shu)(shu)，使用(yong)存放(fang)在(zai)AWS或(huo)Azure的(de)數(shu)據(ju)在(zai)AVA平(ping)臺進(jin)行訓(xun)練，不(bu)需要數(shu)據(ju)遷(qian)移。

4、高效的調參和迭代管理：參數(shu)(shu)的(de)選(xuan)擇對于深度(du)訓(xun)(xun)練(lian)(lian)的(de)效(xiao)果同樣重要。為(wei)了獲得高精(jing)度(du)的(de)模(mo)(mo)型，深度(du)訓(xun)(xun)練(lian)(lian)需(xu)要反復觀察訓(xun)(xun)練(lian)(lian)精(jing)度(du)和(he)損失(shi)率(lv)，并不(bu)停調整模(mo)(mo)型層次結構、學習率(lv)等(deng)參數(shu)(shu)。AVA平臺能夠(gou)整合訓(xun)(xun)練(lian)(lian)過程，使用高效(xiao)搜索和(he)排序算法，并根據預定義規(gui)則，自動或半自動挑(tiao)選(xuan)網(wang)絡模(mo)(mo)型及(ji)組合不(bu)同的(de)訓(xun)(xun)練(lian)(lian)參數(shu)(shu)，批量運(yun)行深度(du)訓(xun)(xun)練(lian)(lian)。

AI時代下，AVA深度學習平臺創造更多價值

可以看到，有了(le)AVA深(shen)度學(xue)習平臺的(de)依(yi)托，算法人員能在(zai)短時間內實現許(xu)多高(gao)難度訓練，并且(qie)將其運用于(yu)實際生產中(zhong)。對此(ci)，報(bao)告中(zhong)基于(yu)AVA深(shen)度學(xue)習平臺應用，能夠為行(xing)業(ye)帶來的(de)價(jia)值進(jin)行(xing)了(le)舉例(li)說明(ming)。

在內容安全審核方面，對于企業來說，如果(guo)(guo)全部依(yi)靠人(ren)工完成針對色情、暴恐(kong)、政治敏感內容的識別，將會造成大量的人(ren)力、物(wu)力、管理(li)等額外(wai)成本。原(yuan)本每人(ren)每日只能審(shen)核幾百張的圖片(pian)，在結(jie)合AVA深度(du)學習平臺后(hou)，這項應(ying)用的效率得(de)到了指數級(ji)的提升，圖片(pian)、視(shi)頻日處(chu)(chu)理(li)量可(ke)達十億(yi)級(ji)規模，毫秒級(ji)處(chu)(chu)理(li)結(jie)果(guo)(guo)響應(ying)。

在智慧城市方面，城(cheng)市建筑垃圾產出大(da)，污染嚴重(zhong)，要解決這個問(wen)題渣土車(che)超速(su)行(xing)駛、占道、沿(yan)路拋灑(sa)等的問(wen)題，可以通(tong)過(guo)(guo)計算機視覺(jue)，利(li)用交管攝像頭對渣土車(che)進(jin)行(xing)識別(bie)，對違法行(xing)為(wei)實現智能(neng)(neng)告警，形(xing)成對渣土運(yun)營(ying)的“出土--運(yun)輸--回填”監管閉環，大(da)幅提升治理(li)效率(lv)與(yu)效果。基于強(qiang)大(da)GPU集(ji)群算力和(he)優秀的深度學習算法的AI模型，能(neng)(neng)夠在AVA平臺上快速(su)迭代(dai)，并結合用戶的反饋不斷進(jin)行(xing)升級。通(tong)過(guo)(guo)私有化部署保障(zhang)數據安全，正是城(cheng)市運(yun)營(ying)與(yu)管理(li)所需要的。

在智慧廣電方面，廣(guang)電行業存儲的(de)(de)(de)(de)數(shu)據巨大，每(mei)個頻道每(mei)年(nian)累計點(dian)播的(de)(de)(de)(de)數(shu)據量可(ke)達百萬小時級別。并(bing)且，由于新聞具(ju)有(you)時效(xiao)性，看似價(jia)值密度(du)并(bing)不很高的(de)(de)(de)(de)數(shu)據，如果得到有(you)效(xiao)利用(yong)，實際上是(shi)極具(ju)社(she)會價(jia)值的(de)(de)(de)(de)。目前的(de)(de)(de)(de)云播控和云媒(mei)資，分別對應直播場(chang)景(jing)和點(dian)播場(chang)景(jing)，這些(xie)產(chan)品都是(shi)基于深度(du)學習(xi)的(de)(de)(de)(de)。結合AVA后，直播調度(du)和直播互動的(de)(de)(de)(de)效(xiao)率提升50%，并(bing)能(neng)節約20%的(de)(de)(de)(de)人力；媒(mei)資管理效(xiao)率提升30%，并(bing)能(neng)節約50%的(de)(de)(de)(de)人力。一(yi)個優秀的(de)(de)(de)(de)深度(du)學習(xi)平臺就像一(yi)個地(di)基，有(you)了平穩的(de)(de)(de)(de)基礎，才能(neng)夠開始搭建目標分割、特征學習(xi)、動態回歸(gui)、時序(xu)分析、目標角度(du)歸(gui)一(yi)化等(deng)的(de)(de)(de)(de)“磚頭(tou)”，將業務細細打磨。

除此之外，報告中還列舉了深度學習在醫療、交管、物流、教育等行業的應用價值。從(cong)報(bao)告中可以看到，深度學習的價值巨大，目前可預見的未來發展也很廣闊。除了上文的應用，能(neng)做的(de)(de)還有更多(duo)(duo)：結合虛擬現實，將AR應(ying)用(yong)于更多(duo)(duo)的(de)(de)如(ru)看房、游戲等的(de)(de)商業場景(jing)，多(duo)(duo)行(xing)業開發工業機(ji)器人等等；家居助理、文本(ben)翻譯、智能問(wen)答、無人駕(jia)駛(shi)、航天(tian)航空、軍事機(ji)器等的(de)(de)應(ying)用(yong)都(dou)將越來越成熟(shu)。在實現大(da)(da)量應(ying)用(yong)的(de)(de)過程中(zhong)，充分利用(yong)深度學習(xi)平臺(tai)來實現算(suan)法優(you)(you)化將是(shi)產品(pin)告訴(su)落地的(de)(de)關(guan)鍵。深度學習(xi)技術是(shi)未來的(de)(de)大(da)(da)勢所趨，選(xuan)擇(ze)優(you)(you)秀的(de)(de)深度學習(xi)平臺(tai)則是(shi)當下的(de)(de)最優(you)(you)選(xuan)擇(ze)和必(bi)經之路。

想了解更多《深度學習平臺完全實踐指南》的相關內容，可點擊詳細報告：

Gartner白皮書英文版鏈接：

Gartner白皮書中文版鏈接：