杭州2017年2月14日電 /美通社/ -- 在2月12日(ri)“2017 Kubernetes Meetup 中(zhong)國”開幕典禮暨“2.12上(shang)海站”活動中(zhong),才云(yun)發布了全(quan)球首(shou)個 TensorFlow as a Service (TaaS) v1.0.0 深度(du)學習平臺。
谷歌深度學習框架 TensorFlow 自2015年11月開源以來受到了學術界和工業界的廣泛關注。然而要將 TensorFlow 真正地應用于生產環境中仍然存在很大的挑戰。為了進一步降低 TensorFlow 的使用門檻,才云(caicloud.io)早在 2016 年4月即發布國內首個基于容器集群的分布式深度學習 TensorFlow 系統 Clever,于2月12日正(zheng)式發(fa)布產品 TensorFlow as a Service (TaaS) v1.0.0 商用版(ban)。
TaaS v.1.0.0 包括支持 CPU 和(he) GPU 的(de)分布式 TensorFlow 模型訓(xun)練平(ping)臺和(he) TensorFlow 模型托管平(ping)臺。通(tong)過將 TensorFlow 與(yu)谷歌(ge)開(kai)源的(de)容器云平(ping)臺管理工具(ju) Kubernetes 結合, Caicloud 提供(gong)的(de) TaaS 服(fu)務解(jie)決了 TensorFlow 在使用中(zhong)學(xue)習成本高、管理難(nan)、監控(kong)難(nan)、上線難(nan)等問題,旨在幫助企(qi)業(ye)更快、更容易(yi)地體驗(yan)和(he)應用最新深度學(xue)習技術(shu)。 Caicloud 作為國內首家提供(gong)商用分布式 TensorFlow 解(jie)決方案的(de)云平(ping)臺,將引領大數據市場發展的(de)新潮流。
谷歌深度學習框架 TensorFlow
TensorFlow 在谷歌內外(wai)都已經(jing)得到了(le)廣(guang)泛的應用。
在谷(gu)歌(ge)內,語音搜索、廣告、電商、圖(tu)片、街景圖(tu)、翻譯、 YouTube 等眾多產品之中都有基于 TensorFlow 的(de)(de)系(xi)統(tong)(tong)。AlphaGo 的(de)(de)開(kai)發團隊 DeepMind 也正式宣布其開(kai)發的(de)(de)系(xi)統(tong)(tong)將全(quan)部基于 TensorFlow 。
在谷歌外,優步(Uber)、Snapchat、Twitter、京東、小米等國內外科技公司也加入了使用 TensorFlow 的行列。在短短的一年時間內, TensorFlow 在開源社區 Github 上的活躍度已遠超 Caffe 、MXNet 、Torch 、Theano 等其他開源深度學習工具。
TensorFlow 生產化的難點
雖(sui)然(ran) TensorFlow 在眾多大型 IT 公司已得到了廣(guang)(guang)泛的(de)使用,但在廣(guang)(guang)大的(de)中(zhong)小型 IT 企業(ye)以及傳統企業(ye)中(zhong),要將其(qi)應用于生產環境(jing)卻(que)仍然(ran)存在挑(tiao)戰(zhan)。
在單機(ji)環境下,即使使用目前先進(jin)的 GPU 都無法滿(man)足訓練(lian)大(da)型深度學習(xi)模型的計(ji)算量要求。
而(er)在(zai)集群環境下(xia), TensorFlow 存在(zai)高門(men)檻(jian)、難(nan)配(pei)置、難(nan)管理(li)等問(wen)題(ti)。分(fen)布式 TensorFlow 也不支持多(duo)用(yong)戶(hu)管理(li),在(zai)多(duo)用(yong)戶(hu)同時使用(yong)時存在(zai)資源和權(quan)限分(fen)配(pei)等問(wen)題(ti)。
Caicloud 解決方案
為了讓更多企業(ye)能(neng)夠享受到(dao) TensorFlow 帶來的(de)人(ren)工(gong)智能(neng)技術革(ge)新,Caicloud 提供(gong)了產品 TensorFlow as a Service (TaaS) v1.0.0 來搭建企業(ye)版(ban)的(de) TensorFlow 平臺。
TaaS 可(ke)以幫助企業更好的管理分布(bu)式 TensorFlow 的模型(xing)訓練(lian)過程,并一鍵上線訓練(lian)好的 TensorFlow 模型(xing)。下(xia)表(biao)對比了原生態(tai)分布(bu)式TensorFlow和Caicloud TaaS 平臺的差異:
目(mu)(mu)前,Caicloud 已經將 TaaS 實際應用(yong)于(yu)很多大(da)數(shu)據項目(mu)(mu)中,并對外提供企業級大(da)數(shu)據解決(jue)方案服(fu)務。
雖(sui)然 TaaS 可以極大程度降低企業使(shi)用 TensorFlow 的門檻,但(dan)為了(le)進(jin)一步幫(bang)助(zhu)企業節約研(yan)發投入(ru),直接享用深度學(xue)(xue)習技術(shu),Caicloud 提供了(le)大數據解決(jue)方案服務(wu)。Caicloud 通過在深度學(xue)(xue)習算法和平臺上的技術(shu)積(ji)累,已為安防、電商、金(jin)融、物(wu)流等(deng)多(duo)個行(xing)業提供大數據服務(wu)。
Caicloud 基于不同應用(yong)場景,針對性地進行數據(ju)分析和模型訓練,把大數據(ju)融入到各個行業的(de)深層次業務中。通過(guo)(guo) TaaS 平(ping)臺,Caicloud 大數據(ju)解決方案可以更(geng)有效地利用(yong)海量數據(ju),從而更(geng)多地挖掘數據(ju)中的(de)價(jia)值。在一些實際(ji)問(wen)題(ti)中,通過(guo)(guo) TaaS 平(ping)臺訓練得(de)到的(de)模型可以成功地將正確(que)率(lv)提升 80%。
TaaS分布式模型訓練平臺先睹為快
提交訓練任務界面:
任務監控界面:
啟(qi)動 TensorFlow Serving:
通過界(jie)面調試API:
才云計劃將在 2017 年 3 月底發行 TaaS 的下一個演進版本 v.2.0.0。除了 TaaS 私有云產品進一步加強外,未來還將有邀請制公有云內測版本,歡迎密切關注(zhu)。如有業務需求,歡迎垂詢: