北京2021年11月17日 /美通社/ -- 日前,亞馬遜云科技宣布Amazon Elastic Compute Cloud (Amazon EC2) DL1實例正式可用,這是一種專為訓練機器學習模型而設計的新實例類型。Amazon EC2 DL1實例由來自Habana Labs 的Gaudi加速器提供支持,與當前基于GPU的Amazon EC2實例相比,其機器學習模型訓練性價比提高40%。借助Amazon EC2 DL1實例,客戶可以針對自然語言處理、對象檢測和分類、欺詐檢測、推薦和個性化引擎、智能文檔處理、業務預測等工作負載進行優化,更快、更經濟高效地訓練他們的機器學習模型。Amazon EC2 DL1實例可通過低成本的即用即付模式按需提供,無需預付費用。
機(ji)(ji)器(qi)(qi)(qi)學習(xi)正成為(wei)主(zhu)流(liu),在云中大(da)規模(mo)(mo)(mo)部(bu)署機(ji)(ji)器(qi)(qi)(qi)學習(xi)模(mo)(mo)(mo)型,已經(jing)對企業(ye)的(de)業(ye)務產(chan)生了(le)實(shi)際的(de)影響(xiang)。要在其業(ye)務應(ying)用(yong)(yong)中使(shi)用(yong)(yong)機(ji)(ji)器(qi)(qi)(qi)學習(xi),客戶需(xu)要從構建和(he)訓練(lian)(lian)模(mo)(mo)(mo)型開始,通過從樣本數據中學習(xi)來識別模(mo)(mo)(mo)式,然(ran)后(hou)再將模(mo)(mo)(mo)型應(ying)用(yong)(yong)于新(xin)數據,進行(xing)預測(ce)(ce)。例如,基于大(da)量(liang)呼(hu)叫中心通話(hua)記錄而訓練(lian)(lian)的(de)機(ji)(ji)器(qi)(qi)(qi)學習(xi)模(mo)(mo)(mo)型,可(ke)以做出預測(ce)(ce)來通過聊天(tian)對話(hua)機(ji)(ji)器(qi)(qi)(qi)人為(wei)客戶提供實(shi)時個性化幫助(zhu)。為(wei)了(le)提高模(mo)(mo)(mo)型的(de)預測(ce)(ce)準確性,數據科學家和(he)機(ji)(ji)器(qi)(qi)(qi)學習(xi)工(gong)(gong)程師正在構建越來越大(da)且復雜的(de)模(mo)(mo)(mo)型。為(wei)了(le)保持模(mo)(mo)(mo)型的(de)預測(ce)(ce)準確性和(he)高質量(liang),工(gong)(gong)程師們需(xu)要經(jing)常調(diao)整和(he)重新(xin)訓練(lian)(lian)模(mo)(mo)(mo)型。這需(xu)要大(da)量(liang)的(de)高性能計算資源,導致基礎設施成本增加。這些成本可(ke)能讓客戶無法以維持高精度預測(ce)(ce)所需(xu)的(de)頻率重新(xin)訓練(lian)(lian)模(mo)(mo)(mo)型,同時也給想要開始試(shi)驗機(ji)(ji)器(qi)(qi)(qi)學習(xi)的(de)客戶帶來阻礙(ai)。
全新Amazon EC2 DL1實(shi)(shi)(shi)(shi)例(li)(li)(li)使(shi)用(yong)專(zhuan)為加(jia)速機(ji)器學(xue)習(xi)模型訓(xun)練而構建的(de)Gaudi加(jia)速器,與通用(yong)GPU相(xiang)比(bi),它以更(geng)低的(de)成本(ben)(ben)提(ti)供更(geng)高的(de)計(ji)算效率。DL1實(shi)(shi)(shi)(shi)例(li)(li)(li)配備多達8個Gaudi加(jia)速器、256GB 高帶寬(kuan)內(nei)存(cun)、768GB系統內(nei)存(cun)、定制的(de)第二代(dai)(dai)英特爾至強可(ke)擴展(Cascade Lake)處(chu)理器、400Gbps的(de)網絡吞(tun)吐量和(he)4TB的(de)本(ben)(ben)地NVMe存(cun)儲(chu)。這些(xie)創新疊加(jia),比(bi)當(dang)前用(yong)于(yu)機(ji)器學(xue)習(xi)常見模型訓(xun)練的(de)基于(yu)GPU的(de)Amazon EC2實(shi)(shi)(shi)(shi)例(li)(li)(li)的(de)性價比(bi)提(ti)高40%。客戶可(ke)以使(shi)用(yong)與主流機(ji)器學(xue)習(xi)框架(如(ru)TensorFlow和(he)PyTorch)集成的(de)Habana SynapseAI SDK快速輕松地開(kai)始使(shi)用(yong)DL1實(shi)(shi)(shi)(shi)例(li)(li)(li),只需更(geng)改少量代(dai)(dai)碼,即可(ke)將其當(dang)前在基于(yu)GPU或基于(yu)CPU的(de)實(shi)(shi)(shi)(shi)例(li)(li)(li)上運行的(de)機(ji)器學(xue)習(xi)模型無縫遷移到DL1實(shi)(shi)(shi)(shi)例(li)(li)(li)進(jin)行訓(xun)練。開(kai)發人員和(he)數據科學(xue)家(jia)還可(ke)以從Habana GitHub存(cun)儲(chu)庫(ku)中提(ti)供的(de)針對Gaudi加(jia)速器優化的(de)參考模型開(kai)始,其中包(bao)括(kuo)適(shi)用(yong)于(yu)各種應用(yong)程序的(de)流行模型,包(bao)括(kuo)圖(tu)像(xiang)分類、對象檢測、自然語(yu)言處(chu)理和(he)推薦系統。
亞馬遜云(yun)科(ke)(ke)技Amazon EC2副總裁David Brown表示(shi):“機(ji)器(qi)學習的(de)使用正在(zai)激增。然而,機(ji)器(qi)學習模(mo)型(xing)訓練(lian)(lian)的(de)一大挑戰(zhan)是計算密集(ji)型(xing)負載(zai),同時隨(sui)著客戶不斷改(gai)進和重(zhong)新訓練(lian)(lian)模(mo)型(xing),成本(ben)也會(hui)變高。亞馬遜云(yun)科(ke)(ke)技為(wei)任何機(ji)器(qi)學習項(xiang)目或應用程序提(ti)供了廣泛(fan)而強大的(de)計算選項(xiang)。采用Gaudi加速(su)器(qi)的(de)DL1實例為(wei)云(yun)中基于(yu)GPU的(de)實例提(ti)供了迄今為(wei)止最(zui)具性(xing)(xing)價比(bi)的(de)替代方案。這一價格和性(xing)(xing)能的(de)最(zui)佳組合讓客戶可以降低訓練(lian)(lian)成本(ben),訓練(lian)(lian)更多模(mo)型(xing)并加快創新速(su)度。”
客(ke)戶(hu)可以(yi)使用(yong)(yong)Amazon Deep Learning AMI、Amazon Elastic Kubernetes Service (Amazon EKS) 或(huo)Amazon Elastic Container Service (Amazon ECS) 為(wei)容器化(hua)應用(yong)(yong)程序啟動(dong)DL1實(shi)(shi)例(li)。通(tong)(tong)過(guo)Amazon SageMaker訪問DL1實(shi)(shi)例(li),客(ke)戶(hu)基(ji)于托管服務的體驗,讓開發人員(yuan)和數據科學家在云端(duan)構(gou)建、訓練機器學習模型,以(yi)及在云端(duan)和邊緣端(duan)部署,變得更(geng)加(jia)輕松和快捷。DL1實(shi)(shi)例(li)受益(yi)于Amazon Nitro系統(tong),可將許多傳統(tong)虛(xu)擬(ni)化(hua)功(gong)能卸載到專用(yong)(yong)硬件(jian)和軟件(jian),以(yi)提供高性能、高可用(yong)(yong)性和高安全(quan)性,同時降低虛(xu)擬(ni)化(hua)開銷(xiao)。DL1實(shi)(shi)例(li)可作為(wei)按(an)需實(shi)(shi)例(li)、通(tong)(tong)過(guo)Saving Plans、預(yu)留實(shi)(shi)例(li)或(huo)Spot實(shi)(shi)例(li)購買。DL1實(shi)(shi)例(li)目前已(yi)在美(mei)國東部(弗吉尼亞北部)和美(mei)國西部(俄勒岡)區域(yu)正式可用(yong)(yong)。
希(xi)捷科(ke)技40多(duo)(duo)年來一直是提供(gong)數據存儲(chu)和(he)管理(li)解決方案的(de)(de)全球(qiu)領導者。希(xi)捷的(de)(de)數據科(ke)學和(he)機器學習工程(cheng)師已經構建了一個先進的(de)(de)深度學習(DL)缺陷檢測(ce)系統,并將其部署在公司的(de)(de)全球(qiu)制造設施中(zhong)。在最(zui)近的(de)(de)概念驗證項目中(zhong),Habana Gaudi超越了Seagate當(dang)前訓(xun)練一個用于生產的(de)(de)DL語義分(fen)割模(mo)型的(de)(de)性(xing)能目標(biao)。“我們期(qi)待(dai)由Habana Gaudi加速器提供(gong)支持的(de)(de)Amazon EC2 DL1實例帶來的(de)(de)顯著(zhu)性(xing)價比優(you)勢,希(xi)望該實例成(cheng)為(wei)亞(ya)馬遜云科(ke)技計算集(ji)群的(de)(de)有力補充。”希(xi)捷運營(ying)(ying)、技術和(he)高級分(fen)析高級工程(cheng)總(zong)監Darrell Louder表示:“隨著(zhu)Habana Labs不斷發(fa)展(zhan)并覆蓋(gai)更(geng)多(duo)(duo)的(de)(de)運營(ying)(ying)者,將Amazon EC2 DL1擴展(zhan)到更(geng)多(duo)(duo)企業用例的(de)(de)潛(qian)力巨大,從而(er)能夠進一步節省成(cheng)本。”
英特爾(er)(er)開(kai)發(fa)了3D運動(dong)(dong)員跟蹤技術,可(ke)實(shi)時分析(xi)運動(dong)(dong)員的(de)動(dong)(dong)作視頻(pin),為訓練過(guo)程表(biao)現提供信(xin)息,并增強比(bi)賽期(qi)間的(de)觀(guan)眾體驗。“在由Habana Gaudi加速器提供支(zhi)持的(de)Amazon EC2 DL1實(shi)例上(shang)訓練模(mo)型,讓我們可(ke)以(yi)準確可(ke)靠地處(chu)理(li)數千個視頻(pin)并生成相關性能數據,同時降低訓練成本(ben)。”英特爾(er)(er)銷售與市場(chang)營銷集團副總裁Rick Echevarria表(biao)示(shi),“通過(guo)使用DL1實(shi)例,可(ke)以(yi)滿足我們高速度(du)和低成本(ben)的(de)模(mo)型訓練需求,為各類(lei)運動(dong)(dong)以(yi)及(ji)各個級別(bie)的(de)運動(dong)(dong)員、團隊和廣播公司提供高效的(de)服務。”
Riskfuel為(wei)管理金融投資組合的(de)公司提(ti)供實(shi)時(shi)估值和風(feng)險(xian)敏(min)感(gan)評估,幫助他們(men)(men)提(ti)高交易準確性和績效(xiao)表現(xian)。Riskfuel首(shou)席(xi)執行(xing)官Ryan Ferguson表示:“有(you)兩個因素吸引我(wo)(wo)們(men)(men)使用基于Habana Gaudi AI加速器的(de)Amazon EC2 DL1實(shi)例(li)(li)。首(shou)先,我(wo)(wo)們(men)(men)希望確保銀行(xing)和保險(xian)客戶能夠運行(xing)Riskfuel模型以充分利用最新(xin)硬件。我(wo)(wo)們(men)(men)發(fa)現(xian),只需更改幾行(xing)代碼,即可將模型簡單(dan)直接的(de)遷(qian)移到DL1實(shi)例(li)(li)。其(qi)次,模型訓練成本(ben)是支(zhi)出(chu)的(de)重(zhong)要組成部分,DL1實(shi)例(li)(li)性價(jia)比提(ti)升40%,為(wei)我(wo)(wo)們(men)(men)帶來了潛(qian)在(zai)的(de)實(shi)質性收益。”
引領風向,重塑未來 2021亞馬遜云科技re:Invent全球大會即將開啟
備受業(ye)界關(guan)注(zhu)的2021亞馬(ma)遜云科(ke)技re:Invent全(quan)(quan)球大(da)會(hui),將于(yu)2021年(nian)11月29日(當地時(shi)間)在美國盛大(da)開(kai)啟。始于(yu)2012年(nian)的亞馬(ma)遜云科(ke)技re:Invent全(quan)(quan)球大(da)會(hui)是全(quan)(quan)球云計算(suan)領(ling)域領(ling)先的行(xing)業(ye)盛會(hui)。今年(nian)正(zheng)值(zhi)re:Invent全(quan)(quan)球大(da)會(hui)十(shi)周年(nian),亞馬(ma)遜云科(ke)技將發(fa)布一系列(lie)重塑未(wei)(wei)來的創(chuang)新技術和服務,并邀(yao)請全(quan)(quan)球各(ge)行(xing)各(ge)業(ye)的客戶及亞馬(ma)遜云科(ke)技合作伙伴分享(xiang)前沿商(shang)業(ye)創(chuang)新實踐,繼續引領(ling)云技術和產業(ye)未(wei)(wei)來發(fa)展的風向。本次大(da)會(hui)將進行(xing)同步線上直播,詳情可關(guan)注(zhu)亞馬(ma)遜云科(ke)技官方微信。