域名預(yù)訂/競(jìng)價(jià),好“米”不錯(cuò)過(guò)
上周,全球計(jì)算機(jī)多媒體頂級(jí)會(huì)議ICME 2019(國(guó)際多媒體與博覽會(huì)議)在上海圓滿(mǎn)結(jié)束,網(wǎng)易易盾深度學(xué)習(xí)資深研發(fā)工程師姚益武受邀出席會(huì)議,展示了網(wǎng)易易盾在深度卷積神經(jīng)網(wǎng)絡(luò)int8量化算法上的最新研究成果。
ICME簽到處
ICME由 IEEE 下設(shè)的計(jì)算機(jī)學(xué)會(huì)、電路與系統(tǒng)學(xué)會(huì)、通信學(xué)會(huì)、信號(hào)處理學(xué)會(huì)聯(lián)合舉辦,始于 2000 年,至今已經(jīng)連續(xù)舉辦了 19 屆,是計(jì)算機(jī)多媒體領(lǐng)域最重要的國(guó)際會(huì)議之一。ICME是學(xué)術(shù)界交流多媒體領(lǐng)域最近研究成果的旗艦論壇,也是工業(yè)界展示最新產(chǎn)品或系統(tǒng)的平臺(tái),涵蓋文本分析、圖形圖像、視頻、語(yǔ)音音頻等多媒體數(shù)據(jù)的處理、傳輸、分析與應(yīng)用等主題。
在本次會(huì)議上,網(wǎng)易易盾深度學(xué)習(xí)資深研發(fā)工程師姚益武發(fā)表了題為《Efficient Implementation of Convolutional Neural Networks with End to End Integer Only Dataflow》的學(xué)術(shù)論文,展示了有助于構(gòu)建端到端的純整數(shù)運(yùn)算通路的int8量化新算法。
姚益武表示,Int8量化由于精度損失低,能夠?qū)崿F(xiàn)4倍壓縮比,且兼容于現(xiàn)有的整數(shù)運(yùn)算單元,在產(chǎn)業(yè)界已經(jīng)獲得廣泛應(yīng)用,包括TensorFlow-Lite與TensorRT涉及的int8量化算法。
他指出,TensorFlow-Lite中的in8量化屬于線(xiàn)性量化方法,但是為了執(zhí)行量化卷積或矩陣乘法運(yùn)算,需要提供額外的浮點(diǎn)乘因子,因而所構(gòu)建的量化網(wǎng)絡(luò)并非純整數(shù)運(yùn)算通路,并且該量化算法需要借助重訓(xùn)練以恢復(fù)精度損失。
“TensorRT中的線(xiàn)性int8量化方法,能夠在NVIDIA平臺(tái)上提供高吞吐、低延遲的推理性能,深度網(wǎng)絡(luò)的權(quán)重按非閾值方式映射到int8區(qū)間,激活輸出則按照閾值方式完成int8量化,每一層的實(shí)現(xiàn)方式相對(duì)簡(jiǎn)單。然而當(dāng)前層的整數(shù)結(jié)果需要還原回浮點(diǎn)實(shí)數(shù),方能傳遞至下一層,因此也不能構(gòu)建端到端的純整數(shù)運(yùn)算通路。”
姚益武在ICME 2019上提出的int8量化新算法有助于構(gòu)建端到端的純整數(shù)運(yùn)算通路,且統(tǒng)一表示層的設(shè)計(jì)簡(jiǎn)化了網(wǎng)絡(luò)結(jié)構(gòu)的拓?fù)湓O(shè)計(jì),因此非常適合在現(xiàn)有硬件平臺(tái)上實(shí)現(xiàn),包括CPU/GPU/FPGA等通用計(jì)算平臺(tái)。另外,所提出的int8量化算法,在復(fù)雜分類(lèi)網(wǎng)絡(luò)與目標(biāo)檢測(cè)模型上獲得了與TensorRT相接近的推理精度,工業(yè)應(yīng)用潛力比較大。
“應(yīng)用于易盾內(nèi)容安全圖像識(shí)別上,在確保業(yè)務(wù)模型推理精度的前提下,其服務(wù)的響應(yīng)時(shí)間能得到顯著降低。”姚益武進(jìn)一步解釋了int8量化算法在網(wǎng)易易盾業(yè)務(wù)上的應(yīng)用潛力。
參會(huì)的第三方專(zhuān)家點(diǎn)評(píng)網(wǎng)易易盾這一研究成果時(shí)表示,該方法可以保持相對(duì)較高的準(zhǔn)確性,有效解決TensorRT的問(wèn)題。而另外個(gè)專(zhuān)家則更進(jìn)一步指出,int8量化新算法能夠簡(jiǎn)化CNNs中的運(yùn)算,并讓精度損失顯得微不足道。
據(jù)悉,姚益武為網(wǎng)易易盾實(shí)驗(yàn)室成員,該實(shí)驗(yàn)室在2018年還研發(fā)出了一種對(duì)多視角多模態(tài)特征信息進(jìn)行有效融合的自編碼器神經(jīng)網(wǎng)絡(luò),在準(zhǔn)確率、NMI、Purity、ARI等各項(xiàng)性能指標(biāo)上,較當(dāng)下多項(xiàng)國(guó)際先進(jìn)的多視角多模態(tài)信息融合技術(shù)有顯著性的領(lǐng)先。
網(wǎng)易易盾實(shí)驗(yàn)室成立于2016年,隸屬于網(wǎng)易安全部,目前擁有數(shù)十名AI算法專(zhuān)家、安全研究員、政策法規(guī)研究專(zhuān)員等。實(shí)驗(yàn)室目前專(zhuān)注探索人工智能技術(shù)在安全領(lǐng)域的應(yīng)用,以及安全相關(guān)法規(guī)、社會(huì)責(zé)任等研究。
申請(qǐng)創(chuàng)業(yè)報(bào)道,分享創(chuàng)業(yè)好點(diǎn)子。點(diǎn)擊此處,共同探討創(chuàng)業(yè)新機(jī)遇!