AI芯片領(lǐng)域發(fā)展趨勢“從通用到專用智能架構(gòu)的轉(zhuǎn)變”
所屬頻道:新聞中心
中國力量崛起
2020年2月16日-20日,第67屆IEEE 國際固態(tài)電路峰會(ISSCC 2020)于美國舊金山召開,中國共23篇論文獲收錄,包括中國內(nèi)地15篇,其中,清華大學(xué)5篇,澳門6篇,香港2篇,創(chuàng)造了歷年來的新高,全球僅次于美國、韓國位列第三。
ISSCC代表著芯片領(lǐng)域的國際最高學(xué)術(shù)水平,是國際上規(guī)模最大、最權(quán)威、水平最高的固態(tài)電路國際會議,被稱為集成電路行業(yè)的芯片奧林匹克大會。國際上最先進的固態(tài)集成電路技術(shù)通常會在該峰會上首次發(fā)布。ISSCC 2020共收錄了210篇論文,全部都來自全球的一流大學(xué)、研究機構(gòu)以及AMD、Intel、IBM、TI等頂尖企業(yè)。繼2019年實現(xiàn)中國首篇人工智能芯片ISSCC論文突破后,清華劉勇攀教授帶領(lǐng)的智能傳感團隊和湃方科技再次貢獻2篇人工智能芯片ISSCC論文。
引領(lǐng)低功耗AI領(lǐng)域:從通用到專用架構(gòu)
ISSCC 2020以“Integrated Circuits Powering the AI ERA”為主題。此外,本屆峰會在技術(shù)組委會籌建方面新增了一個亮點,“機器學(xué)習及人工智能”成立了獨立的技術(shù)小組分會。新設(shè)“High-Performance Machine Learning”和“Low-Power Machine Learning”兩個機器學(xué)習分會,且六個論壇中有兩個與人工智能相關(guān),足以見得該領(lǐng)域的重要性。
隨著物聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能等技術(shù)的迅猛發(fā)展,全球數(shù)據(jù)量呈井噴式增長,相當一部分的運算將在本地終端進行而不是借助云端資源。與此同時,解決這些集成了傳感和智能計算的無線終端面臨的功耗問題就變成了一大挑戰(zhàn)。而“Low-Power Machine Learning”分會正是針對智能無線終端等對功耗有極致要求的領(lǐng)域。該分會全部3篇論文均來自中國內(nèi)地,分別是針對語音、視頻以及稀疏網(wǎng)絡(luò)等專用智能架構(gòu)的研究與探索,其中2篇為該團隊研究成果。
圖1 Program-Session 14
又見低功耗的天際
·基于幀間數(shù)據(jù)計算復(fù)用的視頻應(yīng)用AI處理器
在智能汽車自動駕駛、智能無人機目標追蹤、智能攝像機主動監(jiān)測等場景中均使用了機器學(xué)習技術(shù),傳統(tǒng)AI處理器主攻靜態(tài)圖像處理,難以滿足多幀視頻圖像處理的需求。團隊袁哲博士在論文“A 65nm 24.7μJ/Frame 12.3mW Activation-Similarity-Aware Convolutional Neural Network Video Processor Using Hybrid Precision, Inter-Frame Data Reuse and Mixed-Bit Width Difference-Frame Data Codec”(14.2)中,提出了一款面向視頻應(yīng)用的神經(jīng)網(wǎng)絡(luò)處理器Sticker-V,包含以下關(guān)鍵技術(shù)點:(1)利用視頻數(shù)據(jù)中幀間相似性,在傳統(tǒng)幀內(nèi)數(shù)據(jù)復(fù)用基礎(chǔ)上新增了幀間復(fù)用維度,實現(xiàn)了在不損失網(wǎng)絡(luò)精度的前提下提高計算速度的效果;(2)根據(jù)神經(jīng)網(wǎng)絡(luò)計算的數(shù)據(jù)復(fù)用與稀疏模式,設(shè)計了可配置三種卷積模式的計算單元和帶累加功能的存儲單元,提高了網(wǎng)絡(luò)層內(nèi)數(shù)據(jù)利用效率和幀間數(shù)據(jù)復(fù)用;(3)針對幀間數(shù)據(jù)復(fù)用模式,設(shè)計了兩通路變比特長度片上片下數(shù)據(jù)壓縮模塊,有效降低數(shù)據(jù)傳輸量。該芯片在TSMC 65nm工藝上成功流片,最高可節(jié)省76%的單幀處理能量,將MobileNet-16網(wǎng)絡(luò)模型的單幀處理能量降低至24.7μJ/Frame。
圖2 Sticker-V Chip Micrograph and Summary Table
·自適應(yīng)稀疏存內(nèi)計算芯片——新興電路架構(gòu)
存內(nèi)計算是一種新興的電路架構(gòu),具有高并行度、高能量效率的特點。目前的存內(nèi)計算電路架構(gòu)面臨的一個重要問題是規(guī)則存內(nèi)計算電路無法支持不規(guī)則的稀疏神經(jīng)網(wǎng)絡(luò),造成計算資源的大量浪費。團隊岳金山博士在論文“A 65nm Computing-in-Memory-Based CNN Processor with 2.9-to-35.8TOPS/W System Energy Efficiency Using Dynamic-Sparsity Performance-Scaling Architecture and Energy-Efficient Inter/Intra-Macro Data Reuse”(14.3)提出了首款基于存內(nèi)計算核心的系統(tǒng)級神經(jīng)網(wǎng)絡(luò)處理器Sticker-IM,包含以下關(guān)鍵技術(shù)點:(1)在規(guī)則的存內(nèi)計算陣列上實現(xiàn)了不規(guī)則稀疏網(wǎng)絡(luò)的優(yōu)化,利用稀疏網(wǎng)絡(luò)權(quán)重和輸入數(shù)據(jù)的動態(tài)優(yōu)化,提高芯片能效并加速計算;(2)實現(xiàn)了基于存內(nèi)計算核心的片上系統(tǒng)芯片,支持不同bit的整體神經(jīng)網(wǎng)絡(luò)模型的動態(tài)映射和執(zhí)行,通過靈活的網(wǎng)絡(luò)映射和數(shù)據(jù)復(fù)用方法提升了系統(tǒng)資源利用率和數(shù)據(jù)訪問效率;(3)設(shè)計了可動態(tài)關(guān)斷的存內(nèi)計算核心處理單元,實現(xiàn)了存內(nèi)計算單元對運行稀疏網(wǎng)絡(luò)的功耗優(yōu)化。該芯片在TSMC 65nm工藝上成功流片,在MNIST和CIFAR-10數(shù)據(jù)集的不同神經(jīng)網(wǎng)絡(luò)模型中,實現(xiàn)了最高158TOPS/W的核心能量效率和最高35.8TOPS/W的系統(tǒng)能量效率。
圖3 Sticker-IM Chip Micrograph and Summary Table
厚積薄發(fā)?連續(xù)創(chuàng)新
——智能傳感團隊的“芯”路歷程
針對萬億級別的人工智能物聯(lián)網(wǎng)需求,清華大學(xué)智能傳感團隊近幾年圍繞后摩爾時代新型器件與人工智能應(yīng)用帶來的機遇與挑戰(zhàn),開展對低功耗、高能效的芯片與系統(tǒng)研究,受到了學(xué)術(shù)界和產(chǎn)業(yè)界的廣泛關(guān)注。團隊主要研究方向包括:面向新興深度學(xué)習應(yīng)用的算法-芯片協(xié)同設(shè)計;面向智能物聯(lián)網(wǎng)應(yīng)用的端邊云協(xié)同優(yōu)化;基于新型非易失器件的存算融合計算架構(gòu)。
在深度學(xué)習算法-芯片協(xié)同設(shè)計方面,團隊發(fā)明了Sticker、Sticker-T、Sticker-V、Sticker-IM等系列人工智能處理器。此外,團隊發(fā)明的稀疏神經(jīng)網(wǎng)絡(luò)處理器芯片STICKER-II結(jié)合低比特量化等技術(shù),相比于上一代芯片STICKER實現(xiàn)了更高的能量效率,這也是首款將自適應(yīng)稀疏和量化進行有機結(jié)合的人工智能芯片,在2019年ISLPED國際低功耗設(shè)計競賽上獲得第一名。
在智能物聯(lián)網(wǎng)系統(tǒng)方面,團隊針對智能制造等重大應(yīng)用需求,提出基于智能邊緣計算芯片的物聯(lián)網(wǎng)感知、調(diào)度與端邊云協(xié)同優(yōu)化技術(shù)。團隊發(fā)明的Tritium系列嵌入式深度學(xué)習計算芯片,首次將視覺類智能應(yīng)用部署在以微控制器為核心的物聯(lián)網(wǎng)終端設(shè)備上,為智能應(yīng)用在低功耗、低成本的嵌入式平臺上的部署提供了可能。該方面的技術(shù)已成功轉(zhuǎn)移至湃方科技等創(chuàng)業(yè)公司進行產(chǎn)業(yè)化實踐。
在非易失計算芯片方面,團隊發(fā)明了THU-10XN系列非易失計算芯片,基于此,在電路、架構(gòu)和系統(tǒng)應(yīng)用層面上提出更高能效的電源管理、外設(shè)管理、存內(nèi)計算和應(yīng)用部署技術(shù)。
學(xué)術(shù)突飛猛進?產(chǎn)業(yè)蓄勢待發(fā)
基于在智能傳感領(lǐng)域多年的研究成果,智能傳感團隊在2018年9月創(chuàng)立了湃方科技。作為一家高科技企業(yè),湃方科技致力于以滿足客戶需求為導(dǎo)向,打通技術(shù)和實際場景落地之間的壁壘。湃方科技瞄準萬億級市場規(guī)模的工業(yè)互聯(lián)網(wǎng),基于人工智能芯片和算法技術(shù)為客戶打造的跨品類、全棧式的AIoT智能管理解決方案,形成了多種快速可復(fù)制的石油、石化、制造、交通等行業(yè)智能升級解決方案,為中國石油、中國石化、山東雙輪等百余家大中型企業(yè)提供智能工業(yè)設(shè)備升級服務(wù),贏得了客戶的廣泛好評,創(chuàng)立僅一年,銷售業(yè)績就突破數(shù)千萬。同時和華為云、英偉達、兆易創(chuàng)新、樹根互聯(lián)、東方國信、海爾COMOSPlat以及中國移動oneNET建立了戰(zhàn)略合作,為客戶打造智能工業(yè)設(shè)備升級服務(wù)閉環(huán)。
在工業(yè)AI時代席卷而來的今天,湃方科技已經(jīng)蓄勢待發(fā),通過打破技術(shù)落地壁壘,實實在在的為我國工業(yè)智能化領(lǐng)域再邁更高的臺階發(fā)揮自身的產(chǎn)業(yè)價值。
打贏疫情防控阻擊戰(zhàn)——2019攜手同行 2020未來可期!
新型冠狀病毒疫情肆虐,疫情防控成為過去一個月全國上下最重要的工作。湃方科技所服務(wù)的石油、鋼鐵、石化、電力、裝備制造等流程性強的企業(yè),因為疫情造成了工作人員延遲開工,嚴重影響了對設(shè)備的現(xiàn)場管理和維護工作。湃方提供的全棧式工業(yè)設(shè)備智聯(lián)技術(shù)正是針對該問題的最優(yōu)解決方案,將傳統(tǒng)工業(yè)領(lǐng)域中有人值守,逐步升級成為無人值守,讓智能物聯(lián)網(wǎng)代替人工,真正實現(xiàn)了遠程監(jiān)測、智能決策。湃方科技已多次幫助客戶發(fā)現(xiàn)安全隱患,降低運維和能耗成本,提高運營準確率。湃方將緊握這個使命重大的方向盤,為疫情期更多工業(yè)企業(yè)安全運營、正常生產(chǎn)秩序保駕護航,為疫情防控貢獻我們的專業(yè)力量!
當前,全球第四次工業(yè)革命孕育興起與我國制造業(yè)轉(zhuǎn)型升級形成歷史性交匯,工業(yè)互聯(lián)網(wǎng)作為新一代信息技術(shù)與制造業(yè)深度融合的產(chǎn)物,構(gòu)建起全要素、全產(chǎn)業(yè)鏈、全價值鏈全面連接的新型工業(yè)生產(chǎn)制造和服務(wù)體系,成為支撐第四次工業(yè)革命的基礎(chǔ)設(shè)施。世界各國紛紛加快工業(yè)互聯(lián)網(wǎng)建設(shè)。黨中央、國務(wù)院高度重視發(fā)展工業(yè)互聯(lián)網(wǎng),作出一系列戰(zhàn)略部署。工業(yè)互聯(lián)網(wǎng)市場目前已經(jīng)進入啟動期,并即將進入高速發(fā)展期。未來,湃方科技將致力于打通傳統(tǒng)行業(yè)的數(shù)據(jù)與信息壁壘,為客戶提供轉(zhuǎn)型、增效、提質(zhì)、降本的服務(wù),形成工業(yè)設(shè)備智能化數(shù)據(jù)平臺,整合行業(yè)多種第三方服務(wù)廠商,形成完整的一體化工業(yè)設(shè)備智能管理與服務(wù)產(chǎn)業(yè)鏈生態(tài)。
(審核編輯: 智匯張瑜)
分享