產業的需求決定了要完成的人工智能任務越來越復雜，輕量化人工智能必須通過加速運算效率、提高計算密度才能實現極致的效率。

——冷聰 中國科學院自動化研究所副研究員

人工智能算法的復雜度急劇攀升，神經網絡計算的能耗代價越來越高，數據洪水式地涌積堰塞……這些年，人工智能的發展遇到了越來越多的瓶頸。如何將人工智能模型及其計算載體前端化、輕量化成為亟待解決的問題。最新興起的輕量化人工智能被寄予厚望，以“輕量化”為賽點的人工智能競賽下半場已經來臨。為此，4月27日，科技日報記者采訪了中國科學院自動化研究所的相關專家。

輕量化成為人工智能下半場賽點

人工智能技術在行業應用中，大多依賴海量的訓練數據和大規模服務器的算力支持。

然而，近年來，隨著信息技術領域的摩爾定律逐步放緩，硬件的發展越來越難以滿足當前人工智能模型動輒萬億級規模的存儲和算力需求，數據堰塞、存儲暴漲、隱私泄露、能耗高企等問題隨之而來。

“當前，對于人工智能設備和應用的快速響應、隱私保護以及節能減排的需求越發凸顯，輕量化人工智能應運而生，并被寄予厚望。2020年，《麻省理工科技評論》將輕量化人工智能列為‘全球十大突破性技術’。”中國科學院自動化研究所研究員程健說。

所謂輕量化人工智能，是指以一系列輕量化技術為驅動提高芯片、平臺和算法的效率，在更緊密的物理空間上實現低功耗的人工智能訓練和應用部署，不需要依賴與云端的交互就能實現智能化操作的人工智能。

輕量化人工智能被評入“全球十大突破性技術”，《麻省理工科技評論》給出的評選理由是，輕量化智能使現有的服務，比如語音助手、手機拍照等，變得更好更快，不必每次都需要連接云端才能運行深度學習模型;此外，輕量化人工智能也將使新的應用成為可能，比如基于移動端的醫學檢測分析、對反應時間要求更快的自動駕駛汽車;此外，本地化的人工智能更利于隱私保護，用戶的數據不再需要離開設備就能實現服務功能的進化。

“更重要的是，輕量化人工智能將人工智能推向更主流，它大大降低了人工智能系統的部署難度和成本，把人工智能從一場高門檻的科技巨頭競賽變成更容易普惠民生的智能生態。”程健說，在人工智能領域的角逐中，以輕量化為賽點的下半場已經來臨。

極致效率、極低能耗是最終追求

在表現上，輕量化人工智能是在做減法，降低能耗、降低對硬件平臺性能指標的要求、降低與云端的通訊需求等。

然而，“實質上，輕量化的內核卻是在做加法。”中國科學院自動化研究所副研究員冷聰說，產業的需求決定了要完成的人工智能任務越來越復雜，輕量化人工智能必須通過提高運算速度、計算密度才能實現極致的效率。

在程健看來，在精度接近無損的前提下，將人工智能模型及其計算載體輕量化，是一個極具挑戰性的任務。

解決這一問題，需要對神經網絡進行輕量化設計、計算加速以及設計新的計算架構以實現模型的硬件化，這需要從軟件和硬件兩方面來著手。

在軟件上，進行模型和算法創新，通過輕量化模型設計、矩陣分解、稀疏表示、量化計算來實現模型的微型化和計算加速;而在硬件上，則要通過流水線設計、存儲模式設計等手段進行硬件架構的創新，通過軟硬協同設計和優化實現人工智能的輕量化。

“雖然執行神經網絡計算的是硬件，但神經網絡結構和人工智能平臺決定了計算量的大小和運算方式。”冷聰坦言，所以極致的輕量化必須是軟件和硬件的協同輕量化——基于復雜的人工智能應用場景，將芯片、平臺和算法充分結合以聯合加速。

作為人工智能的硬件載體，人工智能芯片必須達到更高的性能、更高的效率、更低的功耗和更小的體積。這樣才能有足夠平價高效的計算平臺滿足產業需求，承載復雜的人工智能任務，并且使推理和運算從云端遷移到終端。

同時，輕量化的人工智能平臺要以更低的功耗來訓練和運行人工智能算法，最大化的發掘硬件的能力。更重要的是，應用輕量化技術的神經網絡模型要小規模、少運算量并保持良好的精度。

未來輕量化人工智能將賦能萬物

程健介紹，中國科學院自動化研究所是輕量化人工智能的先行者，很早就開始了軟硬協同輕量化的技術研究，并走在國際前列。

早在2016年，卷積神經網絡大規模邁向應用之初，中國科學院自動化研究所就在國際人工智能頂級期刊發表了多篇神經網絡模型輕量化領域的重要論文，成為國際上最早開始人工智能輕量化研究的機構之一，相關成果引起了國內外諸多專家的廣泛關注。

“我們設計開發的輕量化人工智能平臺QEngine及輕量化算法已經在數十萬終端上部署。2019年，在國際神經信息處理系統大會的微型網絡挑戰競賽中，我們與ARM、IBM、高通、Xilinx等國際一流芯片公司同場競技，獲得了輕量化神經網絡架構圖像類的雙冠軍。”程健表示。

2020年，中國科學院自動化研究所自主研發的全球首款極低比特量化神經處理芯片(QNPU)成功流片，繞開了芯片計算領域備受關注的“內存墻”難題，在芯片成本、功耗、計算結構、邊緣計算等方面實現革命性的變革。

“該芯片的面世，也標志著自動化研究所成為了全球為數不多的擁有‘人工智能芯片—平臺—算法’全棧輕量化人工智能技術的機構之一。”冷聰說。

未來，以人工智能驅動的小型化設備會越來越多出現在我們身邊。由人工智能芯片、平臺和算法組成的輕量化人工智能終端將在越來越多的場景中應用。

“比如，在電力行業，我國的輸電線路覆蓋廣，野外自然環境復雜，檢修維護作業危險系數高、難度大，我們設計的自主巡檢無人機、缺陷識別分析便攜終端、通道可視化智能感知攝像頭具備多種智能識別、檢測和分析功能，能夠保障輸配電線路的安全和電力系統穩定。”程健舉例說。

同時，在消費電子行業，暗光增強、超分辨率等自動化所設計的輕量化算法及輕量化神經網絡計算架構，也為手機終端、安防終端提供了影像增強效果。

程健表示，輕量化人工智能未來將賦能萬物，讓每個設備都具有環境感知、人機交互、決策控制的能力。(記者 陸成寬)

關鍵詞： AI