圖一：AI 晶片持續進展，將在短時間內改變各種家電用品的特性，有機會快速讓我們周邊的電器「智慧化」。
AI 人工智慧的概念最早自 1960 年代被提出，時至今日，隨著電腦運算與儲存能力的大幅進展，近期物聯網基礎建設的逐步成熟，諸多整合產品也默默的讓 AI 開始出現在一般人的生活中。訓練 AI 模型參數需要大量的運算資源，其複雜度與專為設計晶片的 AI 演算法息息相關，也成為國際半導體競爭極重要的一環。本次科技大觀園專訪國立臺灣師範大學電機工程學系教授王偉彥，解析 AI 晶片與一般晶片有什麼差別？又將如何影響我們的生活？
AI 運算的兩條路：雲端運算與邊緣運算
「現今 AI 晶片發展，將為人類生活品質帶來質變與量變的轉捩點。」王偉彥首先指出AI 晶片持續進展，將在短時間內改變各種家電用品的特性，有機會快速讓我們周邊的電器「智慧化」。王偉彥近期的研究焦點就在「小而美」的 AI 邊緣運算機制，與廠商合作研發全球最小型的 AI 晶片「AI Mipy」。
王偉彥分析，AI 的運算發展至今，可以分成兩個發展的方向。首先是「雲端運算」，將資料上傳到龐大的伺服器進行處理，最後透過 AI 模型以及演算法得出結果。其次則為「邊緣運算」，於在地端直接使用高效率的晶片進行 AI 運算、直接獲得結果。考量到 AI 功能的多樣化與產業、資源的效益，邊緣運算預計將成為未來 AI 發展的趨勢。
同樣都是晶片，AI 晶片又有什麼特別之處呢？顧名思義，AI 晶片專為 AI 演算法設計，針對常用的計算加速包括平行計算、降低計算精度、加速記憶體存取速度等項目著重優化。隨著 AI 系統應用推廣，王偉彥認為未來 AI 邊緣運算的系統整合，會逐漸脫離使用通用型或半通用型的架構晶片，轉型將重心擺在 AI 系統晶片（AI SoC, AI system on Chip），以獲得更精準、高效益的運算輸出。
回顧臺灣 IC 晶片產業的發展，王偉彥推崇 2000 年臺灣啟動了「矽導計畫」產官學聯合推動系統晶片（SoC, System on Chip） 的設計與人才培育，因而造就了臺灣於 IC 設計與製造這二十年來的成就。考量到現階段產業的方向，王偉彥建議以同樣的規格發展 AI 系統晶片的設計與製造。
AI 系統晶片設計包括模型架構（如卷積神經網路；CNN, Convolutional Neural Network）、運算器（如GPU/CPU） 、memory、及 I/O 介面，以及搭配的訓練軟體系統。最大的挑戰之一，是把複雜的 AI 模型壓縮，透過知識蒸餾（Knowledge Distillation）的技術，我們能夠將電腦端複雜的 AI 模型進行模型精簡化。然後以模型剪枝（Model Pruning）減少神經網路中的權重數量，最後將模型中的參數以最低精確度損失的情況下進行量化（Quantization），才能完成 AI 晶片中最關鍵的模型架構（如CNN）硬體實現。這整個設計過程雖然複雜，成果卻也十分驚人，根據需求設計完成的晶片不僅可靠度高，同時具有體型小、速度快、耗能低的優勢。
AI 系統晶片搭配開發軟體系統，可以做「奇妙的 AI 功能」
「硬體搭配開發軟體系統，做『奇妙的 AI 功能』會是未來主流，」王偉彥分享。什麼是「奇妙的」AI功能？王偉彥團隊於 2019 年研發「AI Mipy」就是初步的 AI 系統晶片，主要功能為影像辨識，而研究室團隊成員後續研究中則延伸功能，讓晶片達成邊緣運算「自動讀樂譜敲鐵琴」的有趣功能。邊緣運算的 AI 系統晶片除了速度快、耗能低、成本低的優勢；其免除後端聯網的特性，在系統設計上還可進一步降低資安風險。AI 系統晶片的發展，將可望大幅提升 AI 應用在各種產品的比例，讓我們的生活飛快智慧化。
「將邊緣運算的 AI 晶片與產品端作整合，就可以發展出成本低、應用層面廣、數量龐大的產業空間。」王偉彥強調，他期待臺灣有機會運用現有的 IC 優勢，在 AI 系統晶片的領域佔領獨特的產業空缺。
資料來源
● 採訪國立臺灣師範大學電機工程學系教授王偉彥
