一般用來處理影像的AI系統架構有哪幾種？邊緣運算AI攝影機具備哪些優勢？有哪些常見的應用？為何AI影像邊緣運算的未來是攝影機呢？本文將一一告訴您。
各行各業熱衷於導入AI技術來解決企業自身問題，並且鼓吹邊緣運算的重要性—低延遲及快速反應。對於影像的AI邊緣運算來說，當然就是要做在攝影機上，才能叫做真正的邊緣，也才是AI影像邊緣運算的「現在進行式」以及「未來完成式」。
處理影像的3種AI系統架構
一般用來處理影像的AI系統架構有三種，分別為：(1)邊緣運算AI攝影機，(2)近緣多路AI運算主機，(3)機房集中式多路AI運算主機。第一種的邊緣運算AI攝影機，是指IP攝影機SoC晶片內建AI神經網路處理器NPU（Neural Processing Unit），除了可運行IP攝影機本身該有的功能，還能執行AI辨識、可程式化任務，獨立作業觸發報警或連動後續的自動化工作。
傳統AI辨識系統是透過AI運算主機，包含「近緣多路」或「機房集中式多路」AI運算主機，近緣（near-edge）架構是為了快速反應辨識後的結果，所以會安裝在靠近IP攝影機的近端高頻寬環境，比如交通執法用的電信箱內。當然也有捨近求遠，將所有路口IP攝影機透過5G或光纖收攏在集中式多路AI運算主機進行運算及辨識的作法。（參見圖1）
就效率來說，近緣架構仍然是較理想的作法，如果能把既有的攝影機用來擴充邊緣運算AI功能，就更好了。「既有攝影機擴充AI功能」會是需求與趨勢，不過，就像當年也能擴充IP網路功能的類比攝影機一樣，最後仍會被IP攝影機直接取代。
圖1、常見AI影像系統架構圖
邊緣運算AI攝影機的3大優勢
1、低耗能、低維運成本
AI運算主機有啥不好？影像解碼及維運成本太高。傳統的AI辨識系統是這樣運作的：IP攝影機耗費運算資源將影像編碼後，繼續耗費頻寬資源把資料傳給AI運算主機，AI運算主機接手耗費資源產生YUV或JPEG照片給AI硬體運算單元（NPU）進行AI辨識（inference），影像解析度越大，辨識的物種就越多，對於顯示卡上的運算能量要求也更高，耗電量十分驚人。
一台AI運算主機，有500W～700W的耗電是很常見的。試想：當今市售最好的顯示卡可以進行幾路的4K / H.264影像辨識？更遑論壓縮率更高的H.265了。相較於AI主機還要浪費資源解碼後才能辨識，邊緣運算AI攝影機在源頭就提供YUV的照片記憶體位址，讓NPU直接進行辨識，整體系統架構更簡潔，維運的電力成本低，不佔用頻寬，系統建置成本於是更經濟。（參見圖2）
圖2、AI運算主機與AI攝影機的運算架構差異
2、低延遲：最大優點！
AI運算主機還有個致命缺點，就是一系列的運算延遲，包含影像解碼延遲、AI辨識延遲、物種追蹤演算法及行為偵測延遲等。影像解碼的部分，以H.264壓縮格式為例，會有2～3張的解碼成像延遲，導致行為偵測後的警報發報會遞延到200～300毫秒（ms）以後。
辨識的延遲呢？AI主機進行10次辨識，整體延遲會達到639毫秒，而這還沒有加上4K串流在網路傳送時需要的時間。邊緣運算AI攝影機不會有那麼高的整體延遲，以4K / 30張的邊緣運算攝影機為例，1秒可以支援10次辨識，約100毫秒後可以觸發禁區偵測的警報。（參見表1）
表1、AI運算主機與AI攝影機的比較
3、攝影機成為AI載具，用戶可自行訓練AI模型、保障隱私問題
此外，企業在導入AI時，常會碰到需求單位與研發人員在領域知識（Domain know how）上有認知差異，在銷售時容易造成誤會或緊張。就算企業內部已實現完整的認知框架，面對客戶的需求可能又是另一個問題，比如醫療或國防之類的單位，會因隱私議題無法提供資料集來訓練，AI模型就很難準確。
AI的應用是五花八門的，永遠都會有新的物件要辨識。讓攝影機成為AI載具，用戶可以自己進行AI資料集的訓練，就不會有隱私權問題。以利凌提供的Self+AI YOLO轉換雲來說，可以把用戶自訓的AI模型封裝成韌體，並以AES256加密，自己的模型永遠不會外漏。
封裝完的韌體要裝在哪裡？當然就是利凌前端AI攝影機了。利凌提供的整體前端辨識架構，可以透過HTTP / HTTPs與後端通信，藉由開源於Github的Python及C# SDK來串接後端應用，任何工程師只要熟悉Python及C#環境，皆可立即引用及開發。（參見圖3）
圖3、AI攝影機如何與後端系統運作整合
***************************************************************************************************
Tips：你買的AI攝影機能夠OTA嗎？
AI模型是影響辨識率的重要關鍵，辨識率會因為地域、日夜光影、光線遮擋等因素而有精準度問題。購買AI辨識攝影機時，廠商是否願意持續維護資料集及更新AI模型至關緊要，而且還要能夠OTA（即時線上韌體更新），才能讓AI攝影機愈辨愈精準、愈來愈「聰明」。
***************************************************************************************************
AI邊緣運算攝影機常見的應用
近年來，邊緣運算AI攝影機已可載入多個AI模型、同時辨識不同物種。比較熱門且迫切的是車牌辨識，多國車牌辨識已可在100公里時速的雙車道進行，停車場閘門自動化更是已經被廣泛套用的場域，因為透過攝影機就能直接連動周邊設備，比如空位指引及收費機等，完全不必再經過PC，乾淨又俐落。（參見圖4）
圖4、AI攝影機可同時支援車廠、車種、多國車牌、行為偵測及車牌顏色偵測。
而在公共場域，辨識遺失物及遺留物也是AI邊緣運算攝影機的看家本領之一。另一個有趣且實用的場域是工地，AI邊緣運算攝影機的辨識結果可以用運算元來做邏輯判斷，比如透過「同時存在多種物件（AND）」的邏輯來做工地門禁，安全帽、防護鏡、安全背心要同時存在才開門;相反的，「缺少任何一樣物種 （NAND）」則是可以觸發警報。（參見圖5）
圖5、AI攝影機工地安全柵門警示或自動化應用。
在智慧產線的應用方面，只要餵給攝影機商品的內容物模型，比如配件包、主機、使用手冊、遙控器等，就能進行產線自動化或缺件警示。AI PTZ球型追蹤攝影機更被應用在船舶追蹤，來釐清船隻碰撞時的肇責，或是違規停車及併排停車的車牌辨識，這些應用都不需再使用耗電量較大的AI辨識主機。
結語
IP攝影機AI化是趨勢，因為在系統建置及維運上較具競爭力，具備環保、低耗能、低延遲、快速反應等優點。以利凌AI新創團隊所研發的Self+AI雲為例，可將Tiny Yolo AI Model轉換成Ambarella CV系列SoC可執行的網路權重，並可包裝成LPKG（LILIN Package）部署於相容的攝影機，一行程式都不必寫。配合利凌攝影機內建的豐富行為模式，要自行開發AI應用，門檻可謂降至極低。此舉也將幫助不少AI新創公司，不必再透過大型主機或冗贅的運算棒來實作無法商轉的PoC（Proof of Concept）。