“我們的AI芯片設計出來了，但是沒多少人能用起來。”這是兩三年前端側AI芯片CEO們的煩惱。

“面對十多款端側AI芯片，選型就是一個難題。”一位AI應用的開發者在2022年依舊面對的難題是，“即便最終做了選擇，面對上千頁的開發手冊，學習和開發門檻都很高。”

與雲端AI面臨的挑戰類似，邊緣和端側AI軟硬件的成熟度以及軟硬的融合很大程度上阻礙了AI的普及，降低AI開發門檻，提升通用性成為了AI普及的當務之急。

當然，技術挑戰還不是卡住端側和邊緣AI普及的唯一原因，商業層面也面臨諸多挑戰，比如應用場景衆多，如何在衆多的應用場景中形成一個良好的商業閉環？如何讓傳統行業也能輕松用上AI技術？

這其中，非常關鍵的一點就是提供打動消費者的使用體驗。曾經火爆一時的智能音箱已經證明，不佳的使用體驗隻會讓消費者迅速對新技術感到失望。要實現良好的AI産品用戶體驗，多傳感器融合以及多種AI技術的應用成為了未來的發展方向。

那麼，雲邊協同能否加速端側AI普及？

端側AI的三道檻

在智能音箱爆發的2018年，智能音箱裡并沒有用于實現AI功能的專用芯片，AI的算法也并不成熟，再加上整個行業的低價惡性競争，體驗不佳的智能音箱讓衆多嘗鮮者很快放棄了這一AI“爆品”。

智能音箱非常好地反映出了端側AI普及面臨硬件、算法以及應用需求多樣的三道檻。

這一次AI的浪潮得益于深度學習技術的發展，新的AI算法對算力提出了更高要求，促進了衆多設計專用AI芯片公司的誕生，2016年左右湧現了大量AI芯片公司，這些公司的産品在2018年左右陸續推出。

2018年推出全球第一顆量産RISC-V商用邊緣AI芯片，并出貨了上百萬顆芯片，2021年推出第二代AI芯片勘智K510的嘉楠科技對于AI的發展和應用頗有感觸。

嘉楠科技副總裁湯炜偉對雷峰網表示，“我們的第二代勘智K510的AI算力已經達到3TOPS，AI的硬件正在通過叠代成熟，工具鍊依舊有比較多的挑戰。”

芯片的工具鍊很長，大體上可以分為前端和後端，前端的工具鍊主要做算法的優化，比如壓縮、融合等，後端的工具主要負責調用芯片。

運行于芯片上的算法，則是邊緣和端側AI普及的第二道檻。

“針對端側AI的算法太少，這直接導緻了許多AI硬件沒辦法用起來。”一位AI從業者如此看待AI算法與AI普及的關系。

湯炜偉認為，“這個說法有道理，但不全面，算法肯定是影響最終效果和體驗的因素，但算法不夠好可能是因為應用場景太小沒人願意投入，或者那個場景的數據難以獲取，增加了算法提升的難度。”

“AI算法從實驗室環境到實際應用有非常多的挑戰，在真實場景中AI算法很容易受到各種環境的影響。我認為邊緣側AI的算法可以分為三類。”湯炜偉表示。

一類算法是通用算法，比如圖像檢測和分割算法；一類是場景算法，比如人臉識别、人體姿态算法；還有一類是定制算法。

“AI算法的應用範圍越窄，在具體的場景中就越精準，效果更好。但同時也意味着它可能會導緻用戶群體和體量更小。”湯炜偉認為。

邊緣和端側AI硬件和算法向前叠代的時候，就會遇到普及的第三道檻——應用多樣，需求不同。

從AI語音到AI視覺，從單傳感器到多傳感器融合的智能硬件，從工業到農業再到智能家居，邊緣AI的一大特點就是應用場景豐富，不同的應用場景對于芯片的性能和功耗，對于使用的算法的類型和精度，以及使用的場景都大不相同。此時，如果有一個通用的AI解決方案，将有助于AI的普及。

不過，湯炜偉認為，“短期内比較難有通用的AI解決方案，因為AI的算法還在不斷叠代。另外，端側和邊緣的AI硬件采用的是ASIC專用芯片，并沒有統一的标準，實現通用的AI解決方案難度比較大。”

實際上，邊緣和端側AI産品的開發當務之急是解決産品開發門檻高的問題。

雲邊協同是AI普及良藥？

“十幾款可選的AI芯片，每一種芯片的工具鍊都不一樣，學習其中一種的門檻就很高，如何才能快速開發出AI産品？”這是AI開發者共同的難題。

芯片的選型無論對于中小型公司還是大型公司都是一個挑戰，中小型公司支持兩三個平台就已經非常吃力了，大公司有能力投入進行細緻篩選，但周期很長，要選出一個能夠長期合作的合作夥伴的難度也很大。

但無論選擇哪個硬件平台，開發的門檻客觀存在。因為端側和邊緣AI設備的開發涉及嵌入式開發的AI開發，懂嵌入式開發或者AI開發的工程師本來就很少，更别說既懂嵌入式又懂AI開發的人。

這就非常考驗芯片公司的工具鍊和軟件平台，有更加容易上手和高效的工具鍊實際上是所有AI芯片公司的核心競争力。

“我們做軟件工具鍊的時候利用了開源的優勢，嘉楠AI芯片的SDK和應用實例的各種軟件都已經開源，開源的好處在于新客戶可以直接看詳細的文檔，大大降低了客戶的使用難度，也降低了我們支持客戶的難度。”湯炜偉說，“開源也有利于大家一起協作創新。”

據雷峰網了解，一個公司評估了市場上四五家AI芯片的産品，最後因為工具鍊以及算法損失精度更小選擇了與嘉楠合作。

據湯炜偉介紹，嘉楠有自己開源工具鍊的溝通群，一群長期穩定做軟件工具鍊的人能夠方便的在群裡溝通，反饋問題，這對他們提升工具鍊有很大的幫助。

好用的工具鍊确實能降低開發難度，但對于許多缺乏開發能力的開發者，更低門檻的雲邊一體的解決方案或許是更優的選擇。

“今年上半年，我們合作夥伴的客戶說想要做一個雲邊協同的應用，三方一拍即合一起做了一個大型的AI雲邊協同應用。”湯炜偉說。

這是一個海上漁船監測系統的雲邊協同AI解決方案，海上漁船本來就裝有一些包括攝像頭在内的多種檢測漁船狀态的傳感器，會接入邊緣網關進行數據處理，但由于漁船長期在海上，網絡信号并不穩定，難以遠程即時了解漁船的狀态，漁船上的傳感器也不能協同實現一些智能化的功能。

嘉楠聯合AWS、智次方和客戶，給每艘漁船安裝上了基于K510的産品作為智能邊緣網關。有了這個智能邊緣網關，漁船上的攝像頭采集的視頻圖像就能借助K510的AI能力，進行本地圖像分析處理，對船員作業情況進行統計分析和識别，如果算法模型或者系統有叠代更新，可以在雲端方便的控制進行更新。

同時，勘智K510上集成了AWS IoT Greengrass組件，可以簡化整個系統的部署和管理，即使整個系統管理的船隻規模變大，行駛在不同的海域，通過雲端管理平台，都能及時的掌握設備的運行狀态，實現實時監測系統的整體運行情況。

湯炜偉說，“傳統的AI應用受限于終端的計算能力和網絡條件，往往部署在雲端，無論是處理及時性，還是系統運行成本，都有其弊端。随着技術的進步，采用邊雲協同的方案，可以充分利用雲端靈活的管理系統和邊緣端不斷強大的計算能力，做到魚與熊掌兼得，正成為很多應用場景的優選方案。”

雲邊協同對于AI普及更重要的價值在于，“我們和AWS的合作已經搭建好了一套雲邊協同的方案，已經提前做好了前期的開發和測試，客戶在使用的時候就像‘搭積木’一樣方便，除了海上漁船的應用，有許多客戶也計劃采用我們的雲邊協同的方案。”湯炜偉指出。

雲邊協同的AI解決方案對于包括像漁船、農業等傳統行業應用AI展現出了極大的價值，對于助推邊緣AI的普及，以及推動AI在更多領域的創新，都是一個顯著的推動力。

接下來的問題是，端側AI的機會在哪？

下一個端側AI的爆款産品

端側AI的上一個爆品，還是年出貨量不到5000萬的智能音箱。智能音箱之後，一直沒有看到端側AI的新爆品。

“端側AI的競争實際上非常激烈。”湯炜偉說，“之所以智能音箱之後沒有現象級的單品，主要還是出貨量的級别不夠大，智能手機一年出貨近14億部，智能音箱高峰時候一年不到5000萬的出貨量，與智能手機相比差距很大，但相比許多終端AI産品的出貨量已經很高。”

目前看來，掃地機器人可能有智能音箱的趨勢，一年的出貨量可以達到2000-3000萬台。

湯炜偉也同時指出了未來邊緣和終端AI智能産品的走向，他認為未來許多場景的AI産品不會隻是用單純的視覺或語音方案，将會是多傳感器融合的産品，就像現在的智能門鎖一樣，既有指紋識别，也有人臉識别，還能用密碼，這将是未來AI邊緣和AI産品發展的趨勢，智能家居的産品也将受益于智能手機和安防技術的下沉。

當然，更好的雲邊協同，也将讓更多行業和公司用上AI技術。“将來會有更多行業或者有應用場景的公司加AI能力解決實際問題。比如手機制造商，他們想做好攝影，就加入AI的算法，實現了比較多新的AI功能，實現了差異化。或者我們和亞馬遜合作的海上漁船監控的解決方案。”湯炜偉說。

AI是需要和場景進行結合的技術，能給傳統的行業帶來效率的提升甚至革命性的變革，也能創造全新的應用，這一進程正在加速。

更多精彩资讯请关注tft每日頭條，我们将持续为您更新最新资讯!