目前,物聯網和人工智能(AI)都是發展大勢。而 AI 芯片正處于從通用型向專用型發展和轉化的過程當中,特别是在物聯網邊緣側,通用型 AI 芯片的計算效率較低,繼而帶來了成本和功耗的失配。此外,AI 芯片要面對很多不同場景,很難有一款通用型産品能滿足不同客戶的需求。
目前來看,有越來越多的專用型 AI 芯片或模組的案例湧現出來,如智能家居、機器人、智能音箱等,都對專用型 AI 芯片提出了越來越多的需求。
因此,當今做 AI 芯片是符合市場發展需求的,在這方面,越來越多的公司更加務實,将其作為長期的發展戰略,而不是抱着投機的心态去做 AI 芯片。雲知聲就是這樣一家本土企業。2018 年 5 月,該公司正式發布首款物聯網專用 AI 芯片之後,不足半年的時間,今年 1 月其再次對外宣布多模态 AI 芯片的研發計劃。
物聯網芯片設計難在哪兒?
随着應用的發展,物聯網的場景化特點會愈加突出,此時,隻提供單一芯片已經很難滿足客戶需求,必須要将芯片、應用,以及服務等有機地融合在一起,從而提供一整套的解決方案,才能滿足實際的應用需求。
與此同時,在 IC 設計層面,與傳統模式和流程相比,會更加複雜,對此,雲知聲聯合創始人/ IoT 事業部副總裁李霄寒博士表示:“在最初的設計階段,就要考慮應用算法,以及到底需要多大的算力,如何使軟件能更好地運行等因素。這樣,就需要 IC 設計團隊與算法提供者有更緊密的合作。此時,軟件和硬件的耦合會非常緊密,這會影響到開發流程。傳統的 IC 設計主要是根據應用來設計相關參數,而未來物聯網應用當中的芯片,特别是 AI 芯片,在設計階段,就要根據實際的應用場景,設計出相應的功能,然後再去合理調配軟件和硬件資源,這對設計者的綜合水平和能力提出了更高的要求。”
在物聯網的邊緣側,對 AI 芯片的性能、功耗和成本提出了更好的平衡要求。對此,李霄寒表示,性能仍然是要優先考量的,也是最重要的,在此前提下,再去追求功耗與成本的平衡,而在邊緣側,成本比功耗更加重要一些。
那麼,對于邊緣側 AI 芯片設計者來說,如何能實現以上這些因素的平衡呢?李霄寒認為:首先,設計者的算法積累很重要,因為好的算法能讓硬件發揮最大的效能;其次,IC 設計能力自然也很重要,特别是要能與業界實現良好的配合,以挖掘出更多的 IC 設計潛力;還有一點,也是經常被忽略的,那就是對場景的了解,即經曆過整個流程,并有産品的量産,才能對很多實際的考量因素有清晰的認知,也就是 KnowHow,其會指導你的芯片設計流程。這一點非常重要。
芯片發展路線
據悉,雲知聲于 2015 年開始量産 IVM 模組,其采用了市場上的通用型芯片。由于當時市場上還沒有通用型的 AI 芯片,所以多是以多核的 CPU 來實現 AI 加速器的功能。也就是在 2015 年,該公司決定自行做 AI 芯片,并開始了相關的規劃和研發工作。
經過兩年多的研發,2018 年5 月,雲知聲發布了其 UniOne 第一代産品——雨燕,這是一款單模态的語音專用的 AI 芯片。據悉,該公司不僅提供雨燕芯片,還提供相應的開源解決方案,包含芯片、引擎、應用,甚至還有雲端服務,以及手機 APP 代碼。據李霄寒介紹,這樣做,有利于客戶快速部署其産品,省去了找第三方開發各種應用的時間和成本。
據悉,目前已經有近 10 家客戶導入了雨燕芯片,而且在今年上半年,很快就能在市場上看到相應的量産産品。
當今的 AI 芯片領域,存在着多種架構,每家都有不同的神經網絡和機器學習産品,那麼,雲知聲的 AI 芯片是采用怎樣的架構和IP呢?據悉,第一代雨燕芯片采用的是該公司自行研發的 DeepNet 1.0,而其正在研發的新一代多模态 AI 芯片則采用了升級版本—— DeepNet 2.0。
向多模态演進
在物聯網應用初期,很多 AI 芯片都是以單模态功能切入市場的,最為普遍的就是語音應用。但是,未來的應用會是多模态融合的,機器人就是一個典型的多模态應用實例,還有如車載芯片,因此,多模态是市場發展的必然趨勢。雲知聲在原有單模态語音 AI 芯片的基礎上,正在研發多模态芯片,主要針對語音和圖像的處理需求,其相應的産品就是基于 DeepNet 2.0的。
據悉,雲知聲以 DeepNet 2.0 IP 為核心的 AI 架構,算力可以達到 4T。DeepNet 2.0 是多模态神經網絡處理器 IP,其主要特點是可以支持多種推理網絡兼容,如 LSTM、CNN、RNN 以及 TDNN 等;支持可重構計算;還支持 Winograd 處理,将乘法計算量降至原先的一半以下,大幅提升了計算效率。李霄寒表示,DeepNet 2.0 是相對通用的 IP 核,既可以滿足音頻應用需求,也可以實現對圖像的處理。
另外,DeepNet 2.0 還支持多 NPU 的組網,組成模塊化的網絡,來支持算力的需求。
對于架構,李霄寒表示,雖然每家的架構都有各自的特點和實現方法,但其上面的軟件會逐步達成統一,也就是說,支持機器學習的算法會逐漸形成統一的框架。未來,有可能形成在不同 AI 芯片硬件上面,可以運行所有神經網絡的模型,這在不久的将來是完全有可能出現的。
一直以來,一提起雲知聲,業内人士第一反應就是:這是一家做語音方案的公司,對此,李霄寒表示:“大家給雲知聲貼的這個标簽是片面的,并沒有反應出我們公司全部能力。實際上,雲知聲在圖像處理方面也有多年的技術積累。我們在這塊很早就開始布局了,并在 2018 年開始發力,将相應的算法融入到了實際的産品當中。”
據悉,為了在智能語音、圖像處理等多模态技術方面實現快速突破,雲知聲很早便在内部搭建了号稱雲知聲版“TensorFlow GKE (Google Kubernetes Engine) ”的 Atlas 機器學習計算平台,基于該平台可以實現各種算法的快速叠代,而且可以靈活調整算法和算力,極大地提升了研發效率。
在核心競争力方面,雲知聲采用的都是自家多年積累的 IP。對此,李霄寒表示:“我們在研發、推廣芯片産品的同時,逐步建立、鍛煉出了一支強有力的隊伍。我們在做語音專用的 DeepNet 1.0 的時候,市場上還沒有相關的産品,隻有自己研發。而且,在推向時候以後,反響不錯,我們才實實在在地意識到這是一款很不錯的産品,非常适合我們的算法和場景。因此,在此基礎上,我們發展出了 DeepNet 2.0,與 DeepNet 1.0 相比,DeepNet 2.0 在功能上有了極大的增強,特别是算力方面,達到了 4T,另外,DeepNet 2.0 可以支持多種 NPU,這也就意味着可以支持多模态。”
就在今年 1 月初,雲知聲正式對外宣布,其正在研發數款多模态 AI 芯片,分别是面向物聯網的雨燕-Lite,這是第一代雨燕的升級版本;面向智慧城市的海豚(Dolphin);面向智慧出行的車規級芯片雪豹(Leopard)。
發展三階段
對于雲知聲的發展曆程,李霄寒做出了這樣的總結:公司于 2012 年成立,至今已有 6 年多的時間,該公司将其發展曆史分成了 3 個階段。
李霄寒表示:“公司成立之初的兩年,是技術優勢構建階段。在該階段,雲知聲主要提供軟件算法、引擎,服務等;從 2015 年開始,我們進入到了産品優勢構建階段,也就是大家所熟知的“雲端芯”的産品體系。從那時起,雲知聲就不是隻提供算法這麼簡單了,而是開始提供應用産品了,起初以軟件為主,而且是整合了各種軟件服務的産品。而智能醫療是我們的主戰場,可以提供一整套的軟硬件方案。在 2015 年之前,雲知聲是不具備硬件設計能力的,為了補齊短闆,我們在深圳成立了一家分公司,專門進行硬件設計和研發;做出産品以後,我們進入了規模優勢構建階段,基于我們的芯片,實現大規模的量産,而且在相應的應用領域,排名行業第一。我們一直在觀察市場和時代需求,以建設我們相應的能力,進而幫助客戶解決問題。這也是我們于 2015 決定做芯片的主要原因,市場需求在那裡,我們就去做。而且當時市場上還沒有專用的 AI 芯片,為了滿足客戶對軟硬件的整體需求,我們必須自己研發 AI 芯片。”
加快腳步 隻争朝夕
未來,不同的應用場景和領域會對 AI 芯片有不同的規範和标準要求,包括功耗、接口等方面,都會形成相應的标準。“未來,AI 算法很可能都會有相應的标準出台”,李霄寒表示:“硬件和軟件之間的算法接口,很可能在不久的将來制定标準,這樣,就可以實現在同一AI 芯片上運行不同廠家的算法,這種可能性是完全存在的。而對于我們公司來說,要争取走得足夠快,争取成為标準的實際制定者。實際上,我們在家電領域已經實現過類似的目标,雲知聲是第一家在白色家電領域實現專用語音芯片落地的供應商,相應的測試标準實際上是由我們制定的。我們做出測試規範之後,客戶就用該标準去要求所有的供應商。未來我們依然會按照這樣的模式發展,争取成為更多行業标準的實際制定者。”
對于端和邊緣側 AI 芯片市場,李霄寒認為,邊緣側的 AI 芯片市場足夠大,而且仍然處于發展初期,遠沒有到大家在一個紅海裡拼殺的程度。關鍵還是要做好供給側的事情,市場的需求很大,也有很多廠商在跟進,但在現階段,大家的産品做的還都不夠好,雖然雲知聲走在了市場的前列,但依然有很大的提升空間。
“對于雲知聲來說,要隻争朝夕呀!”李霄寒說。
人物簡介
李霄寒博士于 1994 年考入中國科學技術大學少年班, 2003 年獲得中科大信号與信息系統博士學位。他曾先後服務于聯想、摩托羅拉中國、 Nuance 中國、盛大語音創新院等國内外知名公司,先後擔任技術經理、主任工程師以及研發總監職位。
他在 2001 年獲得“微軟學者”稱号,在 2005 年參與世界第一款嵌入式非特定人中文語音識别軟件研發并将其廣泛用于摩托羅拉系列産品中;随後在 2006 年參與世界第一款嵌入式說話人識别軟件的研發。李霄寒博士在 2002 年代表微軟,在 2010 年代表盛大參加“ NIST 國際說話人識别評測”大賽,共獲得七個單項第一、兩次總分第一名的優異成績。
目前他作為雲知聲聯合創始人及 IoT 事業部副總裁,分管産品研發。李霄寒博士負責帶隊研發的業界第一款物聯網 AI 芯片在 2018 年上半年成功流片。
,更多精彩资讯请关注tft每日頭條,我们将持续为您更新最新资讯!