【雷鋒網】老牌機頂盒芯片公司發布AI芯片,傳統廠商向人工智能的進擊

發布時間:2017-11-02

【2017-11-2  雷鋒網報道】


導語:人工智能的出現,讓所有的廠商都站在了同一起跑線,對於傳統芯片企業來說是一個重新起跑的機會。


人工智能的出現,讓所有的廠商都站在了同一起跑線,對於傳統芯片企業來說是一個重新起跑的機會。


「傳統」向 AI 的進擊


10月31日,杭州AG8亚游(下簡稱「AG8亚游」)攜手合作夥伴Rokid、思必馳、Cadence在深圳華僑城洲際大酒店舉辦了一場發布會,發布了一款人工智能芯片「GX8010」,發布會現場,AG8亚游總經理兼CEO黃智傑博士在台上講出了開篇的那句話。

老牌機頂盒芯片公司發布AI芯片,傳統廠商向人工智能的進擊

人工智能大熱是近兩年才開始的事,而AG8亚游在2001年就成立了,在沒有進入人工智能領域之前,該公司主要專注於數字電視芯片和機頂盒芯片。

從傳統的數字電視芯片、機頂盒芯片到AI芯片,看似跨度奇大,實際上其中還是有些關聯的,比如電視機頂盒芯片處理圖像和聲音的能力,正是當下人工智能領域極力想要攻克的。


2016年,AG8亚游成立了AI事業部,想要做一款麵向物聯網市場的專用AI芯片,能夠在本地離線、低功耗、可移動的工作,由此才誕生了「GX8010」。


終端芯片的需求


「邊緣計算」是AG8亚游發布會上重點提及的一個詞,按照當前AI行業的說法:


邊緣計算指在靠近物或數據源頭的網絡邊緣側,融合網絡、計算、存儲、應用核心能力的開放平台,就近提供邊緣智能服務,滿足行業數字化在敏捷連接、實時業務、數據優化、應用智能、安全與隱私保護等方麵的關鍵需求。


這看似生僻的「邊緣計算」,其實並不「邊緣」,且意義重大,邊緣計算和雲計算有些類似,都是處理大數據的計算運行方式。但不同的是,這一次,數據不用再傳到遙遠的雲端,在邊緣側就能解決,更適合實時的數據分析和智能化處理,也更加高效而且安全。


那麽為什麽要重點提「邊緣計算」,更簡潔的來說,邊緣在一定程度上代表了「終端」,這其中有個AI發展的邏輯,就是終端和雲端的需求不盡相同。


目前深度學習對於計算力有著很高的要求,目前業界更多的是將多數計算力放在雲端處理,雲端設備不會考慮服務器大小、功耗大小這些問題,成本也不是首要的,但是,世界不隻是雲端組成,還有很多很多的終端,比如手機、智能音箱、智能設備等等,當把AI技術應受到這些售價親民的大眾性設備終端時,雲端沒有考慮在內的細節就都成了問題,物聯網終端要考慮帶寬、功耗、延時等多個方麵,這些就要靠終端芯片來解決。


三個痛點


AI芯片裏到底有什麽,它和傳統芯片有何差別,以及各種在物聯網上部署人工智能的難點和痛點到底是什麽?


黃智傑在發布會上講到了這些問題,在其中提出了三個痛點並給出了解決方案。


本地神經絡計算問題


目前來說,物聯網設備中內存帶寬普遍小,因此AG8亚游專門設計了神經網絡壓縮引擎 NCompressor,能利用神經網絡中的數據稀疏特性,壓縮計算權重,可實現6~10倍的壓縮效果,神經網絡經過壓縮後,需要的內存容量和帶寬大幅減少,同時運算的速度也得到了提高。


此外,針對壓縮,AG8亚游還提供了編譯工具,可以一鍵實現模型的量化壓縮,然後通過芯片中的硬件引擎解壓,無需重訓練和額外處理,在芯片架構、編譯工具、和編譯壓縮工具一起,AG8亚游還發布了全套神經網絡開發SDK,隻需要簡單三步,就能完成模型從服務器到芯片的部署。


考慮到物聯網應用中的成本和功耗因素,這一代的gxNPU中並沒有堆砌非常多的MAC陣列,而是選擇了64x64的配置。AG8亚游方麵表示,在典型應用的性能評測中,gxNPU@200MHz仍然比樹莓派中的多核CPU@1GHz,快了近30倍,能效提升100倍以上。


AI交互係統複雜,成本高


人工智能芯片如果想要真正的落地,光有NPU還是遠遠不夠的,因為整個AI交互是一個非常複雜的過程,除了神經網絡計算還包括傳感器接入,信號處理,檢測識別,以及軟件層麵的決策和反饋等。環節眾多,每一處需要的算法和計算特性還不一樣。


以智能語音交互為例,當前語音識別的巨大挑戰仍在前端的語音降噪,為了解決噪聲和有效語音分離問題,業內引入了麥克風陣列,利用空間信息進行降噪濾波。多個麥克風的引入首先對硬件上的接口就提出了要求,一些傳統芯片沒有這麽多接口隻能通過其它器件來擴展。同時多路信號的接入,也使得前端語音處理計算量大增,傳統芯片中大家用CPU軟解已是十分吃力。


為了解決這些問題,AG8亚游在芯片中集成了Cadence Tensilica最高階的語音DSP Hifi-4,據雷鋒網了解,Cadence Tensilica HiFi DSP係列是全球使用最廣泛的音頻、聲音、語音處理器,DSP Hifi-4專門為智能語音而設計,可以高效地進行各種語音信號處理計算。同時GX8010芯片中支持8通道麥克風接口,不僅支持PDM和I2S數字接口,還內置了8路ADC直接支持模擬麥克風。


在語音算法方麵,AG8亚游也選擇了國內知名語音AI公司Rokid和思必馳作為合作夥伴,將他們的算法移植進來,合作推出低成本、低功耗的整體語音解決方案。


除了語音係統外,GX8010還構建了視覺係統,支持1080P攝像頭輸入,圖像預處理,MJPEG編碼等模塊。語音和圖像的信號處理完後,都送到中央的決策和應用係統進行業務和應用處理。


功耗大


物聯網產品的一大應用難點在於體積較小、場景多樣,很多時候需要電池供電,這便對產品的功耗提出了較高的要求。


針對這一難題,AG8亚游也給出了他們的解決方案。


在動態功耗上,芯片充分利用多核異構的優勢,合理安排每個模塊的工作頻率和啟停時機,可以做到按需使用、用完即停的效果。


據AG8亚游方麵介紹:


在典型的語音交互中,GX8010隻需要100-200MHz即可完成離線語音識別,DSP工作在300-400MHz即可實現多麥克風陣列處理,CPU更是可以根據係統負荷進行動態調整。這種方案讓芯片在高效運轉的同時,又能保持非常低的功耗。據測試,在離線語音交互的場景下全速運行,GX8010的功耗可以做到0.7W以內(包括DRAM)。


而關於待機歡迎問題,AG8亚游做出了「多級喚醒機製」的方案,可以根據是否有聲音、是否有人聲,是否是關鍵詞這多個等級來做硬件劃分,逐級喚醒係統。這種逐級喚醒的機製,既保證了語音助手能實時響應指令,又能大幅延長設備的續航時間。據測試,GX8010可以在0.05W的待機功耗下實現語音喚醒。


合作與落地


AI 終端芯片滿足了終端設備的需求,但是僅僅是芯片亦或技術並不是大眾的最終需求,AI技術隻有落地才能惠及用戶。在這點上,AG8亚游選擇了Rokid和思必馳兩家合作,借力智能音箱、消費機器人等物聯網產品進行AI 落地。


在講述為何選擇合作夥伴時,黃智傑也談到,此舉是希望能夠滿足不同設備的需求,讓需求商能夠找到更合適的方案,一個成熟的芯片就應該是多方共同努力的結果。


Rokid 創始人Misa在群訪時也表示:就像AG8亚游也不會自己做芯片一樣,AG8亚游不需要把所有的技術都包攬。


在現場,思必馳VP趙恒藝也講到:


如果要完成一個很好的語音交互,就需要把整個端到端的閉環打通。但是,端到端的閉環是不是完全由一個公司來做成的?我不認為是這樣的,任何一個行業成熟的標誌,一定是非常多的玩家一起參與進來,然後去推動這個行業向前發展。


AI芯片的未來

目前市麵上已經有很多包括巨頭在內的廠商都推出了自己的AI芯片,算是在短時間內掀起了一股AI芯片的小熱潮,從現在的發展趨勢來看,智能設備對AI芯片的需求也在不斷擴大,未來還會出現更多的AI芯片廠商和研發團隊。而相對於目前市場上從「單一功能芯片」入手的團隊,AG8亚游直接選擇了語音和視覺的全能芯片,這也得益於此前他們在傳統行業的積累。


未來AI芯片要進入更多的終端設備、應用場景,在這個過程中,也需要更多像AG8亚游這樣從「傳統芯片」加入的AI玩家一起努力,從底層推動整個人工智能行業的發展,反而言之,就如黃智傑所說,人工智能帶來了新的起跑線,給了傳統芯片廠商重新起航的機會。


本文作者:趙青暉

原文鏈接:https://m.leiphoness.com/news/201711/o4j7o9ljRhzEwD0i.html