Slide
Slide
Slide
Hitachi_AI_HCI
Hitachi_HCI
HCI
previous arrow
next arrow

台灣初創推加速卡 AI邊緣運算功耗大減

M2AI -2280 520採用了M.2 Key b插卡,可以加入邊緣設備和工業電腦,毋須改動設計內容。

眾創時代

台灣創業家劉峻誠成立的AI初創「耐能智慧」(KNERON)與華碩子公司研揚科技(AAEON)合作,推出基於AI芯片KL520的工業產品,用於邊緣的AI推理(Inference),可大幅降低邊緣運算成本。

AAEON專注於嵌入式單板電腦、 工業電腦、 強固型平板電腦的,開發了三款AI加速卡。

AI加速卡使用KNERON開發的KL520 Ai 芯片,可為工業電腦加入AI能力,能用於門禁、手機、物聯網、甚至是無人機上,以視覺運算進行識別人臉或物件。

KNERON的投資者,包括了阿里巴巴創業者基金、中華開發、李嘉誠旗下維港投資、高通、紅杉資本等頂尖基金。KNERON投資者背景雄厚,也是業內公認有機會成為AI獨角獸的初創,近期中美角力,台灣背景的KNERON更被視為替代方案。

較早前,KNERON在「美國國家標準與技術研究院」(NIST)舉辦的人臉識別比賽「FRVT」(Face Recognition Vendor Test),成為全球輕量級人臉辨識演算法的冠軍。輕量級是指AI模型小於100MB。KNERON開發的AI模型只有57 MB,卻比部分1GB的模型,精確度還要高。

MINI AI 520以插卡設計,支援USD介面

輕量級模型冠軍

NIST主辦比賽的結果,代表了美國國家採購標準。FRVT為全球最高級別的人臉識別比賽之一,為各廠商檢驗人臉辨識技術關鍵指標。此次參與FRVT的131個模型,包括了KNERON的Kneron-003,所有參賽模型之中,只有6個達到業內公認的輕量級。

雖然,依圖科技仍是NIST人臉識別比賽表現最好廠商,最近商湯和依圖科技相繼進入美國制裁的實體清單,華為技術又不能輸美,KNERON又具備AI芯心的邊緣方案,成為不少美國廠商的選擇,近期最熱門的AI初創。

至於KL520 Ai 芯片,除了能耗低,算力決,可低至數百mW水平,甚至以電池作驅動。KL520體積約40nm,算力可達350 TOPS,平均功耗降至300-500mW;為少數可以電池 驅動的3D AI 芯片,加上安全級別達到EAL4+,通過銀聯芯片安全認證。

AAEON推出三款加速卡產品,包括了MINI AI 520、M2AI-2242 520、M2AI -2280 520等,可用於金融及零售行業。

KL520 芯片的獨特優勢,在於其「可重組人工智慧神經網絡」技術,根據不同任務不斷重組資源,減少運算的複雜度,並可根據不同的卷積神經網絡(CNN)模型優化。除了達到高精準度 3D 人臉識別功能,也可破解高解析圖片、影像、3D 列印模型、蠟像等。上述技術令計算過程,減少記憶體數據移動的耗損;模型壓縮技術可減小模型大小,大幅降低終端部署儲存成本。以KNERON開發的AI模型,壓縮後約只有16-32 MB。

KNERON不少高層均是前高通研究人員,故此總部亦設於美國聖地牙哥

發展AI門禁方案

KNERON亦正開發下一代AI的SoC芯片,可支援RNN神經網絡,也就是可支援聲紋識別和自然話音。

雖然AAEON也與英特爾合作開發MyriadX的AI加速卡,推出多項邊緣運算產品和加速卡。最近華為亦推出了Ascend 310的AI芯片加速卡Altas,在邊緣推理亦具低功耗的優勢。 KL520相比Myriad X和Ascend功耗更低,又可開發美國市場,故具一定競爭力。

除了推出AI芯片,KNERON與系統整合夥伴 TIIS 東宜資訊的 AI 方案,亦開始部署在台灣數家銀行與金融機構。2019年,KNERON收入約為500萬美元,為AI芯 片商業化的先鋒。KL520智慧物聯網的AI SoC方案,也為少數可量產的方案,在門禁和智慧門鎖等場景上有應用,最近亦參加了上海CES展覽亮相。

劉峻誠現年只有39歲,畢業於台南成功大學,後負芨赴美深造,取得加州大學洛杉磯分校電子工程博士學位,畢業後陸續在高通(Qualcomm)和三星(Samsung Electronics)任職,研發 AI 技術。

KNERON於2015年創立,總部亦設於美國聖地牙哥,骨幹人員均是來自高通,高通亦成為投資者之一。高通亦為商湯的投資者,不過KNERON的方案亦可應用於手機,也是替代方案。

Leave a Reply

Your email address will not be published. Required fields are marked *