盡管由于限制，華為擁有設(shè)計(jì)先進(jìn)芯片的能力但沒法制造出來，但是軟硬件優(yōu)化還是讓華為的平臺(tái)展示出了優(yōu)秀的性能，日前OpenCV就實(shí)現(xiàn)了對(duì)華為AI平臺(tái)晟騰的優(yōu)化，速度提升很恐怖，差不多是蘋果M1處理器的7倍。

據(jù)南方科技大學(xué)計(jì)算機(jī)系的于仕琪老師介紹，OpenCV中國團(tuán)隊(duì)實(shí)現(xiàn)了OpenCV4.7對(duì)華為晟騰的支持，在華為硬件上，3毫秒就可以完成ResNet50的推理。

這個(gè)速度的確很恐怖！要知道，我們把OpenCV針對(duì)arm cpu加了winograd conv等的優(yōu)化了，在蘋果標(biāo)桿CPU m1上都要跑20+ms。

這一工作的最大意義在于，用戶不需要學(xué)習(xí)華為晟騰的復(fù)雜API，正常調(diào)用OpenCV，就能實(shí)現(xiàn)晟騰NPU硬件加速。

據(jù)悉，昇騰CANN（Compute Architecture for Neural Networks）是華為針對(duì)AI場(chǎng)景推出的異構(gòu)計(jì)算架構(gòu)。

昇騰CANN支持昇思MindSpore，OpenCV DNN，飛槳Paddle、PyTorch、TensorFlow等神經(jīng)網(wǎng)絡(luò)推理和訓(xùn)練框架，并兼容多種底層硬件設(shè)備，提供強(qiáng)大異構(gòu)計(jì)算能力。

其中昇騰CANN為用戶提供了模型轉(zhuǎn)換工具ATC，以及C/Python的API庫AscendCL。

用戶可使用ATC將ONNX、TF和Caffe模型轉(zhuǎn)換為被AscendCL支持的OM格式，并調(diào)用AscendCL的API讀取和在昇騰AI處理器上推理模型。