華為NPU卡 Atlas 300I Duo 推理卡 2*Ascend 310P 8Core 1.9GHz(2*8個(gè)AI核+2*8個(gè)自研CPU核心),48GB,204.8GB/s,150W,FP16-140TOPS,INT8-280TOPS,單寬全高全長(zhǎng)
二、Atlas 300I Duo 推理卡特點(diǎn)
強(qiáng)算力
三、Atlas 300I Duo 經(jīng)典應(yīng)用場(chǎng)景
Atlas 300I Duo 推理卡典型應(yīng)用場(chǎng)景為搜索推薦、內(nèi)容審核、OCR系統(tǒng)、目標(biāo)識(shí)別系統(tǒng)和智慧城市2.0城市治理場(chǎng)景。搜索推薦系統(tǒng)如圖3-1所示,主要部件有推理服務(wù)器、客戶端信息化系統(tǒng)軟件組成,Atlas 300I Duo 推理卡部署在推理服務(wù)器中,主要實(shí)現(xiàn)用戶數(shù)據(jù)類別召回、排序、重排序等推理功能。
內(nèi)容審核系統(tǒng)如圖3-2所示,主要部件有NLP服務(wù)器、中心管理服務(wù)器、信息化系統(tǒng)軟件組成。Atlas 300I Duo 推理卡部署在NLP服務(wù)器中,主要實(shí)現(xiàn)視頻、圖像、語音、文本的審核校驗(yàn)等推理功能。
OCR系統(tǒng)架構(gòu)如圖3-3所示,主要部件有掃描儀、OCR服務(wù)器、中心管理服務(wù)器、信息化系統(tǒng)等軟件組成。Atlas 300I Duo 推理卡部署在OCR服務(wù)器中,主要實(shí)現(xiàn)圖片預(yù)處理、文本檢測(cè)、文本識(shí)別、后處理校驗(yàn)等推理功能。
目標(biāo)識(shí)別系統(tǒng)架構(gòu)如圖3-4所示,主要部件有系統(tǒng)前端高清網(wǎng)絡(luò)攝像機(jī)或目標(biāo)抓拍機(jī)、媒體流存儲(chǔ)服務(wù)器(可選)、目標(biāo)智能分析服務(wù)器、目標(biāo)比對(duì)搜索服務(wù)器、中心管理服務(wù)器、客戶端管理軟件等組成。Atlas 300I Duo 推理卡部署在目標(biāo)識(shí)別服務(wù)器中,主要實(shí)現(xiàn)視頻解碼/預(yù)處理、目標(biāo)檢測(cè),目標(biāo)對(duì)齊和目標(biāo)特征提取等推理功能。
智慧城市2.0系統(tǒng)架構(gòu)如圖3-5所示,主要部件有系統(tǒng)前端高清網(wǎng)絡(luò)攝像機(jī)或抓拍機(jī)、視頻解析/推理集群、資源調(diào)度服務(wù)器、流媒體服務(wù)器、平臺(tái)應(yīng)用服務(wù)器、資源調(diào)度服務(wù)器等組成。Atlas 300I Duo 推理卡部署在視頻解析/推理集群中,主要實(shí)現(xiàn)視頻解碼/預(yù)處理、占道經(jīng)營(yíng)識(shí)別、后廚人員口罩識(shí)別、河道漂浮物/河道偷釣識(shí)別等推理功能。