腳本之家服務(wù)器常用軟件

快捷導(dǎo)航

Paddle Lite深度學(xué)習(xí)框架 v2.14

深度學(xué)習(xí)框架

投訴報(bào)錯(cuò)

源碼大?。?span>4.5MB
源碼語(yǔ)言：簡(jiǎn)體中文
源碼類型：國(guó)產(chǎn)軟件
源碼授權(quán)：開源軟件
源碼類別：C#源碼
應(yīng)用平臺(tái)： C++
更新時(shí)間：2024-08-17
網(wǎng)友評(píng)分：

360通過(guò) 騰訊通過(guò) 金山通過(guò)

4.5MB

詳情介紹

Paddle Lite是一個(gè)高性能、輕量級(jí)、靈活性強(qiáng)且易于擴(kuò)展的深度學(xué)習(xí)推理框架，定位支持包括移動(dòng)端、嵌入式以及服務(wù)器端在內(nèi)的多硬件平臺(tái)。

當(dāng)前Paddle Lite不僅在百度內(nèi)部業(yè)務(wù)中得到全面應(yīng)用，也成功支持了眾多外部用戶和企業(yè)的生產(chǎn)任務(wù)。

主要特性

多硬件支持：

Paddle Lite架構(gòu)已經(jīng)驗(yàn)證和完整支持從 Mobile 到 Server 多種硬件平臺(tái)，包括 ARM CPU、Mali GPU、Adreno GPU、華為 NPU，以及 FPGA 等，且正在不斷增加更多新硬件支持。

各個(gè)硬件平臺(tái)的 Kernel 在代碼層和執(zhí)行層互不干擾，用戶不僅可以自由插拔任何硬件，還支持任意系統(tǒng)可見硬件之間的混合調(diào)度。

輕量級(jí)部署：

Paddle Lite在設(shè)計(jì)上對(duì)圖優(yōu)化模塊和執(zhí)行引擎實(shí)現(xiàn)了良好的解耦拆分，移動(dòng)端可以直接部署執(zhí)行階段，無(wú)任何第三方依賴。

包含完整的80個(gè) op+85個(gè) Kernel 的動(dòng)態(tài)庫(kù)，對(duì)于ARMV7只有800K，ARMV8下為1.3M，并可以通過(guò)裁剪預(yù)測(cè)庫(kù)進(jìn)一步減小預(yù)測(cè)庫(kù)文件大小。

高性能：

極致的 ARM CPU 性能優(yōu)化：針對(duì)不同微架構(gòu)特點(diǎn)實(shí)現(xiàn)kernel的定制，最大發(fā)揮計(jì)算性能，在主流模型上展現(xiàn)出領(lǐng)先的速度優(yōu)勢(shì)。

支持 PaddleSlim模型壓縮工具：支持量化訓(xùn)練、離線量化等多種量化方式，最優(yōu)可在不損失精度的前提下進(jìn)一步提升模型推理性能。性能數(shù)據(jù)請(qǐng)參考 benchmark。

多模型多算子：

Paddle Lite和PaddlePaddle訓(xùn)練框架的OP對(duì)齊，提供廣泛的模型支持能力。

目前已嚴(yán)格驗(yàn)證24個(gè)模型200個(gè)OP的精度和性能，對(duì)視覺類模型做到了較為充分的支持，覆蓋分類、檢測(cè)和定位，包含了特色的OCR模型的支持，并在不斷豐富中。具體請(qǐng)參考支持OP。

強(qiáng)大的圖分析和優(yōu)化能力：

不同于常規(guī)的移動(dòng)端預(yù)測(cè)引擎基于 Python 腳本工具轉(zhuǎn)化模型， Lite 架構(gòu)上有完整基于 C++ 開發(fā)的 IR 及相應(yīng) Pass 集合，以支持操作熔合，計(jì)算剪枝，存儲(chǔ)優(yōu)化，量化計(jì)算等多類計(jì)算圖優(yōu)化。更多的優(yōu)化策略可以簡(jiǎn)單通過(guò) 新增 Pass 的方式模塊化支持。

PaddleLite 深度學(xué)習(xí) 框架

下載地址

下載錯(cuò)誤？【投訴報(bào)錯(cuò)】