腳本之家服務(wù)器常用軟件

快捷導(dǎo)航

PaddleNLP飛槳開源深度學(xué)習(xí)平臺 v2.8.0

開源深度學(xué)習(xí)平臺

投訴報(bào)錯

源碼大?。?span>42.1MB
源碼語言：簡體中文
源碼類型：國產(chǎn)軟件
源碼授權(quán)：免費(fèi)軟件
源碼類別：其它源碼
應(yīng)用平臺：Python
更新時間：2024-05-26
網(wǎng)友評分：

360通過騰訊通過金山通過

42.1MB

詳情介紹

PaddleNLP是飛槳生態(tài)的文本領(lǐng)域核心庫，具備易用的文本領(lǐng)域API，多場景的應(yīng)用示例、和高性能分布式訓(xùn)練三大特點(diǎn)，旨在提升開發(fā)者文本領(lǐng)域的開發(fā)效率，并提供基于飛槳2.0核心框架的NLP任務(wù)最佳實(shí)踐。

功能特點(diǎn)：

易用的文本領(lǐng)域API

提供從數(shù)據(jù)加載、文本預(yù)處理、模型組網(wǎng)評估、到推理加速的領(lǐng)域API：支持豐富中文數(shù)據(jù)集加載的Dataset API；靈活高效地完成數(shù)據(jù)預(yù)處理的Data API；提供60+預(yù)訓(xùn)練模型的Transformer API等，可大幅提升NLP任務(wù)建模與迭代的效率。

多場景的應(yīng)用示例

覆蓋從學(xué)術(shù)到工業(yè)級的NLP應(yīng)用示例，涵蓋從NLP基礎(chǔ)技術(shù)、NLP核心技術(shù)、NLP系統(tǒng)應(yīng)用以及相關(guān)拓展應(yīng)用。全面基于飛槳核心框架2.0全新API體系開發(fā)，為開發(fā)提供飛槳2.0框架在文本領(lǐng)域的最佳實(shí)踐。

高性能分布式訓(xùn)練

基于飛槳核心框架領(lǐng)先的自動混合精度優(yōu)化策略，結(jié)合分布式Fleet API，支持4D混合并行策略，可高效地完成超大規(guī)模參數(shù)的模型訓(xùn)練。

更新日志

自研極致收斂的RsLoRA+算法，大幅提升PEFT訓(xùn)練收斂速度以及訓(xùn)練效果；

引入高性能生成加速到RLHF PPO算法，打破 PPO 訓(xùn)練中生成速度瓶頸，PPO訓(xùn)練性能大幅領(lǐng)先。

通用化支持 FastFNN、FusedQKV等多個大模型訓(xùn)練性能優(yōu)化方式，大模型訓(xùn)練更快、更穩(wěn)定

PaddleNLP 開源學(xué)習(xí)平臺

下載地址

下載錯誤？【投訴報(bào)錯】