MNN Chat app是基于阿里巴巴MNN引擎構建的全功能多模態(tài)端側(cè)AI應用，其功能類似于Google AI Edge Gallery。MNN Chat app最大的特色是讓復雜的AI大模型完全脫離網(wǎng)絡運行，利用現(xiàn)在的高性能安卓手機上的cpu/gpu算力，將普通ai應用的諸如ai聊天、ai生成圖文、ai視頻制作、ai寫代碼等功能全部在手機本地上進行運行，完全脫離普通ai廠商自己的服務器，更好地保護用戶的數(shù)據(jù)隱私安全，以及高度可定制的ai服務功能。

作為安卓手機里的“全能 AI 百寶箱”，MNN Chat app集成了多種功能的“全能助手”，用戶通過它不僅能和你對答如流，還能直接看懂你拍的照片、聽懂你的語音，甚至能根據(jù)你的要求現(xiàn)場畫圖、制作視頻、網(wǎng)站生成。而且MNN Chat app深度適配了手機硬件，運行速度極快，且支持目前市面上大多數(shù)流行的AI模型?？梢哉f，MNN Chat app簡直就是把AI裝進了你的口袋，既是不費流量、保護隱私的私人助理，也是體驗前沿AI技術的首選神器，有需要的用戶可以在本站免費下載使用。

功能特色

【多模態(tài)支持】

提供多種任務功能，包括文本生成文本、圖像生成文本、音頻轉(zhuǎn)文本及文本生成圖像（基于擴散模型）。

【CPU推理優(yōu)化】

在安卓平臺上，MNN-LLM展現(xiàn)了卓越的CPU性能，預填充速度相較于llama.cpp提高了8.6倍，相較于fastllm提升了20.5倍，解碼速度分別快了2.3倍和8.9倍。下圖為 llama.cpp 與 MNN-LLM 的比較。

【廣泛的模型兼容性】

支持多種領先的模型提供商，包括Qwen、Gemma、Llama（涵蓋TinyLlama與MobileLLM）、Baichuan、Yi、DeepSeek、InternLM、Phi、ReaderLM和Smolm。

【本地運行】

完全在設備本地運行，確保數(shù)據(jù)隱私，無需將信息上傳至外部服務器。

MNN Chat app使用簡介

1、本站免費下載安裝應用后，您可以在模型市場界面中瀏覽所有支持的模型

2、然后選擇你需要的ai大模型下載

3、下載好后就可以直接在應用內(nèi)與模型交互

4、此外，您可以通過側(cè)邊欄訪問聊天歷史，輕松查看和管理之前的對話記錄

應用場景

1、全能創(chuàng)作官：

它不只是陪你聊天，更是你的全職文案加程序員。無論是寫復雜的學術論文、策劃活動方案，還是直接在手機上幫你寫出一段能運行的代碼，它都能手到擒來。

2、隨身多媒體工作室：

它是你的全能繪圖師與視頻幫手。你可以一句話讓它生成精美的畫作，或者讓它看懂一段視頻并幫你總結核心內(nèi)容、提取文案，甚至輔助你完成視頻剪輯思路，實現(xiàn)從文字到圖文、再到視頻的跨維度創(chuàng)作。

3、真正的“智慧大腦”：

相比其他單一功能的 App，它更像是一個超級樞紐。它能同時理解圖片、聲音和視頻，你可以拍一張復雜的流程圖讓它轉(zhuǎn)化成代碼，或者錄一段會議音頻讓它直接生成帶配圖的PPT大綱。

4、不插線的“工作站”：

最關鍵的是，這些高強度的創(chuàng)作任務（畫圖、分析視頻、寫程序）全是在你手機本地完成的。這意味著你擁有了一個不費流量、不收月費、響應極快的高性能 AI 工作站，隨時隨地開啟生產(chǎn)力。

更新日志

v0.8.2.2版本

1、更新亮點：

刷新內(nèi)置 MNN runtime，帶入最新的 CPU LinearAttention 與 Arm82 fp16 優(yōu)化路徑。

提升思考模式提示詞和數(shù)組拼接場景下的 tokenizer 與模板渲染兼容性。

為 OpenCL 和 Metal 執(zhí)行路徑補充 TopKV2 后端支持。

2、問題修復：

修復 Android 點擊 Add Local Model 時的崩潰問題。

避免模型加載時因 mmap 權重部分初始化而導致的死鎖問題。

對同模型啟動 API 服務時復用已加載 runtime session，避免額外重載導致的卡死或崩潰。