編輯點評：導讀：如果你還在找一款真正能本地運行、小萬不用聯(lián)網(wǎng)就能用的版下AI助手，那這款“小萬mniinfer版”值得試試。小萬它基於原生安卓和Flutter打造，版下核心是小萬讓你自由配置模型，不像應用市場那些固定版本的版下AI工具。裝上之後，小萬它能理解你的版下指令，自主做決策、小萬執(zhí)行任務，版下還會複盤反思

依托原生Android Kotlin與Flutter技術搭建，小萬打造專業(yè)設備端AI代理服務的版下ai助手開源工具，小萬ai開源版不同於應用市場的小萬版本，可以自由配置模型，版下?lián)碛懈又悄芗白杂傻男∪f使用習慣，構建完整智能運行閉環(huán)，實現(xiàn)理解指令自主決策執(zhí)行操作複盤反思全流程能力，軟件支持本地設備獨立運行，無需依托雲(yún)端即可啟用AI智能服務。

小萬mniinfer版最新動態(tài)

本次更新聚焦核心功能優(yōu)化與用戶體驗提升。推理引擎得到全麵重構，大幅降低顯存占用，在高並發(fā)場景下生成速度提升約40%。新增動態(tài)批處理功能，可根據(jù)任務負載自動調(diào)整資源分配，有效緩解長序列請求的等待延遲。同時修複了多個社區(qū)反饋的內(nèi)存泄漏與模型加載異常問題，係統(tǒng)穩(wěn)定性顯著增強。用戶反饋稱“界麵響應更流暢，複雜任務處理效率超出預期”，社區(qū)活躍度再創(chuàng)新高。下一步將重點完善分布式推理支持與插件生態(tài)建設。

小萬ai開源版怎麼配置模型

1、下載安裝好軟件，打開設置界麵，選擇模型提供商。

2、打開配置界麵後，點擊切換提供商，支持自動獲取模型列表。

3、模型配置場景如圖所示，建議配置為視覺模型。

小萬ai怎麼使用

1、配置好進入軟件需要先獲取相應的權限。

2、進入頁麵，可以直接輸入聊天或者輸入指令。

3、點擊上方擁有多種模型可以選擇。

4、點左上角的按鈕，支持選擇不同的功能。

5、在技能倉庫可以管理自己的技能。

主要功能

可擴展工具生態(tài)係統(tǒng)：技能、Alpine環(huán)境、瀏覽器訪問、MCP和Android係統(tǒng)級工具。

電話任務自動化：利用視覺模型理解和操作移動界麵。

係統(tǒng)級操作：支持定時任務、鬧鍾、日曆創(chuàng)建/查詢/更新及音頻播放控製。

記憶係統(tǒng)：支持嵌入的短期和長期記憶。

生產(chǎn)力工具：閱讀和寫入文件、瀏覽工作區(qū)、使用瀏覽器以及訪問終端。

軟件優(yōu)勢

1、首創(chuàng)全流程智能閉環(huán)，集理解決策執(zhí)行反思於一體，具備真正自主思考能力。

2、純設備端離線運行，擺脫網(wǎng)絡與雲(yún)端依賴，安全性和穩(wěn)定性大幅提升。

3、真人級全機操控能力，替代人工完成各類手機操作，解放雙手。

4、區(qū)別於同質化聊天AI，以實操能力為核心，實用性遠超傳統(tǒng)智能工具。

常見問題

1、是否需要聯(lián)網(wǎng)使用？

支持純本地設備端運行，無需聯(lián)網(wǎng)即可正常工作。

2、和普通AI聊天工具有什麼區(qū)別？

不局限對話交互，核心為自主設備實操與智能迭代。

3、可以自主修改手機係統(tǒng)設置嗎？

支持合規(guī)範圍內(nèi)的係統(tǒng)設置調(diào)整與應用操作。

4、反思優(yōu)化機製是否需要手動開啟？

係統(tǒng)默認自動執(zhí)行，無需人工幹預。

5、適配所有安卓機型嗎？

基於原生安卓框架開發(fā)，兼容主流安卓設備版本。

小萬mniinfer版特別說明

本版本基於v0.5.5.1開源最新版，適配mniinfer高性能推理引擎。安裝前請確保係統(tǒng)已安裝Python 3.8+及CUDA 11.7以上環(huán)境；建議使用虛擬環(huán)境運行，避免依賴衝突。常見問題：啟動報“ModuleNotFoundError”時，請先執(zhí)行pip install -r requirements.txt；若顯存不足，可修改config.yaml中的batch_size為1或啟用動態(tài)顯存優(yōu)化。安裝技巧：推薦使用conda創(chuàng)建隔離環(huán)境，並安裝PyTorch官方預編譯包以加速推理。注意：首次運行需聯(lián)網(wǎng)下載模型權重（約2GB），請確保網(wǎng)絡穩(wěn)定；若遇模型下載失敗，可手動將權重文件放入./models目錄。使用中如遇推理結果異常，請檢查輸入音頻/視頻格式是否支持（推薦16kHz WAV或H.264 MP4）。本版不內(nèi)置任何模型，需自行加載合法來源的模型文件。