版本:1.0.0大小:57.1 MB
系统:Android类别:实用工具
更新时间:2026-08-20
雨晴LLM是一款专为安卓设备量身打造的本地离线大语言模型推理工具,全程无需联网即可稳定运行。软件大幅降低了移动端本地部署大模型的操作门槛,无需繁琐复杂的编译配置,启动后台服务后,所有兼容OpenAI接口的客户端,都能快速接入手机端离线Gemma模型,适配场景十分广泛。软件支持后台常驻运行,搭配可自由拖拽的悬浮操控窗口,用户可在开启模型推理服务的同时切换其他应用,随时实时查看显存占用、推理速率等核心运行数据,掌控设备运行状态。
●提供基础推理参数自定义选项,可调整温度、上下文长度、最大生成长度等配置,适配创意写作、逻辑推理、代码生成等不同任务需求。
●优化移动端资源调度策略,后台推理时管控功耗与内存占用,减少长时间运行出现卡顿、闪退问题,延长离线推理任务持续运行时长。
●支持多客户端同时接入本地API服务,局域网内其他设备也可访问推理接口,实现手机作为家庭离线AI中枢,供多终端调用大模型能力。
●支持CPU、GPU两种推理后端自由切换,可根据手机硬件配置、功耗需求自主选择,兼顾老旧设备兼容性与高性能机型加速推理的使用场景。
●内置NanoHTTPd网络服务,在本机开放兼容OpenAI规范的API端点,各类聊天前端、自动化工具、脚本程序均可直接接入,轻松对接成熟的AI软件生态。
●配备实时统计仪表板,可视化展示推理速度、内存占用、负载状态等运行数据,方便用户监控模型运行状态,及时调整参数优化推理表现。
1、安装APK,授予存储、后台悬浮窗、后台运行权限;

2、进入模型管理页面,下载对应Gemma量化模型文件;
3、选择CPU/GPU推理后端,启动本地API服务;

4、使用任意兼容OpenAIAPI的客户端,填写本地地址`//127.0.0.1:8080`即可调用;
5、悬浮窗可随时查看生成进度、切换模型、关闭服务。
离线本地推理:专为安卓设备打造的大语言模型推理工具,无需网络连接即可独立运行,实现纯本地离线AI推理,数据安全更有保障。
低门槛部署接入:简化移动端大模型部署流程,无需复杂编译环境与专业配置,启动后台服务后,所有支持OpenAI接口的客户端均可快速接入手机端离线Gemma模型,适配性极强。
悬浮后台运行:支持服务常驻后台,搭配可拖拽悬浮操控窗口,可边运行推理服务边切换其他应用,互不干扰,多任务操作更便捷。
实时数据监控:内置可视化性能监控仪表盘,可实时查看显存占用、推理速度等核心运行指标,直观掌握设备运行与模型推理状态。
双后端自由切换:兼容CPU、GPU双推理后端,可根据设备状态与使用需求随心切换,搭配稳定持久的后台服务,保障推理过程流畅稳定不中断。
自定义模型适配:支持用户自主下载、导入各类模型文件,可灵活适配不同参数量级的开源模型权重,自由度极高,轻松实现移动端低成本AI离线部署体验。
v1.0.0:
-软件上线
弦电子书 V26.4.9C01 安卓版
实用工具 / 11.3M / 2026-08-20
进入
360极速游览器 v3.6.0.240 安卓版
实用工具 / 187.67M / 2026-08-20
进入
qq打字 6291 安卓版
实用工具 / 33.45M / 2026-08-20
进入
wakeup课程表 6.2.20 最新版
实用工具 / 33.8M / 2026-08-20
进入
astral 2.9.9 安卓版
实用工具 / 63.8M / 2026-08-20
进入
游戏王卡牌制作器 1.18.0 安卓版
实用工具 / 61.9M / 2026-08-20
进入
拼豆先生 1.0.5 手机版
实用工具 / 106.3M / 2026-08-20
进入
白嫖之家 1.3 安卓版
实用工具 / 40.2M / 2026-08-20
进入
爱扳手 1.3.6 安卓版
实用工具 / 18.6M / 2026-08-20
进入
忘情牛肉面语音盒 1.04 安卓版
实用工具 / 29.9M / 2026-08-20
进入写入外部存储 允许程序写入外部存储,如SD卡上写文件 ------------------------------------- 访问外部存储 访问外部存储的权限 ------------------------------------- 访问网络 访问网络连接,可能产生GPRS流量 ------------------------------------- 拍照权限 允许访问摄像头进行拍照 ------------------------------------- 获取网络状态 获取网络信息状态,如当前的网络连接是否有效 ------------------------------------- 获取WiFi状态 获取当前WiFi接入的状态以及WLAN热点的信息 ------------------------------------- 排序系统任务 重新排序系统Z轴运行中的任务 ------------------------------------- 使用闪光灯 允许访问闪光灯 ------------------------------------- 读写系统设置 允许读写系统设置项 ------------------------------------- 挂载文件系统 挂载、反挂载外部文件系统 ------------------------------------- 录音 录制声音通过手机或耳机的麦克 ------------------------------------- 显示系统窗口 显示系统窗口 ------------------------------------- 使用振动 允许振动 -------------------------------------