雨晴 LLM软件v1.0.0(113) 安卓版

雨晴 LLM是安卓端的本地离线大模型推理工具，依托对应推理引擎运行 Gemma 系列模型，全程不用联网，守护用户的数据隐私。软件输出兼容 OpenAI 规范的本地接口，能够对接各类第三方 AI 程序，还可切换不同运算后端，搭配悬浮窗与后台常驻能力，方便监控运行状态，模型文件需要自行导入，很适合技术爱好者搭建移动端离线 AI 环境。

雨晴LLM怎么使用

1、安装 APK，授予存储、后台悬浮窗、后台运行权限；

2、进入模型管理页面，下载对应 Gemma 量化模型文件；

3、选择 CPU/GPU 推理后端，启动本地 API 服务；

4、使用任意兼容 OpenAI API 的客户端，填写本地地址 `http://127.0.0.1:8080` 即可调用；

5、悬浮窗可随时查看生成进度、切换模型、关闭服务。

雨晴LLM怎么下载模型？

1、点击模型；

2、选择一个模型；

3、下载；

4、下载速度非常慢，用户可自行选择。

雨晴LLM是什么软件

一个纯离线的 Android 本地 LLM 推理服务器。集成 Google LiteRT-LM 引擎运行 Gemma 模型，通过 NanoHTTPd 在 广播 OpenAI 兼容 API，供 ChatBox、Open WebUI 等第三方 AI 客户端调用。

功能特性

如图

更新日志

RainyLLM v1.1.3

Android 本地 LLM 推理服务器 — 在手机上跑 Gemma，开放 OpenAI 兼容 API。