230 lines
6.1 KiB
Markdown
230 lines
6.1 KiB
Markdown
# LLM Proxy - OpenAI API 代理和训练数据收集工具
|
||
|
||
一个透明的 HTTP 代理服务器，用于拦截和保存 LLM API 请求，自动导出为 JSONL 格式的训练数据。项目仓库：
|
||
|
||
https://gitea.spdis.space/spdis/LLMPoxy.git
|
||
|
||
## 功能特性（当前状态）
|
||
|
||
- ✅ **透明代理**：拦截所有 `/v1/` 开头的 LLM API 请求
|
||
- ✅ **零配置**：无需在代理中配置 API Key，直接使用客户端的 Key
|
||
- ✅ **多提供商支持（标准 OpenAI 兼容）**：支持 OpenAI / DeepSeek / OpenRouter 等标准 OpenAI 接口
|
||
- ✅ **智能解析**：自动识别和解析 LLM 请求，忽略其他请求
|
||
- ✅ **思考过程保存**：自动保存模型的推理内容（reasoning）
|
||
- ✅ **多轮对话支持（Cherry Studio 已实战验证）**：自动根据首个 system + 首轮 user 推断对话 ID，将多次请求归并为同一条对话
|
||
- ✅ **JSONL 导出**：一键导出为标准训练数据格式
|
||
- ✅ **SQLite 存储**：轻量级数据库，无需额外配置
|
||
|
||
## 已完成的支持
|
||
|
||
- ✅ Cherry Studio 这类“每次请求带完整 history”的 OpenAI API 调用范式：
|
||
- 自动识别多轮对话并归并 conversation
|
||
- 完整捕获系统提示词、用户消息、思考过程（reasoning / reasoning_content）、工具调用（tool_calls）和工具返回（tool）
|
||
- 导出的 JSONL 中，按时间顺序拼接对话，避免重复的 system / user 消息
|
||
|
||
## 待办 / 规划
|
||
|
||
- ⏳ 适配 Trae 等自动化 IDE：
|
||
- 分析 Trae 的请求模式（包括内部调度、子模型调用、工具链）
|
||
- 在不破坏现有 Cherry Studio 方案的前提下，扩展 host/path 识别规则
|
||
- 验证多子模型、多工具链场景下的数据结构是否适合作为训练样本
|
||
|
||
## 安装
|
||
|
||
### 1. 克隆项目
|
||
|
||
```bash
|
||
git clone https://github.com/mitmproxy/mitmproxy.git
|
||
cd mitmproxy
|
||
```
|
||
|
||
### 2. 安装依赖
|
||
|
||
```bash
|
||
pip install -r requirements.txt
|
||
```
|
||
|
||
## 使用方法
|
||
|
||
### 启动代理服务器
|
||
|
||
```bash
|
||
python start_proxy.py
|
||
```
|
||
|
||
默认监听 `127.0.0.1:8080`
|
||
|
||
### 配置系统代理
|
||
|
||
#### Windows
|
||
|
||
1. 打开"设置" → "网络和 Internet" → "代理"
|
||
2. 开启"使用代理服务器"
|
||
3. 地址：`127.0.0.1`
|
||
4. 端口：`8080`
|
||
|
||
#### macOS
|
||
|
||
```bash
|
||
networksetup -setwebproxy Wi-Fi 127.0.0.1 8080
|
||
networksetup -setsecurewebproxy Wi-Fi 127.0.0.1 8080
|
||
```
|
||
|
||
#### Linux
|
||
|
||
在浏览器或系统设置中配置 HTTP/HTTPS 代理为 `127.0.0.1:8080`
|
||
|
||
### 使用客户端（当前推荐）
|
||
|
||
#### CherryStudio
|
||
|
||
**方法 1：配置自定义提供商**
|
||
1. 打开 CherryStudio 设置 → 模型服务
|
||
2. 添加自定义提供商
|
||
3. API 地址：`http://127.0.0.1:8080/v1`
|
||
4. API Key：任意值（代理会忽略）
|
||
5. 添加你使用的模型
|
||
|
||
**方法 2：使用系统代理**
|
||
1. 启动代理服务器
|
||
2. 配置系统代理（见上）
|
||
3. 在 CherryStudio 中正常使用
|
||
|
||
### 导出训练数据
|
||
|
||
```bash
|
||
# 导出所有对话（包含思考过程）
|
||
python export.py
|
||
|
||
# 导出指定文件
|
||
python export.py --output my_data.jsonl
|
||
|
||
# 不包含思考过程
|
||
python export.py --no-reasoning
|
||
|
||
# 包含元数据
|
||
python export.py --with-metadata
|
||
|
||
# 查看数据库统计
|
||
python export.py --stats
|
||
```
|
||
|
||
## 配置文件
|
||
|
||
编辑 `config.json` 来自定义配置：
|
||
|
||
```json
|
||
{
|
||
"proxy": {
|
||
"listen_port": 8080,
|
||
"listen_host": "127.0.0.1"
|
||
},
|
||
"database": {
|
||
"path": "llm_data.db"
|
||
},
|
||
"filter": {
|
||
"enabled": true,
|
||
"path_patterns": ["/v1/"],
|
||
"save_all_requests": false
|
||
},
|
||
"export": {
|
||
"output_dir": "exports",
|
||
"include_reasoning": true,
|
||
"include_metadata": false
|
||
}
|
||
}
|
||
```
|
||
|
||
## JSONL 格式
|
||
|
||
导出的 JSONL 文件格式：
|
||
|
||
```jsonl
|
||
{"messages": [{"role": "system", "content": "You are a helpful assistant."}, {"role": "user", "content": "Hello!"}, {"role": "assistant", "content": "Hi there!", "reasoning": "The user greeted me, so I should respond politely."}]}
|
||
{"messages": [{"role": "system", "content": "You are a helpful assistant."}, {"role": "user", "content": "What is 2+2?"}, {"role": "assistant", "content": "2+2 equals 4.", "reasoning": "This is a simple arithmetic problem. 2+2 = 4."}]}
|
||
```
|
||
|
||
## 数据库结构
|
||
|
||
### conversations 表
|
||
- `id`: 主键
|
||
- `conversation_id`: 对话 ID
|
||
- `created_at`: 创建时间
|
||
- `updated_at`: 更新时间
|
||
|
||
### requests 表
|
||
- `id`: 主键
|
||
- `request_id`: 请求 ID
|
||
- `conversation_id`: 对话 ID（外键）
|
||
- `model`: 模型名称
|
||
- `messages`: 消息列表（JSON）
|
||
- `request_body`: 完整请求体（JSON）
|
||
- `created_at`: 创建时间
|
||
|
||
### responses 表
|
||
- `id`: 主键
|
||
- `request_id`: 请求 ID（外键）
|
||
- `response_body`: 完整响应体（JSON）
|
||
- `reasoning_content`: 思考过程
|
||
- `tokens_used`: 使用的 token 数量
|
||
- `created_at`: 创建时间
|
||
|
||
## 工作原理
|
||
|
||
1. **拦截请求**：代理拦截所有 `/v1/` 开头的 HTTP 请求
|
||
2. **智能解析**：尝试解析请求体，识别是否为 LLM API 请求
|
||
3. **保存请求**：将请求信息保存到 SQLite 数据库
|
||
4. **透明转发**：保持原始 Authorization header，转发到目标服务器
|
||
5. **保存响应**：接收响应后，保存响应内容和思考过程
|
||
6. **导出数据**：随时导出为 JSONL 格式用于训练
|
||
|
||
## 注意事项
|
||
|
||
### HTTPS 证书
|
||
|
||
如果客户端使用 HTTPS 连接到 API（如 `https://api.openai.com`），需要：
|
||
|
||
1. 安装 mitmproxy 证书到系统信任库
|
||
2. 或者在客户端配置中使用 HTTP（如 `http://api.openai.com`）
|
||
|
||
### 证书安装
|
||
|
||
首次运行代理时，mitmproxy 会生成证书：
|
||
|
||
- Windows: `%USERPROFILE%\.mitmproxy\mitmproxy-ca-cert.pem`
|
||
- macOS/Linux: `~/.mitmproxy/mitmproxy-ca-cert.pem`
|
||
|
||
将证书安装到系统信任库即可。
|
||
|
||
### 隐私和安全
|
||
|
||
- 代理不会保存 API Key
|
||
- 所有数据存储在本地 SQLite 数据库
|
||
- 请妥善保管导出的训练数据
|
||
|
||
## 故障排除
|
||
|
||
### 请求没有被拦截
|
||
|
||
1. 检查系统代理是否正确配置
|
||
2. 检查代理服务器是否正在运行
|
||
3. 检查请求路径是否包含 `/v1/`
|
||
|
||
### HTTPS 请求失败
|
||
|
||
1. 安装 mitmproxy 证书到系统信任库
|
||
2. 或者在客户端配置中使用 HTTP 而不是 HTTPS
|
||
|
||
### 数据库错误
|
||
|
||
1. 检查数据库文件权限
|
||
2. 删除 `llm_data.db` 重新初始化
|
||
|
||
## 许可证
|
||
|
||
MIT License
|
||
|
||
## 贡献
|
||
|
||
欢迎提交 Issue 和 Pull Request！
|