更新默认模型为 OpenAI GPT-4.1,更新 GitHub Models 相关文档及预置模型列表,更改marshoai_azure_endpoint为marshoai_endpoint

This commit is contained in:
2025-09-05 15:22:10 +08:00
parent 6050fd1f20
commit caff43ff7b
12 changed files with 50 additions and 35 deletions

View File

@ -39,13 +39,13 @@ MarshoAI 兼容 DeepSeek-R1 模型,你可通过以下步骤来使用:
2. 配置插件
```dotenv
MARSHOAI_TOKEN="<你的 API Key>"
MARSHOAI_AZURE_ENDPOINT="https://api.deepseek.com"
MARSHOAI_ENDPOINT="https://api.deepseek.com"
MARSHOAI_DEFAULT_MODEL="deepseek-reasoner"
MARSHOAI_ENABLE_PLUGINS=false
```
你可修改 `MARSHOAI_DEFAULT_MODEL` 为 其它模型名来调用其它 DeepSeek 模型。
:::tip
如果使用 one-api 作为中转,你可将 `MARSHOAI_AZURE_ENDPOINT` 设置为 one-api 的地址,将 `MARSHOAI_TOKEN` 设为 one-api 配置的令牌,在 one-api 中添加 DeepSeek 渠道。
如果使用 one-api 作为中转,你可将 `MARSHOAI_ENDPOINT` 设置为 one-api 的地址,将 `MARSHOAI_TOKEN` 设为 one-api 配置的令牌,在 one-api 中添加 DeepSeek 渠道。
同样可使用其它提供商(例如 [SiliconFlow](https://siliconflow.cn/))提供的 DeepSeek 等模型。
:::
@ -79,7 +79,7 @@ vLLM 仅支持 Linux 系统。
此示例命令将在 `6006` 端口启动 vLLM并加载 Muice-Chatbot 提供的 LoRA 微调模型,该模型位于 `/root/Muice-2.7.1-Qwen2.5-7B-Instruct-GPTQ-Int4-8e-4` 目录下。
5. 配置插件
```dotenv
MARSHOAI_AZURE_ENDPOINT="http://127.0.0.1:6006/v1"
MARSHOAI_ENDPOINT="http://127.0.0.1:6006/v1"
MARSHOAI_FIX_TOOLCALLS=false
MARSHOAI_ENABLE_PLUGINS=false
MARSHOAI_DEFAULT_MODEL="muice-lora"