mirror of
https://github.com/LiteyukiStudio/nonebot-plugin-marshoai.git
synced 2025-09-24 15:36:23 +00:00
✨ 更新默认模型为 OpenAI GPT-4.1,更新 GitHub Models 相关文档及预置模型列表,更改marshoai_azure_endpoint为marshoai_endpoint
This commit is contained in:
@ -39,13 +39,13 @@ MarshoAI 兼容 DeepSeek-R1 模型,你可通过以下步骤来使用:
|
||||
2. 配置插件
|
||||
```dotenv
|
||||
MARSHOAI_TOKEN="<你的 API Key>"
|
||||
MARSHOAI_AZURE_ENDPOINT="https://api.deepseek.com"
|
||||
MARSHOAI_ENDPOINT="https://api.deepseek.com"
|
||||
MARSHOAI_DEFAULT_MODEL="deepseek-reasoner"
|
||||
MARSHOAI_ENABLE_PLUGINS=false
|
||||
```
|
||||
你可修改 `MARSHOAI_DEFAULT_MODEL` 为 其它模型名来调用其它 DeepSeek 模型。
|
||||
:::tip
|
||||
如果使用 one-api 作为中转,你可将 `MARSHOAI_AZURE_ENDPOINT` 设置为 one-api 的地址,将 `MARSHOAI_TOKEN` 设为 one-api 配置的令牌,在 one-api 中添加 DeepSeek 渠道。
|
||||
如果使用 one-api 作为中转,你可将 `MARSHOAI_ENDPOINT` 设置为 one-api 的地址,将 `MARSHOAI_TOKEN` 设为 one-api 配置的令牌,在 one-api 中添加 DeepSeek 渠道。
|
||||
同样可使用其它提供商(例如 [SiliconFlow](https://siliconflow.cn/))提供的 DeepSeek 等模型。
|
||||
:::
|
||||
|
||||
@ -79,7 +79,7 @@ vLLM 仅支持 Linux 系统。
|
||||
此示例命令将在 `6006` 端口启动 vLLM,并加载 Muice-Chatbot 提供的 LoRA 微调模型,该模型位于 `/root/Muice-2.7.1-Qwen2.5-7B-Instruct-GPTQ-Int4-8e-4` 目录下。
|
||||
5. 配置插件
|
||||
```dotenv
|
||||
MARSHOAI_AZURE_ENDPOINT="http://127.0.0.1:6006/v1"
|
||||
MARSHOAI_ENDPOINT="http://127.0.0.1:6006/v1"
|
||||
MARSHOAI_FIX_TOOLCALLS=false
|
||||
MARSHOAI_ENABLE_PLUGINS=false
|
||||
MARSHOAI_DEFAULT_MODEL="muice-lora"
|
||||
|
Reference in New Issue
Block a user