From b75a47e1e84a4fa8fc9477d98cf20f08bb2c8a32 Mon Sep 17 00:00:00 2001 From: Asankilp Date: Fri, 31 Jan 2025 20:45:24 +0800 Subject: [PATCH] =?UTF-8?q?=E6=9B=B4=E6=96=B0=E4=BD=BF=E7=94=A8=E6=96=87?= =?UTF-8?q?=E6=A1=A3?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit --- docs/zh/start/use.md | 17 ++++++++++++++++- 1 file changed, 16 insertions(+), 1 deletion(-) diff --git a/docs/zh/start/use.md b/docs/zh/start/use.md index 835b39c..f7b0523 100644 --- a/docs/zh/start/use.md +++ b/docs/zh/start/use.md @@ -14,7 +14,7 @@ title: 使用 本插件理论上可兼容大部分可通过 OpenAI 兼容 API 调用的 LLM,部分模型可能需要调整插件配置。 例如: -- 对于不支持 Function Call 的模型(Cohere Command R等): +- 对于不支持 Function Call 的模型(Cohere Command R,DeepSeek-R1等): ```dotenv MARSHOAI_ENABLE_PLUGINS=false MARSHOAI_ENABLE_TOOLS=false @@ -24,6 +24,21 @@ title: 使用 MARSHOAI_ADDITIONAL_IMAGE_MODELS=["hunyuan-vision"] ``` +### 使用 DeepSeek-R1 模型 +MarshoAI 兼容 DeepSeek-R1 模型,你可通过以下步骤来使用: +1. 获取 API Key + 前往[此处](https://platform.deepseek.com/api_keys)获取 API Key。 +2. 配置插件 + ```dotenv + MARSHOAI_TOKEN="<你的 API Key>" + MARSHOAI_AZURE_ENDPOINT="https://api.deepseek.com" + MARSHOAI_DEFAULT_MODEL="deepseek-reasoner" + ``` + 你可修改 `MARSHOAI_DEFAULT_MODEL` 为 其它模型名来调用其它 DeepSeek 模型。 + :::tip + 如果使用 one-api 作为中转,你可将 `MARSHOAI_AZURE_ENDPOINT` 设置为 one-api 的地址,将 `MARSHOAI_TOKEN` 设为 one-api 配置的令牌,在 one-api 中添加 DeepSeek 渠道。 + ::: + ### 使用 vLLM 部署本地模型 你可使用 vLLM 部署一个本地 LLM,并使用 OpenAI 兼容 API 调用。