Skip to content

模型配置

WARNING

本项目的开源版本完全免费。你所需承担的唯一费用是调用大模型 API 所产生的费用,该费用由对应的服务提供商收取,与本项目无关,所有扣费行为均由服务商直接执行。

基本概念

本项目中的“大模型”特指用于生成内容的对话类语言模型,例如 OpenAI 的 GPT、DeepSeek、通义千问、Claude 等。 因此,在使用这些大模型之前,建议你了解一些基本概念,这不仅有助于理解本项目的使用方式,也能提升你对本文档内容的理解。 以下是几个重要的概念:

供应商(Provider)

指提供大模型 API 服务的公司或平台,例如 OpenAI、阿里云(通义千问)、百度、DeepSeek 等。不同供应商的模型能力、接口规范和计费方式各不相同。 建议找到你需要使用的供应商的官方文档进行查看阅读。

TIP

这里的供应商也可能是自行本地部署的服务,如:ollama 等。

模型(Model)

模型是指具体用于处理任务的 AI 模型版本,例如 gpt-3.5-turbo、gpt-4、qwen-turbo、deepseek-chat、claude-3-opus 等。不同模型在性能、响应速度、价格等方面有所差异。 在配置时,需要根据你所选供应商提供的模型名称进行准确填写,否则可能会导致接口调用失败或返回不符合预期的结果。

多模态模型

多模态模型是指能够同时处理多种类型的输入(如文本、图片、音频、视频等)的 AI 模型。相比传统仅支持文本的语言模型,多模态模型具有更强的理解和生成能力,适用于更复杂的场景,例如图文对话、语音转写、视频摘要等。

常见的多模态模型包括:

  • GPT-4o(OpenAI):支持文本、图像、语音输入,响应速度快,适合通用型场景;

  • 通义千问·视觉模型:支持图文输入,适用于图片问答、OCR 场景;

  • Claude 3 系列:部分模型具备图像处理能力,适合图文综合分析;

  • Gemini(Google):面向多模态搜索和复杂任务处理;

  • 自部署模型(如 MiniGPT-4、LLaVA 等):适用于对隐私、安全要求较高的本地化场景。

是否支持多模态,取决于供应商和模型本身,请根据具体文档说明进行选择和配置。

API 地址(Base_URL)

接口地址是指你请求大模型 API 时所使用的基础 URL。不同的供应商会提供不同的地址,例如:

正确配置 API 地址 是调用 API 成功的前提之一,填写错误可能会导致请求失败。

API 密钥 (API Key)

API 密钥是用于验证身份并访问模型服务的凭证,由各大模型供应商在用户注册或创建应用后提供。例如:

  • OpenAI 提供的密钥格式通常为 sk-xxxxxx

  • 通义千问使用的是 DashScope 的 Access Token

  • DeepSeekClaude 等也会在控制台提供对应的 API Key 或 Token

你需要将该密钥正确配置在系统中,以便在请求模型时完成身份验证。请妥善保管你的 API 密钥,切勿泄露或上传到公开仓库。

OpenAI SDK

OpenAI SDK 是 OpenAI 官方提供的开发工具包,用于通过编程方式访问其大模型(如 GPT-4、GPT-4o)接口。它支持 Python、Node.js 等主流语言,简化了 API 的调用流程。 目前市面上主流的大模型多数做了 OpenAI SDK 的兼容,在配置时候你需要确保你的模型支持 OpenAI SDK,如果不支持,可能需要手动实现接口调用。或者提 Issue

TIP

这里推荐使用一些靠谱的聚合 AI 服务商,往往这些服务商都已经集成了市面上的大模型,并且做了兼容,因此配置起来会比较方便。

供应商配置

在项目成功启动以后,你可以在前端页面BiliNote logo 后面找到一个全局设置按钮

在全局设置页面中,你可以找到一个名为AI 模型配置的选项卡,点击它将打开一个配置面板。

默认内置了几款供应商的配置,你可以根据你的需求进行修改。

TIP

如果你的供应商支持 OpenAI SDK 其实你可以在这里使用任意一个供应商进行配置

填写好在供应商获取到的 API KeyBase_URL 后,测试连通性如果成功,点击保存,即可完成配置。

模型配置

WARNING

这里一定要确保连通性测试通过且供应商成功保存

在配置供应商后,你可以在模型配置选项卡下方看到一个名为模型列表的表单。 点击刷新模型,这里可以找出供应商支持的模型。 选择一款你需要使用的模型 并点击保存模型即可完成配置。

TIP

这里如果需要多个模型,保存模型以后再选择即可

模型使用

如果上述步骤成功执行,你可以在首页的模型选择列表看到你保存的模型