Skip to content

模型配置 ​

WARNING

本项目的开源版本完全免费。你所需承担的唯一费用是调用大模型 API 所产生的费用,该费用由对应的服务提供商收取,与本项目无关,所有扣费行为均由服务商直接执行。

基本概念 ​

本项目中的“大模型”特指用于生成内容的对话类语言模型,例如 OpenAI 的 GPT、DeepSeek、通义千问、Claude 等。 因此,在使用这些大模型之前,建议你了解一些基本概念,这不仅有助于理解本项目的使用方式,也能提升你对本文档内容的理解。 以下是几个重要的概念:

供应商(Provider) ​

指提供大模型 API 服务的公司或平台,例如 OpenAI、阿里云(通义千问)、百度、DeepSeek 等。不同供应商的模型能力、接口规范和计费方式各不相同。 建议找到你需要使用的供应商的官方文档进行查看阅读。

TIP

这里的供应商也可能是自行本地部署的服务,如:ollama 等。

模型(Model) ​

模型是指具体用于处理任务的 AI 模型版本,例如 gpt-3.5-turbo、gpt-4、qwen-turbo、deepseek-chat、claude-3-opus 等。不同模型在性能、响应速度、价格等方面有所差异。 在配置时,需要根据你所选供应商提供的模型名称进行准确填写,否则可能会导致接口调用失败或返回不符合预期的结果。

多模态模型 ​

多模态模型是指能够同时处理多种类型的输入(如文本、图片、音频、视频等)的 AI 模型。相比传统仅支持文本的语言模型,多模态模型具有更强的理解和生成能力,适用于更复杂的场景,例如图文对话、语音转写、视频摘要等。

常见的多模态模型包括:

  • GPT-4o(OpenAI):支持文本、图像、语音输入,响应速度快,适合通用型场景;

  • 通义千问·视觉模型:支持图文输入,适用于图片问答、OCR 场景;

  • Claude 3 系列:部分模型具备图像处理能力,适合图文综合分析;

  • Gemini(Google):面向多模态搜索和复杂任务处理;

  • 自部署模型(如 MiniGPT-4、LLaVA 等):适用于对隐私、安全要求较高的本地化场景。

是否支持多模态,取决于供应商和模型本身,请根据具体文档说明进行选择和配置。

API 地址(Base_URL) ​

接口地址是指你请求大模型 API 时所使用的基础 URL。不同的供应商会提供不同的地址,例如:

正确配置 API 地址 是调用 API 成功的前提之一,填写错误可能会导致请求失败。

API 密钥 (API Key) ​

API 密钥是用于验证身份并访问模型服务的凭证,由各大模型供应商在用户注册或创建应用后提供。例如:

  • OpenAI 提供的密钥格式通常为 sk-xxxxxx

  • 通义千问使用的是 DashScope 的 Access Token

  • DeepSeek、Claude 等也会在控制台提供对应的 API Key 或 Token

你需要将该密钥正确配置在系统中,以便在请求模型时完成身份验证。请妥善保管你的 API 密钥,切勿泄露或上传到公开仓库。

OpenAI SDK ​

OpenAI SDK 是 OpenAI 官方提供的开发工具包,用于通过编程方式访问其大模型(如 GPT-4、GPT-4o)接口。它支持 Python、Node.js 等主流语言,简化了 API 的调用流程。 目前市面上主流的大模型多数做了 OpenAI SDK 的兼容,在配置时候你需要确保你的模型支持 OpenAI SDK,如果不支持,可能需要手动实现接口调用。或者提 Issue

TIP

这里推荐使用一些靠谱的聚合 AI 服务商,往往这些服务商都已经集成了市面上的大模型,并且做了兼容,因此配置起来会比较方便。

供应商配置 ​

在项目成功启动以后,你可以在前端页面BiliNote logo 后面找到一个全局设置按钮

在全局设置页面中,你可以找到一个名为AI 模型配置的选项卡,点击它将打开一个配置面板。

默认内置了几款供应商的配置,你可以根据你的需求进行修改。

TIP

如果你的供应商支持 OpenAI SDK 其实你可以在这里使用任意一个供应商进行配置

填写好在供应商获取到的 API Key 和 Base_URL 后,测试连通性如果成功,点击保存,即可完成配置。

模型配置 ​

WARNING

这里一定要确保连通性测试通过且供应商成功保存

在配置供应商后,你可以在模型配置选项卡下方看到一个名为模型列表的表单。 点击刷新模型,这里可以找出供应商支持的模型。 选择一款你需要使用的模型 并点击保存模型即可完成配置。

TIP

这里如果需要多个模型,保存模型以后再选择即可

模型使用 ​

如果上述步骤成功执行,你可以在首页的模型选择列表看到你保存的模型