Skip to content

模型配置

NoteGen 集成了主流的 AI 模型服务,还支持自定义配置,以满足不同的需求。

image.png

创建模型配置

点击创建新配置按钮,可以弹出自定义及主流模型提供商模板可以选择:

image.png

注意,每一个配置只对应一个模型,同一供应商下,可以点击复制按钮,快速创建新的配置。

配置

自定义名称

用于区分不同的模型配置,可以随意填写,可重复。

BaseURL

这里注意,你只需要配置到版本号即可,例如:https://api.openai.com/v1,后缀会自动添加,其他厂商也是如此,请不要将 chat/completions/embeddings 等填入。

API Key

这里填入你的对应的密钥,如果是 Ollama、LM Studio 等,可以随意填入。

Model

一般情况下,BaseURL 和 API Key 配置正确后,Model 会自动获取,以下拉列表呈现,如果获取不到,可以手动填入。

模型类型

选择模型类型,用于区分不同的模型,选择错误模型类型,可能导致无法正常使用。

目前支持: 对话、生图视频语音、嵌入、重排序。

  • 对话:最常用的模型类型,用于对话、写作等场景。
  • 嵌入和重排序模型:适用于使用知识库的场景。
  • 其他模型类型将在后续版本中逐步支持。

高级配置

如果你不理解这些配置,可以忽略,使用默认值即可。

Temperature

使用什么采样温度,介于 0 和 2 之间。较高的值(如 0.8)将使输出更加随机,而较低的值(如 0.2)将使输出更加集中和确定。 我们通常建议改变这个或top_p但不是两者。

Top P

一种替代温度采样的方法,称为核采样,其中模型考虑具有 top_p 概率质量的标记的结果。所以 0.1 意味着只考虑构成前 10% 概率质量的标记。 我们通常建议改变这个或temperature但不是两者。

Released under the MIT License.