模型配置
NoteGen 集成了主流的 AI 模型服务,还支持自定义配置,以满足不同的需求。
创建模型配置
点击创建新配置
按钮,可以弹出自定义及主流模型提供商模板可以选择:
注意,每一个配置只对应一个模型,同一供应商下,可以点击复制按钮,快速创建新的配置。
配置
自定义名称
用于区分不同的模型配置,可以随意填写,可重复。
BaseURL
这里注意,你只需要配置到版本号即可,例如:https://api.openai.com/v1,后缀会自动添加,其他厂商也是如此,请不要将 chat/completions
、/embeddings
等填入。
API Key
这里填入你的对应的密钥,如果是 Ollama、LM Studio 等,可以随意填入。
Model
一般情况下,BaseURL 和 API Key 配置正确后,Model 会自动获取,以下拉列表呈现,如果获取不到,可以手动填入。
模型类型
选择模型类型,用于区分不同的模型,选择错误模型类型,可能导致无法正常使用。
目前支持: 对话、生图、视频、语音、嵌入、重排序。
- 对话:最常用的模型类型,用于对话、写作等场景。
- 嵌入和重排序模型:适用于使用知识库的场景。
- 其他模型类型将在后续版本中逐步支持。
高级配置
如果你不理解这些配置,可以忽略,使用默认值即可。
Temperature
使用什么采样温度,介于 0 和 2 之间。较高的值(如 0.8)将使输出更加随机,而较低的值(如 0.2)将使输出更加集中和确定。 我们通常建议改变这个或top_p但不是两者。
Top P
一种替代温度采样的方法,称为核采样,其中模型考虑具有 top_p 概率质量的标记的结果。所以 0.1 意味着只考虑构成前 10% 概率质量的标记。 我们通常建议改变这个或temperature但不是两者。