按任务选择
模型选择器会显示你的服务提供商当前提供的模型。支持快速模式的模型会显示一个快速模式标签,开启后运行更快,但价格更高。
使用推荐模型
设置中的模型选择器开头会针对当前任务提供三个推荐:最合适、最省 和 最佳质量。每个推荐都会显示简短的理由,以及每 100 万 Token 的输入和输出价格。在设置项下方,如果所选模型的价格远高于推荐模型,还会有一行提示。 当你在 新建智能体 中创建智能体时,Enconvo 会阅读智能体的描述并推荐一个模型,旁边还会列出一个更实惠的模型和一个更强的模型。点击即可使用。默认模型在哪里设置
- 新聊天:在顶层 新建聊天 中选择的模型,会成为智能体的默认模型。
- 项目:项目中的新聊天使用该项目自己的模型。
- 已有的聊天:聊天一旦开始,就会保持它的模型和推理强度,直到你在该聊天中更改。
- 没有自行选择模型的聊天,以及即时通讯渠道:跟随智能体的默认模型。
推理强度
推理强度决定模型在回答前思考多久。更高的强度可以让难题得到更好的回答,但耗时更长,消耗的 Token 也更多。可选的级别取决于模型;没有思考模式的模型没有推理强度设置。上下文窗口
上下文窗口是指模型一次能读取多少对话内容。当对话超出该长度时,Enconvo 会压缩较早的部分。支持最高 1M Token 的 Claude 模型默认从 500K 开始,因此长对话会更早压缩,费用也更低。 要更改模型的上下文窗口,请在 设置 → AI 模型 中打开对应服务提供商,点击 管理模型(模型名称 旁的齿轮图标),编辑该模型并设置 上下文窗口。为后台任务选择模型
小型任务会在后台使用低成本模型运行:聊天标题、下一条建议、Live Talk、录音标题和摘要、录音翻译以及灵感标题。默认情况下,每一项都设为 自动,使用一个小型模型:- 聊天标题、下一条建议和 Live Talk 使用当前聊天所属服务提供商的小型模型。使用你自己的 API 密钥进行聊天时,这些任务不会消耗 Enconvo Cloud 点数。
- 录音和灵感标题使用你默认服务提供商的小型模型。
- 如果该服务提供商没有 Enconvo 已知的小型模型,“自动”会使用当前聊天的模型或你的默认模型。
1
打开任务模型
打开 设置 → AI 模型,然后点击页面顶部的 任务模型。
2
选择任务
点击一个任务。自动 会显示它为各个服务提供商选择的模型。
3
选择模型
点击 选择模型,先选择一个服务提供商,再选择一个模型。
使用备用模型保持对话不中断
当当前模型无法使用时(例如达到用量限制、登录或密钥失效,或者无法连接),兜底功能会让回复继续下去。回复会切换到你的下一个备用模型,并在聊天中说明由哪个模型接管以及原因。1
打开兜底设置
打开 设置 → AI 模型,然后点击页面顶部的 兜底。
2
添加备用模型
点击 添加备用模型 并选择一个模型。最多可添加三个,并可通过拖动调整顺序。
3
设置每个备用模型的推理强度
对于支持推理级别的模型,选择它的 推理强度。每个备用模型各自保留自己的设置。
因安全策略而被拒绝的请求绝不会切换模型。
比较两个模型
把同一个小而真实的任务分别发送给两个模型。检查答案是否正确、工具是否执行完成,以及耗时和费用。每条回复下方的 详情 会显示模型、推理强度、Token 数、耗时,以及点数或费用。相关内容
Auto Route
让 Enconvo 为每条消息挑选模型。
服务提供商
连接 Enconvo Cloud、你的密钥或你的订阅。
本地模型
在你的 Mac 上运行模型。
云端价格
Enconvo Cloud 上各模型的点数。