跳到主要内容

配置平台模型

概述

平台模型管理用于统一接入和维护 DecideX 可用的大模型,支持连接模型服务商或企业网关,供成员在对话和智能体中使用。本文介绍模型接入、能力配置、连通性测试、启用与默认模型设置,以及模型停用、归档和计价 Profile 配置。

为单个智能体选择已接入的模型,参见 配置智能体:模型与推理。

注意

管理平台模型需要平台管理员权限。系统部署时会初始化一个平台管理员账号;如需增加管理员,可由已有平台管理员进入「设置 > 平台管理 > 平台管理员」,点击「添加管理员」进行授权。

此处授权仅授予平台管理权限,不会自动授予创建智能体等业务操作权限。

配置前准备

向模型服务商或公司网关管理员获取以下信息:

  • 接入信息:目标模型的 API 协议、Base URL、模型 ID 和有权调用该模型的 API Key。建议同时获取一份调用示例,便于核对协议和地址。
  • 能力与限制:上下文窗口、最大输出 Token 上限,以及是否支持图片输入和各推理档位。通过网关接入时,以该网关实际开放的能力与限制为准。

首次接入可先保持「新会话执行方式」为「默认」。若平台已使用「Pi(试用)」,请准备好两项 Token 上限;执行方式的影响见 新会话执行方式。

接入并测试一个模型

以平台管理员身份进入「设置 > 平台管理 > 模型管理」,在「模型」页签点击「新增模型」。

模型管理页:在模型目录右上角点击「新增模型」

填写基本信息

|350

  • 显示名称:例如「生产 GPT」。这是成员在 DecideX 中看到的名称,不能与未归档模型重名。

  • API 协议:找到服务商为目标模型提供的调用示例,按请求路径或 SDK 方法选择:

    如果通过公司网关接入,以网关为该模型提供的示例为准。同一个 Base URL 下,不同模型可能使用不同协议。协议创建后不能修改;如需更换,请新建条目。

  • 填写模型 ID: 使用调用示例中 model 的值,或网关分配的模型别名。

  • 计价 profile:使用观远提供的模型服务时,默认已有对应的计价 Profile;接入自行配置的模型服务时,需要单独创建并在此选择,详见 配置计价 Profiles。

配置服务连接

|350

  • 「Base URL」:填写服务商或网关管理员提供的实际 API 基础地址,不要直接填写以 /responses、/messages 或 /chat/completions 结尾的完整请求地址。Chat Completions API 必填;其他协议可使用部署环境或协议默认地址。通过公司网关接入时,应填写该网关的基础地址。
  • API Key:填写有权调用该模型的密钥。Chat Completions API 必须显式配置密钥;其他协议在部署环境已有相应凭据时可以留空。

设置模型选项

按模型服务商或网关实际支持的能力配置以下选项。

模型选项:Token 上限、上下文压缩、推理档位、图片输入和默认模型|350

Token 上限

  • 上下文窗口(Token):模型单次处理可容纳的上下文容量,按服务商公布的上限填写。
  • 最大输出(Token):单次生成的 Token 上限,包含推理与回答,不能超过上下文窗口。

使用 Chat Completions API,或将「新会话执行方式」设为「Pi(试用)」时,两项都必须填写正整数,且上下文窗口至少为 3。其他执行方式可留空,使用 SDK 默认值。执行方式说明见 新会话执行方式。

上下文压缩与推理

  • 上下文压缩:仅选择 Responses API 时显示。建议保留「本地压缩(推荐)」;只有确认当前模型连接支持远程压缩时,才选择「远程压缩」。
  • 可用推理档位:勾选当前模型连接实际支持的档位,供用户选择。界面列出的档位不代表服务商或网关全部支持,不应直接全选。
  • 默认推理档位:从已勾选的档位中选择默认值;保留「自动」时,由执行引擎决定。取消勾选当前默认档位后,该项会恢复为「自动」。

图片输入与默认模型

  • 图片输入:默认开启。模型不能直接理解图片附件时关闭;开启此项不会让不支持图片的模型获得图片理解或生成能力。
  • 设为默认:新增模型时不可开启。创建并通过连通性测试后,再将其设为平台默认模型;保存时会同时启用该模型。默认模型的适用范围见 平台默认模型。

创建并测试模型

  1. 点击「创建」。配置无需发布,但新模型默认停用,成员暂时不能选择。

  2. 回到模型目录,按显示名称或模型 ID 找到该条目,点击右侧操作栏的「测试」图标。

  3. 确认「连通正常」后,打开该模型「状态」列的开关以启用模型;如需设为平台默认模型,点击右侧「… > 设为默认」,系统会同时启用该模型。首个启用的模型也会成为默认模型。点击测试列的「详情」可查看各项结果;若测试失败,参见 测试失败如何排查。

  4. 点击「返回应用」,新建对话,在输入框的模型选择器中选择刚启用的模型,发送一个简单问题,确认能正常回复。若业务需要图片理解或工具调用,再用相应任务验证实际效果。

批量添加模型

同一批模型共用服务地址、API 协议和表单选项。同一网关下的模型若使用不同协议,请按协议分批添加。

  1. 在「模型目录」点击「批量添加」。

  2. 填写模型信息,详细配置可参考 接入并测试一个模型。模型清单可通过以下两种方式准备:

    • 从服务商获取:填写 Base URL 和 API Key,点击「获取模型列表」,搜索并勾选所需模型。读取列表只使用本次填写的凭据。
    • 手动填写:展开「手动输入或调整模型清单」,每行填写一个模型 ID。可在英文逗号或 Tab 后填写显示名称,例如 model-a, 经营分析模型;省略显示名称时使用模型 ID。

    批量添加模型:连接信息、模型清单和共用选项|375

  3. 核对按钮上的模型数量,点击「添加 N 个模型」。每项独立保存;部分失败时,表单只保留失败项供修改重试。成功项仍需逐项测试或点击「测试筛选结果」,通过后再启用。

测试失败如何排查

点击模型测试列的「详情」,分别查看两项结果:

  • 连通性(必过):检查当前执行方式是否能实际调用模型。Pi 还会验证一轮工具调用及其回复。通过后才可启用或设为默认。
  • 结构化输出(非必过):检查模型能否按指定格式返回结果。不支持原生结构化输出时显示「兼容模式」;即使此项显示「检查失败」,也不会单独阻止启用模型。

修改模型 ID、Base URL、API Key、上下文窗口、最大输出或默认推理档位后,上次测试结果会清空,请保存后重新测试。测试不计入组织用量台账和预算,但服务商仍可能计费。

现象检查方法
能获取列表,但提示模型不存在或无权访问核对模型 ID 或网关别名,确认当前密钥拥有调用权限。获取列表成功并不代表每个模型都可运行。
结构化输出测试失败核对服务地址、协议,以及该连接对结构化输出和默认推理档位的支持。
提示未配置 API Key 或加密密钥前者补填模型密钥或检查部署环境凭据;后者请运维管理员检查平台密钥加密配置。
测试通过,但成员看不到模型先检查模型是否已启用且未归档,再用新会话查看。已有会话可切换的模型还需满足下节的协议与图片输入条件。

更换密钥:编辑模型时,已保存的 API Key 不会回显。留空会保留原密钥;输入新密钥可替换。Responses API 或 Messages API 已配置部署环境凭据时,可选择「清除已保存密钥」改用环境凭据。Chat Completions API 必须保留有效密钥,更换时请直接填写新密钥。

默认模型、停用与归档

新会话执行方式

「模型管理」顶部的「新会话执行方式」决定如何运行模型,与选择哪个默认模型是两项独立设置。首次接入可先保持「默认」。如需更改,选择执行方式后点击「保存」;保存后影响之后新建的会话,已有会话继续使用原执行方式。

  • 默认:按模型协议选择执行方式。Responses API 使用 Codex,Messages API 使用 Claude,Chat Completions API 使用 Pi。
  • Pi(试用):新会话统一使用 Pi 执行,仍按各模型配置的协议调用。模型需要可用的基础地址、密钥、上下文窗口及最大输出。切换后建议重新测试要使用的模型;已有会话继续使用原执行方式。

平台默认模型

平台默认模型用于未指定其他有效模型的新会话;智能体已配置有效默认模型时,新会话优先采用智能体设置。更改平台默认模型不会自动切换已有会话。

停用、归档与已有会话

  • 停用或归档:该条目从可用目录中移除,已有会话无法再用它发起下一轮。临时停用后可重新启用;归档会保留历史引用。下线默认模型前建议先指定替代模型;若没有可用条目,系统不会自动改用环境默认模型。
  • 已有会话换模型:在网页或移动端手动发起的对话中,等运行和排队消息结束后,可手动切换到同协议的已启用模型;如果原模型支持图片输入,新模型也必须支持。切换不改变已有会话的执行方式。要换协议,请新建会话。此操作不适用于渠道、API 或自动化任务会话。

配置计价 Profiles

计价 Profile 用于保存模型的输入、缓存输入、输出等 Token 单价,供 DecideX 根据实际 Token 用量估算模型使用成本。

  • 使用观远提供的模型服务:默认已有对应的计价 Profiles,无需另行创建。
  • 使用自行配置的模型服务:需要根据模型服务商或公司网关提供的费率,单独创建计价 Profile,并在模型配置中选择该 Profile。

计价 Profile 主要用于:

  • 将用量换算为成本:Token 数量反映模型处理了多少内容,Profile 中的单价用于计算这些用量对应的估算花费。例如,输入和输出 Token 单价不同,系统会分别计算后汇总。
  • 查看和比较使用花费:估算结果用于 运营监控的 Token 用量统计,帮助管理员了解组织、智能体及用户的成本分布。
  • 统计额度消耗:对于计入组织月度 AI 成本额度的运行,系统按记账成本统计额度消耗。费率是否完整、准确,会影响相应的成本统计与额度管理。

Profile 不改变实际 Token 数量,也不修改模型服务商的收费标准或账单。

需要新建 Profile 时:

  1. 在「模型管理」切换到「计价 Profiles」,点击「新增 profile」,填写唯一的 Profile key 和显示名称。Key 创建后不可修改。

  2. 填写输入、缓存输入、输出费率;缓存创建费率可留空。单位为美元/百万 Token。

    |300

  3. 保存后回到模型编辑页,在「计价 profile」中选择该配置并保存。仅创建 Profile 不会自动绑定模型。