跳到主要内容

大模型配置

概述

大模型配置用于管理 ChatBI 在问数、洞察等场景中调用的大模型服务。管理员可以根据业务需求与成本考量，选择系统内置的大模型服务，或接入自有第三方模型服务，并针对不同主题灵活配置各类任务使用的模型。

大模型配置支持两个层级：

配置层级配置入口作用范围
域级别智能体管理 > 管理中心 > 大模型配置为整个域配置模型服务策略，维护可使用的模型服务池。
主题级别智能体详情配置 > 基础信息 > 大模型配置为单个主题配置具体场景使用的模型，优先级高于域级别默认策略。

前提条件

  • 配置域级别大模型策略需要具备数据集智能体（ChatBI）的「编辑」权限。

  • 配置主题级别大模型需要具备对应主题的「所有者」权限。

  • 添加第三方模型前，需已获取对应模型服务的接口地址与访问密钥（API Key）。

域级别大模型配置

平台管理员可在管理中心的「大模型配置」页面维护当前域可用的模型服务，并设置模型配置策略。

配置入口

登录 Data Agent 管理后台，进入「智能体管理 > 管理中心 > 大模型配置」页面。

大模型配置页面入口

添加模型

支持添加观远内置模型与第三方模型。

添加观远大模型

若已购买观远大模型服务，可在此区域完成观远大模型接入配置。

  1. 在「内置模型服务列表」中点击「添加模型」。
    添加观远大模型对话框|300
  2. 在弹出的「添加观远大模型」对话框中填写配置项，参数说明如下：
    观远大模型配置项|400
    • 模型名称（必填）：点击下拉框选择需要添加的大模型，支持搜索功能。下拉列表中的模型均为观远已配置好可直接连接的模型。
      观远大模型名称下拉|400
    • 模型别名（必填）：输入此模型的显示名称，用于区分不同模型。
    • 温度（Temperature）：控制模型输出的随机性，取值范围 0~1，默认 0.0。
      • 低温度：趋于 0 时，模型倾向于选择概率最高的输出，输出逻辑稳定、确定性强。
      • 高温度：趋于 1 时，模型倾向于按照概率分布随机选择输出，输出更具多样化和创造性。
    • 自定义参数：模型调用参数，JSON 格式。默认关闭，开启后可按需填写。
  3. 点击「测试连接」，系统校验模型服务可用性。测试通过后页面显示「完成模型测评」，此时才可点击「确定」完成配置。
    观远大模型测试连接成功

添加第三方模型

如果需要使用自有的第三方大模型服务，可在「第三方模型服务列表」中点击「添加模型」进行接入。

  1. 在「第三方模型服务列表」中点击「添加模型」。

    第三方模型服务列表

  2. 在弹出的「添加模型」对话框中填写配置项，参数说明如下：

    添加第三方模型对话框|400

    配置项是否必填说明
    模型别名是模型的显示名称，用于区分不同模型。
    模型名称是第三方模型的标准名称或调用标识。
    接口地址是模型服务的调用地址。
    密钥是第三方模型服务的访问密钥（API Key）。
    温度（Temperature）是控制模型输出的随机性，取值范围 0~1，默认 0.0。
    自定义参数否模型调用参数，JSON 格式。默认关闭，开启后可按需填写。

  3. 点击「测试连接」，系统校验模型服务可用性。测试通过后页面显示「完成模型测评」，此时才可点击「确定」完成配置。

配置模型

在「模型配置」区域，为三类任务分别选择模型服务，各模型类型的适用场景说明如下：

模型类型适用场景核心作用典型任务
语义处理模型L1 问数分析理清模糊需求，提取问题里的核心业务信息。日常闲聊、自然语言业务价值抽取、猜你想问推荐问题
数据处理模型L1/L2 问数分析把业务需求转化成数据系统能识别的指令。SQL 生成、知识召回检索、数据集检索
推理分析模型L2 洞察分析承接深度分析工作，梳理整体数据特征，生成完整分析报告。深度分析思考、报告大纲推理、洞察内容剖析

域级别模型配置策略区域

主题级别大模型配置

域级别配置提供统一的默认模型策略，适合大多数主题直接使用。当不同主题在以下方面存在差异时，可使用主题级别配置单独指定模型服务。例如：

  • 高频问数主题：配置性价比更高的模型，降低调用成本。
  • 关键分析主题：配置能力更强的模型，提升输出质量。
  • 涉及敏感数据的主题：单独指定私有化部署或指定服务商的模型。

配置入口

登录 Data Agent 管理后台，进入「智能体详情配置 > 基础信息 > 大模型配置」页面，为当前主题指定具体的模型服务。

主题级别大模型配置入口

配置主题模型

「自定义模型服务」默认关闭，开启后即可为当前主题配置模型服务，各模型类型说明可参考 配置模型。

主题级别自定义模型服务开关

说明
  • 若主题级别未开启自定义模型服务，或某类模型未单独指定，则默认使用域级别的模型策略。
  • 此处可选的模型均为域级别大模型配置中已添加完成的大模型。
  • 切换模型后，建议通过前台实际问答或洞察分析进行效果验证。