跳到主要内容

配置中心

1. 概述

配置中心可设置语音问答开关,也可对大模型的厂商、模型、接口等参数进行配置与测试,以保障 ChatBI 相关功能的正常运行。

2. 使用指导

2.1. 语音问答开关配置

此开关用于配置移动端是否可以通过语音进行问答。

开启后,前台在使用移动端进行问答时,可直接通过语音的方式来进行提问,提升效率。

2.2. 大模型配置

2.2.1. 功能概述

管理员可在 ChatBI 运用管理后台配置和测试大模型服务,以满足私有化部署客户对接自有大模型的需求。一个域仅允许创建一套大模型服务配置。

2.2.2. 使用限制

仅私有化部署客户支持。

2.2.3. 功能说明

  1. 模型配置说明

    • 厂商 (Type) :模型服务提供商,OpenAI(兼容模式),不可编辑。
    • 模型 (Chat Model):指定的文本生成模型 ,如需使用 L2 洞察功能,该模型必须支持 Tool Call。
    • 接口地址 (Url) :模型服务的 API 地址。示例:https://your-model-service.com/v1
    • 密钥 (API Key) :用于 API 认证的密钥。如果服务端无需鉴权,请留空。输入后会以加密形式存储。
    • 温度 (Temperature) :控制模型输出随机性的参数,范围:0 ~ 1。值越低,输出越确定、保守;值越高,输出随机、创造性越强。部分模型可能不支持设置为 0
  2. 测试连接与保存

    填写完配置后,必须点击 「测试连接」按钮。系统将依次进行测试,全部通过后方可保存。测试过程可能需要一定时间,请耐心等待。测试成功后请及时保存。

  3. 测试流程:

    1. 连接测试:

      • 网络连通性:测试与配置地址的网络连接是否通畅。
      • API 认证:验证提供的 API 密钥(如有)是否有效。
    2. 模型能力测评

      • 响应格式:测试模型是否符合标准的 API 响应格式。
      • 输出格式:测试模型是否支持 JSON 格式输出。
      • Tool Call 支持:测试模型是否支持 Tool Call 功能(此项不阻塞保存,但会导致洞察功能不可用)。