跳到主要内容

AI模型配置

1. 介绍​

本小节介绍如何在系统中添加和管理AI模型。AI模型是知识库、流程设计、AI应用等模块的核心组件，这些模块依赖于AI模型提供智能化能力。

注意：本系统不提供AI模型的注册与申请，用户需自行前往各供应商官网注册账号并获取API Key，才能在本系统中配置和使用模型。

2. 供应商选择​

2.1 进入供应商选择界面​

在添加AI模型时，首先需要选择模型供应商。在“选择供应商”界面，支持筛选：

  • 全部类型：显示所有可用模型。
  • 语言模型：专注于文本生成、对话等任务。
  • 向量模型：用于语义搜索、向量存储等场景。

2.2 可选供应商​

系统支持多个AI模型供应商，包括但不限于：

  • DeepSeek
  • Ollama
  • OpenAI
  • 通义千问
  • 千帆大模型
  • 智谱AI

供应商选择步骤：

  1. 进入“AI模型配置”页面，点击“添加模型”。
  2. 选择合适的供应商，如DeepSeek、OpenAI等。
  3. 进入模型添加界面，填写详细配置信息。

3. 添加AI模型​

3.1 填写基础信息​

选择供应商后，进入模型配置界面，填写以下必填项：

  • 模型名称：用于区分不同的AI模型，可自定义，如openAI。
  • 模型类型：
    • 语言模型：用于文本生成、AI对话、代码补全等。
    • 向量模型：用于文本向量化、语义搜索等。
  • 基础模型：选择具体的基础模型，如gpt-3.5-turbo。
  • API域名：模型的API访问地址（由供应商提供）。
  • API Key：输入从供应商处申请的API密钥，用于调用模型。

3.2 配置高级参数​

语言模型支持高级配置，可在“高级配置”选项卡中进行调整，如：

  • 模型温度: 值越大，回复内容越赋有多样性创造性、随机性；设为0根据事实回答，希望得到精准答案应该降低该参数；日常聊天建议0.5-0.8。
  • 词汇属性: 值越小，Ai生成的内容越单调也越容易理解；值越大，Ai回复的词汇围越大，越多样化。
  • 话题属性: 值越大，越能够让Ai更好地控制新话题的引入，建议微调或不变。
  • 重复属性: 值越大，越能够让Ai更好地避免重复之前说过的话，建议微调或不变。
  • 最大回复（tokens): 设置Ai最大回复内容大小，会影响返回结果的长度。普通聊天建议500-800；短文生成建议800-2000；代码生成建议2000-3600；长文生成建议4000左右（或选择长回复模型)

系统预设了三种类型的参数配置，可以在高级配置右上角快速设置。

3.3 保存模型​

确认信息填写无误后，点击 “保存”，系统将完成模型配置，之后可在AI应用等模块中调用该模型。

4. 使用注意事项​

  • API Key安全：API Key用于授权访问AI模型，请妥善保管，不要泄露给他人。
  • 供应商申请：所有AI模型均需用户自行前往供应商官网申请注册，本系统不提供注册服务。
  • 费用与调用限制：不同供应商的API可能有调用限制或计费规则，请查看官方文档了解详情。

5. 供应商官网​

如需申请API Key或了解更多信息，可访问以下供应商官网：

6. 总结​

本手册介绍了AI模型的供应商选择、模型配置流程以及使用注意事项。完成配置后，用户可以在知识库、流程设计、AI应用等模块中调用配置好的模型，实现智能化功能。