跳到主要内容

AI模型配置

1. 介绍

本小节介绍如何在系统中添加和管理AI模型。AI模型是知识库、流程设计、AI应用等模块的核心组件,这些模块依赖于AI模型提供智能化能力。

注意:本系统不提供AI模型的注册与申请,用户需自行前往各供应商官网注册账号并获取API Key,才能在本系统中配置和使用模型。

2. 供应商选择

2.1 进入供应商选择界面

在添加AI模型时,首先需要选择模型供应商。在“选择供应商”界面,支持筛选:

  • 全部类型:显示所有可用模型。
  • 语言模型:专注于文本生成、对话等任务。
  • 向量模型:用于语义搜索、向量存储等场景。

2.2 可选供应商

系统支持多个AI模型供应商,包括但不限于:

  • DeepSeek
  • Ollama
  • OpenAI
  • 通义千问
  • 千帆大模型
  • 智谱AI

供应商选择步骤:

  1. 进入“AI模型配置”页面,点击“添加模型”。
  2. 选择合适的供应商,如DeepSeek、OpenAI等。
  3. 进入模型添加界面,填写详细配置信息。

3. 添加AI模型

LLM API Key 获取指南

3.1 填写基础信息

选择供应商后,进入模型配置界面,填写以下必填项:

  • 模型名称:用于区分不同的AI模型,可自定义,如openAI
  • 模型类型:
    • 语言模型:用于文本生成、AI对话、代码补全等。
    • 向量模型:用于文本向量化、语义搜索等。
    • 图像模型:主要用于图片生成与编辑场景。当前已适配 OpenAI、智普及千问万象模型;其中图生图能力仅支持万象模型(具体版本:wanx2.1-imageedit、wan2.5-i2i-preview)。
    • 图文编辑模型暂时不支持测试连接(如wanx2.1-imageedit)
  • 基础模型:输入或选择具体的基础模型,如gpt-3.5-turbo
  • API域名:模型的API访问地址(由供应商提供)。
  • API Key:输入从供应商处申请的API密钥,用于调用模型。

如果目标基础模型不在下拉列表中,请手动输入基础模型名称,确保与供应商提供的名称一致即可。

3.2 配置高级参数

语言模型支持高级配置,可在“高级配置”选项卡中进行调整,如:

  • 模型温度: 值越大,回复内容越赋有多样性创造性、随机性;设为0根据事实回答,希望得到精准答案应该降低该参数;日常聊天建议0.5-0.8。
  • 词汇属性: 值越小,Ai生成的内容越单调也越容易理解;值越大,Ai回复的词汇围越大,越多样化。
  • 话题属性: 值越大,越能够让Ai更好地控制新话题的引入,建议微调或不变。
  • 重复属性: 值越大,越能够让Ai更好地避免重复之前说过的话,建议微调或不变。
  • 最大回复(tokens): 设置Ai最大回复内容大小,会影响返回结果的长度。普通聊天建议500-800;短文生成建议800-2000;代码生成建议2000-3600;长文生成建议4000左右(或选择长回复模型)

系统预设了三种类型的参数配置,可以在高级配置右上角快速设置。

3.3 额外参数

在「基础信息」选项卡中提供了「额外参数」配置项,用于向模型请求中追加供应商特有的参数(以 JSON 形式填写)。点击输入框右侧的全屏按钮可打开 JSON 编辑器进行编辑,保存时会校验 JSON 格式是否正确。

不同厂家支持的参数不同,未识别的键将被忽略,常用参数如下:

  • Qwen(通义千问)
    • "image_url":"图片地址":适用于 qwen-vl-ocr 等视觉模型,用于传入待识别的图片地址。
    • "incremental_output":true:适用于 qwen3.5-plus 等需要流式增量输出的模型。
    • "enable_thinking":true:思考开关,开启后模型会输出思考过程。
  • DeepSeek(思考模式,适用于 deepseek-v4-pro 等混合推理模型)
    • "thinking":{"type":"enabled"}:思考模式开关,默认即为启用;如需关闭可设为 {"type":"disabled"}
    • "reasoning_effort":"high":思考强度,可选值 "high"(默认)、"max"(复杂 Agent 类请求建议使用);旧取值 "low""medium""xhigh" 会自动映射为 "high""max"
    • 开启思考模式后,模型的思维链内容通过响应中的 reasoning_content 字段返回。
    • 注意:思考模式下 temperaturetop_ppresence_penaltyfrequency_penalty 参数不生效(设置不会报错,但也不会起作用)。
    • 参考文档:DeepSeek 思考模式

填写示例:

{
"thinking": {
"type": "disabled"
}
}

额外参数必须为合法的 JSON 格式,否则无法保存;具体支持的参数请以对应供应商的官方文档为准。

3.4 保存模型

确认信息填写无误后,点击 “保存”,系统将完成模型配置,之后可在AI应用等模块中调用该模型。

4. 如何连接MiniMax

MiniMax 支持两种接入方案,可根据实际需求选择。

4.1 方案一:使用OpenAI兼容模式

在模型配置界面填写以下信息:

  • 模型厂商: OpenAi
  • 模型名称:minimax
  • 模型类型:语言模型
  • 基础模型:MiniMax-M2.7
  • API域名:https://api.minimaxi.com/v1
  • API Key:填写从 MiniMax 平台获取的 API Key

4.2 方案二:使用Anthropic兼容模式(推荐)

在模型配置界面填写以下信息:

  • 模型厂商: Anthropic
  • 模型名称:minmax
  • 模型类型:语言模型
  • 基础模型:MiniMax-M2.7
  • API域名:https://api.minimaxi.com/anthropic/v1/
  • API Key:填写从 MiniMax 平台获取的 API Key

4.3 MiniMax注意事项

  • 模型兼容性:兼容接口目前支持 MiniMax-M2.7MiniMax-M2.7-highspeedMiniMax-M2.5MiniMax-M2.5-highspeedMiniMax-M2.1MiniMax-M2.1-highspeedMiniMax-M2指定模型,其他模型请使用标准 MiniMax API 接入。
  • temperature 参数范围:取值范围为 (0.0, 1.0],推荐使用 1.0,超出范围会返回错误。
  • 不支持的参数thinkingtop_kstop_sequencesservice_tiermcp_serverscontext_managementcontainer 等 Anthropic 参数将被忽略。
  • 输入限制:不支持图像和文档类型的输入。

5. 使用注意事项

  • API Key安全:API Key用于授权访问AI模型,请妥善保管,不要泄露给他人。
  • 供应商申请:所有AI模型均需用户自行前往供应商官网申请注册,本系统不提供注册服务。
  • 费用与调用限制:不同供应商的API可能有调用限制或计费规则,请查看官方文档了解详情。
  • 如果你使用的是 OpenAI 系列模型,可以使用国内代理。

6. 供应商官网

如需申请API Key或了解更多信息,可访问以下供应商官网:

7. 总结

本手册介绍了AI模型的供应商选择、模型配置流程以及使用注意事项。完成配置后,用户可以在知识库、流程设计、AI应用等模块中调用配置好的模型,实现智能化功能。