IHUI AIIHUI AI
插件市场
自动化
任务列表
请先登录
首页
生态市场
AI 智能体
空工作区

请先登录

拖拽调整宽度
暂无打开的页面
跳到主内容

开发文档

平台开发与集成指南

概览

文档

概览使用说明手册快速开始

工具

私有化部署Agent 开发RAG 检索多模型调度MCP 协议工作流编排

开发者

API 文档团队协作
🧠多模型调度

多模型调度完整指南

100+ LLM 统一接入,自动 fallback,Combo 链组合调用,Token 压缩, 统一积分池一套账单全模型通用。

支持的模型(100+)

🌍 国际厂商

OpenAI
GPT-5、GPT-4.1、GPT-4o、o3-mini、o1、GPT-4 Turbo
通用 / 推理 / 视觉
Anthropic
Claude Opus 4.5、Sonnet 4.5、Haiku 3.5
长上下文 / 代码 / 推理
Google
Gemini 2.5 Pro、Gemini 2.5 Flash
多模态 / 长上下文
xAI
Grok 4、Grok 3、Grok Code Fast
实时 / 代码
Mistral
Mistral Large 2、Codestral、Pixtral
欧洲 / 开源

🇨🇳 国产模型

阿里通义千问
Qwen3-Max、Qwen3-235B、Qwen-Plus、Qwen-Turbo
中文 / 代码 / 推理
DeepSeek
DeepSeek V3.2、R1、Coder
推理 / 代码 / 低成本
智谱 AI
GLM-4.6、GLM-4-Plus、GLM-4-Flash、GLM-4V
中文 / 多模态
百度文心
ERNIE 4.5、ERNIE Speed
中文 / 企业
字节豆包
Doubao-Pro、Doubao-Lite、Doubao-Vision
中文 / 多模态
月之暗面
Kimi K2、Kimi Thinking
长上下文 / 推理
MiniMax
abab6.5、abab6.5s
中文 / 语音
阶跃星辰
Step-2、Step-1V
多模态

本地 / 开源

Ollama
llama3.3、qwen2.5、deepseek-r1、gemma2
本地部署
vLLM
任意 HuggingFace 模型
高吞吐推理
LM Studio
GGUF 量化模型
桌面应用
OpenAI 兼容
任何 OpenAI API 兼容端点
自定义接入

Provider 健康检查(独家)

智汇 AI 每 5 分钟探测所有 Provider,自动剔除"账户没钱 / Key 失效 / 接不通"的 Provider, 终端用户只会看到真正可用的模型。Admin 端可查看每个 Provider 的状态、余额、错误详情。

healthy
✅ 健康
正常服务,延迟 < 2s
degraded
🟡 降级
可用但慢(延迟 > 5s)或部分模型异常
down
🔴 不可用
402 余额不足 / 403 无权限 / 超时 / 网络错误
not_configured
⚪ 未配置
Admin 未填 API Key
local
🖥️ 本地
Ollama / vLLM 等本地部署,不走云端
zero_cost
🆓 免费额度
厂商提供免费 quota,不消耗积分

自动 Fallback(高可用)

配置 fallback 链,主模型失败时自动切换备用模型,用户无感知:

# Agent 配置示例
{
  "model": "gpt-4o",                    // 主模型
  "fallback_models": [                  // 备用链(按优先级)
    "claude-sonnet-4-5",
    "qwen3-max",
    "deepseek-v3.2"
  ],
  "fallback_strategy": "error_or_rate_limit"  // 触发条件
}

# 触发场景
- 429 Rate Limit → 切下一个
- 5xx Server Error → 切下一个
- 超时(默认 30s)→ 切下一个
- 402 Payment Required → 切下一个并通知 Admin
- 200 成功 → 不切

💡 跨厂商 fallback:OpenAI 挂了切 Anthropic,Anthropic 挂了切通义, 三大厂商同时挂的概率几乎为 0,服务可用性达 99.95%。

Combo 链(组合调用)

把多个模型串联 / 并联调用,实现单模型无法完成的能力:

📌 串联(Priority 策略)

按顺序尝试,前一个失败才用下一个 — 等价于 fallback

chain: ["gpt-4o", "claude-sonnet-4-5", "qwen3-max"]

串联(Cheapest 策略)

按价格从低到高尝试,优先用便宜模型,质量不够才升级

chain: ["deepseek-v3.2", "qwen3-plus", "gpt-4o-mini", "gpt-4o"]

🔀 并联(Fusion 策略)

多模型同时回答,Judge 模型打分选最佳 — 质量最高但贵

chain: ["gpt-4o", "claude-sonnet-4-5", "qwen3-max"]
judge: "gpt-4o"   # 用 GPT-4o 评分选最佳答案

Token 压缩(降本利器)

长对话自动压缩历史消息,降低 Token 消耗 60%+,质量损失 < 5%:

RTK
Retrieval Token Keep
保留关键 Token,删除冗余词(介词/语气词)
Caveman
压缩成"穴居人语"
去掉所有非关键词,仅保留主谓宾
RTK + Caveman
混合策略
先 RTK 再 Caveman,压缩率最高
# Admin 配置
{
  "compaction_strategy": "rtk_caveman",
  "compaction_threshold": 8000,    // 上下文超过 8K Token 触发
  "keep_recent": 4                 // 保留最近 4 轮对话不压缩
}

统一积分池

不用每个厂商单独充值,智汇 AI 统一积分池,一套账单全模型通用:

  • 1 积分 ≈ 1000 Token(标准模型)
  • 贵模型(GPT-4o / Claude Opus)消耗 2-5x 积分
  • 便宜模型(DeepSeek / Qwen-Turbo)消耗 0.1-0.5x 积分
  • 本地模型(Ollama)消耗 0 积分
  • Admin 可设"模型系数"精细控制成本
# 模型积分系数示例
{
  "gpt-4o": 3.0,           // 3x 积分
  "claude-opus-4": 5.0,    // 5x 积分
  "qwen3-plus": 1.0,       // 标准
  "deepseek-v3.2": 0.3,    // 0.3x 积分(便宜)
  "ollama:llama3.3": 0     // 免费(本地)
}

下一步

🤖 Agent 开发 →
为 Agent 选模型
📚 知识库 RAG →
Embedding 模型选择
🛠️ API 参考 →
通过 API 调用模型