RAG(Retrieval-Augmented Generation,检索增强生成)是大模型与外部知识结合的核心技术: 用户提问 → 先从知识库检索相关片段 → 把片段塞入 Prompt → LLM 基于片段生成答案。

解决三大痛点:

• 知识过时:LLM 训练数据截止到某时间,RAG 可挂载最新文档
• 领域不专:LLM 不懂企业内部文档,RAG 让它"临时抱佛脚"
• 幻觉:LLM 会编造事实,RAG 给出引用来源,可溯源可核验

┌──────────┐   ┌──────────┐   ┌──────────┐   ┌──────────┐   ┌──────────┐
│ 1.上传   │ → │ 2.解析   │ → │ 3.切块   │ → │ 4.向量化 │ → │ 5.入库   │
│ PDF/Word │   │ OCR/表格 │   │ Chunking │   │ Embedding│   │ PG+pgv  │
└──────────┘   └──────────┘   └──────────┘   └──────────┘   └──────────┘
                                                                  ↓
┌──────────┐   ┌──────────┐   ┌──────────┐   ┌──────────┐   ┌──────────┐
│ 10.引用  │ ← │ 9.生成   │ ← │ 8.Rerank │ ← │ 7.融合   │ ← │ 6.检索   │
│ 溯源     │   │ LLM 答   │   │ Cross    │   │ RRF      │   │ 向量+BM25│
│ [doc:p3] │   │ +引用    │   │ Encoder  │   │ Recipro  │   │ +知识图谱│
└──────────┘   └──────────┘   └──────────┘   └──────────┘   └──────────┘

1. 文档上传:支持 PDF / Word / Markdown / TXT / HTML / PPT / Excel / EPUB,单文件最大 100MB
2. 文档解析:Unstructured 引擎,自动 OCR 扫描件、识别表格结构、保留标题层级
3. 切块(Chunking):滑动窗口策略,默认 chunk_size=512、overlap=64,支持按段落/标题智能切分
4. 向量化(Embedding):默认 bge-m3(中英多语言),可切 OpenAI text-embedding-3-large / Cohere / 本地 bge-large-zh
5. 入库:PostgreSQL + pgvector 扩展,HNSW 索引,查询延迟 < 50ms
6. 检索:向量检索 + BM25 关键词检索 + 知识图谱实体检索三路并发
7. 融合(RRF):Reciprocal Rank Fusion 算法合并三路结果,兼顾语义与关键词
8. Rerank:Cross-Encoder(bge-reranker-v2-m3)对 Top-20 重排,精选 Top-5
9. 生成:LLM 基于检索片段生成答案,带引用编号 [1] [2] [3]
10. 引用溯源:每个引用点击跳转到原文位置,可视化高亮

1. 访问 知识库页面,点击"新建知识库"
2. 填写名称、描述,选择嵌入模型(默认 bge-m3)
3. 上传文档(拖拽或选择,支持批量)
4. 等待解析 + 向量化(进度条实时显示,通常 1MB 文档约 10 秒)
5. 测试检索:在"检索测试"输入问题,查看召回片段
6. 挂载到 Agent:在 Agent 编辑页 → 知识库 → 选择刚创建的库

# 通过 API 创建
curl -X POST https://api.aizhs.top/v1/knowledge-bases \
  -H "Authorization: Bearer $JWT" \
  -H "Content-Type: application/json" \
  -d '{
    "name": "产品手册库",
    "description": "公司全部产品手册 + FAQ",
    "embedding_model": "bge-m3",
    "chunk_strategy": "paragraph",
    "chunk_size": 512,
    "chunk_overlap": 64
  }'

# 上传文档
curl -X POST https://api.aizhs.top/v1/knowledge-bases/$KB_ID/documents \
  -H "Authorization: Bearer $JWT" \
  -F "file=@product-manual.pdf" \
  -F "file=@faq.docx"

纯向量检索对"专有名词 / 代码 / 型号"等关键词不敏感,纯 BM25 对"语义相似但措辞不同"的问题失效。 智汇 AI 采用三路并发 + RRF 融合,兼顾语义与关键词:

score(d) = Σ 1 / (k + rank_i(d))    # k=60, rank_i = 文档在第 i 路结果中的排名

智汇 AI 的每个 RAG 回答都附引用编号 [1] [2] [3],点击跳转到原文位置并高亮:

用户问:产品 X 的保修期是多久?

LLM 答:产品 X 的标准保修期为 24 个月 [1],若购买延保服务可延长至 36 个月 [2]。
        保修范围涵盖主机和原装附件 [1],不含人为损坏 [3]。

引用:
[1] product-x-manual.pdf 第 12 页 §保修条款
[2] extended-warranty.docx 第 2 页
[3] faq.docx 第 8 行

反幻觉机制:LLM 被系统提示约束为"只能基于检索片段回答,无关内容回答'文档中未提及'", 若检索片段为空或相关性低,会直接告知"未在知识库中找到答案"而非编造。