> For the complete documentation index, see [llms.txt](https://docs.cherryai.com.cn/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.cherryai.com.cn/knowledge-base/emb-models-info.md).

# 模型与检索设置

知识库会先把资料解析并切成片段，再从这些片段中找出最可能回答问题的内容。嵌入模型、重排模型和 Top K 决定“怎样找、怎样排、最后保留多少”；它们不能补救缺失的正文或错误的分段。

{% hint style="info" %}
第一次调优时，先用当前设置完成一次召回测试。之后每轮只修改一个参数，并始终用同一组问题复测，才能判断是哪项设置带来了变化。
{% endhint %}

## 先理解检索链路

<figure><img src="https://3562065924-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2F0Ut5BptC3t8CtSU1UWpM%2Fuploads%2FlOKvTNoShRGrj0ErU2aK%2Fclipboard.png?alt=media&amp;token=d245723c-b825-4e3d-ab00-6e1d07a96fc9" alt="从资料解析、分块、BM25 与向量检索到合并、重排和 Top K 的知识库检索架构图"><figcaption><p>BM25 始终可以单独工作；配置嵌入模型后加入向量检索，重排是候选合并后的可选步骤。</p></figcaption></figure>

图中每一层都会影响最终结果：资料内容决定“有没有答案”，解析与分段决定“答案是否完整”，检索和重排决定“正确片段能否排到前面”。

### 三种常见组合

| 组合          | 实际检索方式               | 适合什么资料          | 什么时候升级               |
| ----------- | -------------------- | --------------- | -------------------- |
| 不使用嵌入模型     | 仅 BM25 关键词检索         | 条款编号、产品名、专有名词较多 | 换一种说法就难以命中时，加入嵌入模型   |
| 嵌入模型        | BM25 与向量检索并行，再合并候选结果 | 用户问法与资料原文差异较大   | 正确片段能出现但排序不稳时，加入重排模型 |
| 嵌入模型 + 重排模型 | 混合检索后再次评分和排序         | 候选片段相似、需要稳定排序   | 先保持阈值为 0.0，再根据噪声逐步调整 |

{% hint style="success" %}
不配置嵌入模型，知识库也能工作。只有选择重排模型后，设置面板才会显示【相似度阈值】。
{% endhint %}

## 打开设置并确认当前配置

打开左侧导航【知识库】→ 选择知识库 → 点击右上角【设置】。

默认区域包含【文档处理】、【嵌入模型】、【重排模型】和【Top K】。第一次测试建议先保留 Top K 为 6，并暂时不提高相似度阈值。

<figure><img src="https://3562065924-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2F0Ut5BptC3t8CtSU1UWpM%2Fuploads%2FU2C9clCv11t3I9e8W0Kn%2Fclipboard.png?alt=media&amp;token=f9510d70-3b78-4f57-9316-f73e7ecf2a01" alt="知识库设置中的文档处理、嵌入模型、重排模型和 Top K"><figcaption><p>先确认模型和 Top K，再进入【高级设置】检查分块。</p></figcaption></figure>

### 推荐起点

| 配置项   | 界面初始值        | 建议起点             | 作用与注意事项                               |
| ----- | ------------ | ---------------- | ------------------------------------- |
| 嵌入模型  | 不使用          | 关键词能稳定命中时先不使用    | 加入后会同时进行关键词与向量检索；云端模型的计费和数据处理方式取决于服务商 |
| 重排模型  | 不使用          | 正确片段能召回但排序不稳时再启用 | 会增加一次模型评分和等待时间                        |
| Top K | 6，可选 1～50    | 先保留 6            | 太小可能漏掉答案，太大会带来更多噪声并占用对话上下文            |
| 相似度阈值 | 0.0，仅配置重排后显示 | 从 0.0 开始         | 只过滤重排后的低分结果；设得过高可能把正确片段一起移除           |

## 用固定问题建立基线

开始前，准备 3～5 个答案明确的真实问题。问题应覆盖资料中的专有名词、口语问法和需要上下文才能回答的情况。

{% stepper %}
{% step %}

### 1. 先查看资料正文和 Chunks

确认答案确实存在于资料中，并且条件、结论没有被错误拆开。如果这一层有问题，先处理解析或分块，不要急着调整模型。
{% endstep %}

{% step %}

### 2. 完成第一次召回测试

打开【召回测试】，逐个输入准备好的问题，记录命中来源、片段内容、顺序和耗时。

<figure><img src="https://3562065924-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2F0Ut5BptC3t8CtSU1UWpM%2Fuploads%2Fr2mSvzxjXSvwuT0gGIf6%2Fclipboard.png?alt=media&amp;token=87900ecb-c890-4894-9891-905a4caad74c" alt="召回测试中的命中来源、相关度、片段内容和排序"><figcaption><p>不要只看“有没有结果”，还要确认来源正确、片段完整且排序合理。</p></figcaption></figure>
{% endstep %}

{% step %}

### 3. 找到问题所在的层级

* 完全没有正确片段：先查资料内容、解析和分块。
* 关键词能找到，换种说法找不到：尝试嵌入模型。
* 正确片段能出现，但经常排在后面：尝试重排模型。
* 正确片段被过滤：降低相似度阈值。
* 前几条都是相关内容但答案仍不完整：再小幅提高 Top K。
  {% endstep %}

{% step %}

### 4. 每轮只修改一项

例如先调整 Top K 并保存，不要同时更换嵌入模型和分段大小。涉及旧资料分块或已有向量时，按下文说明重新索引或重建。
{% endstep %}

{% step %}

### 5. 使用同一组问题复测

比较调整前后的来源、片段完整度、排序和耗时。没有改善时恢复原设置，再测试下一项。
{% endstep %}
{% endstepper %}

## 分块不完整时怎么调

展开【高级设置】，可以看到【智能分段】、【分隔符】、【分段大小】和【重叠大小】。

<figure><img src="https://3562065924-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2F0Ut5BptC3t8CtSU1UWpM%2Fuploads%2FSuW1LQlcdqCWxhLJEEQe%2Fclipboard.png?alt=media&amp;token=6ea5de2d-e4a1-40e2-b31c-d9ca31779eed" alt="知识库高级设置中的智能分段、分隔符、分段大小和重叠大小"><figcaption><p>通用资料可从智能分段开启、分段大小 1024、重叠大小 200 开始。</p></figcaption></figure>

| 配置项  | 界面初始值       | 什么时候调整                     | 常见副作用              |
| ---- | ----------- | -------------------------- | ------------------ |
| 智能分段 | 开启          | 资料有清晰标题和段落结构时保持开启          | 关闭后仅按分隔符切分         |
| 分隔符  | `\n\n`      | 资料有稳定的自定义段落边界时调整           | 关闭智能分段时，分隔符不能为空    |
| 分段大小 | 1024 tokens | 一个片段混入多个主题时减小；条件与结论总被拆开时增大 | 太大增加噪声，太小丢失上下文     |
| 重叠大小 | 200 tokens  | 关键信息经常跨片段边界时小幅增加           | 必须小于分段大小，过大会产生重复内容 |

{% hint style="warning" %}
分块设置只影响之后新添加的内容。要让已有资料使用新设置，请在资料行菜单中执行【重新索引】，再用同一组问题复测。
{% endhint %}

## 更换模型与重建知识库

从仅使用 BM25 的知识库启用嵌入模型时，可以直接完成向量索引。已有向量的知识库更换嵌入模型时，界面会进入【重建知识库】流程，因为不同嵌入模型生成的向量不能混用。

{% hint style="danger" %}
开始重建前先确认新嵌入模型可以正常调用。重建后要重新完成召回基线；不要在同一轮又更换模型、又修改分块，否则无法判断结果变化来自哪里。
{% endhint %}

需要在本机完成嵌入时，可打开【设置】→【本地模型】，在【嵌入模型】区域下载可用模型，然后回到知识库设置中选择它。

<figure><img src="https://3562065924-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2F0Ut5BptC3t8CtSU1UWpM%2Fuploads%2FKtorqL7bBJINtcB1uKOE%2Fclipboard.png?alt=media&amp;token=ce9a7810-c719-4392-aeb1-839f414f37e8" alt="本地模型设置中的嵌入模型下载入口"><figcaption><p>先完成本地模型下载，再回到知识库选择并建立索引。</p></figcaption></figure>

## 调优闭环

<figure><img src="https://3562065924-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2F0Ut5BptC3t8CtSU1UWpM%2Fuploads%2FmfHDAsphgab351BnEKkY%2Fclipboard.png?alt=media&amp;token=0fc8847f-23e0-4d93-8938-26e818df4b8f" alt="用固定问题进行召回测试、定位问题、单项调整、重新索引并复测的知识库质量调优闭环"><figcaption><p>固定问题 → 检查结果 → 定位层级 → 单项调整 → 必要时重新索引 → 复测。</p></figcaption></figure>

每次只保留能稳定改善固定测试问题的修改。如果结果没有改善，就恢复上一组设置，而不是继续叠加更多改动。

## 一个完整例子

小林维护一套员工差旅制度。资料里写的是“住宿费标准”，员工却常问“住酒店最多能报多少”。

1. 他先用默认设置测试，发现使用原文关键词能命中，但口语问法不稳定。
2. 他配置嵌入模型并完成索引，用相同问题复测。
3. 正确片段能稳定出现，但偶尔排在后面，于是再配置重排模型。
4. 他保留 Top K 为 6、阈值为 0.0，只在确认无关结果明显时逐步提高阈值。

完成标准是：三种不同问法都能在前几条结果中找到同一条住宿标准，并且片段同时包含适用条件和报销上限。

## 常见问题

<details>

<summary>不使用嵌入模型，知识库还能搜索吗？</summary>

可以。知识库会使用 BM25 关键词检索，适合条款编号、专有名词和接近原文的问法。

</details>

<details>

<summary>为什么看不到【相似度阈值】？</summary>

只有选择重排模型后，设置面板才会显示【相似度阈值】。

</details>

<details>

<summary>修改分段大小后，旧资料为什么没有变化？</summary>

分块设置只影响之后新添加的内容。请对已有资料执行【重新索引】，然后再用相同问题复测。

</details>

<details>

<summary>正确片段完全没有出现，应该先调大 Top K 吗？</summary>

先检查资料正文和 Chunks。解析或切分错误时，调大 Top K 只会返回更多不正确或不完整的片段。

</details>

## 继续阅读

<table data-view="cards"><thead><tr><th></th><th></th><th data-hidden data-card-target data-type="content-ref"></th></tr></thead><tbody><tr><td><strong>知识库入门</strong></td><td>先建立知识库工作的整体认识。</td><td><a href="/knowledge-base/knowledge-base.md">知识库入门</a></td></tr><tr><td><strong>文档解析与 OCR</strong></td><td>正文缺失或识别错误时，从资料处理层排查。</td><td><a href="/knowledge-base/document-preprocessing.md">文档解析与 OCR</a></td></tr><tr><td><strong>添加与整理资料</strong></td><td>了解重新索引、资料状态和内容维护。</td><td><a href="/knowledge-base/sources.md">添加与整理资料</a></td></tr><tr><td><strong>检查资料与召回</strong></td><td>继续练习召回测试和结果判断。</td><td><a href="/knowledge-base/recall-test.md">检查资料与召回</a></td></tr></tbody></table>


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter:

```
GET https://docs.cherryai.com.cn/knowledge-base/emb-models-info.md?ask=<question>&goal=<endgoal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.
