> For the complete documentation index, see [llms.txt](https://docs.cherryai.com.cn/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.cherryai.com.cn/docs/zhong-wen-fan-ti/knowledge-base/emb-models-info.md).

# 模型同檢索設定

知識庫會先將資料解析同切成片段，再喺呢啲片段入面搵出最有可能回答問題嘅內容。嵌入模型、重排模型同 Top K 決定「點樣搵、點樣排、最後保留幾多」；佢哋唔可以補救缺失嘅正文或者錯誤嘅分段。

{% hint style="info" %}
第一次調優時，先用而家嘅設定完成一次召回測試。之後每一輪只改一個參數，並且一直用同一組問題重測，先至可以判斷係邊項設定帶嚟咗變化。
{% endhint %}

## 先理解檢索鏈路

<figure><img src="https://2742912793-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2F0Ut5BptC3t8CtSU1UWpM%2Fuploads%2FlOKvTNoShRGrj0ErU2aK%2Fclipboard.png?alt=media&amp;token=d245723c-b825-4e3d-ab00-6e1d07a96fc9" alt="从资料解析、分块、BM25 与向量检索到合并、重排和 Top K 的知识库检索架构图"><figcaption><p>BM25 一直都可以獨立運作；配置嵌入模型之後先加入向量檢索，重排係候選合併之後嘅可選步驟。</p></figcaption></figure>

圖中每一層都會影響最終結果：資料內容決定「有冇答案」，解析同分段決定「答案係咪完整」，檢索同重排決定「正確片段可唔可以排到前面」。

### 三種常見組合

| 組合          | 實際檢索方式               | 適合咩資料           | 幾時升級                   |
| ----------- | -------------------- | --------------- | ---------------------- |
| 唔使用嵌入模型     | 淨係 BM25 關鍵詞檢索        | 條款編號、產品名、專有名詞較多 | 轉另一種講法就好難命中時，就加入嵌入模型   |
| 嵌入模型        | BM25 同向量檢索並行，再合併候選結果 | 用戶問法同資料原文差異幾大   | 正確片段可以出現但排序唔穩時，就加入重排模型 |
| 嵌入模型 + 重排模型 | 混合檢索之後再重新評分同排序       | 候選片段相似、需要穩定排序   | 先保持閾值做 0.0，再根據噪聲逐步調整   |

{% hint style="success" %}
唔配置嵌入模型，知識庫都可以運作。只有揀咗重排模型之後，設定面板先會顯示【相似度閾值】。
{% endhint %}

## 打開設定並確認而家嘅配置

打開左側導航【知識庫】→ 選擇知識庫 → 撳右上角【設定】。

預設區域包含【文件處理】、【嵌入模型】、【重排模型】同【Top K】。第一次測試建議先保持 Top K 為 6，同埋暫時唔提高相似度閾值。

<figure><img src="https://2742912793-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2F0Ut5BptC3t8CtSU1UWpM%2Fuploads%2FU2C9clCv11t3I9e8W0Kn%2Fclipboard.png?alt=media&amp;token=f9510d70-3b78-4f57-9316-f73e7ecf2a01" alt="知识库设置中的文档处理、嵌入模型、重排模型和 Top K"><figcaption><p>先確認模型同 Top K，再入去【高級設定】檢查分塊。</p></figcaption></figure>

### 推薦起點

| 配置項   | 介面初始值        | 建議起點               | 作用同注意事項                               |
| ----- | ------------ | ------------------ | ------------------------------------- |
| 嵌入模型  | 唔使用          | 關鍵詞可以穩定命中時先唔使用     | 加入之後會同時做關鍵詞同向量檢索；雲端模型嘅計費同資料處理方式取決於服務商 |
| 重排模型  | 唔使用          | 正確片段可以召回但排序唔穩時先再啟用 | 會增加一次模型評分同等待時間                        |
| Top K | 6，可選 1～50    | 先保留 6              | 太細可能漏咗答案，太大會帶嚟更多噪音同埋佔用對話上下文           |
| 相似度閾值 | 0.0，僅配置重排後顯示 | 由 0.0 開始           | 淨係過濾重排之後嘅低分結果；設得太高可能會連正確片段一齊移除        |

## 用固定問題建立基線

開始前，準備 3～5 個答案明確嘅真實問題。問題應該覆蓋資料入面嘅專有名詞、口語問法同需要上下文先至可以回答嘅情況。

{% stepper %}
{% step %}

### 1. 先睇資料正文同 Chunks

確認答案真係存在於資料入面，而且條件、結論冇被錯誤拆開。如果呢一層有問題，先處理解析或者分塊，唔好急住調整模型。
{% endstep %}

{% step %}

### 2. 完成第一次召回測試

打開【召回測試】，逐個輸入準備好嘅問題，記錄命中來源、片段內容、順序同耗時。

<figure><img src="https://2742912793-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2F0Ut5BptC3t8CtSU1UWpM%2Fuploads%2Fr2mSvzxjXSvwuT0gGIf6%2Fclipboard.png?alt=media&amp;token=87900ecb-c890-4894-9891-905a4caad74c" alt="召回测试中的命中来源、相关度、片段内容和排序"><figcaption><p>唔好淨係睇「有冇結果」，仲要確認來源正確、片段完整同排序合理。</p></figcaption></figure>
{% endstep %}

{% step %}

### 3. 搵到問題所在嘅層級

* 完全冇正確片段：先查資料內容、解析同分塊。
* 關鍵詞搵到，轉種講法搵唔到：試下嵌入模型。
* 正確片段可以出現，但成日排喺後面：試下重排模型。
* 正確片段被過濾：降低相似度閾值。
* 前幾條都係相關內容但答案仍然唔完整：再少少提高 Top K。
  {% endstep %}

{% step %}

### 4. 每輪只改一項

例如先調整 Top K 並儲存，唔好同時更換嵌入模型同分段大小。涉及舊資料分塊或者已有向量時，跟住下文說明重新索引或者重建。
{% endstep %}

{% step %}

### 5. 用同一組問題重測

比較調整前後嘅來源、片段完整度、排序同耗時。冇改善時恢復原設定，再測下一項。
{% endstep %}
{% endstepper %}

## 分塊唔完整時點樣調

展開【高級設定】，可以睇到【智能分段】、【分隔符】、【分段大小】同【重疊大小】。

<figure><img src="https://2742912793-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2F0Ut5BptC3t8CtSU1UWpM%2Fuploads%2FSuW1LQlcdqCWxhLJEEQe%2Fclipboard.png?alt=media&amp;token=6ea5de2d-e4a1-40e2-b31c-d9ca31779eed" alt="知识库高级设置中的智能分段、分隔符、分段大小和重叠大小"><figcaption><p>通用資料可以由開啟智能分段、分段大小 1024、重疊大小 200 開始。</p></figcaption></figure>

| 配置項  | 介面初始值       | 幾時調整                        | 常見副作用               |
| ---- | ----------- | --------------------------- | ------------------- |
| 智能分段 | 開啟          | 資料有清晰標題同段落結構時保持開啟           | 關閉之後淨係按分隔符切分        |
| 分隔符  | `\n\n`      | 資料有穩定嘅自訂段落邊界時調整             | 關閉智能分段時，分隔符唔可以空白    |
| 分段大小 | 1024 tokens | 一個片段混入多個主題時調細；條件同結論成日被拆開時調大 | 太大會增加噪音，太細會丟失上下文    |
| 重疊大小 | 200 tokens  | 關鍵資訊成日跨片段邊界時可以小幅增加          | 一定要細過分段大小，太大會產生重複內容 |

{% hint style="warning" %}
分塊設定淨係會影響之後新加入嘅內容。要令已有資料用新設定，請喺資料行選單入面執行【重新索引】，再用同一組問題重測。
{% endhint %}

## 更換模型同重建知識庫

由淨係用 BM25 嘅知識庫啟用嵌入模型時，可以直接完成向量索引。已有向量嘅知識庫更換嵌入模型時，介面會進入【重建知識庫】流程，因為唔同嵌入模型生成嘅向量唔可以混用。

{% hint style="danger" %}
開始重建之前先確認新嵌入模型可以正常調用。重建之後要重新完成召回基線；唔好喺同一輪又更換模型、又修改分塊，否則冇辦法判斷結果變化嚟自邊度。
{% endhint %}

如果需要喺本機完成嵌入，可以打開【設定】→【本地模型】，喺【嵌入模型】區域下載可用模型，然後返去知識庫設定入面揀佢。

<figure><img src="https://2742912793-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2F0Ut5BptC3t8CtSU1UWpM%2Fuploads%2FKtorqL7bBJINtcB1uKOE%2Fclipboard.png?alt=media&amp;token=ce9a7810-c719-4392-aeb1-839f414f37e8" alt="本地模型设置中的嵌入模型下载入口"><figcaption><p>先完成本地模型下載，再返去知識庫選擇同建立索引。</p></figcaption></figure>

## 調優閉環

<figure><img src="https://2742912793-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2F0Ut5BptC3t8CtSU1UWpM%2Fuploads%2FmfHDAsphgab351BnEKkY%2Fclipboard.png?alt=media&amp;token=0fc8847f-23e0-4d93-8938-26e818df4b8f" alt="用固定问题进行召回测试、定位问题、单项调整、重新索引并复测的知识库质量调优闭环"><figcaption><p>固定問題 → 檢查結果 → 定位層級 → 單項調整 → 必要時重新索引 → 復測。</p></figcaption></figure>

每次淨係保留可以穩定改善固定測試問題嘅修改。如果結果冇改善，就恢復上一組設定，而唔係繼續疊加更多改動。

## 一個完整例子

小林維護一套員工差旅制度。資料入面寫嘅係「住宿費標準」，員工卻成日問「住酒店最多可以報幾多」。

1. 佢先用預設設定測試，發現用原文關鍵詞可以命中，但口語問法唔穩定。
2. 佢配置嵌入模型並完成索引，用相同問題重測。
3. 正確片段可以穩定出現，但偶爾排喺後面，於是再配置重排模型。
4. 佢保持 Top K 為 6、閾值為 0.0，只喺確認無關結果明顯時先逐步提高閾值。

完成標準係：三種唔同問法都可以喺前幾條結果入面搵到同一條住宿標準，而且片段同時包含適用條件同報銷上限。

## 常見問題

<details>

<summary>唔使用嵌入模型，知識庫仲可以搜尋嗎？</summary>

可以。知識庫會用 BM25 關鍵詞檢索，適合條款編號、專有名詞同接近原文嘅問法。

</details>

<details>

<summary>點解睇唔到【相似度閾值】？</summary>

只有揀咗重排模型之後，設定面板先會顯示【相似度閾值】。

</details>

<details>

<summary>改咗分段大小之後，舊資料點解冇變化？</summary>

分塊設定淨係會影響之後新加入嘅內容。請對已有資料執行【重新索引】，然後再用相同問題重測。

</details>

<details>

<summary>正確片段完全冇出現，應該先調大 Top K 嗎？</summary>

先檢查資料正文同 Chunks。解析或者切分出錯時，調大 Top K 只會返更多唔正確或者唔完整嘅片段。

</details>

## 繼續閱讀

<table data-view="cards"><thead><tr><th></th><th></th><th data-hidden data-card-target data-type="content-ref"></th></tr></thead><tbody><tr><td><strong>知識庫入門</strong></td><td>先建立對知識庫運作嘅整體認識。</td><td><a href="/docs/zhong-wen-fan-ti/knowledge-base/knowledge-base.md">知識庫入門</a></td></tr><tr><td><strong>文件解析與 OCR</strong></td><td>正文缺失或者識別錯誤時，從資料處理層排查。</td><td><a href="/docs/zhong-wen-fan-ti/knowledge-base/document-preprocessing.md">文檔解析同 OCR</a></td></tr><tr><td><strong>添加同整理資料</strong></td><td>了解重新索引、資料狀態同內容維護。</td><td><a href="/docs/zhong-wen-fan-ti/knowledge-base/sources.md">添加同整理資料</a></td></tr><tr><td><strong>檢查資料同召回</strong></td><td>繼續練習召回測試同結果判斷。</td><td><a href="/docs/zhong-wen-fan-ti/knowledge-base/recall-test.md">檢查資料同召回</a></td></tr></tbody></table>


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter:

```
GET https://docs.cherryai.com.cn/docs/zhong-wen-fan-ti/knowledge-base/emb-models-info.md?ask=<question>&goal=<endgoal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.