模型同檢索設定

知識庫會先將資料解析並切成片段，再喺呢啲片段入面搵出最有可能回答問題嘅內容。嵌入模型、重排模型同 Top K 決定「點樣搵、點樣排、最後保留幾多」；佢哋唔可以補救缺失嘅正文或者錯誤嘅分段。

第一次調優時，先用而家嘅設定完成一次召回測試。之後每一輪只改一個參數，並且一直用同一組問題重測，先可以判斷邊項設定帶嚟變化。

先理解檢索鏈路

BM25 一直都可以單獨運作；配置嵌入模型之後加入向量檢索，重排係候選合併之後嘅可選步驟。

圖中每一層都會影響最終結果：資料內容決定「有冇答案」，解析同分段決定「答案係咪完整」，檢索同重排決定「正確片段可唔可以排到前面」。

三種常見組合

組合	實際檢索方式	適合咩資料	幾時升級
唔使用嵌入模型	只用 BM25 關鍵詞檢索	條款編號、產品名、專有名詞比較多	如果換另一種講法就好難命中，就加入嵌入模型
嵌入模型	BM25 同向量檢索並行，再合併候選結果	用戶問法同資料原文差異比較大	正確片段可以召回，但排序唔穩定時，就加入重排模型
嵌入模型 + 重排模型	混合檢索之後再評分同排序	候選片段相似、需要穩定排序	先保持閾值為 0.0，再根據噪聲逐步調整

唔配置嵌入模型，知識庫都可以運作。只有揀咗重排模型之後，設定面板先會顯示【相似度閾值】。

打開設定並確認而家嘅配置

打開左邊導覽【知識庫】→ 選擇知識庫 → 撳右上角【設定】。

預設區域包含【文件處理】、【嵌入模型】、【重排模型】同【Top K】。第一次測試建議先保留 Top K 為 6，並暫時唔提高相似度閾值。

先確認模型同 Top K，再入去【進階設定】檢查分塊。

推薦起點

配置項	介面初始值	建議起點	作用與注意事項
嵌入模型	唔使用	關鍵詞可以穩定命中時先唔使用	加入之後會同時進行關鍵詞同向量檢索；雲端模型嘅收費同資料處理方式取決於服務供應商
重排模型	唔使用	正確片段可以召回但排序唔穩定時再啟用	會增加一次模型評分同等待時間
Top K	6，可選 1～50	先保留 6	太細可能漏咗答案，太大就會帶嚟更多噪聲同佔用對話上下文
相似度閾值	0.0，僅配置重排後顯示	由 0.0 開始	只過濾重排後嘅低分結果；設得太高可能會連正確片段一齊移除

用固定問題建立基線

開始之前，準備 3～5 個答案明確嘅真實問題。問題應該覆蓋資料入面嘅專有名詞、口語問法，同需要上下文先可以回答嘅情況。

1

1. 先睇資料正文同 Chunks

確認答案確實存在喺資料入面，而且條件、結論冇被錯誤拆開。如果呢一層有問題，先處理解析或者分塊，唔好急住調整模型。

2

2. 完成第一次召回測試

打開【召回測試】，逐個輸入準備好嘅問題，記錄命中來源、片段內容、順序同耗時。

唔好淨係睇「有冇結果」，仲要確認來源正確、片段完整同排序合理。

3

3. 搵出問題所在嘅層級

• 完全冇正確片段：先查資料內容、解析同分塊。
• 關鍵詞搵到，換種講法搵唔到：試吓嵌入模型。
• 正確片段可以出現，但經常排喺後面：試吓重排模型。
• 正確片段被過濾：降低相似度閾值。
• 前幾條都係相關內容但答案仍然唔完整：再細幅提高 Top K。

4

4. 每輪只改一項

例如先調整 Top K 並儲存，唔好同時換嵌入模型同分段大小。涉及舊資料分塊或者已有向量時，按下面說明重新索引或者重建。

5

5. 用同一組問題復測

比較調整前後嘅來源、片段完整度、排序同耗時。冇改善時就恢復原設定，再測下一項。

分塊唔完整時點樣調

展開【進階設定】，可以睇到【智能分段】、【分隔符】、【分段大小】同【重疊大小】。

通用資料可以由開啟智能分段、分段大小 1024、重疊大小 200 開始。

配置項	介面初始值	幾時調整	常見副作用
智能分段	開啟	資料有清晰標題同段落結構時保持開啟	關閉之後就只會按分隔符切分
分隔符	\n\n	資料有穩定嘅自訂段落邊界時調整	關閉智能分段時，分隔符唔可以係空
分段大小	1024 tokens	一個片段混入多個主題時減小；條件同結論成日被拆開時增大	太大會增加噪聲，太細會丟失上下文
重疊大小	200 tokens	關鍵資訊經常跨片段邊界時細幅增加	必須細過分段大小，太大會產生重複內容

分塊設定只會影響之後新加入嘅內容。要令已有資料用新設定，請喺資料行選單執行【重新索引】，再用同一組問題復測。

更換模型與重建知識庫

由只使用 BM25 嘅知識庫啟用嵌入模型時，可以直接完成向量索引。已有向量嘅知識庫更換嵌入模型時，介面會進入【重建知識庫】流程，因為唔同嵌入模型生成嘅向量唔可以混用。

開始重建之前先確認新嵌入模型可以正常調用。重建之後要重新完成召回基線；唔好喺同一輪又換模型、又改分塊，否則冇法判斷結果變化係嚟自邊度。

需要喺本機完成嵌入時，可以打開【設定】→【本地模型】，喺【嵌入模型】區域下載可用模型，然後返去知識庫設定揀佢。

先完成本地模型下載，再返去知識庫選擇並建立索引。

調優閉環

固定問題 → 檢查結果 → 定位層級 → 單項調整 → 必要時重新索引 → 復測。

每次只保留可以穩定改善固定測試問題嘅修改。如果結果冇改善，就恢復上一組設定，唔好繼續疊加更多改動。

一個完整例子

小林維護一套員工差旅制度。資料入面寫嘅係「住宿費標準」，員工卻成日問「住酒店最多可以報幾多」。

1. 佢先用預設設定測試，發現用原文關鍵詞可以命中，但口語問法唔穩定。
2. 佢配置嵌入模型並完成索引，用相同問題復測。
3. 正確片段可以穩定出現，但有時排喺後面，於是再配置重排模型。
4. 佢保留 Top K 為 6、閾值為 0.0，只喺確認無關結果明顯時先逐步提高閾值。

完成標準係：三種唔同問法都可以喺前幾條結果中搵到同一條住宿標準，而且片段同時包含適用條件同報銷上限。

常見問題

唔使用嵌入模型，知識庫仲可以搜尋嗎？

可以。知識庫會使用 BM25 關鍵詞檢索，適合條款編號、專有名詞同接近原文嘅問法。

點解睇唔到【相似度閾值】？

只有揀咗重排模型之後，設定面板先會顯示【相似度閾值】。

修改分段大小之後，舊資料點解冇變化？

分塊設定只會影響之後新加入嘅內容。請對已有資料執行【重新索引】，然後再用相同問題復測。

正確片段完全冇出現，應該先調大 Top K 嗎？

先檢查資料正文同 Chunks。解析或者切分錯誤時，調大 Top K 只會返回更多唔正確或者唔完整嘅片段。

繼續閱讀

知識庫入門

先建立知識庫運作嘅整體認識。

文件解析同 OCR

正文缺失或者識別錯誤時，由資料處理層排查。

添加同整理資料

了解重新索引、資料狀態同內容維護。

檢查資料同召回

繼續練習召回測試同結果判斷。