Настройки моделей и поиска

База знаний сначала разбирает материалы и делит их на фрагменты, а затем среди этих фрагментов находит содержимое, которое с наибольшей вероятностью отвечает на вопрос. Модель эмбеддингов, модель переранжирования и Top K определяют «как искать, как упорядочивать и сколько в итоге оставить»; они не могут исправить отсутствующий основной текст или ошибочное разбиение на фрагменты.

При первой настройке сначала выполните один тест на извлечение с текущими параметрами. Затем в каждом раунде меняйте только один параметр и каждый раз повторно тестируйте на одном и том же наборе вопросов, чтобы определить, какая настройка вызвала изменения.

Сначала поймите цепочку поиска

BM25 может работать самостоятельно; после настройки модели эмбеддингов добавляется векторный поиск, а переранжирование — это необязательный этап после объединения кандидатов.

Каждый уровень на схеме влияет на конечный результат: содержание материалов определяет, «есть ли вообще ответ», разбор и разбиение на фрагменты определяют, «полный ли ответ», а поиск и переранжирование — может ли правильный фрагмент подняться наверх.

Три распространённые комбинации

Комбинация	Практический способ поиска	Для каких материалов подходит	Когда переходить на следующий уровень
Без использования модели эмбеддингов	Только ключевой поиск BM25	Много номеров статей, названий продуктов и собственных терминов	Если при перефразировании трудно найти совпадение, добавьте модель эмбеддингов
Модель эмбеддингов	BM25 и векторный поиск работают параллельно, затем объединяются результаты-кандидаты	Формулировка вопроса пользователя сильно отличается от исходного текста материалов	Если правильный фрагмент находится, но порядок нестабилен, добавьте модель переранжирования
Модель эмбеддингов + модель переранжирования	После гибридного поиска повторно оценивается и упорядочивается	Похожие фрагменты-кандидаты, нужен стабильный порядок	Сначала оставьте порог на уровне 0.0, затем постепенно корректируйте его в зависимости от шума

Без настройки модели эмбеддингов база знаний тоже может работать. Только после выбора модели переранжирования в панели настроек появится [Порог сходства].

Откройте настройки и проверьте текущую конфигурацию

Откройте левую навигацию [База знаний] → выберите базу знаний → нажмите [Настройки] в правом верхнем углу.

В разделе по умолчанию есть [Обработка документов], [Модель эмбеддингов], [Модель переранжирования] и [Top K]. Для первого теста рекомендуется сначала оставить Top K равным 6 и пока не повышать порог сходства.

Сначала проверьте модель и Top K, затем перейдите в [Расширенные настройки] и проверьте разбиение на фрагменты.

Рекомендуемая отправная точка

Параметр конфигурации	Начальные значения интерфейса	Рекомендуемая отправная точка	Назначение и замечания
Модель эмбеддингов	Не использовать	Если ключевые слова стабильно находят нужное, пока не используйте	После добавления будет одновременно выполняться ключевой и векторный поиск; стоимость и способ обработки данных облачной модели зависят от поставщика услуг
Модель переранжирования	Не использовать	Включайте, только если правильный фрагмент находится, но порядок нестабилен	Добавит ещё один этап оценки моделью и увеличит время ожидания
Top K	6, можно выбрать 1–50	Сначала оставьте 6	Слишком маленькое значение может пропустить ответ, слишком большое — добавит больше шума и займёт контекст диалога
Порог сходства	0.0, отображается только при настройке rerank	Начните с 0.0	Фильтрует только низкооценённые результаты после переранжирования; слишком высокое значение может отфильтровать и правильные фрагменты

Используйте фиксированные вопросы для создания базовой линии

Перед началом подготовьте 3–5 реальных вопросов с однозначными ответами. Вопросы должны охватывать специальные термины из материалов, разговорные формулировки и случаи, где для ответа нужен контекст.

1

1. Сначала проверьте основной текст материалов и фрагменты

Убедитесь, что ответ действительно есть в материалах, и что условия и вывод не были ошибочно разделены. Если проблема на этом уровне, сначала исправьте разбор или разбиение на фрагменты, а не спешите менять модель.

2

2. Выполните первый тест на извлечение

Откройте [Тест на извлечение], по очереди вводите подготовленные вопросы и записывайте источник попадания, содержимое фрагмента, порядок и время выполнения.

Не смотрите только на то, «есть ли результат»; также убедитесь, что источник правильный, фрагмент полный и порядок разумный.

3

3. Определите, на каком уровне проблема

• Совсем нет правильного фрагмента: сначала проверьте содержание материалов, разбор и разбиение.
• По ключевым словам находится, а при перефразировании — нет: попробуйте модель эмбеддингов.
• Правильный фрагмент появляется, но часто оказывается ниже: попробуйте модель переранжирования.
• Правильный фрагмент отфильтровывается: снизьте порог сходства.
• В первых нескольких результатах есть релевантное содержимое, но ответ всё ещё неполный: немного увеличьте Top K.

4

4. В каждом раунде меняйте только один параметр

Например, сначала измените Top K и сохраните, но не меняйте одновременно модель эмбеддингов и размер фрагмента. Если речь идёт о старых фрагментах материалов или уже существующих векторах, выполните повторное индексирование или перестройку, как описано ниже.

5

5. Повторно тестируйте на том же наборе вопросов

Сравните до и после: источник, полноту фрагмента, порядок и время выполнения. Если улучшения нет, верните исходные настройки, а затем тестируйте следующий параметр.

Как настраивать, если фрагменты неполные

Откройте [Расширенные настройки], там вы увидите [Интеллектуальное разбиение], [Разделитель], [Размер фрагмента] и [Размер перекрытия].

Для общих материалов можно начать с включённого интеллектуального разбиения, размера фрагмента 1024 и размера перекрытия 200.

Параметр конфигурации	Начальные значения интерфейса	Когда корректировать	Распространённые побочные эффекты
Интеллектуальное разбиение	Включить	Если у материалов есть чёткие заголовки и структура абзацев, оставляйте включённым	После отключения разбиение выполняется только по разделителям
Разделитель	\n\n	Настраивайте, если у материалов есть стабильные пользовательские границы абзацев	При отключённом интеллектуальном разбиении разделитель не может быть пустым
Размер фрагмента	1024 токена	Уменьшайте, если один фрагмент смешивает несколько тем; увеличивайте, если условия и вывод постоянно разделяются	Слишком большое значение увеличивает шум, слишком маленькое — приводит к потере контекста
Размер перекрытия	200 токенов	Немного увеличьте, если важная информация часто пересекает границу фрагментов	Должно быть меньше размера фрагмента; слишком большое значение создаст дублирующееся содержимое

Настройки разбиения влияют только на новое содержимое, добавляемое позже. Чтобы уже существующие материалы использовали новые настройки, выполните [Повторное индексирование] в меню строки материала, затем повторно протестируйте на том же наборе вопросов.

Смена модели и перестройка базы знаний

Если в базе знаний, где использовался только BM25, включить модель эмбеддингов, можно сразу выполнить векторное индексирование. При смене модели эмбеддингов в базе знаний, где уже есть векторы, интерфейс перейдёт в процесс [Перестройки базы знаний], потому что векторы, созданные разными моделями эмбеддингов, нельзя смешивать.

Перед началом перестройки сначала убедитесь, что новая модель эмбеддингов вызывается нормально. После перестройки нужно заново выполнить базовый тест на извлечение; не меняйте модель и не меняйте разбиение в одном и том же раунде, иначе будет невозможно понять, откуда взялись изменения.

Если эмбеддинг нужно выполнять локально на этом компьютере, откройте [Настройки] → [Локальная модель], в разделе [Модель эмбеддингов] скачайте доступную модель, затем вернитесь к настройкам базы знаний и выберите её.

Сначала завершите загрузку локальной модели, затем вернитесь в базу знаний, выберите её и создайте индекс.

Замкнутый цикл настройки

Фиксированные вопросы → проверка результатов → определение уровня проблемы → изменение одного параметра → при необходимости переиндексация → повторный тест.

Каждый раз оставляйте только те изменения, которые стабильно улучшают фиксированные тестовые вопросы. Если результата нет, вернитесь к предыдущему набору настроек, а не добавляйте ещё больше изменений.

Полный пример

Сяо Линь ведёт набор правил о командировках сотрудников. В материалах написано «норма на проживание», а сотрудники часто спрашивают: «Сколько максимум можно возместить за отель».

1. Сначала он тестирует с настройками по умолчанию и обнаруживает, что по ключевым словам из исходного текста совпадение находится, но разговорная формулировка работает нестабильно.
2. Он настраивает модель эмбеддингов и завершает индексирование, затем повторно тестирует те же вопросы.
3. Правильный фрагмент стабильно появляется, но иногда оказывается ниже, поэтому он дополнительно настраивает модель переранжирования.
4. Он оставляет Top K равным 6 и порог равным 0.0, а повышает порог только тогда, когда явно появляются нерелевантные результаты.

Критерий завершения: все три разных формулировки вопроса должны находить одну и ту же норму на проживание в первых нескольких результатах, и фрагмент должен одновременно содержать условия применения и верхний предел возмещения.

Частые вопросы

Если не использовать модель эмбеддингов, база знаний всё ещё сможет искать?

Да. База знаний будет использовать ключевой поиск BM25, который подходит для номеров статей, собственных терминов и формулировок, близких к исходному тексту.

Почему не видно [Порог сходства]?

Только после выбора модели переранжирования в панели настроек будет отображаться [Порог сходства].

Почему после изменения размера фрагмента старые материалы не изменились?

Настройки разбиения влияют только на новое содержимое, добавляемое позже. Выполните для уже существующих материалов [Повторное индексирование], а затем снова протестируйте с теми же вопросами.

Правильный фрагмент вообще не появляется, нужно сначала увеличить Top K?

Сначала проверьте основной текст материалов и Chunks. Если есть ошибка парсинга или разбиения, увеличение Top K лишь вернёт больше неверных или неполных фрагментов.

Продолжить чтение

Основы базы знаний

Сначала сформируйте общее понимание того, как работает база знаний.

Парсинг документов и OCR

Если основной текст отсутствует или распознан с ошибкой, проверьте слой обработки материалов.

Добавление и упорядочивание материалов

Узнайте, как выполнять повторное индексирование, управлять состоянием материалов и поддерживать содержимое.

Проверка материалов и извлечения

Продолжайте практиковаться в тестировании извлечения и оценке результатов.