Построение базы знаний и тесты на извлечение

База знаний преобразует файлы, веб-страницы и заметки в фрагменты, пригодные для поиска. Это подходит для ответа на вопрос «что говорится в материалах», но не означает, что модель навсегда запоминает весь документ.

Создание и импорт материалов

1

1. Откройте【База знаний】→【Создать базу знаний】

Укажите легко узнаваемое название и выберите доступную модель эмбеддингов. Модель эмбеддингов преобразует материалы в поисковое представление и не является той же самой, что основная модель, используемая для диалога.

2

2. Выберите источник материалов

Можно добавить файлы, папки, заметки или URL. Распространённые форматы документов: PDF, DOCX, Markdown, Excel, TXT и CSV; для сканов может потребоваться OCR, чтобы извлечь текст.

3

3. Дождитесь завершения обработки

Откройте подробности файла, чтобы посмотреть предварительный просмотр и разбиение на фрагменты. Если отсутствует заголовок, есть искажения символов или теряется структура таблиц, сначала приведите исходный файл в порядок, затем обработайте его заново.

4

4. Проведите тест на retrieval

Тестируйте на вопросах, которые действительно зададут пользователи, а не только вводите название файла. Проверьте, релевантны ли возвращённые фрагменты и содержат ли они полный контекст, прежде чем решать, привязывать ли их к Agent.

При создании базы знаний сначала укажите название и выберите доступную модель эмбеддингов.

① Все три материала по командировкам готовы; ② нажмите сверху【Тест на retrieval】, чтобы проверить реальные вопросы.

① Введите вопросы, которые действительно могут возникнуть в работе; ② проверьте найденные материалы, содержимое фрагментов и релевантность.

Проверяйте результаты retrieval на реальных вопросах

После того как материалы отобразятся как【Готово】, протестируйте их на вопросе, который действительно может возникнуть в работе. Например, для базы регламентов можно спросить «Можно ли компенсировать аренду автомобиля за границей?», а затем проверить,来自 ли ответ из правильных материалов и содержит ли достаточно контекста.

Наблюдаемый результат	Следующий шаг
Найдены правильные материалы, фрагмента достаточно, чтобы ответить на вопрос	Можно привязать для использования Agent'ом
Материалы найдены правильно, но фрагмент обрезан	Сначала проверьте структуру исходного текста, затем отрегулируйте длину фрагментов
Найдены старые регламенты или нерелевантные материалы	Очистите устаревшие материалы, добавьте более точные заголовки и содержание
Результатов нет вообще	Проверьте статус материалов и формулировку вопроса; не увеличивайте слепо число возвращаемых результатов

После прохождения теста на retrieval проверьте полный вопрос-ответ уже в Agent. Так можно понять, это «материалы не найдены» или «материалы найдены, но ответ получился плохим».

Как понимать настройки RAG

RAG означает: «сначала извлечь материалы, затем поручить модели ответить». Обычно настройки управляют длиной фрагмента, степенью перекрытия, количеством возвращаемых результатов и порогом релевантности.

Настройка	Роль	Рекомендуемая отправная точка	Когда корректировать
Длина фрагмента	Определяет, сколько содержимого входит в каждый поисковый фрагмент	Сначала используйте исходное значение страницы	Когда фрагменты часто обрывают предложения или смешивают слишком много тем
Перекрытие фрагментов	Сохраняет связность соседних фрагментов	Сохраняйте небольшое перекрытие	Когда пункты переходят через несколько фрагментов и контекст часто обрывается
Количество возвращаемых результатов	Сколько кандидатов-фрагментов предоставлять за один раз	Начните с небольшого числа результатов	Увеличьте, если пропускаются важные материалы; уменьшите, если слишком много шума
Порог релевантности	Фильтрация нерелевантного содержимого	Определяйте по тесту на retrieval	Повышайте, когда слишком много нерелевантных результатов; понижайте, когда отфильтровываются правильные фрагменты

Только если результаты retrieval нестабильны, тогда корректируйте настройки RAG в соответствии со структурой материалов.

Пример применения: создание внутренней базы вопросов и ответов по регламентам

Сгруппируйте действующие регламенты по отделам, а в имени файла укажите тему и сферу действия. После импорта проведите тест retrieval на реальных вопросах, например: «Что делать при превышении лимита на проживание в командировке?» или «Кто должен утверждать отпуск на испытательном сроке?». После того как убедитесь, что фрагменты точны, привяжите только эту базу знаний к Agent'у «Вопросы по регламентам» и требуйте при ответе указывать название материала; если данных не хватает, следует явно говорить, что ничего не найдено.

База знаний не определяет автоматически, устарел ли файл. Когда меняются регламенты, цены или процессы, следует обновлять или удалять старые материалы и заново проводить тест retrieval.

Почему после импорта по-прежнему нет результатов?

Проверьте статус обработки файла, подключение модели эмбеддингов и предварительный просмотр документа. Если у сканированного PDF нет текста, который можно извлечь, сначала настройте OCR или замените его на версию с возможностью поиска.