For the complete documentation index, see llms.txt. This page is also available as Markdown.

Глобальная память

В обычных диалогах у AI нет долговременной памяти — при начале каждой новой темы ему приходится заново представляться.

Глобальная памятьОбеспечивает AIспособностью к долговременной памяти: после включения AI будетмежду диалогамизапоминать ключевую информацию о вас (профессия, предпочтения, привычный тон, долгосрочные факты и т. д.), и в новых диалогах можно будет сразу её использовать.

Рекомендуем сначала прочитать Введение в понятия Разобраться в связи памяти с другими функциями.

Две подготовки перед включением

Глобальная память включает два типа задач:

  • Понимание и структурирование памяти: требуется диалоговая модель (того же типа, что используется для обычного общения)

  • Хранение и поиск памяти: требуется "эмбеддинговая модель"

Эмбеддинговая модельеё задача —преобразовывать каждую запись памяти в числовой вектор, а AI быстро находит связанные воспоминания, сравнивая схожесть векторов. Такие специализированные небольшие модели компактны, быстры и недороги в использовании.

Сначала в Настройки → Сервис модели настройте хотя бы одного Provider и одновременно добавьте диалоговую модель и эмбеддинговую модель. На примере CherryIN: на странице подробностей Provider нажмите Получить список моделей, в верхней части всплывающего окна перейдите на категорию "Встраивания" и добавьте как минимум 1 модель (рекомендуются bge-m3 или text-embedding-3-small).

Включить глобальную память

  1. Откройте Настройки → Глобальная память

  2. Нажмите в правом верхнем углу Глобальная память переключатель

Состояние до включения: серый переключатель вверху справа + пустое состояние «Память отсутствует»

При первом включении переключателя автоматически появится Настройка памяти диалоговое окно, в котором нужно выбрать модели:

Обязательные поля: LLM-модель + эмбеддинговая модель
  • LLM-модель: выберите любую из уже настроенных вами диалоговых моделей

  • Эмбеддинговая модель: выберите любую из уже добавленных вами embedding-моделей

  • Размерность эмбеддинга: можно оставить пустым, будет автоматически определено размерностью embedding-модели по умолчанию

Заполнив, нажмите ОК. Системный уровень глобальной памяти будет включён.

Ещё нужно «тоже» включить это в каждом Assistant

Шаги:

  1. Перейдите на страницу диалога, нажмите на нужного Assistant в списке → Редактировать (или при создании нового Assistant в библиотеке помощников)

  2. В настройках Assistant найдите Глобальная память переключатель и включите его

  3. После этого данный Assistant будет автоматически читать и обновлять базу памяти в новых диалогах

Для часто используемого «помощника по умолчанию» включите это один раз — и дальше будет всё готово.

Что делать, если в выпадающем списке эмбеддинговой модели отображается «Нет данных»

Самая частая проблема: после выбора LLM-модели в выпадающем списке эмбеддинговой модели отображается «Нет данных».

Типичная проблема: LLM уже выбран (CherryIN), а в выпадающем списке эмбеддинговой модели — «Нет данных»

Причина: у вашего Provider нет доступных для выбора Embedding-моделей. Способ решения:

  1. Закройте текущее диалоговое окно (нажмите Отмена)

  2. Перейдите в Настройки → Службы моделей → ваш Provider

  3. нажмите Получить список моделей, в верхней части всплывающего окна переключитесь на вкладку Встраивания

  4. Добавьте 1–2 embedding-модели (например, bge-m3text-embedding-3-small и т. п.)

  5. Вернитесь к Настройки → Глобальная память, снова включите переключатель

Управление пользователями

Глобальная память группируется по «пользователям». По умолчанию предоставляется один пользователь по умолчанию, а также можно создать отдельные базы памяти для членов семьи или команды:

  • нажмите Управление пользователями Справа значок +👤 → введите новый ID пользователя, чтобы создать

  • После переключения между разными пользователями ниже список памяти и статистика отображаются отдельно

Добавление, просмотр и удаление памяти

После включения:

  • нажмите Добавьте свою первую запись памяти или + Добавить память, введите содержимое во всплывающем окне и сохраните

  • Через Поиск памяти… поле можно фильтровать по ключевым словам

  • каждую запись памяти можно отдельно редактировать или удалять

  • В меню дополнительных действий можно выбрать Сбросить память / Сбросить память пользователя, очистив всю память текущего пользователя (необратимо, используйте осторожно)

Расход токенов

После включения глобальной памяти каждый диалог будет дополнительно расходовать определённое количество токенов:

  • токены на извлечение векторов запроса и поиск кандидатов памяти

  • на то, чтобы LLM оценил, нужно ли записывать новую память, + на операцию записи

Если вы чувствительны к затратам, можно включить глобальную память только у 1–2 самых часто используемых Assistant, а у остальных оставить выключенной.

Глобальная память сейчас находится в стадии Beta; в будущих версиях могут измениться вход и названия полей, поэтому на этой странице ориентируйтесь на то, что фактически отображается в приложении.

Подсказки и советы

  • После первого включения можно в Добавьте свою первую запись памяти написать запись в сведениях о себе(профессия, сфера интересов, предпочитаемый тон и т. д.), и в дальнейших диалогах это будет автоматически учитываться

  • Если вы не хотите, чтобы некоторые Assistant использовали память, отключите «Глобальную память» отдельно в настройках этого Assistant

  • При длительном использовании рекомендуется периодически очищать устаревшие воспоминания, чтобы не засорять контекст


💡 Получить помощь и отправить отзыв

Если у вас возникнут вопросы, баги или предложения по улучшению функций в процессе настройки или использования, пожалуйста, обратитесь к Обратная связь и предложения и используйте указанные там официальные каналы.

Последнее обновление

Это было полезно?