For the complete documentation index, see llms.txt. This page is also available as Markdown.

LM Studio

LM Studio — это популярная GUI для локальных больших моделейподдерживающая загрузку, квантизацию и локальный инференс различных open-source моделей. Cherry Studio может выступать в роли фронтенда и подключаться к локальному сервису LM Studio, обеспечивая более удобный диалоговый опыт при сохранении локальной конфиденциальности.

Подготовка

  1. из Официальный сайт LM Studio Скачайте и установите клиент

  2. Скачайте в LM Studio хотя бы одну модель (сначала рекомендуется попробовать Llama 3.x 8B или серию Qwen)

  3. Откройте в верхней части LM Studio Server вкладку, нажмите Start Server(порт по умолчанию 1234)

Настройте в Cherry Studio

  • Включить Настройки → Сервисы моделей,найдите LM Studio Provider и перейдите на страницу подробностей

  • API-адрес По умолчанию http://localhost:1234, если вы изменили порт LM Studio, измените его и здесь

  • API-ключ Можно оставить пустым (для локального инференса аутентификация не нужна), либо заполнить после включения аутентификации в LM Studio

  • Нажмите Получить список моделейCherry Studio автоматически подхватит загруженные в LM Studio модели

Список моделей пуст? LM Studio показывает только уже Load в память модели, загруженные в память; те, что не загружены, не появятся в списке. Вернитесь в LM Studio, сначала загрузите модель, а затем снова нажмите «Получить список моделей».

Рекомендуемое использование

Сценарий
Рекомендация

Конфиденциальные разговоры

Выберите небольшую модель (до 8B) и запускайте локально, полностью офлайн

Apple Silicon (чипы серии M)

LM Studio использует backend MLX, и его эффективность заметно выше, чем у llama.cpp

Модель эмбеддингов

LM Studio также может загружать embedding-модели для использования в базе знаний

Отличия от Ollama

LM Studio

Ollama

Формат

Графический интерфейс + Server

Командная строка / фоновая служба

Управление моделями

Просмотр/скачивание через GUI

ollama pull

API

Совместимость с OpenAI

Совместимость с OpenAI

Подходит для

Пользователей, предпочитающих графическое взаимодействие

Пользователей, предпочитающих командную строку / развёртывание через Docker

Оба варианта можно подключить к Cherry Studio — выбирайте по своему предпочтению.

Частые вопросы

  • Cherry Studio не подключается: проверьте, запущен ли Server в LM Studio (зелёная точка)

  • Ответ очень медленный: модель слишком большая / не хватает видеопамяти, попробуйте модель поменьше или более сильную квантизацию (например, Q4 → Q3)

  • Кракозябры / обрезка вывода: длина контекста превышает ограничение модели, увеличьте её в LM Studio n_ctx


Получить помощь и отправить отзыв

Если у вас в процессе настройки или использования возникнут какие-либо вопросы, баги или предложения по улучшению функций, пожалуйста, обратитесь к Отзывы и предложения официальным каналам, указанным там.

Последнее обновление

Это было полезно?