For the complete documentation index, see llms.txt. This page is also available as Markdown.

LM Studio

LM Studio — это популярныйлокальный GUI для больших языковых моделейподдерживающий загрузку, квантизацию и локальный вывод различных open-source моделей. Cherry Studio может выступать фронтендом, подключаясь к локальному сервису LM Studio, и при этом обеспечивать лучший опыт общения, сохраняя локальную конфиденциальность.

Предварительная подготовка

  1. С официального сайта LM Studio скачайте и установите клиент

  2. В LM Studio загрузите как минимум одну модель (сначала рекомендуется попробовать Llama 3.x 8B или серию Qwen)

  3. Откройте верхнюю часть LM Studio Сервер вкладку, нажмите Запустить сервер(порт по умолчанию 1234

Настройте в Cherry Studio

  • Открыть Настройки → Сервис моделейи найдите LM Studio Provider, чтобы перейти на страницу с подробностями

  • адрес API По умолчанию http://localhost:1234, если вы изменили порт LM Studio, измените его и здесь

  • Ключ API можно оставить пустым (для локального вывода аутентификация не требуется), либо заполнить после включения аутентификации в LM Studio

  • Нажмите Получить список моделей, Cherry Studio автоматически получит список моделей, загруженных в LM Studio

Список моделей пуст? LM Studio отображает толькоуже загруженные в памятьмодели; те, что не были загружены, не появятся в списке. Вернитесь в LM Studio, сначала загрузите модель, а затем снова нажмите «Получить список моделей».

Рекомендуемое использование

Сценарий
Рекомендации

Разговоры, чувствительные к конфиденциальности

Выбирайте небольшие модели (ниже 8B) и запускайте локально, полностью офлайн

Apple Silicon (чипы серии M)

LM Studio использует backend MLX, и эффективность заметно выше, чем у llama.cpp

модель эмбеддингов

LM Studio также может загружать модели эмбеддингов для Глобальная память с базой знаний

Отличия от Ollama

LM Studio

Ollama

Форма

Графический интерфейс + сервер

Командная строка / фоновый сервис

Управление моделями

Просмотр/загрузка через GUI

ollama pull

API

Совместимо с OpenAI

Совместимо с OpenAI

Подходит для

пользователей, предпочитающих графическое взаимодействие

тех, кто предпочитает командную строку / развертывание в Docker

Оба варианта можно подключить к Cherry Studio; выбирайте по личным предпочтениям.

Частые вопросы

  • Cherry Studio не может подключиться: убедитесь, что в LM Studio Server уже запущен (состояние с зелёной точкой)

  • Ответ очень медленный: модель слишком большая / не хватает видеопамяти, попробуйте модель поменьше или более сильную квантизацию (например, Q4 → Q3)

  • Кракозябры / обрезка вывода: длина контекста превышает ограничение модели, увеличьте её в LM Studio n_ctx


💡 Получить помощь и отправить отзыв

Если вы в процессе настройки или использования столкнётесь с любыми вопросами, багами или предложениями по улучшению функций, пожалуйста, обратитесь к Обратная связь и предложения официальным каналам, указанным там.

Последнее обновление

Это было полезно?