LM Studio
LM Studio — это популярныйлокальный GUI для больших языковых моделейподдерживающий загрузку, квантизацию и локальный вывод различных open-source моделей. Cherry Studio может выступать фронтендом, подключаясь к локальному сервису LM Studio, и при этом обеспечивать лучший опыт общения, сохраняя локальную конфиденциальность.
Предварительная подготовка
С официального сайта LM Studio скачайте и установите клиент
В LM Studio загрузите как минимум одну модель (сначала рекомендуется попробовать Llama 3.x 8B или серию Qwen)
Откройте верхнюю часть LM Studio Сервер вкладку, нажмите Запустить сервер(порт по умолчанию
1234)
Настройте в Cherry Studio
Открыть
Настройки → Сервис моделейи найдите LM Studio Provider, чтобы перейти на страницу с подробностямиадрес API По умолчанию
http://localhost:1234, если вы изменили порт LM Studio, измените его и здесьКлюч API можно оставить пустым (для локального вывода аутентификация не требуется), либо заполнить после включения аутентификации в LM Studio
Нажмите Получить список моделей, Cherry Studio автоматически получит список моделей, загруженных в LM Studio
Список моделей пуст? LM Studio отображает толькоуже загруженные в памятьмодели; те, что не были загружены, не появятся в списке. Вернитесь в LM Studio, сначала загрузите модель, а затем снова нажмите «Получить список моделей».
Рекомендуемое использование
Разговоры, чувствительные к конфиденциальности
Выбирайте небольшие модели (ниже 8B) и запускайте локально, полностью офлайн
Apple Silicon (чипы серии M)
LM Studio использует backend MLX, и эффективность заметно выше, чем у llama.cpp
модель эмбеддингов
LM Studio также может загружать модели эмбеддингов для Глобальная память с базой знаний
Отличия от Ollama
Форма
Графический интерфейс + сервер
Командная строка / фоновый сервис
Управление моделями
Просмотр/загрузка через GUI
ollama pull
API
Совместимо с OpenAI
Совместимо с OpenAI
Подходит для
пользователей, предпочитающих графическое взаимодействие
тех, кто предпочитает командную строку / развертывание в Docker
Оба варианта можно подключить к Cherry Studio; выбирайте по личным предпочтениям.
Частые вопросы
Cherry Studio не может подключиться: убедитесь, что в LM Studio Server уже запущен (состояние с зелёной точкой)
Ответ очень медленный: модель слишком большая / не хватает видеопамяти, попробуйте модель поменьше или более сильную квантизацию (например, Q4 → Q3)
Кракозябры / обрезка вывода: длина контекста превышает ограничение модели, увеличьте её в LM Studio
n_ctx
💡 Получить помощь и отправить отзыв
Если вы в процессе настройки или использования столкнётесь с любыми вопросами, багами или предложениями по улучшению функций, пожалуйста, обратитесь к Обратная связь и предложения официальным каналам, указанным там.
Последнее обновление
Это было полезно?