LM Studio
LM Studio — это популярная GUI для локальных больших моделейподдерживающая загрузку, квантизацию и локальный инференс различных open-source моделей. Cherry Studio может выступать в роли фронтенда и подключаться к локальному сервису LM Studio, обеспечивая более удобный диалоговый опыт при сохранении локальной конфиденциальности.
Подготовка
из Официальный сайт LM Studio Скачайте и установите клиент
Скачайте в LM Studio хотя бы одну модель (сначала рекомендуется попробовать Llama 3.x 8B или серию Qwen)
Откройте в верхней части LM Studio Server вкладку, нажмите Start Server(порт по умолчанию
1234)
Настройте в Cherry Studio
Включить
Настройки → Сервисы моделей,найдите LM Studio Provider и перейдите на страницу подробностейAPI-адрес По умолчанию
http://localhost:1234, если вы изменили порт LM Studio, измените его и здесьAPI-ключ Можно оставить пустым (для локального инференса аутентификация не нужна), либо заполнить после включения аутентификации в LM Studio
Нажмите Получить список моделейCherry Studio автоматически подхватит загруженные в LM Studio модели
Список моделей пуст? LM Studio показывает только уже Load в память модели, загруженные в память; те, что не загружены, не появятся в списке. Вернитесь в LM Studio, сначала загрузите модель, а затем снова нажмите «Получить список моделей».
Рекомендуемое использование
Конфиденциальные разговоры
Выберите небольшую модель (до 8B) и запускайте локально, полностью офлайн
Apple Silicon (чипы серии M)
LM Studio использует backend MLX, и его эффективность заметно выше, чем у llama.cpp
Модель эмбеддингов
LM Studio также может загружать embedding-модели для использования в базе знаний
Отличия от Ollama
Формат
Графический интерфейс + Server
Командная строка / фоновая служба
Управление моделями
Просмотр/скачивание через GUI
ollama pull
API
Совместимость с OpenAI
Совместимость с OpenAI
Подходит для
Пользователей, предпочитающих графическое взаимодействие
Пользователей, предпочитающих командную строку / развёртывание через Docker
Оба варианта можно подключить к Cherry Studio — выбирайте по своему предпочтению.
Частые вопросы
Cherry Studio не подключается: проверьте, запущен ли Server в LM Studio (зелёная точка)
Ответ очень медленный: модель слишком большая / не хватает видеопамяти, попробуйте модель поменьше или более сильную квантизацию (например, Q4 → Q3)
Кракозябры / обрезка вывода: длина контекста превышает ограничение модели, увеличьте её в LM Studio
n_ctx
Получить помощь и отправить отзыв
Если у вас в процессе настройки или использования возникнут какие-либо вопросы, баги или предложения по улучшению функций, пожалуйста, обратитесь к Отзывы и предложения официальным каналам, указанным там.
Последнее обновление
Это было полезно?