For the complete documentation index, see llms.txt. This page is also available as Markdown.

Groq

Groq (внимание: не Grok от xAI) — это сервис, ориентированный на аппаратное ускорение LPU и сверхнизкую задержку и обладающий сильными сторонами сервис инференса, в основном размещающий open-source модели вроде Llama / Mixtral / Whisper; скорость вывода обычно в несколько раз выше, чем у обычного облачного инференса.

Получить API Key

  • Перейдите в GroqCloud Регистрация аккаунта

  • API-ключиСоздать API-ключ,скопируйте gsk_... ключ

Настройте в Cherry Studio

  • Открыть Настройки → Сервис моделейи найдите Groq Provider, чтобы перейти на страницу с подробностями

  • Ключ API Введите gsk_...

  • адрес API По умолчанию https://api.groq.com/openai/v1, без необходимости изменять

  • Нажмите Получить список моделей

Рекомендуемое использование

Модель
Подходящие сценарии

llama-3.3-70b-versatile

Универсальный диалог, очень высокая скорость

llama-3.1-8b-instant

Простые задачи, отклик за миллисекунды

mixtral-8x7b-32768

Длинный контекст

whisper-large-v3

Распознавание речи в текст

Сценарии применения

  • Чат-бот в реальном времени:«Почти мгновенный отклик» Groq отлично подходит для интеграции в IM (в связке с канал

  • множество одновременных запросов:число токенов в секунду значительно выше, чем у обычного облачного инференса

  • не важна новизна модели:Groq в основном размещает open-source модели семейства Llama и т. п.; здесь нет закрытых моделей вроде GPT-5 / Claude-4

Различайте Grok и Groq

Grok

Groq

Компания

xAI (Маск)

Groq Inc.

Основное направление

собственные большие модели + подключение к интернету

аппаратное обеспечение LPU + инференс open-source моделей

Модель

grok-4 и другие собственные

llama-3.x и другие open-source


💡 Получить помощь и отправить отзыв

Если вы в процессе настройки или использования столкнётесь с любыми вопросами, багами или предложениями по улучшению функций, пожалуйста, обратитесь к Обратная связь и предложения официальным каналам, указанным там.

Последнее обновление

Это было полезно?