Groq
Последнее обновление
Это было полезно?
Groq (внимание: не Grok от xAI) — это сервис, ориентированный на аппаратное ускорение LPU и сверхнизкую задержку и обладающий сильными сторонами сервис инференса, в основном размещающий open-source модели вроде Llama / Mixtral / Whisper; скорость вывода обычно в несколько раз выше, чем у обычного облачного инференса.
Перейдите в GroqCloud Регистрация аккаунта
API-ключи → Создать API-ключ,скопируйте gsk_... ключ
Открыть Настройки → Сервис моделейи найдите Groq Provider, чтобы перейти на страницу с подробностями
Ключ API Введите gsk_...
адрес API По умолчанию https://api.groq.com/openai/v1, без необходимости изменять
Нажмите Получить список моделей
llama-3.3-70b-versatile
Универсальный диалог, очень высокая скорость
llama-3.1-8b-instant
Простые задачи, отклик за миллисекунды
mixtral-8x7b-32768
Длинный контекст
whisper-large-v3
Распознавание речи в текст
Чат-бот в реальном времени:«Почти мгновенный отклик» Groq отлично подходит для интеграции в IM (в связке с канал)
множество одновременных запросов:число токенов в секунду значительно выше, чем у обычного облачного инференса
не важна новизна модели:Groq в основном размещает open-source модели семейства Llama и т. п.; здесь нет закрытых моделей вроде GPT-5 / Claude-4
Компания
xAI (Маск)
Groq Inc.
Основное направление
собственные большие модели + подключение к интернету
аппаратное обеспечение LPU + инференс open-source моделей
Модель
grok-4 и другие собственные
llama-3.x и другие open-source
Grok (xAI) и Groq часто путают. В списке провайдеров Cherry Studio это два отдельных пункта, пожалуйста, не путайте их.
Если вы в процессе настройки или использования столкнётесь с любыми вопросами, багами или предложениями по улучшению функций, пожалуйста, обратитесь к Обратная связь и предложения официальным каналам, указанным там.
Последнее обновление
Это было полезно?
Это было полезно?