For the complete documentation index, see llms.txt. This page is also available as Markdown.

Groq

Groq(注意:唔係 xAI 嘅 Grok)係一個以 LPU 硬件加速、超低延遲 見長嘅推理服務,主要託管 Llama / Mixtral / Whisper 等開源模型,輸出速度通常係普通雲推理嘅幾倍。

拎 API Key

  • GroqCloud 註冊帳號

  • API 金鑰建立 API 金鑰,複製 gsk_... 密鑰

喺 Cherry Studio 設置

  • 打開 設定 → 模型服務,搵到 Groq Provider 入去詳情頁

  • API 密鑰 填入 gsk_...

  • API 地址 預設 https://api.groq.com/openai/v1,唔使修改

  • 獲取模型列表

推薦用法

模型
適合場景

llama-3.3-70b-versatile

通用對話,速度極快

llama-3.1-8b-instant

簡單任務,毫秒級響應

mixtral-8x7b-32768

長上下文

whisper-large-v3

語音轉文字

適用場景

  • 即時聊天機械人:Groq 嘅「幾乎瞬時響應」好適合 IM 接入(配搭 頻道

  • 大量並發:每秒 token 數顯著高過普通雲推理

  • 唔介意模型係咪最新:Groq 主要託管 Llama 系等開源模型,冇 GPT-5 / Claude-4 呢類閉源模型

區分 Grok vs Groq

Grok

Groq

公司

xAI(馬斯克)

Groq Inc.

主打

自研大模型 + 聯網

LPU 硬件 + 開源模型推理

模型

grok-4 等自研

llama-3.x 等開源


💡 獲取幫助同提交反饋

如果您喺配置或使用過程中遇到任何疑問、Bug 或有功能改進建議,請參考 反饋同建議 入面提供嘅官方渠道。

最後更新

呢個有冇幫助?