最後更新
呢個有冇幫助?
Groq(注意:唔係 xAI 嘅 Grok)係一個以 LPU 硬件加速、超低延遲 見長嘅推理服務,主要託管 Llama / Mixtral / Whisper 等開源模型,輸出速度通常係普通雲推理嘅幾倍。
去 GroqCloud 註冊帳號
API 金鑰 → 建立 API 金鑰,複製 gsk_... 密鑰
打開 設定 → 模型服務,搵到 Groq Provider 入去詳情頁
API 密鑰 填入 gsk_...
API 地址 預設 https://api.groq.com/openai/v1,唔使修改
撳 獲取模型列表
llama-3.3-70b-versatile
通用對話,速度極快
llama-3.1-8b-instant
簡單任務,毫秒級響應
mixtral-8x7b-32768
長上下文
whisper-large-v3
語音轉文字
即時聊天機械人:Groq 嘅「幾乎瞬時響應」好適合 IM 接入(配搭 頻道)
大量並發:每秒 token 數顯著高過普通雲推理
唔介意模型係咪最新:Groq 主要託管 Llama 系等開源模型,冇 GPT-5 / Claude-4 呢類閉源模型
Grok(xAI)同 Groq 經常俾人混淆。在 Cherry Studio Provider 列表入面係兩個獨立條目,請注意區分。
如果您喺配置或使用過程中遇到任何疑問、Bug 或有功能改進建議,請參考 反饋同建議 入面提供嘅官方渠道。
最後更新
呢個有冇幫助?
呢個有冇幫助?