Groq
🌍 国际Groq 以自研 LPU 推理芯片著称,提供业界最快的 AI 推理速度。 免费 API 支持多个开源模型,速度比 GPU 方案快数倍。
🎁 免费额度
每日限制: 14400 tokens/min
| 模型 | 上下文 | 限制 | 说明 |
|---|---|---|---|
| Llama 3.3 70B | 128k | 30 RPM | 推理速度极快,免费使用 |
| Mixtral 8x7B | 32k | 30 RPM | MoE 架构,性价比高 |
🔑 API 信息
免费额度: Free tier
速率限制: 30 RPM
免费 API,速度业界最快(LPU 推理芯片)