Together AI
开源模型推理 API + 微调平台，性价比极高
什么是 Together AI
Together AI 是专注开源模型的推理和微调平台。提供 Llama、Mixtral、DeepSeek 等几十个开源模型的 API，价格比 OpenAI 便宜 5-10 倍。
新用户注册送 $5 免费额度，OpenAI 兼容 API 格式，迁移成本极低。还支持模型微调，可以用自己的数据训练定制模型。
新用户注册送 $5 免费额度，OpenAI 兼容 API 格式，迁移成本极低。还支持模型微调，可以用自己的数据训练定制模型。
免费额度与定价
免费额度：$5（约 500 万 token Llama 3.3 70B）
热门模型价格：
- Llama 3.3 70B: $0.88/M tokens
- Mixtral 8x22B: $0.60/M tokens
- DeepSeek V3: $0.90/M tokens
- Qwen 2.5 72B: $0.90/M tokens
微调：$3/hr（A100），支持 LoRA 和全量微调。
热门模型价格：
- Llama 3.3 70B: $0.88/M tokens
- Mixtral 8x22B: $0.60/M tokens
- DeepSeek V3: $0.90/M tokens
- Qwen 2.5 72B: $0.90/M tokens
微调：$3/hr（A100），支持 LoRA 和全量微调。
编辑提示
编辑提示：如果只是 API 推理，通常不需要租 GPU；先比较官方免费额度、速率限制和延迟。
常见问题
Q: 和 Groq 比怎么样？
A: Groq 速度更快（专用硬件），Together AI 模型更全、支持微调。
Q: API 兼容 OpenAI 格式吗？
A: 是的，改个 base_url 就能迁移。
Q: 国内能用吗？
A: 可以直连，延迟可接受。
A: Groq 速度更快（专用硬件），Together AI 模型更全、支持微调。
Q: API 兼容 OpenAI 格式吗？
A: 是的，改个 base_url 就能迁移。
Q: 国内能用吗？
A: 可以直连，延迟可接受。