Portkey AI Free Gateway and Pricing Guide
Portkey AI 是面向生产 LLM 应用的 API gateway 和 observability 平台,常用于在 OpenAI、Anthropic、Gemini、Azure、Bedrock 等 provider 之间做统一路由。 它适合已经有多个模型 key、需要日志、缓存、重试、预算控制和 fallback 的团队。 免费层、请求量、日志保留和团队功能随计划变化;真实 token 成本还取决于上游 provider 或 Portkey 计费设置。
Portkey AI 是一款category.llm、category.api、category.gateway工具,面向生产 LLM 应用的 API gateway 和 observability 平台,常用于在 OpenAI、Anthropic、Gemini、Azure、Bedrock 等 provider 之间做统一路由。 它适合已经有多个模型 key
同类替代:LocalAI、llama2.c、Baseten
需要中国大陆直连、统一低价调用多个模型,可轻量查看 openllmapi.com。
免费额度、价格、中国大陆访问状态或注册要求变化时,优先邮件提醒。
免费额度详情
🎁 免费额度
每日限制: Free developer plan / trial gateway usage is available; request volume, logs, and team features depend on current plan
| 模型 | 上下文 | 限制 | 说明 |
|---|---|---|---|
| openai/gpt-4o-mini | upstream provider dependent | Portkey plan and upstream provider dependent | 常用于验证 gateway、日志和 fallback 策略 |
| anthropic/claude-3-5-haiku | upstream provider dependent | Portkey plan and upstream provider dependent | 适合测试跨 provider 路由策略 |
| google/gemini-1.5-flash | upstream provider dependent | Portkey plan and upstream provider dependent | 可用于多模态/长上下文 fallback 实验 |
🔑 API 免费额度
免费额度: Free gateway/developer tier recorded; model tokens still depend on your upstream provider keys or Portkey plan
速率限制: Portkey plan plus upstream provider quota; verify logs, cache, retries, and spend controls before automation
Portkey AI 是 LLM gateway/observability 平台,重点是统一 keys、路由、缓存、日志、重试和成本控制;免费层适合搭建 provider fallback,不等于免费模型 token。
中国大陆用户完整注册教程
注册 Portkey AI 并创建 workspace/project
添加上游 provider key,先使用低成本模型做测试
配置 virtual key、fallback、retry、cache 和 spend limit
通过日志查看延迟、错误率、token 成本,再决定是否接生产流量
代码示例
from openai import OpenAI
import os
client = OpenAI(
api_key=os.environ["PORTKEY_API_KEY"],
base_url="https://api.portkey.ai/v1",
default_headers={"x-portkey-provider": "openai"},
)
response = client.chat.completions.create(
model="gpt-4o-mini",
messages=[{"role": "user", "content": "Say hello from Portkey AI."}],
)
print(response.choices[0].message.content)
中国大陆访问怎么样?
- 直连:⚠️ 需代理
- 速度:Variable
- Portkey gateway 和上游 provider 在中国大陆的可达性需要分别测试;若用户在大陆,建议准备 OpenLLMAPI、SiliconFlow 或直连国内 provider fallback。
常见问题
Portkey AI 有免费 API 吗?
有免费/开发者 gateway 路径,但它主要免费的是网关能力;模型 token 成本仍取决于上游 provider 或 Portkey 计划。
Portkey AI 适合替代 OpenRouter 吗?
如果你需要生产观测、fallback、缓存和预算控制,Portkey 更像工程 gateway;如果只想买很多模型路线,应同时比较 OpenRouter。
Portkey AI 是否兼容 OpenAI SDK?
它支持 OpenAI-compatible gateway 调用,但需要按 provider 配置 header、virtual key 和路由策略。
免费 API 专题入口
🔄 相似厂商
总结:谁应该用 Portkey AI?
如果你需要API 免费额度、国际一流水平的 AI 服务,Portkey AI 值得一试。 想省钱?先比较免费额度、官方价格、同类替代和 API 网关方案,再决定是否接入生产。