OpenRelay 完整教程：聚合 Claude、Groq、NVIDIA NIM 免费额度到一个本地端点

OpenRelay 完整教程：一个订阅驱动所有 AI 工具

你有 Claude Pro 订阅，但只能在 Claude Desktop 里用。你有 Kiro 的免费额度，但只能在 Kiro 里用。你有 Groq 的免费 API，但 Cursor 不支持。

OpenRelay 解决的就是这个问题 — 把你所有的 AI 配额聚合到一个本地代理，任何工具都能用。

核心能力

• 聚合配额：32 个 Provider 的免费额度合并（Groq、Cerebras、SambaNova、Gemini、Kiro、NVIDIA NIM 等）
• 自动 failover：一个用完自动切下一个，AI 永不断线
• 一键接入 IDE：Cursor、Claude Code、Windsurf、Aider、VS Code Copilot
• 自动发现：启动后自动扫描本机已有的 Claude Desktop、Kiro 等凭证
• 本地运行：请求直连 Provider，不过第三方服务器

安装（1 分钟）

单文件可执行，不需要 Node.js 或 Python。

macOS (Apple Silicon)：

curl -L -o openrelay https://github.com/platoba/openrelay/releases/latest/download/openrelay-macos-arm64
chmod +x openrelay && ./openrelay

Windows：从 Releases 下载 exe，双击运行。

Linux：

curl -L -o openrelay https://github.com/platoba/openrelay/releases/latest/download/openrelay-linux-x64
chmod +x openrelay && ./openrelay

启动后浏览器打开 http://localhost:18765 — Web 管理面板。

配置免费 Provider

在 Web 面板中添加你的免费 API Key：

• Groq — 免费，极速推理 → console.groq.com
• Cerebras — 免费，限速 → cloud.cerebras.ai
• SambaNova — 免费，Llama 405B → cloud.sambanova.ai
• Gemini — 免费，100 万上下文 → aistudio.google.com
• NVIDIA NIM — 免费，100+ 模型 → build.nvidia.com
• DeepSeek — 极便宜 → platform.deepseek.com

详细的各家免费额度对比，请看 yangmao.ai 厂商对比。

模型组（Killer Feature）

把多个 Provider 合并成一个虚拟模型：

"fast-group" = Groq (Llama 90B) + Cerebras (Llama 70B) + SambaNova (Llama 405B)

Groq 额度用完 → 自动切 Cerebras → 再切 SambaNova。在 Web 面板的"模型组"区块中配置。

接入开发工具

通用方式（环境变量）

export OPENAI_BASE_URL=http://localhost:18765
export OPENAI_API_KEY=unused

API_KEY 随便填，OpenRelay 在本地管理真实凭证。

指定 Provider（路径路由）

• localhost:18765/kiro → Kiro 的免费 Claude Sonnet
• localhost:18765/groq → Groq 免费推理
• localhost:18765/gemini → Gemini 免费 100 万上下文
• localhost:18765/nvidia → NVIDIA NIM 免费模型

接入 Claude Code

export ANTHROPIC_BASE_URL=http://localhost:18765/kiro
export ANTHROPIC_API_KEY=unused
claude

接入 Aider

export OPENAI_BASE_URL=http://localhost:18765/groq
export OPENAI_API_KEY=unused
aider --model openai/llama-3.3-70b

接入 Cursor

OpenRelay 通过 RPC 代理直接注入 Cursor，在 Web 面板的"IDE 代理"区块中一键开启。

推荐搭配

• Claude Code → 走 Kiro（免费 Claude Sonnet，最匹配）
• Aider → 走 Groq（免费，推理速度极快）
• Goose → 走 Gemini（免费，100 万上下文）
• OpenCode → 走 DeepSeek（最便宜的编程模型）
• 日常对话 → 走 NVIDIA NIM（100+ 模型随便选）

注意事项

安全提醒：OpenRelay 是闭源二进制，会读取本机 AI 凭证。如果有顾虑，只手动输入 Key，不用自动发现。

商业授权：Open Core 模式。基础代理免费（MIT），模型组等高级功能可能需要商业授权。

替代方案：不想维护本地代理时，可以比较官方平台、开源网关和商业 API 网关。重点看隐私、日志、价格、模型覆盖和 fallback 能力，不要只看“一个 Key”是否省事。

常见问题

Q: 会被 Provider 封号吗？

不会。OpenRelay 纯本地运行，请求直连 Provider，和你手动调 API 没区别。

Q: 支持哪些 IDE？

Claude Code、Kiro、Windsurf、Cursor、VS Code Copilot、Aider、OpenCode、Goose、Continue 等。

---

更多免费 AI 工具和资源，请访问 yangmao.ai — 42 家 AI 厂商免费额度完整指南。