结论
- Supabase 和 Firebase 适合把 provider key 留在客户端之外。
- 免卡 API 可验证 MVP,但生产需要计费、quota、可观测性和 fallback。
- 兼容 endpoint 能降低从免费 provider 切到付费 provider 的代码改动。
- SaaS 用量扩大前,应按 user、workspace、function name 和 route 追踪成本。
怎么做
- 创建一个 Edge Function 或 Cloud Function,从 secrets 读取 baseURL、apiKey、model 和 max tokens。
- 在已部署 function runtime 中跑最小 prompt 和结构化 JSON 响应测试。
- 用真实 MVP 任务比较一条免卡路线、一条低价 provider 和一个 fallback。
- 加入用户/workspace quota、timeout 限制、重试限制和每日预算告警。
- 多个 functions 需要统一 key、provider 切换、路线日志和成本归因时,用 OpenLLMAPI。
推荐路径对比
| 平台 | 免费/额度 | 适合 |
|---|---|---|
| OpenRouter/Groq | 免费路线变化 | 免卡 MVP smoke test |
| DeepSeek | 核验当前价格 | 原型后的低价 SaaS 任务 |
| 通义千问 DashScope | 注册额度变化 | 中国大陆友好兼容 backend functions |
| 智谱 GLM | 注册 tokens 变化 | backendless SaaS 国产 fallback |
| OpenLLMAPI | 体验额度变化 | 统一 endpoint、日志、fallback、quota 和客户成本 |
自有平台承接
给每个 function 一条预算感知模型路线
把 Supabase 和 Firebase 调用放到一个兼容 endpoint,统一服务端 secrets、quota、fallback 和 workspace 成本日志。
FAQ
Supabase Edge Functions 能调用 OpenAI-compatible API 吗?
可以。把 baseURL、key 和 model 放 secrets,并在部署后的 edge runtime 验证 fetch/streaming 行为。
Firebase Functions 用免卡 API 安全吗?
原型可以,前提是 key 留在 function config/secrets,公开客户端只调用你的 function endpoint。
从免费到生产时哪里会坏?
rate limit、cold start、timeout、streaming 支持、JSON 结构、retry 风暴和缺少用户预算。
应该记录什么?
user/workspace id、function name、provider、model、tokens、延迟、重试次数、错误、fallback route 和被接受结果。