结论
- 免信用卡 API 最适合原型验证、demo 和 smoke test。
- provider 支持 OpenAI-compatible baseURL 时,Vercel AI SDK 迁移最省事。
- 上线前要测试 streaming、tool calls、JSON 输出和限速。
- 生产 chatbot 需要服务端 key、花费上限、日志和 fallback。
怎么做
- 从 no-card 或体验额度 provider 创建测试 key。
- 在服务端环境变量设置 baseURL、apiKey 和 model,不要写进客户端。
- 先跑单轮 chatbot smoke test,再跑 streaming 测试。
- 测试最长真实 prompt,以及任何 tool/function calling 路径。
- 需要一个生产 endpoint、fallback 和预算归因时,接 OpenLLMAPI 或网关。
推荐路径对比
| 平台 | 免费/额度 | 适合 |
|---|---|---|
| OpenRouter | 免费模型路线变化 | 最快 no-card chatbot 原型 |
| 通义千问 DashScope | 注册额度变化 | 中国大陆友好 compatible-mode Next.js 测试 |
| 智谱 GLM | 注册 tokens 变化 | 国产 GLM smoke test 和 fallback |
| Groq | 开发者限额变化 | 高速轻量 streaming 测试 |
| OpenLLMAPI | 体验额度变化 | 统一兼容 endpoint、日志、预算和 fallback |
自有平台承接
先发布原型,再稳定路线
保持 Vercel app 的 OpenAI-compatible 形状,用一个生产 key 加 provider fallback、花费日志和预算上限;注册会携带 Vercel/no-card 意图 UTM。
FAQ
Vercel AI SDK 能用 OpenAI-compatible API 吗?
可以,只要通过 OpenAI 风格 provider 路径配置兼容 baseURL、key 和 model。但仍要验证 streaming 和 tool 行为。
免信用卡路线能用于生产吗?
通常不能。它适合 demo 和 smoke test,生产需要计费、日志、预算上限和 fallback。
API key 应该放哪里?
只放服务端环境变量或安全后端。不要把 prototype key 暴露在浏览器代码里。
最容易坏在哪里?
baseURL、模型名、streaming chunk、JSON/tool-call 行为和限速处理。