统一 API 网关,一个接口调用 GPT、Claude、Llama 等数百模型。
OpenRouter 一个 API 钥匙换多家模型,按调用计费,适合不想分别注册十家平台的开发者。
我会在应用里把「便宜模型做草稿、贵模型做终审」写进路由,控制账单。
国内访问和网络要自己测;生产环境记得限流和日志脱敏。
开源模型社区与 Inference API、Spaces 部署平台。
本地运行开源大模型的 CLI 工具,开发者自部署与集成首选。
AWS 多模态基础模型系列,对话与内容生成 API。
Ray 生态模型部署与 LLM 推理服务平台。