NVIDIA NIM
官方厂商稳定性 中(主观评级)3 条模型记录3 条兼容 OpenAI 协议
英伟达把开源模型打包成标准推理微服务的方案,云端托管端点完全兼容 OpenAI 协议,注册即赠送一批 API credits;同一套代码可无缝切到自建容器。
接入信息
- API Base URL
https://integrate.api.nvidia.com/v1- 额度政策
- 注册赠送一批 API credits,按调用次数扣减,用完可申请开发者计划续期。额度政策随官方调整,以注册入口页实际展示为准
- 限流说明
- 免费 credits 期间并发较低,热门模型高峰期会排队,表现为首 token 延迟拉长。
- 官方入口
- 注册 / 申请 Key官方文档
模型记录
| 模型标识 | 模态 | 上下文 | 免费类型 | 免费额度 | 限流 | 流式 | 函数调用 | 更新 |
|---|---|---|---|---|---|---|---|---|
meta/llama-3.1-8b-instruct同一模型自建 NIM 容器时改用本地 8000 端口地址 | 文本 | 128K | 限量免费 | 注册赠送一批 API credits,按调用次数扣减,用完需申请续期 | 免费 credits 期间并发较低,热门模型高峰期可能排队 | 支持 | 支持 | 2026-08-06待复核 |
qwen/qwen2.5-7b-instruct同一模型自建 NIM 容器时改用本地 8000 端口地址 | 文本 | 32K | 限量免费 | 注册赠送一批 API credits,按调用次数扣减,用完需申请续期 | 免费 credits 期间并发较低,热门模型高峰期可能排队 | 支持 | 支持 | 2026-08-06待复核 |
deepseek-ai/deepseek-r1同一模型自建 NIM 容器时改用本地 8000 端口地址 | 文本 | 64K | 限量免费 | 注册赠送一批 API credits,按调用次数扣减,用完需申请续期 | 免费 credits 期间并发较低,热门模型高峰期可能排队 | 支持 | 支持 | 2026-08-06待复核 |
额度与限流均为官方口径的定性描述,本站不编造精确数字。免费清单随平台调整频繁, 标注「待复核」表示该条记录距上次核实已超过 30 天,请以官方控制台为准。