跳到主要内容

NVIDIA NIM

官方厂商稳定性 中(主观评级)3 条模型记录3 条兼容 OpenAI 协议

英伟达把开源模型打包成标准推理微服务的方案,云端托管端点完全兼容 OpenAI 协议,注册即赠送一批 API credits;同一套代码可无缝切到自建容器。

接入信息

API Base URL
https://integrate.api.nvidia.com/v1
额度政策
注册赠送一批 API credits,按调用次数扣减,用完可申请开发者计划续期。额度政策随官方调整,以注册入口页实际展示为准
限流说明
免费 credits 期间并发较低,热门模型高峰期会排队,表现为首 token 延迟拉长。

模型记录

模型记录一览
模型标识模态上下文免费类型免费额度限流流式函数调用更新
meta/llama-3.1-8b-instruct同一模型自建 NIM 容器时改用本地 8000 端口地址文本128K限量免费注册赠送一批 API credits,按调用次数扣减,用完需申请续期免费 credits 期间并发较低,热门模型高峰期可能排队支持支持2026-08-06待复核
qwen/qwen2.5-7b-instruct同一模型自建 NIM 容器时改用本地 8000 端口地址文本32K限量免费注册赠送一批 API credits,按调用次数扣减,用完需申请续期免费 credits 期间并发较低,热门模型高峰期可能排队支持支持2026-08-06待复核
deepseek-ai/deepseek-r1同一模型自建 NIM 容器时改用本地 8000 端口地址文本64K限量免费注册赠送一批 API credits,按调用次数扣减,用完需申请续期免费 credits 期间并发较低,热门模型高峰期可能排队支持支持2026-08-06待复核

额度与限流均为官方口径的定性描述,本站不编造精确数字。免费清单随平台调整频繁, 标注「待复核」表示该条记录距上次核实已超过 30 天,请以官方控制台为准。