NV-API 管理

NV-API 管理面板

NVIDIA API Keys

客户端 SK 密钥

设置后,客户端调用 /v1 接口时必须携带此密钥

模型分类管理

勾选模型添加到对应分类,已勾选的会自动按延迟排序。客户端调用时 model 传 auto/coder/novel/task 即可自动选择对应分类中延迟最低的模型。

定时刷新频率

设置模型自动发现和延迟测试的 Cron 表达式。修改后需要重新部署 Worker。

最佳模型

延迟数据

模型延迟 (s)

管理员密码