NVIDIA Nemotron 聊天模型节点
使用 NVIDIA Nemotron 聊天模型节点通过对话代理访问 NVIDIA Nemotron 模型[^1]。该节点可与 build.nvidia.com 上托管的 Nemotron 模型以及自托管 NVIDIA 推理微服务 (NIM) 配合使用。
本页介绍 NVIDIA Nemotron Chat Model 节点的参数,并提供更多资源链接。
提示
Credentials 凭证
您可以在NVIDIA Nemotron 凭据文档找到此节点的身份验证信息。
提示
Parameter resolution in sub-nodes 子节点参数解析
使用表达式处理多个项目时,子节点的行为与其他节点不同。
大多数节点,包括根节点,接受任意数量的项目作为输入,处理这些项目,并输出结果。您可以使用表达式引用输入项目,节点会依次为每个项目解析表达式。例如,给定五个 name 值的输入,表达式 {{ $json.name }} 会依次解析为每个名称。
在子节点中,表达式始终解析为第一项。例如,给定五个 name 值的输入,表达式 {{ $json.name }} 始终解析为名字。
节点参数
型号
选择用于生成补全的 Nemotron 模型。
n8n 会从你在凭据中配置的端点动态加载 Nemotron 模型。如果 n8n 无法访问该端点,它会回退到一组精选的常用 Nemotron 模型 ID。
节点选项
使用这些选项进一步细化节点行为。
频率惩罚
使用此选项控制模型重复自身内容的概率。值越高,模型重复自身内容的概率越低。
代币最大数量
输入要使用的最大 token 数,用于设置补全长度。使用 -1 表示采用模型默认值。
响应格式
选择 Text 文本或 JSON。JSON 可确保模型返回有效 JSON。选择 JSON 时,请在 chain 或 agent 的提示中包含 json 一词。
存在处罚
使用此选项控制模型谈论新主题的概率。值越高,模型谈论新主题的概率越高。
采样温度
使用此选项控制采样过程的随机性。较高的温度会产生更多样化的采样,但会增加幻觉风险。
超时
输入最长请求时间(毫秒)。
最大重试次数
输入请求的最大重试次数。
顶部 P
使用此选项设置补全应使用的概率。使用较低的值可忽略概率较低的选项。
模板和示例
浏览 NVIDIA Nemotron 聊天模型节点文档集成模板 或 搜索所有模板
相关资源
请参阅 NVIDIA 的构建目录 了解 Nemotron 型号列表,并参阅 NIM 文档 了解有关自托管的指南。由于 NVIDIA API 兼容 OpenAI 规范,您可以参考 LangChain 的 OpenAI 文档以获取有关底层客户端的更多信息。
查看 n8n 的 Advanced AI 高级 AI 文档。
[^1]:AI 代理是能够响应用户请求、做出决策并执行现实世界任务的人工智能系统。他们使用大型语言模型 (LLM) 来解释用户输入,并就如何利用现有的信息和资源最好地处理请求做出决策。