英伟达开源 Nemotron 3.5 检索模型:嵌入、重排、文档解析三件套

英伟达 10 月 21 日在 Hugging Face 发文,扩充 Nemotron Retriever 系列:新增 Nemotron 3.5 Embed 8B(BF16)、1B(BF16 和 NVFP4 两版)、Rerank 8B,以及 6.31 亿参数的文档解析模型 Parse。
英伟达的论点是:Agent 的答案取决于它能找到的证据,检索质量差,Agent 就会反复搜索、多读文档,白白烧 token。Rerank 8B 对查询和候选文档成对打分,用作 RAG 的第二阶段排序。合作方 Vectorize 用自家 Agent 记忆系统测试,称 Embed 在 LoCoMo 上 recall@10 为 93.8%,在 BEAM 100K 上为 65.9%,在 8 个嵌入模型里排第一;Elastic 也可通过推理 API 调用。
同一天英伟达还发布了 Nemotron 3.5 Super VL 等一批开放模型,小模型 Nemotron 3.5 Bolt E4B 预计 10 月 23 日上线。做中文知识库的读者要注意,官方强调的是多语言能力,中文效果需要自己测。
注意:评测数字来自英伟达和合作方,我们没有实测;8B 模型自己部署需要较大显存。