如何对 NVIDIA Nemotron 进行后训练以提升特定科学领域的准确率
NVIDIA 介绍如何通过后训练 Nemotron 提升模型在特定科学领域的准确率。文章指出,科研智能体正承担更长、更复杂且更依赖视觉的工作流,准确率与推理效率成为关键。
NVIDIA 介绍如何通过后训练 Nemotron 提升模型在特定科学领域的准确率。文章指出,科研智能体正承担更长、更复杂且更依赖视觉的工作流,准确率与推理效率成为关键。
NVIDIA Vera Rubin NVL72 在 MLPerf Endpoints v1.0 的智能体推理评测中取得领先性能。该基准通过 API 以编程和企业工作流评估推理系统在服务容量与响应速度之间的平衡,对应 AI 智能体跨轮次携带增长对话历史、混合生成推理、工具调用与回复的负载特征。
NVIDIA 介绍如何通过 ConnectX-8 RDMA 连接两台 DGX Station,用 vLLM 以张量并行把 GLM-5.3 的权重和计算拆分到两块 GPU 上,通过单一端点提供推理服务。所用模型为 NVIDIA GLM-5.3 NVFP4,是 Z.ai 混合专家模型的量化版本。
Google 发布 Gemini Decisions API,由新模型 Gemini Decision 1(gemini-decision-1)驱动,已在 Google AI Studio 的 Gemini API 中开放。
推荐理由:原文给出了定价、延迟和校准误差数据,读者可据此判断这类闭集决策接口适合替代哪些分类器调用。
Meta 介绍 Facebook 的 Your algorithm 系统,用户可用自然语言写下想看和不想看的内容,偏好同时作用于 Feed 和 Reels。页面顶部由 LLM 生成一句话的 Lately Summary 和预填的 Interested In 列表,每次增删改都由小模型校验主题、去重并映射为规范名称后写入共享偏好库。
Cloudflare 的 27B 多模态决策模型 Clef 已在 Ollama 上线,用户可在本地或 Ollama 云端运行。Clef 接收状态和一组带类型的结构化问题,一次读取输入并同时为每个问题打分,支持文本、JSON 和图像输入,兼容 Jev 与 System One API,基于 Qwen3.8-27B 微调,采用 Apache 2.0 许可。
Reflection 的首个开放权重模型 Beam 于 10 月 16 日正式发布,Ollama 作为 day-zero 合作伙伴限时免费提供。Beam 是 MoE 模型,总参数约 501B、每 token 激活 23B,面向软件工程、推理和长周期智能体任务,上下文窗口为 100 万 token,采用 Apache 2.0 许可。
推荐理由:读者可以了解 Reflection 首个开放权重模型 Beam 的规格、Apache 2.0 许可和 Ollama 上的免费接入方式。
Amazon Web Services 团队提出 Priming 方法,以预训练 Transformer 权重为起点构建混合状态空间模型,把混合架构的预训练成本降低 99% 以上,整个流程消耗不到源模型预训练 token 预算的 0.5%。
推荐理由:亚马逊团队提出复用预训练 Transformer 权重改造混合架构的方法,把预训练成本降低 99% 以上,并给出可复现的模型与代码。
Ollama 在 0.35 版本中新增对决策模型的支持,基于 TypeSafe 的 Jev API,通过新的 /v1/systemone 端点把文本作为状态、附带一组命名问题,由本地模型在一次请求中全部作答。