如何对 NVIDIA Nemotron 进行后训练以提升特定科学领域的准确率
NVIDIA 介绍如何通过后训练 Nemotron 提升模型在特定科学领域的准确率。文章指出,科研智能体正承担更长、更复杂且更依赖视觉的工作流,准确率与推理效率成为关键。
NVIDIA 介绍如何通过后训练 Nemotron 提升模型在特定科学领域的准确率。文章指出,科研智能体正承担更长、更复杂且更依赖视觉的工作流,准确率与推理效率成为关键。
NVIDIA 介绍如何通过 ConnectX-8 RDMA 连接两台 DGX Station,用 vLLM 以张量并行把 GLM-5.3 的权重和计算拆分到两块 GPU 上,通过单一端点提供推理服务。所用模型为 NVIDIA GLM-5.3 NVFP4,是 Z.ai 混合专家模型的量化版本。
Meta 构建的 Intelligent Delivery 系统通过 ML 驱动、逐步由 AI 智能体运营的自适应优化层,为每个广告请求动态分配算力,自 2017 年至 2026 年上半年在模型与系统进步之上额外带来约 10% 的排序性能提升。
Meta 工程团队详解 PrivacyLib,这是一个运行在数百个数据与处理系统客户端内的通用库,每秒执行数十亿次隐私检查。系统只需接入一次,新隐私能力即以模块形式复用该集成,取代了此前在每个系统中重复实现的做法。PrivacyLib 还通过 Agent Observability 模块观测内部 AI 智能体的数据访问事件。
Sebastian Raschka 发布《从零构建推理模型》配套视频课程,共 8 讲、约 11 小时,用 Python 和 PyTorch 从预训练的 Qwen3 0.6B 出发实现推理模型。
Sebastian Raschka 用 52 页讲义和 48 分钟视频讲解 Anthropic 为 Claude 文本输出加水印的机制。水印不在模型内部,而是在采样阶段用密钥派生随机种子,使部分位置的选择变得确定;检测时借助 SynthID-Text 式的 tournament sampling 和打分函数,无需重跑 LLM,但必须持有密钥。
Sebastian Raschka 撰文解释推理模型的推理强度档位如何训练与实现,并以 GPT-5.6 的 Light 到 Ultra 六档设置为例说明推理强度与响应长度、准确率和成本的关系。
Sebastian Raschka 发布教程,讲解如何用 Ollama 本地部署 Qwen3.6 35B-A3B 等开放权重模型,并接入 Qwen-Code、Codex、Claude Code 三种编码智能体框架。