NVIDIA 开源 NVKE 与 NVKR,在 GPU 基础设施上运行托管 Kubernetes
NVIDIA 开源了 NVIDIA Kubernetes Engine(NVKE)和 NVIDIA Kubernetes Recipes(NVKR)两个项目,均采用 Apache 2.0 许可并处于公开预览阶段,二者此前作为 NVIDIA DSX AI Factory Platform 的组件公布。
NVIDIA 开源了 NVIDIA Kubernetes Engine(NVKE)和 NVIDIA Kubernetes Recipes(NVKR)两个项目,均采用 Apache 2.0 许可并处于公开预览阶段,二者此前作为 NVIDIA DSX AI Factory Platform 的组件公布。
Nvidia 在芝加哥 SC26 超算大会上发布面向科学研究的 Rubin HPC 芯片及配套软件工具。Rubin HPC 将配备超过 5 万个 CUDA 核心,高于旗舰 Rubin GPU 的 898 个 Tensor 核心与逾 2.8 万个 CUDA 核心,并搭载新版 NVLink 与稀疏数据加速功能,计划 2028 年出货。
Cmpnd 发布原型优化器 dspy-wsp,将权重空间编程接入 DSPy,由前沿 LLM 在沙箱中读取并直接改写学生模型权重,无需梯度、训练循环或微调数据集。
奥地利 14 岁开发者 Stanislaus Hees 推出开源工具 Autark,把 AI 智能体当作虚拟团队:任务进入收件箱后由管理智能体分派给其他智能体执行并回报结果,智能体由日程、定时器、新任务或消息唤醒,无需持续提示。
亚马逊发布第二代表格基础模型 Mitra-v2,同时支持分类与回归,并在 Hugging Face 以 Apache-2.0 许可开放微调模型和推理、微调代码。
推荐理由:读者可以看到表格基础模型如何靠扩大合成预训练数据的规模与多样性取得提升,而不必加深网络。
Sebastian Raschka 发布《从零构建推理模型》配套视频课程,共 8 讲、约 11 小时,用 Python 和 PyTorch 从预训练的 Qwen3 0.6B 出发实现推理模型。
Amazon 本周宣布开源 TorchNeuron,这一后端可将 PyTorch 代码转换为可在 AWS Trainium 上执行的操作,已在其他加速器上运行的代码几乎无需改动即可迁移。
Reflection 的首个开放权重模型 Beam 于 10 月 16 日正式发布,Ollama 作为 day-zero 合作伙伴限时免费提供。Beam 是 MoE 模型,总参数约 501B、每 token 激活 23B,面向软件工程、推理和长周期智能体任务,上下文窗口为 100 万 token,采用 Apache 2.0 许可。
推荐理由:读者可以了解 Reflection 首个开放权重模型 Beam 的规格、Apache 2.0 许可和 Ollama 上的免费接入方式。
Amazon Web Services 团队提出 Priming 方法,以预训练 Transformer 权重为起点构建混合状态空间模型,把混合架构的预训练成本降低 99% 以上,整个流程消耗不到源模型预训练 token 预算的 0.5%。
推荐理由:亚马逊团队提出复用预训练 Transformer 权重改造混合架构的方法,把预训练成本降低 99% 以上,并给出可复现的模型与代码。
NVIDIA Nemotron 3.5 Lightning 已在 Ollama 上线,可完全在本地设备运行。该模型为 30B 总参数、每 token 仅 3B 激活的混合 MoE 开源模型,面向持续运行的智能体任务,支持最高 1M token 上下文,并借助多 token 预测(MTP)、DFlash 或 DSpark 的投机解码实现最高 4 倍于同类开源模型的吞吐。
推荐理由:材料给出 30B 总参数、3B 激活的本地智能体模型规格与吞吐数据,可据此判断本地跑长任务智能体的可行性。