跳到正文
NVIDIA Technical Blog· Zhihan Jiang·· 23 小时前AI 评分42

NVIDIA Vera Rubin NVL72 在 MLPerf Endpoints v1.0 智能体推理性能中领先

NVIDIA Vera Rubin NVL72 Leads Agentic Inference Performance on MLPerf Endpoints v1.0

AI 导读

NVIDIA Vera Rubin NVL72 在 MLPerf Endpoints v1.0 的智能体推理评测中取得领先性能。该基准通过 API 以编程和企业工作流评估推理系统在服务容量与响应速度之间的平衡,对应 AI 智能体跨轮次携带增长对话历史、混合生成推理、工具调用与回复的负载特征。

来源: NVIDIA Technical Blog · developer.nvidia.com