跳到正文

技术方向

部署工程 最新动态

怎么把模型跑得更快更省钱:推理加速、显存与成本、服务部署与基础设施选型。

3 条精选近 30 天 2条 共收录 39条

更新

部署工程的精选

11月12日周四第 1–3 条
11月10日周二
  1. Google AI (The Keyword)60

    Google Cloud 推出 Gemini for healthcare

    Google Cloud 发布 Gemini for healthcare,把临床、运营和行政系统中分散的数据整合起来,支持团队将数据转化为协同行动。该平台通过专用技能和数据连接器接入电子病历、账单平台、临床指南和 Medicare 数据集,在既定护栏和人工监督下编排病历综合、事前授权审核等多步流程。

    推荐理由:读者可了解 Gemini 如何接入电子病历、账单与医保数据,把多步临床与行政流程交给智能体编排。

10月13日周二
  1. Amazon Science75

    Amazon Web Services 提出 Priming 方法,无需从头重训即可改造模型架构

    Amazon Web Services 团队提出 Priming 方法,以预训练 Transformer 权重为起点构建混合状态空间模型,把混合架构的预训练成本降低 99% 以上,整个流程消耗不到源模型预训练 token 预算的 0.5%。

    推荐理由:亚马逊团队提出复用预训练 Transformer 权重改造混合架构的方法,把预训练成本降低 99% 以上,并给出可复现的模型与代码。