量子位 QbitAI· 思邈·· 2 天前AI 评分38
是石科技发布多模态模型服务:视频生成推理端到端提速2.48倍
提速2.48倍且画质不掉线,AI视频“降本增效”有了新解法
AI 导读
是石科技发布「多模态模型服务」,通过基于历史缓存残差的自适应加速技术,在展示的测试条件下相比Dense基线实现端到端平均2.48倍加速并保持生成质量。该服务还结合SGLang优化缓存与显存管理,并用模态自适应免训练Token压缩在WorldSense评测中实现1.33倍加速。
来源: 量子位 QbitAI · qbitai.com