开云体育dInfer在模子后果捏平的情况下-开云(中国)Kaiyun·官方网站 - 登录入口
2025-11-07新浪科技讯 10月13日下昼音书开云体育,蚂聚积团精致开源业界首个高性能扩散谈话模子推理框架dInfer。 据先容,在基准测试中,dInfer将扩散谈话模子的推理速率比拟于英伟达扩散模子框架Fast-dLLM进步了10.7倍;在代码生成任务HumanEval上,dInfer在单批次推理中创造了1011Tokens/秒的速率,初次在开源社区中实现扩散谈话模子的单批次推理速率权贵高出自追念模子。dInfer的责任标明,扩散谈话模子具备权贵的效力后劲,不错通过系统性的革命工程实现,为通往AGI的架构
MORE
