腾讯混元发布开源加速库,生图时间缩短 75%

2024年 6月 12日 57.5k 0

腾讯混元DiT模型是业内首个中文原生的DiT架构文生图开源模型,为了提升开发者使用体验,腾讯混元官方上线了专属的加速库。开发者可通过 Hugging Face 下载该推理加速工具。

项目组通过知识蒸馏和TensorRT高性能推理框架,实现了DiT模型的采样步数压缩与高效推理部署。蒸馏主要指降低扩散模型迭代的步数实现加速。模型整体结构和参数量不变,用户在无需任何额外的操作和设备要求下使用蒸馏权重,即可降低50%迭代步数,实现耗时减半。TensorRT推理加速方案通过工程优化,可以进一步降低耗时,并且和模型权重解耦。同时使用两者进行推理部署,可将推理时间缩短75%。

官方还分享了两个降低用户使用门槛的最新消息:经过与社区的共同努力,用户可以基于ComfyUI的图形化界面使用腾讯腾讯混元文生图模型能力。同时,通过与Hugging Face团队合作,腾讯混元DiT模型已经部署到Hugging Face官方模型库Diffusers中,并编写了适配该模型库的调用和生成代码,用户可以直接通过该途径调用腾讯混元DiT模型,大大简化了用户使用的成本。

ComfyUI是一款文生图领域的WebUI界面设计,它将文生图领域的扩散算法模块化与图形化,提升了生成效率与资源利用率,也大幅降低了开发者的使用门槛。用户可以通过图像化工作流使用腾讯混元DiT文生图模型,实现与官方模型一样的效果。

腾讯混元发布开源加速库,生图时间缩短 75%-1

将腾讯混元DiT模型适配进Hugging Face Diffusers,可以大幅提升模型的易用性和用户基础。Hugging Face还与腾讯混元团队共同优化算法框架,加快了图片的生成速度。

此举也相当于为所有后续基于腾讯混元DiT的使用和开发提供了底层支持,覆盖各种需要调用腾讯混元DiT的任何场景,包括上述的ComfyUI方式。同时对开发者而言,之前配置好的基于Diffusers的工作流和插件可以在少量修改的情况下直接用于腾讯混元DiT。

腾讯文生图负责人芦清林表示:“腾讯混元文生图模型开源之后得到了众多开发者的支持和反馈,我们十分高兴,也同时在针对开发者的反馈与社区一起完善和优化基于腾讯混元DiT的开源生态,让更多开发者能更便利地享受到最新的研究成果。也欢迎大家跟我们一起共建下一代视觉生成开源生态,推动大模型行业加速发展。”

相关文章

塑造我成为 CTO 之路的“秘诀”
“人工智能教母”的公司估值达 10 亿美金
教授吐槽:985 高校成高级蓝翔!研究生基本废了,只为房子、票子……
Windows 蓝屏中断提醒开发者:Rust 比 C/C++ 更好
Claude 3.5 Sonnet 在伽利略幻觉指数中名列前茅
上海新增 11 款已完成登记生成式 AI 服务

发布评论