OneDiff 1.0发布!生产环境稳定加速SD/SVD模型

2024年 4月 19日 87.9k 0

自Stable Diffusion模型发布以来,
硅基流动开发的
OneDiff图片/视频推理加速引擎以其
卓越的性能、“一键”加速的易用性、以及
对最新算法和应用框架的快速支持,深受开发者和用户的喜爱。

今天,OneDiff v1.0.0正式发布。
本次版本更新解决了此前版本v0.13中的问题,主要包括以下新特性、改进以及若干Bug修复:

  • OneDiff质量评估

  • 重复利用编译图

  • 改进对Playground v2.5的支持

  • 支持ComfyUI-AnimateDiff-Evolved

  • 支持ComfyUI_IPAdapter_plus

  • 支持Stable Cascade

  • 提高了VAE的性能

  • 为OneDiff企业版提供了量化工具

欢迎体验新版本,期待你的反馈。完整更新列表请查看:
https://github.com/siliconflow/onediff/releases/tag/1.0.0

OneDiff的后续版本将专注于DiT/Sora类模型。

SOTA性能

性能方面,无论是Stable Diffusion还是Stable Video Diffusion模型,OneDiff依然保持2~3倍的端到端推理加速。

在OneDiff的加持下,RTX3090甚至可以超越A100的性能,帮助企业和用户大幅节省使用A100的成本。

OneDiff Demo

从默认皮肤灰袍甘道夫到近战法师白袍甘道夫,无论是细节层面“加入法杖”、“骑马”、“加入霍比特人”,还是宏观的场景切换(从Shire到Mordor),随着提示词即时更换,OneDiff 加速库实现图片即时生成(推理时间与端到端时间均小于300ms)。在经过层层嵌套、修改提示词,OneDiff的输出依然稳定(录屏展示无加速)。

应用案例

OneDiff已在多家海内外知名GenAI企业的生产环境中得到应用。

  • Stable Diffusion XL优化终极指南(评测报告)

  • 百万用户通话新风潮:仅需50秒,无界AI让彩铃变身短视频

  • OneDiff加速“图生生”,解锁电商AI图像处理新范式

  • 更多案例持续更新中:github.com/siliconflow/onediff/wiki

本文分享自微信公众号 - OneFlow(OneFlowTechnology)。
如有侵权,请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”,欢迎正在阅读的你也加入,一起分享。

相关文章

塑造我成为 CTO 之路的“秘诀”
“人工智能教母”的公司估值达 10 亿美金
教授吐槽:985 高校成高级蓝翔!研究生基本废了,只为房子、票子……
Windows 蓝屏中断提醒开发者:Rust 比 C/C++ 更好
Claude 3.5 Sonnet 在伽利略幻觉指数中名列前茅
上海新增 11 款已完成登记生成式 AI 服务

发布评论