EtNaviv NPU驱动程序进一步提升了性能,更接近专有驱动程序

2024年 2月 9日 70.0k 0


为MESA 24.1合并Teflon for EtNaviv NPU驱动程序支持 支持VeriSilicon NPU IP的反向工程开源驱动程序,类似于Etnaviv Gallium3D图形支持Vivante图形。领导Etnaviv NPU支持工作的Tomeu Vizoso成功地实现了另一个性能胜利,并使开源驱动程序的性能更接近专有驱动程序。

Vizoso最近开始向驱动程序添加权重压缩支持,以便可以压缩权重缓冲区中的连续零。有了这种压缩支持,MobileNetV1性能从15.7ms提高到9.9ms,SSDLIte MobileDet从56.1ms提高到32.7ms。

这张来自Tomeu Vizoso的幻灯片展示了EtNaviv开源NPU驱动程序是如何接近官方专有驱动程序的:

如果/何时EtNaviv驱动程序能够达到或超过专有驱动程序的性能,这将是一件有趣的事情。Vizoso目前正在讨论下一步该做什么,是扩大SoC支持,更多地提高性能,还是为其他一些硬件启动一个全新的驱动程序。有关这一努力的更多细节,请访问Vizoso博客.

相关文章

塑造我成为 CTO 之路的“秘诀”
“人工智能教母”的公司估值达 10 亿美金
教授吐槽:985 高校成高级蓝翔!研究生基本废了,只为房子、票子……
Windows 蓝屏中断提醒开发者:Rust 比 C/C++ 更好
Claude 3.5 Sonnet 在伽利略幻觉指数中名列前茅
上海新增 11 款已完成登记生成式 AI 服务

发布评论