首页
热点
系统
数据
应用
网络
云运维
开发
linux中国
更多
自动化
安全
桌面
教程
Linux命令查询
话题
热点
系统
数据
应用
网络
云运维
开发
自动化
linux中国
注册登录
更多
安全
桌面
教程
linux命令查询
显存
模型量化与量化在LLM中的应用 | 得物技术
一、模型推理优化 随着模型在各种场景中的落地实践,模型的推理加速早已成为AI工程化的重要内容。而近年基于Transformer架构的大模型继而成为主流,在各项任务中取得SoTA成绩…
运维资讯
2024年 4月 30日
106.1k
推理
显存
模型