昆仑万维开源 2 千亿稀疏大模型天工 MoE,能用 4090 推理 昆仑万维宣布开源 2 千亿稀疏大模型 Skywork-MoE , 性能强劲, 同时推理成本更低。Skywork-MoE 基于之前昆仑万维开源的 Skywork-13B 模型中间 checkpoint 扩展而来, 是首个完整将 MoE Upcycling 技术应用并落地的开源千亿 MoE大模型,也是首个支持用单台 4090 服务器推理的开源千亿 MoE大模型。 “我们希望本次开源的 Skywork- 运维资讯 2024-06-05 三掌柜