在OpenHarmony本地部署大语言模型 本文将第二届OpenHarmony技术大会上展示的《在OpenHarmony本地部署大语言模型》成果开源,开源地址:https://gitee.com/openharmony-sig/tpc_c_cplusplus/blob/master/thirdparty/InferLLM/docs/hap_integrate.md。 实现思路和步骤 移植轻量级LLM模型推理框架InferLLM到OpenHa 系统运维 2024-06-06 LOVEHL^ˇ^