论起当前流行的 AI 应用开发开源框架, LangChain 和 Semantic Kernel 必然榜上有名。不仅提供了强大的工具和框架,同时都代表了 AI 技术发展的前沿。
LangChain 的创始人是 Harrison Chase,在 2022 年 10 月将其开源。最初,它只是 Chase 的一个业余爱好项目,但迅速发展成为颇受开发者欢迎的开源框架和工具包。尤其是在 ChatGPT 发布一个月后,LangChain 在 GitHub 上获得了大量关注,目前 star 数已经超过了 8.7 万。与此同时,LangChain 也迅速转变为一家初创公司,估值达到 2 亿美元。
继 LangChain 发布 4 个月之后,微软开源了 Semantic Kernel。Semantic Kernel 是一个轻量级的软件开发工具包(SDK),其核心思想是将传统的编程语言与最新的 AI 技术相结合。在功能方面,Semantic Kernel 与 LangChain 有相似之处,提供提示模板、链接和规划功能。此外,Semantic Kernel 被设计得能够与 Microsoft Azure 和其他微软服务紧密集成。
LangChain 珠玉在前, Semantic Kernel 又堪称后起之秀,到底孰优孰劣?
《LangChain编程:从入门到实践》的作者莫尔索,就曾将 LangChain 和 Semantic Kernel 进行比较。莫尔索在大模型应用落地方面有丰富的经验,为知名项目 AutoGPT、LangChain 框架等贡献过代码,并撰有开源电子书《LLM 应用开发实践》。其主理的公众号“莫尔索随笔”致力于大模型技术的普及。
莫尔索以实现一个支持联网功能的智能 AI 助手为例,最后得出结论:Langchain 更适合构建 MVP,Semantic Kernel 更适合生产级应用;Langchain 更适合独立开发,Semantic Kernel 更适合企业应用。
莫尔索认为,LangChain 的优势在于具备丰富的组件支持。以WebResearchRetriever
的封装实现为例,将向量数据库和搜索引擎结合起来,只需几行代码就可以完成复杂功能,加速 MVP 实现,需求验证。劣势在于过度封装。“Prompt 模板组件做这么抽象实在没必要,应用调试和生产环境可观测性方面都不太友好。”
至于 Semantic Kernel,莫尔索认为其生态比起 LangChain 要更差一点。“但是背靠大厂“巨硬”,这点也能快速赶上,设计整体奔着构建生产级应用去的,LangChain 的一些缺点基本都规避了。Semantic Kernel 主要面向 C# 开发者,也支持 Python 和 Java,C# 开发者只能选择 Semantic Kernel。LangChain 提供了许多现成的代理、工具、插件等,但软件工程方面的组织相对较差,可能和创建者是 ML 工程师出身有关。”
无独有偶,广东智用人工智能应用研究院工业&社区 CTO 张善友也曾比较过二者的差异。张善友曾参与了 Semantic Kernel 中文技术社区的发起,并对该技术有深入的研究和应用经验。
他提到,微软采用 C# 语言开发,推出一个结合 LLM 与传统编程技术的开源框架 Semantic Kernel,更加切合应用开发的需求。
此外,Semantic Kernel 虽然开源更晚,但在微软内部,其开发时间要比 Langchain 早得多,因而具备优良的架构和代码质量,同时制定了更为合理的插件开发规范。
至于大模型的支持方面,张善友表示,Semantic kernel 可以支持任何大模型,不仅仅是 OpenAl、Azure OpenAl、HuggingFace 上的模型。Semantic kermel 鼓励对大模型的支持作为单独插件,由各社区独立维护,如 Llama 2、文心一言、通义千问等,而不是集成到 SK 仓库,以此增强 SK 模块化和可维护性。
LangChain 与 Semantic kernel 有不同的设计理念、功能集和性能特点。在大模型发展如日中天之际,要对开源框架分个高下为时尚早。
不过,想看这两大开发框架同台竞技,并不是什么难事。
7 月 13 日至 14 日,2024 亚太人工智能与机器人产业峰会暨 GOTC 全球开源技术峰会将在杭州举行。在“LLMOps 最佳实践”论坛上,莫尔索、张善友将各自分享其在 LangChain、Semantic kernel 方面的实践。
“LLMOps 最佳实践”论坛还将邀请枫清科技(Fabarta)大语言模型、算法专家王斐,小码科技创始人、Agents-Flex 作者杨福海,微软高级云技术布道师(人工智能方向)卢建晖,阿里云技术专家蔡健等,带领开发者探索和分享 LLMOps 的最新实践、技术和工具,深入讨论如何高效、可靠地管理和运维大规模语言模型,确保它们在生产环境中的最佳性能。
参会报名,请访问:https://www.oschina.net/news/297185
2024 亚太人工智能与机器人产业峰会暨 GOTC 全球开源技术峰会由中国人工智能学会与开源中国联合举办,将于 7 月 13-14 日在杭州隆重举行。本次峰会将汇聚全球顶尖的专家、学者、企业领袖及开源技术代表,深入探讨机器人技术、软件开发、开源技术和 AI 大模型等前沿领域。
会议将重点展示机器人在制造、医疗、物流和服务等行业的最新应用,探讨智能算法和自主学习能力如何提升机器人性能,并分享开源技术在推动技术创新与协作中的关键作用。此外,峰会还将关注 AI 大模型的最新研究进展及其在实际应用中的挑战与机遇。