Apache StreamPark 2.1.2 稳定版正式发布

2023年 12月 13日 38.6k 0

近日 Apache StreamPark(Incubating) 社区正式发布了 StreamPark 2.1.2 版本,在 2.1.2 版本中,支持了最新的 Flink 1.18,Flink Jar 类型的作业支持指定依赖,修复了诸多 Bug 和大量改进,稳定性和可用性进一步提升,建议所有用户升级到这个版本。

Github: https://github.com/apache/streampark

官     网: https://streampark.apache.org/download

欢迎 使用、关注、star、fork 

新特性解读

   更好的支持 JAR 类型作业

在 StreamPark 中将 Flink 作业按照开发模式分为 Custom Code 和 Flink SQL 两种类型,Custom Code 是需要用户编写代码编译成 JAR 类型的 Flink 作业,在以前的版本中该类型的作业不支持在 StreamPark 平台侧指定作业依赖,要求用户自己解决作业需要的依赖,通常做法是需要将这些依赖打包到项目里,生成一个 FatJar (uber-jar)。社区收到很多用户的反馈,大家普遍希望 StreamPark 平台侧针对 JAR 类型的作业能像 Flink SQL 作业一样,可以自由的指定作业的依赖。

同时,我们也看到 Apache Doris, Apache Paimon 等社区都开发了基于 Flink CDC 一键集成数据的组件 (doris-flink-connector 和 paimon-action),该组件都提供了作业迁移的入口,但作业运行时依赖需要用户手动添加。

鉴于这些原因,在 StreamPark 2.1.2 里,特别针对 JAR 类型的作业支持了指定依赖的能力,使得用户部署这类作业更加简单。以下是两个示例,演示了如何利用该特性,来快速部署 Doris 和 Paimon 数据迁移类型的作业:

StreamPark让Doris数据集成更简单 
 

 StreamPark让Paimon数据集成更简单 

   支持 Flink 1.18

作为流处理开发管理框架,StreamPark 在对 Apache Flink 的支持上,一如既往的走在前列。得益于 StreamPark 良好的架构设计,使得支持一个新版本的 Flink 非常容易,因此我们率先支持了 Flink 1.18 [1]。在使用上非常的简单,用户只需要添加一个 Flink 1.18 的环境即可,作业可以自由的选择 Flink 版本。

并且本次适配了更多发行版 Flink,如 CDH 版本的 Flink, 华为云,腾讯云 Flink 等。

 

 支持 Flink 多版本 

   其他改进和更新

  • 修复作业状态重新映射不生效的 Bug #2822

  • 改进 Flink 版本的校验逻辑,适配更多的 Flink 版本 #2832

  • 修复作业 “取消状态” 下可能存在的无法发送报警信息的 Bug #3157

  • 修复 Ingress 访问 Flink UI 可能存在的 404 Bug #3302

  • 修复团队为空,导致查询错误的 Bug #3365

  • 修复作业参数解析,特定字符解析错误导致作业失败的 Bug

  • 修复项目编译时 maven-wrapper 文件损坏导致失败的 Bug

  • Flink 作业的 Pom 信息支持 exclusion,有效避免 JAR 冲突问题

Release Note

本次 StreamPark 2.1.2 版本的 完整 Release Note 请访问:
https://streampark.apache.org/download/release-note/2.1.2

感谢贡献者

StreamPark 开源社区的发展,离不开广大用户群体的积极反馈和宣传布道,更离不开贡献者们的无私贡献,感谢对此版本做出贡献的每一位贡献者。

特别感谢本次的 Release Manager @龚中强[2],中强在发版过程中积极的跟踪问题和推进进度,完美胜任了此次发版工作。感谢中强为社区做出的贡献,也欢迎其他 PPMC member 和 Committer 在后续的发版中担任 Release Manager,帮助社区更快捷、高质量地完成发版。

什么是 StreamPark

StreamPark 是一个流处理应用程序开发管理框架。初衷是让流处理更简单,旨在轻松构建和管理流处理应用程序,提供使用 Apache Flink 和 Apache Spark 编写流处理应用程序的开发框架。同时 StreamPark 提供了一个流处理应用管理平台,核心能力包括但不限于应用开发、调试、交互查询、部署、运维、实时数仓等,最初开源时项目名称叫 StreamX ,于 2022 年 8 月更名为 StreamPark,随后通过投票正式成为 Apache 开源软件基金会的孵化项目。目前已有腾讯、百度、联通、天翼云、自如、马蜂窝、长安汽车等数百家公司生产环境使用。

🫵 加入我们

StreamPark 社区一直以来都以用心做好一个项目为原则,高度关注项目质量,努力建设发展社区。加入 Apache 孵化器以来,认真学习和遵循「The Apache Way」,我们将秉承更加兼容并包的心态,迎接更多的机遇与挑战。诚挚欢迎更多的贡献者参与到社区建设中来,和我们一道携手共建。

💻 项目地址:https://github.com/apache/streampark

🧐 提交问题和建议:https://github.com/apache/streampark/issues

🥁 贡献代码:https://github.com/apache/streampark/pulls

📮 Proposal:https://cwiki.apache.org/confluence/display/INCUBATOR/StreamPark+Proposal

📧 订阅社区开发邮件列表:dev@streampark.apache.org [3] 

💁‍♀️社区沟通:

参考资料

[1] https://nightlies.apache.org/flink/flink-docs-release-1.18/release-notes/flink-1.18

[2] https://github.com/GOODBOY008

[3] mailto:dev@streampark.apache.org
 

祝大家安装、升级顺利~~  

相关文章

塑造我成为 CTO 之路的“秘诀”
“人工智能教母”的公司估值达 10 亿美金
教授吐槽:985 高校成高级蓝翔!研究生基本废了,只为房子、票子……
Windows 蓝屏中断提醒开发者:Rust 比 C/C++ 更好
Claude 3.5 Sonnet 在伽利略幻觉指数中名列前茅
上海新增 11 款已完成登记生成式 AI 服务

发布评论