Jenkins X 不是 Jenkins ,而是一个技术栈

2023年 1月 4日 91.8k 0

1. Jenkins X 简介

Jenkins 依靠庞大的插件生态,占据了目前大部分的企业级 CICD 引擎的份额。但在云原生时代,Jenkins 也暴露出很多的问题,单点服务、磁盘存储、内存占用等。Jenkins X 围绕 Kubernetes,提供了一种更适合云原生时代的 DevOps 方式。Jenkins X 不是 Jenkins 的发行版本,准确来说,Jenkins X 是一个应用发布部署的技术栈。在研发方面,通过 jx 命令,开发者可以新建仓库、生成应用脚手架、运行流水线、发布部署,最终运行在 Kubernetes 上。Jenkins X 给开发者提供了非常一致的开发体验。在部署方面,通过 Terraform 提供的能力,可以在主流云厂商上直接创建集群。除此,Jenkins X Environment 还提供了对多环境的支持,通过定义环境之间的升级规则,各个环境上的应用可以很方便地进行发布、回滚、迁移。Jenkins X 给运维人员带来了极大便利。一句话,Jenkins X 是面向云原生的一站式 DevOps 技术栈。

2. 架构和原理

设计架构:概念模型:上面两张图来自 Jenkins X 官网,通过这两张图可以很快了解 Jenkins X 在做什么,想做什么。Jenkins X 针对的是多环境多版本的多人团队,提供基于 Kubernetes 的应用开发、部署服务。下面这张图提供了相关组件的概览:GitOps - 通过 Git 提交变更、使用 PR 进行授权的资源管理思想。数据存储 - Git Repo。GitOps 驱动着 Jenkins X 。Jenkins X 对基础设施、配置、应用的所有变更,都记录在 Git Repo 中。当有 Git 事件发生时,触发 Jenkins X 执行。Jenkins X 只需要关注 Webhook 事件,仅当有 Git 事件发生时,才会动态创建 Pod 执行相应动作。事件驱动 - Prow/Lighthouse 。Kubernetes 使用 Prow 用于 ChatOps ,通过标签语义,可以驱动研发流程。但 Prow 严重依赖于 Github ,很难对其他 SCM 进行扩展,为此产生了 Lighthouse 项目。应用开发 - Draft/Skaffold 。针对开发者,在 Kubernetes 上开发云原生应用的工具。通过 Draft/Skaffold 完成对应用的初始化、部署,开发者可以很方便地迭代应用代码,在本地或远程 Kubernetes 集群中进行验证。发布管理 - Helm 。一款对 Kubernetes 应用进行管理的工具,类似 CentOS 上的 Yum ,Ubuntu 上的 Apt 。使用 Helm 可以实现对应用的部署、升级、回退、删除操作。流程编排 - Jenkins/Tekton/Knative 。Tekton 通过 Kubernetes CRD 定义流水线的 CICD 系统。在旧的版本中,可以使用 Jenkins 作为编排引擎,但是 Jenkins X 从今年 3 月份开始已经转向 Tekton 。Tekton 是 Knative 的 build-pipeline 项目前身。Knative 提供了对任务的处理和管理能力。包管理仓库 - Nexus 。支持许多主流的软件包格式,Docker、npm、Yum、Maven 等。

3. 在 Kubernetes 上安装 Jenkins X

通过 jx create cluster 命令,使用 Terraform 可以直接创建集群,将集群作为配置信息进行管理。最新的 Jenkins X (2.1.132)推荐使用 jx boot 命令进行安装,支持 GKE,EKS ,其他 Kubernetes 需要自行检查兼容性。这里是 Jenkins X on Kubernetes 兼容性对照表。我在自建的集群上尝试了下,坑还比较多,可以再等等,或者给社区提交 PR 。下面使用 jx install 命令进行安装。

3.1 安装要求

  • Kubernetes 版本 > 1.8
1
2
3
4
kubectl version

Client Version: version.Info{Major:"1", Minor:"16", GitVersion:"v1.16.13", GitCommit:"39a145ca3413079bcb9c80846488786fed5fe1cb", GitTreeState:"clean", BuildDate:"2020-07-15T16:18:19Z", GoVersion:"go1.13.9", Compiler:"gc", Platform:"linux/amd64"}
Server Version: version.Info{Major:"1", Minor:"16", GitVersion:"v1.16.13", GitCommit:"39a145ca3413079bcb9c80846488786fed5fe1cb", GitTreeState:"clean", BuildDate:"2020-07-15T16:10:14Z", GoVersion:"go1.13.9", Compiler:"gc", Platform:"linux/amd64"}
  • 确认开启 RBAC
1
2
3
kubectl cluster-info dump | grep authorization-mode

                            "--authorization-mode=Node,RBAC",
  • 配置有默认的 Storage Class
1
2
3
4
kubectl get sc

NAME              PROVISIONER        AGE
local (default)   openebs.io/local   2m
  • 集群 Master 节点 CPU 最少 4 C

3.2 安装 jx、Git 客户端

  • 安装 Jenkins X 客户端

这里没有使用 2.x 的版本,而是使用的最后一个 1.x 版本。在后面的文档中,我会继续关注相关的演变。

1
2
curl -L https://github.com/jenkins-x/jx/releases/download/v1.3.1119/jx-linux-amd64.tar.gz | tar xzv 
mv jx /usr/local/bin

查看版本:

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
jx version

NAME               VERSION
jx                 1.3.1119
jenkins x platform 2.0.2375
Kubernetes cluster v1.16.13
kubectl            v1.16.13
helm client        v2.16.10+gbceca24
helm server        v2.16.10+gbceca24
git                git version 2.24.1
Operating System   CentOS Linux release 7.6.1810 (Core)
  • 安装 Git 2.x

如果使用 Git 1.x 的版本,可能会遇到类似下面的错误:

1
FATAL: initialise build packs failed: there was a problem ensuring the branch master has tracking info: git output: error: pathspec 'master' did not match any file(s) known to git.: failed to run 'git checkout master' command in directory '/root/.jx/draft/packs/github.com/jenkins-x-buildpacks/jenkins-x-kubernetes', output: 'error

解决办法是,进入提示目录,手工拉取。

1
2
cd /root/.jx/draft/packs/github.com/jenkins-x-buildpacks/jenkins-x-kubernetes
git pull

更好的方法是,升级 Git 的版本至 2.x ,下面以 CentOS 7 为例:

1
2
3
4
5
6
yum remove git*
yum -y install https://packages.endpoint.com/rhel/7/os/x86_64/endpoint-repo-1.7-1.x86_64.rpm
yum install -y git
git version

git version 2.24.1

3.3 测试集群是否满足要求

在安装完 jx 命令之后,可以使用下面的命令进行检测:

1
jx compliance run
1
jx compliance status

大约需要运行几十分钟,运行下面的命令可以看到最终的执行结果:

1
jx compliance results

最后删掉相关负载:

1
jx compliance delete

3.4 安装 Jenkins X 服务端

Jenkins X 内置的服务组件依赖 Ingress ,可以根据文档 使用 Helm 安装 Ingress 提前安装。

  • 开始安装
1
jx install --verbose

接着会有一系列交互:

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
? Cloud Provider kubernetes
...
> [x]  helm
  [x]  kubectl
...
? Please enter the name you wish to use with git:  shaowenchen
? Please enter the email address you wish to use with git:  [email protected]
...
? Would you like wait and resolve this address to an IP address and use it for the domain? Yes
...
? Domain dev.chenshaowen.com
...
? github.com username: shaowenchen
...
Please click this URL and generate a token
https://github.com/settings/tokens/new?scopes=repo,read:user,read:org,user:email,write:repo_hook,delete_repo

? API Token: *****************************************
? Select Jenkins installation type: Serverless Jenkins
? Pick default workload build pack:  Kubernetes Workloads: Automated CI+CD with GitOps Promotion
Jenkins X installation completed successfully
INFO[0094]

	********************************************************

	     NOTE: Your admin password is: Sr5!8LZz!QfMD84KBZWR

	********************************************************
  • 设置 Ingress Controller

如果使用 Jenkins X 提供的 Ingress Controller 则需要提供 LB 或者手工增加 externalIPs 。下面将 externalIPs 设置为机器 eth0 的 IP ,绑定 EIP 之后,将域名解析到 EIP 即可访问服务。

1
2
3
4
5
kubectl -n kube-system edit svc jxing-nginx-ingress-controller

spec:
  externalIPs:
  - 192.168.13.74
  • 查看服务
1
2
3
4
5
6
kubectl get ingress -n jx

NAME              HOSTS                                    ADDRESS         PORTS   AGE
chartmuseum       chartmuseum.jx.dev.chenshaowen.com       192.168.13.74   80      2m
docker-registry   docker-registry.jx.dev.chenshaowen.com   192.168.13.74   80      2m
nexus             nexus.jx.dev.chenshaowen.com             192.168.13.74   80      2m

如果没有可控的公网域名,在安装过程中,可以选择 nip.io 提供的域名,通过本地配置 hosts 进行访问:

1
2
3
x.x.x.x chartmuseum.jx.192.168.13.74.nip.io
x.x.x.x docker-registry.jx.192.168.13.74.nip.io
x.x.x.x nexus.jx.192.168.13.74.nip.io

3.6 安装插件

Jenkins X 通过 Helm Chart 管理插件和应用,在 jenkinx-x/jx 仓库中可以查看已经集成的插件。通过 jx 命令,可以很方便地安装相关的插件,下面是部分插件列表。

  • ambassador - Create an ambassador addon
  • anchore - Create the Anchore addon for verifying container images
  • environment - Create an Environment Controller to handle webhooks and promote changes from GitOps
  • flagger - Create the Flagger addon for Canary deployments
  • gitea - Create a Gitea addon for hosting Git repositories
  • gloo - Create a Gloo and Knative Serve addon for creating serverless applications
  • ingress - Create an Ingress Controller to expose services outside of your remote Staging/Production cluster
  • istio - Create the Istio addon for service mesh
  • kubeless - Create a kubeless addon for hosting Git repositories
  • owasp-zap - Create the OWASP Zed Attack Proxy addon for dynamic security checks against running apps
  • pipeline-events - Create the pipeline events addon
  • prometheus - Creates a prometheus addon
  • prow - Create a Prow addon

这里安装 Prow 用于 ChatOps

1
jx create addon prow -n jx
1
2
3
4
5
6
7
8
9
kubectl get ingress -n jx

NAME                HOSTS                                      ADDRESS         PORTS   AGE
chartmuseum         chartmuseum.jx.dev.chenshaowen.com         192.168.13.74   80      2m
deck                deck.jx.dev.chenshaowen.com                192.168.13.74   80      2m
docker-registry     docker-registry.jx.dev.chenshaowen.com     192.168.13.74   80      2m
hook                hook.jx.dev.chenshaowen.com                192.168.13.74   80      2m
nexus               nexus.jx.dev.chenshaowen.com               192.168.13.74   80      2m
tide                tide.jx.dev.chenshaowen.com                192.168.13.74   80      2m

3.5 卸载 Jenkins X

1
2
jx uninstall
rm -rf /root/.jx

4. Jenkins X 使用

4.1 环境管理

  • 查看环境
1
2
3
4
5
6
jx get env

NAME       LABEL       KIND        PROMOTE NAMESPACE     ORDER CLUSTER SOURCE                                                             REF PR
dev        Development Development Never   jx            0                                                                       
staging    Staging     Permanent   Auto    jx-staging    100           https://github.com/shaowenchen/environment-antdisco-staging.git
production Production  Permanent   Manual  jx-production 200           https://github.com/shaowenchen/environment-antdisco-production.git

Jenkins X 在 Git Repo 中对基础设置进行存储,通过 PR 进行修改管理。

  • 删除环境
1
jx delete env dev
  • 创建环境
1
jx create env env-name

4.2 应用开发

  • 创建应用
1
2
3
4
5
6
7
8
jx create quickstart

? Do you wish to use shaowenchen as the Git user name? Yes
? Which organisation do you want to use? shaowenchen
? Enter the new repository name:  jx-quickstart-demo
? select the quickstart you wish to create jx-quickstart-demo
INFO[0035] Pushed Git repository to https://github.com/shaowenchen/jx-quickstart-demo
INFO[0051] Creating GitHub webhook for shaowenchen/jx-quickstart-demo for url http://hook.jx.dev.chenshaowen.com/hook

也可以直接从线上或者本地导入应用

1
jx import --url https://github.com/shaowenchen/jx-quickstart-demo.git

在页面上可以看到初始化的仓库和 Webhook 配置信息。

5. 参考

  • https://github.com/jenkins-x/jx
  • https://jenkins-x.io/zh/docs/getting-started/setup/install/
  • https://jenkins-x.io/commands/jx/#jx
  • https://www.weave.works/blog/gitops-operations-by-pull-request
  • https://jenkins-x.io/docs/resources/guides/managing-jx/old/install-on-cluster/

相关文章

KubeSphere 部署向量数据库 Milvus 实战指南
探索 Kubernetes 持久化存储之 Longhorn 初窥门径
征服 Docker 镜像访问限制!KubeSphere v3.4.1 成功部署全攻略
那些年在 Terraform 上吃到的糖和踩过的坑
无需 Kubernetes 测试 Kubernetes 网络实现
Kubernetes v1.31 中的移除和主要变更

发布评论