大家都知道goroutine 是 Go语言中的轻量级线程实现,由 Go 运行时(runtime)管理,Go 程序会智能地将 goroutine 中的任务合理地分配给每个 CPU。创建一个goroutine大小大概在2k左右,可以说非常的节省机器资源。
但是为什么要用池化的方式呢?机器资源总是有限的,如果创建了几十万个goroutine,那么就消耗比较大了,在一些需要对并发资源进行控制、提升性能、控制生命周期的场景中,还是需要用到协程池去处理。
今天就介绍在github用Go语言实现的有 11.5k⭐的 Ants 协程池库的实现!
图片
初识Ants
Ants介绍
Go的协程非常轻量,但是在超高并发场景,每个请求创建一个协程也是低效的,一个简单的思想就是协程池。
Ants实现了一个具有固定容量的goroutine池,管理和回收大量goroutine,允许开发人员限制并发程序中的goroutines数量。
图片
Github地址:https://github.com/panjf2000/ants
这是在github上的截图,注意不同版本之间代码实现会略有差异。
图片
特性
📔Ants具有如下特性:
- • 自动管理和回收大量goroutine
- • 定期清除过期的goroutines
- • 丰富的API:提交任务,获取运行goroutine的数量,动态调整池的容量,释放池,重新启动池
- • 优雅地处理死机以防止程序崩溃
- • 高效的内存使用,甚至比Golang中的无限goroutine实现了更高的性能
- • 非阻塞机制
核心概念
- • Pool :Ants协程池核心结构
- • WorkerArray:Pool池中的worker队列,存放所有的Worker
- • goWorker:运行任务的实际执行者,它启动一个 goroutine 来接受任务并执行函数调用
- • sync.Pool:golang 标准库下并发安全的对象池,缓存申请用于之后的重用,以减轻GC的压力
- • spinLock:基于CAS机制和指数退避算法实现的一种自旋锁
运行流程图
Ants运行流程图如下:
图片
前置知识
自旋锁 spinLock
我们先了解下什么是自旋锁!
加锁的目的就是保证共享资源在任意时间里,只有一个线程访问,而自旋锁加锁失败后,线程会忙等待,直到它拿到锁。
图片
如果要实现锁的话需要实现Go 标准库sync的Locker接口
// A Locker represents an object that can be locked and unlocked.
type Locker interface {
Lock()
Unlock()
}
Ants的自旋锁是基于CAS机制和指数退避算法实现的一种自旋锁,主要利用了下面几个关键的点:
- • sync.Locker接口
- • 指数退避算法
- • sync. atomic 原子包中的方法了解
- • runtime.Gosched() 让当前goroutine让出CPU时间片
🚩 Go语言中 sync/atomic包提供了底层的原子级内存操作,可实用CAS 函数(Compare And Swap)
🚩 指数退避算法以指数方式重试请求,请求失败后重试间隔分别是 1、2、4 ...,2的n次方秒增加
我们看下具体实现代码和添加的注释:
//实现Locker接口
type spinLock uint32
//最大回退次数
const maxBackoff = 16
// 加锁
func (sl *spinLock) Lock() {
backoff := 1
//基于CAS机制,尝试获取锁
for !atomic.CompareAndSwapUint32((*uint32)(sl), 0, 1) {
//执行backoff次 cpu让出时间片次数
for i := 0; i < backoff; i++ {
//使当前goroutine让出CPU时间片
runtime.Gosched()
}
if backoff < maxBackoff {
//左移后赋值 等于 backoff = backoff