慢聊Golang协程池Ants实现原理

2023年 12月 27日 55.9k 0

大家都知道goroutine 是 Go语言中的轻量级线程实现,由 Go 运行时(runtime)管理,Go 程序会智能地将 goroutine 中的任务合理地分配给每个 CPU。创建一个goroutine大小大概在2k左右,可以说非常的节省机器资源。

但是为什么要用池化的方式呢?机器资源总是有限的,如果创建了几十万个goroutine,那么就消耗比较大了,在一些需要对并发资源进行控制、提升性能、控制生命周期的场景中,还是需要用到协程池去处理。

今天就介绍在github用Go语言实现的有 11.5k⭐的 Ants 协程池库的实现!

图片图片

初识Ants

Ants介绍

Go的协程非常轻量,但是在超高并发场景,每个请求创建一个协程也是低效的,一个简单的思想就是协程池。

Ants实现了一个具有固定容量的goroutine池,管理和回收大量goroutine,允许开发人员限制并发程序中的goroutines数量。

图片图片

Github地址:https://github.com/panjf2000/ants

这是在github上的截图,注意不同版本之间代码实现会略有差异。

图片图片

特性

📔Ants具有如下特性:

  • • 自动管理和回收大量goroutine
  • • 定期清除过期的goroutines
  • • 丰富的API:提交任务,获取运行goroutine的数量,动态调整池的容量,释放池,重新启动池
  • • 优雅地处理死机以防止程序崩溃
  • • 高效的内存使用,甚至比Golang中的无限goroutine实现了更高的性能
  • • 非阻塞机制

核心概念

  • • Pool :Ants协程池核心结构
  • • WorkerArray:Pool池中的worker队列,存放所有的Worker
  • • goWorker:运行任务的实际执行者,它启动一个 goroutine 来接受任务并执行函数调用
  • • sync.Pool:golang 标准库下并发安全的对象池,缓存申请用于之后的重用,以减轻GC的压力
  • • spinLock:基于CAS机制和指数退避算法实现的一种自旋锁

运行流程图

Ants运行流程图如下:

图片图片

前置知识

自旋锁 spinLock

我们先了解下什么是自旋锁!

加锁的目的就是保证共享资源在任意时间里,只有一个线程访问,而自旋锁加锁失败后,线程会忙等待,直到它拿到锁。

图片图片

如果要实现锁的话需要实现Go 标准库sync的Locker接口

// A Locker represents an object that can be locked and unlocked.
type Locker interface {
     Lock()
     Unlock()
}

Ants的自旋锁是基于CAS机制和指数退避算法实现的一种自旋锁,主要利用了下面几个关键的点:

  • • sync.Locker接口
  • • 指数退避算法
  • • sync. atomic 原子包中的方法了解
  • • runtime.Gosched() 让当前goroutine让出CPU时间片

🚩 Go语言中 sync/atomic包提供了底层的原子级内存操作,可实用CAS 函数(Compare And Swap)

🚩 指数退避算法以指数方式重试请求,请求失败后重试间隔分别是 1、2、4 ...,2的n次方秒增加

我们看下具体实现代码和添加的注释:

//实现Locker接口
type spinLock uint32
//最大回退次数
const maxBackoff = 16
// 加锁
func (sl *spinLock) Lock() {
backoff := 1
//基于CAS机制,尝试获取锁
for !atomic.CompareAndSwapUint32((*uint32)(sl), 0, 1) {
//执行backoff次 cpu让出时间片次数
for i := 0; i < backoff; i++ {
//使当前goroutine让出CPU时间片
runtime.Gosched()
}
if backoff < maxBackoff {
//左移后赋值 等于 backoff = backoff

相关文章

JavaScript2024新功能:Object.groupBy、正则表达式v标志
PHP trim 函数对多字节字符的使用和限制
新函数 json_validate() 、randomizer 类扩展…20 个PHP 8.3 新特性全面解析
使用HTMX为WordPress增效:如何在不使用复杂框架的情况下增强平台功能
为React 19做准备:WordPress 6.6用户指南
如何删除WordPress中的所有评论

发布评论