Java 21 虚拟线程如何限流控制吞吐量

2024年 2月 22日 90.6k 0

虚拟线程(Virtual Threads)是 Java 21 所有新特性中最为吸引人的内容,它可以大大来简化和增强Java应用的并发性。但是,随着这些变化而来的是如何最好地管理此吞吐量的问题。本文,就让我们看一下开发人员在使用虚拟线程时,应该如何管理吞吐量。

在大多数情况下,开发人员不需要自己创建虚拟线程。例如,对于 Web 应用程序,Tomcat 或 Jetty 等底层框架将为每个传入请求自动生成一个虚拟线程。

如果在应用程序内部需要自行调用来提供业务并发能力时,我们可以使用Java 21新特性:虚拟线程(Virtual Threads)中介绍的方法去创建和使用,比如较为常用的就是Executors.newVirtualThreadPerTaskExecutor()

Runnable runnable = () -> {
    System.out.println("Hello, www.didispace.com");
};

try (ExecutorService executorService = Executors.newVirtualThreadPerTaskExecutor()) {
    for (int i = 0; i < 100; i++) {
        executorService.submit(runnable);
    }
}

我们可以像上面开启100个虚拟线程来执行任务。那么问题来了,我们要如何对虚拟线程限流控制吞吐量呢?

虚拟线程的限流

对于虚拟线程并发控制的答案是:信号量!**划重点:不要池化虚拟线程,因为它们不是稀缺资源。**所以,对于虚拟线程并发控制的最佳方案是使用java.util.concurrent.Semaphore

下面的代码示例演示了如何实现java.util.concurrent.Semaphore来控制虚拟线程的并发数量:

public class SemaphoreExample {

    // 定义限流并发的信号量,这里设置为:10
	private static final Semaphore POOL = new Semaphore(10); 

	public void callOldService(...) {
		try{
			POOL.acquire(); // 尝试通过信号量获取执行许可
		} catch(InterruptedException e){
            // 执行许可获取失败的异常处理		
		}
	
		try {
			// 获取到执行许可,这里是使用虚拟线程执行任务的逻辑
		} finally {
            // 释放信号量
			POOL.release(); 
		}
	}
}

是不是很简单呢?今天的分享就到这里,希望对你有所帮助,更多关于Java新特性的学习可以关注我的免费专栏Java新特性。

扩展阅读

  • 启动1000万个虚拟线程需要多少时间?需要多少平台线程?
  • Spring Boot虚拟线程与Webflux在JWT验证和MySQL查询上的性能比较

欢迎关注我的公众号:程序猿DD。第一时间了解前沿行业消息、分享深度技术干货、获取优质学习资源

相关文章

塑造我成为 CTO 之路的“秘诀”
“人工智能教母”的公司估值达 10 亿美金
教授吐槽:985 高校成高级蓝翔!研究生基本废了,只为房子、票子……
Windows 蓝屏中断提醒开发者:Rust 比 C/C++ 更好
Claude 3.5 Sonnet 在伽利略幻觉指数中名列前茅
上海新增 11 款已完成登记生成式 AI 服务

发布评论