Bootstrap

SpringBoot异步接口实现 提升吞吐量

前言
  • Servlet 3.0之前:HTTP请求由单一线程处理。
  • Servlet 3.0之后:支持异步处理,提高系统吞吐量。
SpringBoot 异步接口实现方式
  1. AsyncContext:Servlet层级,不常用。
  2. Callable:使用java.util.concurrent.Callable
  3. WebAsyncTask:Spring封装的Callable,提供回调功能。
  4. DeferredResult:延迟结果设置,适用于结果生成可能在其他线程。
Callable 实现
  • Controller返回Callable<String>
  • 处理过程
    • Spring MVC调用request.startAsync()
    • 使用AsyncTaskExecutor在单独线程处理。
    • 释放Servlet容器线程,保持response状态。
    • Callable结果产生后,请求返回Servlet容器完成处理。
WebAsyncTask 实现
  • 特点:提供超时、错误和完成回调。
  • 示例
    @GetMapping("/webAsyncTask")
    public WebAsyncTask<String> webAsyncTask() {
        WebAsyncTask<String> result = new WebAsyncTask<>(30003, () -> "success");
        result.onTimeout(() -> {
            log.info("timeout callback");
            return "timeout callback";
        });
        result.onCompletion(() -> log.info("finish callback"));
        return result;
    }
    
DeferredResult 实现
  • 特点:结果可能在其他线程设置。
  • 示例
    @GetMapping("/testDeferredResult")
    public DeferredResult<String> testDeferredResult(){
        DeferredResult<String> deferredResult = new DeferredResult<>();
        deferredResultMap.put("test", deferredResult);
        return deferredResult;
    }
    
  • 处理过程
    • 保存DeferredResult
    • Spring MVC调用request.startAsync()
    • 应用程序在其他线程设置DeferredResult值。
线程池配置
  • 自定义线程池:提供异步请求使用的线程池。
  • 配置示例
    @Bean("mvcAsyncTaskExecutor")
    public AsyncTaskExecutor asyncTaskExecutor() {
        ThreadPoolTaskExecutor executor = new ThreadPoolTaskExecutor();
        executor.setCorePoolSize(5);
        executor.setMaxPoolSize(10);
        executor.setQueueCapacity(10);
        executor.setThreadNamePrefix("fyk-mvcAsyncTask-Thread-");
        executor.setRejectedExecutionHandler(new ThreadPoolExecutor.DiscardPolicy());
        executor.setWaitForTasksToCompleteOnShutdown(true);
        executor.setAwaitTerminationSeconds(30);
        executor.initialize();
        return executor;
    }
    
异步请求配置
  • 配置类FykWebMvcConfigurer实现WebMvcConfigurer
  • 超时时间设置configurer.setDefaultTimeout(60001);
使用异步请求的场景
  • 适用场景:请求中CPU大量时间处于休息状态。
  • 不适用场景:CPU持续高负荷运算。
结论

异步请求通过释放主线程提高吞吐量,但需合理使用以避免增加耗时。了解异步接口实现有助于优化SpringBoot应用性能。

;