[Spring] 비동기 작업과 모니터링을 위한 TaskExecutor, TaskScheduler 기본

Spring Framework는 TaskExecutor 인터페이스와 TaskScheduler 인터페이스로 Task(작업)의 비동기 실행과 스케줄링에 대한 추상화 인터페이스를 제공합니다. 이런 것이 필요한 이유는 무엇일까요?

 

기본적으로 Spring은 Multi-Thread 방식을 사용하며 Singleton Pattern을 이용해 모든 Bean들을 공유하여 사용합니다. 하지만 이는 기본적으로 API를 호출하는 과정을 Blocking하지 않고 다중 사용자가 요청을 받을 수 있도록 처리한다는 뜻입니다. 따라서 우리가 API 호출 이후 Bean 내 어떤 특정 작업에 대한 비동기 실행은 보장되지 않습니다.

 

 

 

TaskExecutor

TaskExecutor는 Spring 2.0에서 등장한 비동기 실행 추상화 인터페이스로 JDK 1.5에서 Thread Pool에 대한 개념으로 사용하는 Executor를 상속한 것입니다.

 

그렇다면 Pool이라는 단어를 쓰면 될텐데 왜 Executor일까?

 

그것은 사용하는 구현체가 실제로 풀(Pool)이라는 보장이 없기 때문입니다. 실제로 Executor는 싱글 스레드(Single-Thread)가 될 수도 있고 동기화가 될 수도 있습니다.

 

java.util.concurrent.Executor와 다른 점은 무엇일까?

 

Spring의 TaskExecutor가 별도의 추상화 인터페이스로 존재하는 이유는 스레드 풀에 대한 추상화가 필요한 곳에 다른 스프링 컴포넌트를 제공하기 위해서 입니다. 이를테면 ApplicationEventMulticaster나 JSM의 AbstractMessageListenerContainer, Quartz 통합 컴포넌트들은 모두 스레드 풀에 TaskExecutor 추상화를 구현한 구현체들입니다.

 

하지만 빈(Bean) 내에서 스레드 풀 동작(비동기 작업)이 필요하다면 이 또한 자신의 요구 사항에 맞게 TaskExecutor를 이용할 수 있습니다.

 

 

TaskExecutor 의 기본 구조는 위와 같습니다. 우리가 하고자 하는 작업을 받아들이는 Submitter, 그리고 그 작업을 실행할 실제 작업을 Task, 그 작업을 실행할 Thread로 구성되어 있습니다.

 

Java의 스레드 객체를 직접 사용하는 방법도 있지만 우리가 이렇게 Thread Pool을 사용해서 비동기 처리를 해야하는 이유는 바로 스레드를 생성하는 시간적인 비용을 줄이고, 스레드를 생성하는 데 발생할 수도 있는 OOM(OutOfMemory) 오류를 방지하기 위해서 입니다.

 

 

 

 

TaskExecutor 종류

Spring 배포본에는 수많은 TaskExecutor 구현체들이 있기 때문에 직접 구현해야 할 일은 거의 없습니다. 그 중 일부 몇 가지만 다뤄보자면...

 

• SimpleAsyncTaskExecutor
  
  어떤 스레드도 재사용하지 않고, 호출 때마다 새로운 스레드를 생성하는 Executor.
  하지만 동시 접근 제한(concurrency limit)을 통해 제한 수를 넘어서면 빈 공간이 생길 때까지 모든 요청을 받지 않음.
  
  
• SyncTaskExecutor
  
  작업을 비동기적으로 실행하지 않고, 작업을 호출한 스레드에 추가되는 Executor
  Multi-thread 방식이 아님.
  
  
• ConcurrentTaskExecutor
  
  이 구현체는 Spring의 TaskExecutor가 아닌 Java의 java.util.concurrent.Executor의 래퍼로 Spring과 같이 쓰려면 부가적으로 관련된 무언가를 구현해야 한다는 단점이 있다.
  
  이의 대안으로 Bean Property 설정 관련 파라미터를 노출하는 ThreadPoolExecutor가 있는데, ThreadPoolExecutor가 원하는 만큼 안정적이지 않다면, ConcurrentTaskExecutor를 비슷하게 구현해서 사용할 수도 있다.
  
  
• SimpleThreadPoolTaskExecutor
  
  Quartz SimpleThreadPool의 하위 클래스로 Spring의 Lifecycle callback을 받는 Executor.
  Quartz와 Quartz가 아닌 컴포넌트 간의 공유해야 하는 스레드 풀이 있는 경우 사용.
  
  
• ThreadPoolTaskExecutor
  
  java.util.concurrent.ThreadPoolExecutor를 구성하는 Bean Property를 노출하고 TaskExecutor를 상속한 구현체.
  ScheduledThreadPoolExecutor의 구현체이기도 해서 이 인터페이스가 필요하다면 ConcurrentTaskExecutor 대신 사용하는 걸 권장.
  
  
• AsyncTaskExecutor
  
  Spring에서 @EnableAsync를 사용하면 기본적으로 사용되는 SimpleAsyncTaskExecutor의 추상화 인터페이스.
  
  
• AsyncListenableTaskExecutor
  
  Submit을 추가할 때 ListenableFuture 기능을 추가하기 위해 만들어진 인터페이스.
  (ListenableFuture는 Executor에 Task를 전달하고 돌려 받는 Future 타입 중 하나)

 

TaskExecutor의 구현체는 앞에서 봤던 TaskExecutor의 추상화 인터페이스를 거의 그대로 사용합니다. 다만 그 구현체에 따라 비동기적인 Executor가 있고, 그렇지 않은 Executor가 있습니다.

 

정리하면 Executor는 스레드를 관리하는 인터페이스이며 이 관리에는 유휴 상태 제어와 스레드 생성 제어가 있습니다.

 

TaskExecutor에는 단순히 execute 메서드를 통해 실행할 Task만을 받아내면 나머지는 이미 구현되어 있는 메서드들을 통해 작업 유휴 상태와 스레드 제어 등을 진행해줍니다.

 

만약, 이러한 작업을 더 상세하게 구현하고자 한다면 ExecutorService를 상속하여 AsyncListenableTaskExecutor처럼 submit 시 해당 작업을 반환하도록 할 수도 있습니다.

 

 

 

 

TaskScheduler

TaskExecutor 추상화에 추가로 Spring 3.0에서는 미래에 어떤 시점에 실행할 태스크(Task)를 스케줄링할지에 대한 다양한 메서드를 가진 TaskScheduler 인터페이스가 도입되었습니다.

 

Runnable과 Date만 받는 schedule 메서드를 통해 지정한 시간 후, 태스크를 한 번 실행하도록 합니다. scheduleFixedRate 등을 통해 반복해서 태스크를 실행할 수 있는데, fixedRate, fixedDelay 모두 간단한 주기를 사용합니다. 하지만 이보다 더 복잡한 주기를 사용하기를 원한다면 Trigger 인터페이스를 사용해 볼 수 있습니다.

 

 

 

 

Trigger

Trigger 인터페이스의 기본은 과거의 실행 결과나 임의의 상황에 기반을 둬서 실행 시간을 결정하는 인터페이스입니다. 이전 실행의 결과를 고려하는 경우, 해당 결과 데이터는 TriggerContext에 있으므로 이를 이용할 수 있습니다.

 

코드를 잠시 살펴보면 nextExecutionTime 메서드 부분에 TriggerContext를 인자로 받는 부분이 있습니다. 이 Context를 이용해 구현체에 참고하면 됩니다.

 

TriggerContext는 인터페이스이며 SimpleTriggerContext를 구현체로 사용합니다. 

여기서 중요한 부분은 이들 데이터들이 모두 은닉화 되어 있어 원하는 대로 이 데이터들을 확장하여 프로그램의 흐름을 바꿀 수 있다는 것입니다. 자세한건 Trigger 구현체를 보며 살펴보도록 하겠습니다.

 

 

 

 

Trigger 구현체

Spring Framework에서는 CronTrigger와 PeriodicTrigger라는 두 개의 Trigger 구현체를 제공합니다. 

 

Cron Trigger는 cron 표현식(expression)을 이용해 태스크를 스케줄링하는 방식입니다. 코드를 보면 월~금(주중)에 9시에 5시 사이 매 15분간 실행되는 스케줄링 입니다.

 

PeriodicTrigger는 고정된 시간을 받고 정기적으로 태스크를 스케줄링하는 방식입니다. 위 코드는 1ms 마다 한 번씩 태스크를 실행하겠다는 코드입니다. 기본적으로 TimeUnit을 두 번째 인자로 받는데, 이를 받지 않으면 null로 들어가며 null인 경우 기본값인 TimeUnit.MilliSeconds가 됩니다.

 

 

 

 

TaskScheduler 구현체

Spring의 TaskExecutor처럼 TaskScheduler 또한 그 구현체가 존재하기 때문에 특정 구현체에 의존하거나 구현체를 힘들게 직접 구현해야 할 필요가 없습니다. 

 

• ConcurrentTaskScheduler
  
  Spring에서 @Scheduled 어노테이션을 사용하면 기본적으로 사용하는 스케줄러
  단일 스레드만으로로 동작
  
  
• DefaultManagedTaskScheduler
  
  J2EE의 ManagedScheduledExecutorService를 사용한 스케줄러.
  J2SE와 기본 구조는 거의 비슷하지만 매니징 형태로 동작
  
  
• ThreadPoolTaskExecutor
  
  Spring에서 @Scheduled 어노테이션을 fixedDelay를 이용해 사용하면 기본적으로 사용하는 스케줄러
  멀티 스레드 형태로 동작. (스레드 관리 형태)

 

TaskScheduler의 유연성은 애플리케이션이 직접 스레드를 생성하지 않아야 하는 서버 애플리케이션 환경에서 동작해야 하는 경우 이를 외부 스레드 관리 필요 없이 구현해주는 ThreadPoolTaskScheduler 구현체를 가지고 있습니다. 

 

 

 

 

마치며...

여기까지 아주 간단하게 스프링에서 Bean 내 비동기 작업 처리와 스케줄링에 대해 알아봤습니다. 이번 글에서 TaskExecutor와 TaskScheduler를 동시에 다룬 이유는 이들 모두 상호작용하는 관계이기 때문입니다.

 

모니터링을 위해 사내에서 예약된 작업(Scheduled Task)이 필요한 경우 @Scheduled 어노테이션을 사용할 수 있습니다. 하지만 이를 직접 구현하여 우리 사내 시스템에 맞춰야 한다면 Trigger, TriggerContext 등의 추상화 인터페이스로 구현해 볼 수 있습니다.

 

다음 포스트에서는 Executor 구현체들 중 몇 가지를 이용해 실제 Spring에서 어떻게 사용할 수 있는지에 대한 실전을 다뤄보도록 하겠습니다.

 

 

 

 

 

참고: [Spring 레퍼런스] 26장 태스크(Task) 실행과 스케줄링
(https://blog.outsider.ne.kr/1066)