목차

     

    Quartz 와 Batch

    Quartz 

    언제 실행시킬지와 관련 = 스케줄링

    - Scheduling

     

    Batch 

    - 무엇을 실행시킬지와 관련

    - Batch job

    - 보통 배치를 짠다는 말은 Batch job 개발을 한다는 의미

    Quartz와 Batch의 관계 및 함께 사용하는 이유

    • 일괄처리(로직)을 batch job 으로, batch job 을 스케쥴링 하기 위해 quartz 를 사용
    • 높은 Spring Version은 @Scheduled 어노테이션으로 Crontrigger와 같은 기능을 제공하여 Quartz 가 필요 없다곤 하나
    • Quartz 의 Clustering 기능, DB 값을 기준으로 동작 제어가 가능하다는 점에 Quartz를 함께 사용

    쿼츠 Quartz

    쿼츠란, 오픈소스 스케줄러이다. 쿼츠는 자바 환경의 규모와 상관없이 사용이 가능하고 잡 실행에 유용한 스프링 부트 지원과 같이 오래전부터 스프링 연동을 지원하고있다. 쿼츠는 아래 3가지 컴포넌트를 제공한다.

    쿼츠는 스케줄러, 잡, 트리거라는 세 가지 주요 컴포넌트를 가진다. 

    스케줄러 (Scheduler)

    스케줄러는 SchedulerFactory 를 통해서 가져올 수 있으며 JobDetails 및 트리거의 저장소 기능을 한다. 

    스케줄러는 SchedulerFactory를 통해서 가져올 수 있으며 JobDetails 및 트리거의 저장소 기능을한다. 또한 스케줄러는 연관된 트리거가 작동할 때 잡을 실행하는 역할을 한다. 

    잡 (Job)

    실행의 작업 단위이다.

    트리거 (Trigger)

    : 작업(=잡) 실행 시점을 정의한다.

    : 트리거가 작동되어 쿼츠에게 잡을 실행하도록 지시하면, 잡의 개별 실행을 정의하는 JobDetails 객체가 생성된다.

    참고

    https://blog.kingbbode.com/38

     

    Quartz + Spring Batch 조합하기

    Zum  에서 BeyondJ2EE 김태기 팀장님과 표준화 프로젝트를 진행하며, Zum  에서의 Batch  에 대한 표준을 작성하며 알게 된 Quartz Framework  의 매력과 직접 개발해본 Spring 과의 조합 및 궁합 을 소개해

    blog.kingbbode.com

     

    목차

      @ComponentScan

      @ComponentScan 애노테이션은 spring 3.1부터 도입됐으며 설정된 시작 지점부터 컴포넌트 클래스를 scanning하여 빈으로 등록해주는 역할을 한다.

      컴포넌트 클래스는 다음 애노테이션이 붙은 클래스를 의미한다.

      • @Component
      • @Repository
      • @Service
      • @Controller
      • @Configuration

      @ComponentScan의 가장 중요한 두 가지 속성은 component를 scan할 시작 지점을 설정하는 속성과 scan한 component 중 빈으로 등록하지 않을 클래스를 제외하는 필터 속성이다.

      component-scan은 기본적으로 @Component 어노테이션을 빈 등록 대상으로 포함한다. 그렇다면 @Controller 나 @Service는 어떻게 인식하는 걸까? 그 이유는 @Controller나 @Service가 @Component를 포함하고 있기 때문이다.

      component-scan 사용방법

      component-scan 을 사용하는 방법은
      xml 파일에 설정하는 방법, 과 자바파일안에서 설정하는 방법이 있다.

      1. xml 파일에 설정

      <context:component-scan base-package="com.rcod.lifelog"/> 

      다음과 같이 xml 파일에 설정하고, base package를 적어주면 base package 기준으로 클래스들을 스캔하여 빈으로 등록한다.
      base package에 여러개의 패키지를 쓸 수 있다.

      <context:component-scan base-package="com.rcod.lifelog, com.rcod.example"/> 

      위와 같이 설정하면, base pacakage 하위의 @Controller, @Service @Repository, @Component 클래스가 모두 빈으로 등록되므로, 특정한 객체만 빈으로 등록하여 사용하고 싶다면 include-filter나 exclude-filter를 통해 설정할 수 있다.

      • exclude-filter
      <context:component-scan base-package="com.rcod.lifelog">
          <context:exclude-filter type="annotation" 
              expression="org.springframework.stereotype.Controller"/>
      </context:component-scan>

      @Controller 를 제외하고 싶다면 위와 같이 exclude-filter를 사용하여
      org.springframework.stereotype.Controller를 명시해준다.

      • include-filter
      <context:component-scan base-package="com.rcod.lifelog" use-default="false">
          <context:include-filter type="annotation" 
              expression="org.springframework.stereotype.Controller"/>
      </context:component-scan>

      use-default="false"는 기본 어노테이션 @Controller, @Component등을 스캔하지 않는다는 것이다. 기본 어노테이션을 스캔하지 않는다고 설정하고, include-filter를 통해서 위와 같이 특정 어노테이션만 스캔할 수 있다.

      2. 자바 파일안에서 설정

      @Configuration
      @ComponentScan(basePackages = "com.rcod.lifelog")
      public class ApplicationConfig {
      }

      @Configuration 은 이 클래스가 xml을 대체하는 설정 파일임을 알려준다. 해당 클래스를 설정 파일로 설정하고 @ComponentScan을 통하여 basePackages를 설정해준다.

      • 위와 같이 component-scan을 사용하는 두 가지 방법이 있다. 만약 component-scan을 사용하지 않으면, 빈으로 설정할 클래스들을 우리가 직접 xml 파일에 일일이 등록해 주어야 한다.
      		<bean id="mssqlDAO" class="com.test.spr.MssqlDAO"></bean>
      		
      		<!-- MemberList 객체에 대한 정보 전달 및 의존성 주입 -->
      		<bean id="member" class="com.test.spr.MemberList">
      			
      			<!-- 속성의 이름을 지정하여 주입 -->
      			<property name="dao">
      				<ref bean="mssqlDAO"/>
      			</property>
      		
      		</bean>

      MssqlDAO  MemberList를 빈으로 등록하고, MemberList에 Mssql을 주입한 것이다. 위와 같이 코드가 매우 길어지고, 일일이 추가하기에 복잡해진다.

      component-scan 동작 과정

      ConfigurationClassParser 가 Configuration 클래스를 파싱한다.
      @Configuration 어노테이션 클래스를 파싱하는 것이다.
                         ⬇
      ComponentScan 설정을 파싱한다.
      base-package 에 설정한 패키지를 기준으로
      ComponentScanAnnotationParser가 스캔하기 위한 설정을 파싱한다.
                         ⬇
      base-package 설정을 바탕으로 모든 클래스를 로딩한다.
                         ⬇
      ClassLoader가 로딩한 클래스들을 BeanDefinition으로 정의한다.
      생성할 빈의 대한 정의를 하는 것이다.
                         ⬇
      생성할 빈에 대한 정의를 토대로 빈을 생성한다.


      Spring boot에서의 @ConponentScan

      이전 Xml Config 방식에서 ComponentScan을 사용하는 방법은 다음과 같았다.

      <context:component-scan base-package="com.example.a">

      applicationContext를 구성할때 이렇게 명시적으로 내가 읽어들여야하는 component들이 있는 package를 넣어줬다. 

       

      하지만 Springboot에서는 Xml Config보다는 Java Config를 사용하고 @기반의 설정을 많이 한다. 아니 이 Component Scan을 하지도 않는데 알아서 잘 된다. 어떻게 된 일일까? 바로 Springboot의 핵심! @SpringBootApplication 에 답이 있다. Springboot Main Class에 있는 @SpringBootApplication를 ctrl을 누르고 눌러서 들어가보자. 

      @Target(ElementType.TYPE)
      @Retention(RetentionPolicy.RUNTIME)
      @Documented
      @Inherited
      @SpringBootConfiguration
      @EnableAutoConfiguration
      @ComponentScan(excludeFilters = { @Filter(type = FilterType.CUSTOM, classes = TypeExcludeFilter.class),
      @Filter(type = FilterType.CUSTOM, classes = AutoConfigurationExcludeFilter.class) })
      public @interface SpringBootApplication {
      ... 생략 ...
      @AliasFor(annotation = ComponentScan.class, attribute = "basePackages")
      String[] scanBasePackages() default {};
      @AliasFor(annotation = ComponentScan.class, attribute = "basePackageClasses")
      Class<?>[] scanBasePackageClasses() default {};
      ... 생략 ...

      들어가보면 이런식으로 구성이 되어있다. 복잡해 보이지만 쉽게 설명을 하자면 내가 아무런 ComponentScan 관련 설정을 하지 않았다면 바로 이 @SpringBootApplication 가 정의된 곳이 base package가 되는 것이다. 그래서 처음 프로젝트 구조를 만들때 이 Springboot Main Class의 package가 매우 중요하다. 

      그리고 아래에 나와있는 @AliasFor 부분에 나온 basePackages와 basePackagesClasses도 중요하다. Springboot Main Class의 위치에 구애받지 않고 내가 마음대로 ComponentScan을 할 곳을 정의할때 사용된다.



       

      'Spring' 카테고리의 다른 글

      [Spring] PHP 사용 소감 (Spring과 비교)  (0) 2022.05.05
      스프링 vs 스프링 부트  (0) 2021.03.31

      목차

        잡의 재시작 방지

        스프링 배치의 모든 잡은 실패하거나 중지될 때 다시 실행할 수 있었다. 스프링 배치는 기본적으로 이렇게 동작하므로 우리는 다시 실행하면 안되는 잡이 있을시 재시작을 방지해야한다. 

        preventRestart()

        preventRestart() 메서드를 호출하여 잡이 실패하거나 어떤 이유로 중지된 경우에도 다시 실행할 수 없다.

        /**
        * 잡 실행
        * @return
        */
        @Bean
        public Job transactionJob() {
              return this.jobBuilderFactory.get("transactionJob")
              .preventRestart() /* 잡은 기본적으로 재시작이 가능하도록 구성되어있다. 잡의 재시작 방지 */
              .start(...)
              .next(...)
              .build();
          }

        잡의 재시작 횟수 제한

        startLimit(n) : 재시작 횟수를  n번으로 제한한다.

        @Bean
        public Step importTransactionFileStep() {
              return this.stepBuilderFactory.get("importTransactionFileStep")
              .startLimit(2) /* 잡의 재시작 횟수 제한 */
              .<Transaction, Transaction>chunk(100)
              .reader(...)
              .writer(...)
              .listener(...) /* 스텝 빌드하기 전 실행할 리스너 등록 */
              .build();
        }

        완료된 스텝 재실행하기

        allowStartIfComplete(true)

        스텝이 잘 완료됐더라도, 다시 실행할 수 있어야 할때 사용한다. 주의할 점은, 잡의 ExitStatus 가 COMPLETE 라면 모든 스텝에 allowStartIfComplete(true) 를 적용하더라도 이와 관계없이 잡 인스턴스는 다시 실행할 수 없다.

        잡이 재실행될때 무조건 실행되어야할 스텝이 존재할 경우 설정한다.

        @Bean
        public Step importTransactionFileStep() {
              return this.stepBuilderFactory.get("importTransactionFileStep")
              .<Transaction, Transaction>chunk(100)
              .reader(...)
              .writer(...)
              .allowStartIfComplete(true) /* 잡이 재시작될시, 스텝이 다시 실행될 수 있도록 재시작 허용 */
              .listener(...) /* 스텝 빌드하기 전 실행할 리스너 등록 */
              .build();
        }

        목차

          소개

          일반적으로 Spring Batch는 단일 쓰레드에서 실행됩니다.
          즉, 모든 것이 순차적으로 실행되는 것을 의미하는데요.
          Spring Batch에서는 이를 병렬로 실행할 수 있는 방법을 여러가지 지원합니다.
          이번 시간에는 그 중 하나인 멀티스레드로 Step을 실행하는 방법에 대해서 알아보겠습니다.

          Spring Batch의 멀티쓰레드 Step은 Spring의 TaskExecutor를 이용하여 각 쓰레드가 Chunk 단위로 실행되게 하는 방식입니다.

          Spring Batch Chunk에 대한 내용은 이전 포스팅에 소개되어있습니다.

          여기서 어떤 TaskExecutor 를 선택하냐에 따라 모든 Chunk 단위별로 쓰레드가 계속 새로 생성될 수도 있으며 (SimpleAsyncTaskExecutor) 혹은 쓰레드풀 내에서 지정된 갯수의 쓰레드만을 재사용하면서 실행 될 수도 있습니다. (ThreadPoolTaskExecutor)

          Spring Batch에서 멀티쓰레드 환경을 구성하기 위해서 가장 먼저 해야할 일은 사용하고자 하는 Reader와 Writer가 멀티쓰레드를 지원하는지 확인하는 것 입니다.

          JpaPagingItemReader의 Javadoc

          각 Reader와 Writer의 Javadoc에 항상 저 thread-safe 문구가 있는지 확인해보셔야 합니다.
          만약 없는 경우엔 thread-safe가 지원되는 Reader 와 Writer를 선택해주셔야하며, 꼭 그 Reader를 써야한다면 SynchronizedItemStreamReader 등을 이용해 thread-safe로 변환해서 사용해볼 수 있습니다.

          그리고 또 하나 주의할 것은 멀티 쓰레드로 각 Chunk들이 개별로 진행되다보니 Spring Batch의 큰 장점중 하나인 실패 지점에서 재시작하는 것은 불가능 합니다. 이유는 간단합니다.
          단일 쓰레드로 순차적으로 실행할때는 10번째 Chunk가 실패한다면 9번째까지의 Chunk가 성공했음이 보장되지만, 멀티쓰레드의 경우 1~10개의 Chunk가 동시에 실행되다보니 10번째 Chunk가 실패했다고 해서 1~9개까지의 Chunk가 다 성공된 상태임이 보장되지 않습니다.

          그래서 일반적으로는 ItemReader의 saveState 옵션을 false 로 설정하고 사용합니다.

          이건 예제 코드에서 설정을 보여드리겠습니다.

          자 그럼 실제로 하나씩 코드를 작성하면서 실습해보겠습니다.

          2. PagingItemReader 예제

          가장 먼저 알아볼 것은 PagingItemReader를 사용할때 입니다.
          이때는 걱정할 게 없습니다.
          PagingItemReader는 Thread Safe 하기 때문입니다.

          멀티 쓰레드로 실행할 배치가 필요하시다면 웬만하면 PagingItemReader로 사용하길 추천드립니다.

          예제 코드는 JpaPagingItemReader로 작성하였습니다.

          @Slf4j
          @RequiredArgsConstructor
          @Configuration
          public class MultiThreadPagingConfiguration {
              public static final String JOB_NAME = "multiThreadPagingBatch";
          
              private final JobBuilderFactory jobBuilderFactory;
              private final StepBuilderFactory stepBuilderFactory;
              private final EntityManagerFactory entityManagerFactory;
          
              private int chunkSize;
          
              @Value("${chunkSize:1000}")
              public void setChunkSize(int chunkSize) {
                  this.chunkSize = chunkSize;
              }
          
              private int poolSize;
          
              @Value("${poolSize:10}") // (1)
              public void setPoolSize(int poolSize) {
                  this.poolSize = poolSize;
              }
          
              @Bean(name = JOB_NAME+"taskPool")
              public TaskExecutor executor() {
                  ThreadPoolTaskExecutor executor = new ThreadPoolTaskExecutor(); // (2)
                  executor.setCorePoolSize(poolSize);
                  executor.setMaxPoolSize(poolSize);
                  executor.setThreadNamePrefix("multi-thread-");
                  executor.setWaitForTasksToCompleteOnShutdown(Boolean.TRUE);
                  executor.initialize();
                  return executor;
              }
          
              @Bean(name = JOB_NAME)
              public Job job() {
                  return jobBuilderFactory.get(JOB_NAME)
                          .start(step())
                          .preventRestart()
                          .build();
              }
          
              @Bean(name = JOB_NAME +"_step")
              @JobScope
              public Step step() {
                  return stepBuilderFactory.get(JOB_NAME +"_step")
                          .<Product, ProductBackup>chunk(chunkSize)
                          .reader(reader(null))
                          .processor(processor())
                          .writer(writer())
                          .taskExecutor(executor()) // (2)
                          .throttleLimit(poolSize) // (3)
                          .build();
              }
          
          
              @Bean(name = JOB_NAME +"_reader")
              @StepScope
              public JpaPagingItemReader<Product> reader(@Value("#{jobParameters[createDate]}") String createDate) {
          
                  Map<String, Object> params = new HashMap<>();
                  params.put("createDate", LocalDate.parse(createDate, DateTimeFormatter.ofPattern("yyyy-MM-dd")));
          
                  return new JpaPagingItemReaderBuilder<Product>()
                          .name(JOB_NAME +"_reader")
                          .entityManagerFactory(entityManagerFactory)
                          .pageSize(chunkSize)
                          .queryString("SELECT p FROM Product p WHERE p.createDate =:createDate")
                          .parameterValues(params)
                          .saveState(false) // (4)
                          .build();
              }
          
              private ItemProcessor<Product, ProductBackup> processor() {
                  return ProductBackup::new;
              }
          
              @Bean(name = JOB_NAME +"_writer")
              @StepScope
              public JpaItemWriter<ProductBackup> writer() {
                  return new JpaItemWriterBuilder<ProductBackup>()
                          .entityManagerFactory(entityManagerFactory)
                          .build();
              }
          }

          (1) @Value("${poolSize:10}")

          • 생성할 쓰레드 풀의 쓰레드 수를 환경변수로 받아서 사용합니다.
          • ${poolSize:10} 에서 10은 앞에 선언된 변수 poolSize가 없을 경우 10을 사용한다는 기본값으로 보시면 됩니다.
          • 배치 실행시 PoolSize를 조정하는 이유는 실행 환경에 맞게 유동적으로 쓰레드풀을 관리하기 위함입니다.
            • 개발 환경에서는 1개의 쓰레드로, 운영에선 10개의 쓰레드로 실행할 수도 있습니다.
            • 혹은 같은 시간대에 수행되는 다른 배치들로 인해서 갑자기 쓰레드 개수를 줄여야 할 수도 있습니다.
            • 언제든 유동적으로 배치 실행시점에 몇개의 쓰레드를 생성할지 결정할 수 있으니 웬만하면 외부에 받아서 사용하는 방식을 선호합니다.
          • Field가 아닌 Setter로 받는 이유는 Spring Context가 없이 테스트 코드를 작성할때 PoolSize, ChunkSize등을 입력할 방법이 없기 때문입니다.

          (2) ThreadPoolTaskExecutor

          • 쓰레드 풀을 이용한 쓰레드 관리 방식입니다.
          • 옵션
            • corePoolSize: Pool의 기본 사이즈
            • maxPoolSize: Pool의 최대 사이즈
          • 이외에도 SimpleAsyncTaskExecutor 가 있는데, 이를 사용할 경우 매 요청시마다 쓰레드를 생성하게 됩니다.
            • 이때 계속 생성하다가 concurrency limit 을 초과할 경우 이후 요청을 막게되는 현상까지 있어, 운영 환경에선 잘 사용하진 않습니다.
          • 좀 더 자세한 설명은 링크 참고하시면 더 좋습니다

          (3) throttleLimit(poolSize)

          • 기본값은 4 입니다.
          • 생성된 쓰레드 중 몇개를 실제 작업에 사용할지를 결정합니다.
          • 만약 10개의 쓰레드를 생성하고 throttleLimit을 4로 두었다면, 10개 쓰레드 중 4개만 배치에서 사용하게 됨을 의미합니다.
          • 일반적으로 corePoolSize, maximumPoolSize, throttleLimit 를 모두 같은 값으로 맞춥니다.

          (4) .saveState(false)

          • 앞에서도 설명드린것처럼, 멀티쓰레드 환경에서 사용할 경우 필수적으로 사용해야할 옵션이 saveState = false 입니다.
          • 해당 옵션을 끄게 되면 (false) Reader 가 실패한 지점을 저장하지 못하게해, 다음 실행시에도 무조건 처음부터 다시 읽도록 합니다.
          • 이 옵션을 켜놓으면 오히려 더 큰 문제가 발생할 수 있습니다.
            • 8번째 Chunk 에서 실패했는데, 사실은 4번째 Chunk도 실패했다면 8번째가 기록되어 다음 재실행시 8번째부터 실행될수 있기 때문입니다.
            • 실패하면 무조건 처음부터 다시 실행될 수 있도록 해당 옵션은 false로 두는 것을 추천합니다.
          • 비슷한 기능으로 Job 옵션에 있는 .preventRestart()가 있는데, 해당 옵션은 Job이 같은 파라미터로 재실행되는것을 금지합니다.
            • .saveState(false)는 Reader가 실패난 지점을 기록하지 못하게 하는 옵션이라 엄밀히 말하면 둘은 서로 다른 옵션이긴 합니다.
            • Step 재실행을 막는다정도로 봐주시면 됩니다.

          자 그럼 이제 이 코드가 실제로 멀티쓰레드로 잘 작동하는지 테스트 코드로 검증해보겠습니다.

          테스트 코드

          모든 테스트 코드는 JUnit5를 사용합니다.
          Spring Batch에서 테스트 코드 작성이 처음이신분들은 앞에 작성된 포스팅을 먼저 참고해주세요.

          @ExtendWith(SpringExtension.class)
          @SpringBatchTest
          @SpringBootTest(classes={MultiThreadPagingConfiguration.class, TestBatchConfig.class})
          @TestPropertySource(properties = {"chunkSize=1", "poolSize=2"}) // (1)
          public class MultiThreadPagingConfigurationTest {
          
              @Autowired
              private ProductRepository productRepository;
          
              @Autowired
              private ProductBackupRepository productBackupRepository;
          
              @Autowired
              private JobLauncherTestUtils jobLauncherTestUtils;
          
              @AfterEach
              void after() {
                  productRepository.deleteAll();
                  productBackupRepository.deleteAll();
              }
          
              @Test
              public void 페이징_분산처리_된다() throws Exception {
                  //given
                  LocalDate createDate = LocalDate.of(2020,4,13);
                  ProductStatus status = ProductStatus.APPROVE;
                  long price = 1000L;
                  for (int i = 0; i < 10; i++) {
                      productRepository.save(Product.builder()
                              .price(i * price)
                              .createDate(createDate)
                              .status(status)
                              .build());
                  }
          
                  JobParameters jobParameters = new JobParametersBuilder()
                          .addString("createDate", createDate.toString())
                          .addString("status", status.name())
                          .toJobParameters();
                  //when
                  JobExecution jobExecution = jobLauncherTestUtils.launchJob(jobParameters);
          
                  //then
                  assertThat(jobExecution.getStatus()).isEqualTo(BatchStatus.COMPLETED);
                  List<ProductBackup> backups = productBackupRepository.findAll();
                  backups.sort(Comparator.comparingLong(ProductBackup::getPrice));
          
                  assertThat(backups).hasSize(10);
                  assertThat(backups.get(0).getPrice()).isEqualTo(0L);
                  assertThat(backups.get(9).getPrice()).isEqualTo(9000L);
              }
          
          }

          (1) properties = {"chunkSize=1", "poolSize=2"}

          • 각 옵션은 다음과 같은 의미를 가집니다.
            • chunkSize=1: 하나의 Chunk가 처리할 데이터가 1건을 의미합니다.
            • poolSize=2: 생성될 쓰레드 풀의 쓰레드 개수를 2개로 합니다.
          • 이렇게 할 경우 10개의 데이터를 처리할때 2개의 쓰레드가 각 5회씩 처리됩니다.
            • 물론 1개의 쓰레드에서 오랜 시간 동안 처리하게 된다면 다른 1개가 더 많은 건수를 처리할 수도 있습니다.

          위 테스트 코드를 한번 실행해보면?
          아래 그림처럼 2개의 쓰레드가 각자 페이지를 Read하고 Write 하는것을 확인할 수 있습니다.

          이전과 같이 단일 쓰레드 모델이였다면 어떻게 될까요?
          그럼 아래와 같이 1개페이지에 대해 읽기와 쓰기가 모두 끝난 후에야 다음 페이지를 진행하게 됩니다.

          JpaPagingItemReader를 예시로 보여드렸지만, 그외 나머지 PagingItemReader들 역시 동일하게 사용하시면 됩니다

          (JdbcPagingItemReader)

          비교적 편하게 작동되는 PagingItemReader들은 쓰레드풀만 지정하면 됩니다.
          자 그럼 ThreadSafe 하지 않는 Cursor 기반의 Reader들은 어떻게 할지 알아보겠습니다.

          3. CursorItemReader

          JdbcCursorItemReader를 비롯하여 JDBC ResultSet를 사용하여 데이터를 읽는 CursorItemReader는 Thread Safe하지 않습니다.

          (Javadoc어디에도 Thread Safe 단어를 찾을 수가 없습니다.)

          이와 같이 Thread Safe 하지 않는 Reader들을 Thread Safe하게 변경하기 위해서는 데이터를 읽는 read()에 synchronized 를 걸어야만 합니다.

          다만 이렇게 하게 되면 Reader는 멀티 쓰레드로 작동하지 않고, 순차적으로 데이터를 읽게 될텐데요.
          Reader가 동기화 방식이 된다하더라도, Processor/Writer는 멀티 쓰레드로 작동이 됩니다.

          일반적으로 배치 과정에서는 Write 단계에서 더 많은 자원과 시간을 소모합니다.
          그래서 Bulk Insert 등의 방법에 대해서 많이 얘기가 나옵니다.

          이미 구현체가 있는 JdbcCursorItemReader나 HibernateCursorItemReader에 synchronized 를 추가하려면 어떻게 해야할까요?

          JpaCursorItemReader는 Spring Batch 4.3에 추가될 예정입니다.

          가장 쉬운 방법은 Spring Batch 4.0부터 추가된 SynchronizedItemStreamReader로 Wrapping 하는 것입니다.

          자 그럼 예제 코드로 실제로 CursorItemReader가 Thread Safe 하지 않는지 확인후, 이를 고치는 과정으로 살펴보겠습니다.

          3-1. Not Thread Safety 코드

          먼저 멀티쓰레드 환경에서 바로 JdbcCursorItemReader를 사용할 경우 입니다.

          @Slf4j
          @RequiredArgsConstructor
          @Configuration
          public class MultiThreadCursorConfiguration {
              public static final String JOB_NAME = "multiThreadCursorBatch";
          
              private final JobBuilderFactory jobBuilderFactory;
              private final StepBuilderFactory stepBuilderFactory;
              private final EntityManagerFactory entityManagerFactory;
              private final DataSource dataSource;
          
              private int chunkSize;
          
              @Value("${chunkSize:1000}")
              public void setChunkSize(int chunkSize) {
                  this.chunkSize = chunkSize;
              }
          
              private int poolSize;
          
              @Value("${poolSize:10}")
              public void setPoolSize(int poolSize) {
                  this.poolSize = poolSize;
              }
          
              @Bean(name = JOB_NAME+"taskPool")
              public TaskExecutor executor() {
                  ThreadPoolTaskExecutor executor = new ThreadPoolTaskExecutor();
                  executor.setCorePoolSize(poolSize);
                  executor.setMaxPoolSize(poolSize);
                  executor.setThreadNamePrefix("multi-thread-");
                  executor.setWaitForTasksToCompleteOnShutdown(Boolean.TRUE);
                  executor.initialize();
                  return executor;
              }
          
              @Bean(name = JOB_NAME)
              public Job job() {
                  return jobBuilderFactory.get(JOB_NAME)
                          .start(step())
                          .preventRestart()
                          .build();
              }
          
              @Bean(name = JOB_NAME +"_step")
              @JobScope
              public Step step() {
                  return stepBuilderFactory.get(JOB_NAME +"_step")
                          .<Product, ProductBackup>chunk(chunkSize)
                          .reader(reader(null))
                          .listener(new CursorItemReaderListener()) // (1)
                          .processor(processor())
                          .writer(writer())
                          .taskExecutor(executor())
                          .throttleLimit(poolSize)
                          .build();
              }
          
              @Bean(name = JOB_NAME +"_reader")
              @StepScope
              public JdbcCursorItemReader<Product> reader(@Value("#{jobParameters[createDate]}") String createDate) {
                  String sql = "SELECT id, name, price, create_date, status FROM product WHERE create_date=':createDate'"
                          .replace(":createDate", createDate);
          
                  return new JdbcCursorItemReaderBuilder<Product>() // (2)
                          .fetchSize(chunkSize)
                          .dataSource(dataSource)
                          .rowMapper(new BeanPropertyRowMapper<>(Product.class))
                          .sql(sql)
                          .name(JOB_NAME +"_reader")
                          .build();
              }
          
              private ItemProcessor<Product, ProductBackup> processor() {
                  return item -> {
                      log.info("Processing Start Item id={}", item.getId());
                      Thread.sleep(1000); // (3)
                      log.info("Processing End Item id={}", item.getId());
                      return new ProductBackup(item);
                  };
              }
          
              @Bean(name = JOB_NAME +"_writer")
              @StepScope
              public JpaItemWriter<ProductBackup> writer() {
                  return new JpaItemWriterBuilder<ProductBackup>()
                          .entityManagerFactory(entityManagerFactory)
                          .build();
              }
          }

          (1) .listener(new CursorItemReaderListener())

          • JdbcCursorItemReader는 별도로 데이터 읽기 수행시 별도의 로그를 남기지 않습니다.
          • 멀티쓰레드로 데이터를 읽고 있음을 쉽게 확인하기 위해 리스너를 추가합니다.

          (2) JdbcCursorItemReaderBuilder

          • JpaPagingItemReader 코드와 딱 Reader 영역만 교체하여 사용합니다.

          (3) Thread.sleep(1000);

          • 멀티쓰레드가 진행되는지 명확하게 구분하기 위해 각 Thread의 Processor 단계에서 1초간 Sleep이 발생하도록 합니다.
          • 너무 고속으로 처리될 경우 멀티쓰레드와 단일쓰레드의 차이가 구분이 거의 힘들기 때문에 의도적으로 지연 현상을 발생시킨 것입니다.

          자 그럼 위 코드를 테스트 코드로 한번 검증해보겠습니다.

          @ExtendWith(SpringExtension.class)
          @SpringBatchTest
          @SpringBootTest(classes={MultiThreadCursorConfiguration.class, TestBatchConfig.class})
          @TestPropertySource(properties = {"chunkSize=1", "poolSize=5"})
          public class MultiThreadCursorConfigurationTest {
          
              @Autowired
              private ProductRepository productRepository;
          
              @Autowired
              private ProductBackupRepository productBackupRepository;
          
              @Autowired
              private JobLauncherTestUtils jobLauncherTestUtils;
          
              @AfterEach
              void after() {
                  productRepository.deleteAll();
                  productBackupRepository.deleteAll();
              }
          
              @Test
              public void Cursor_분산처리_된다() throws Exception {
                  //given
                  LocalDate createDate = LocalDate.of(2020,4,13);
                  ProductStatus status = ProductStatus.APPROVE;
                  long price = 1000L;
                  for (int i = 0; i < 10; i++) {
                      productRepository.save(Product.builder()
                              .price(i * price)
                              .createDate(createDate)
                              .status(status)
                              .build());
                  }
          
                  JobParameters jobParameters = new JobParametersBuilder()
                          .addString("createDate", createDate.toString())
                          .toJobParameters();
                  //when
                  JobExecution jobExecution = jobLauncherTestUtils.launchJob(jobParameters);
          
                  //then
                  assertThat(jobExecution.getStatus()).isEqualTo(BatchStatus.COMPLETED);
                  List<ProductBackup> backups = productBackupRepository.findAll();
                  backups.sort(Comparator.comparingLong(ProductBackup::getPrice));
          
                  assertThat(backups).hasSize(10);
                  assertThat(backups.get(0).getPrice()).isEqualTo(0L);
                  assertThat(backups.get(9).getPrice()).isEqualTo(9000L);
              }
          
          }

          10개의 데이터가 정상적으로 백업 테이블로 이관되었는지를 검증합니다.
          여기서 Thread Safe하지 않으면 10개가 아닌 다른 개수가 있겠죠?

          위 테스트를 한번 실행해보면!

          역시 10개가 아닌 다른 건수가 들어가 있습니다.

          저장된 12개의 데이터를 확인해보면 이처럼 똑같은 데이터가 여러개 저장되어 있음을 알 수 있습니다.

          등록한 리스너를 통해 쓰레드들 (지정된 Pool Size는 5) 이 모두 같은 ID를 가진 데이터를 읽기 시작한 것도 확인할 수 있습니다.

          현재 코드에 문제가 있는것이 확인되었으니, 바로 코드를 수정해보겠습니다.

          3-3. Thread Safety 코드

          Thread Safety 코드는 Reader 영역을 SynchronizedItemStreamReader로 감싸기만 하면 됩니다.

          @Bean(name = JOB_NAME +"_reader")
          @StepScope
          public SynchronizedItemStreamReader<Product> reader(@Value("#{jobParameters[createDate]}") String createDate) {
          String sql = "SELECT id, name, price, create_date, status FROM product WHERE create_date=':createDate'"
                  .replace(":createDate", createDate);
          
          JdbcCursorItemReader<Product> itemReader = new JdbcCursorItemReaderBuilder<Product>()
                  .fetchSize(chunkSize)
                  .dataSource(dataSource)
                  .rowMapper(new BeanPropertyRowMapper<>(Product.class))
                  .sql(sql)
                  .name(JOB_NAME + "_reader")
                  .build();
          
          return new SynchronizedItemStreamReaderBuilder<Product>() 
                  .delegate(itemReader) // (1)
                  .build();
          }

          (1) .delegate(itemReader)

          • delegate 에 감싸고 싶은 ItemReader 객체를 등록 합니다.
          • 감싸진 객체는 아래 사진에 나온것처럼 synchronized 메소드에서 감싸져 호출되어 동기화된 읽기가 가능하게 됩니다.

          SynchronizedItemStreamReader는 Spring Batch 4.0 부터 지원됩니다.
          그 이하 버전을 사용하시는 분들이라면 SynchronizedItemStreamReader 클래스 코드를 복사하여 프로젝트에 추가하시면 됩니다.

          SynchronizedItemStreamReader 로 변경후 다시 테스트를 돌려보면?
          테스트가 성공적으로 통과하는 것을 확인할 수 있습니다.

          실제로 실행 로그에서도 멀티쓰레드 환경에서 잘 작동되었음을 확인할 수 있습니다.

          정상적으로 Cursor 기반의 멀티쓰레드 Step을 확인하였습니다.

          마무리

          이제 느린 Batch 작업들은 멀티쓰레드로 해결하면 되는 것일까요!?
          그렇지는 않습니다.
          이미 네트워크/DISK IO/CPU/Memory 등 서버 자원이 이미 단일 쓰레드에서도 리소스 사용량이 한계치에 달했다면 멀티쓰레드로 진행한다고 해서 성능 향상을 기대할 순 없습니다.

          멀티 쓰레드는 여러가지 고려사항이 많습니다.
          그래서 실제 운영 환경에 적용하실때는 Spring 공식문서 를 숙지하시고, 충분히 테스트를 해보신뒤 실행해보시길 권장합니다.

          참고 : https://jojoldu.tistory.com/493

          bulk insert

          개발을 하다보면 API 호출 시 1000건이상의 데이터를 삽입해야하는 상황이 있습니다.

          1000건의 데이터를 insert하는데 걸리는 시간은 약 5초였으며 시간을 줄일 수 있는 방안을 생각해봤는데요. 

          mybatis에서 대량의 데이터를 한번에 삽입할 수 있도록 insert foreach문(DBMS마다 지원하는 쿼리가 다름)을 지원하는 것을 알게 되었습니다.

           

          수정 전 SQL

          	<insert id="add" parameterType="com.dto.Receiver$Info">
          		insert into tb_receiver(receiver_key, token, user_id, amount, is_received, receiver_date) 
          		values(#{receiver_key}, #{token}, #{user_id}, #{amount}, #{is_received}, #{receiver_date})
          	</insert>
          

           

          수정 후 SQL

          	
          	<insert id="addList" parameterType="com.dto.Receiver$Info">
          		insert into tb_receiver(receiver_key, token, user_id, amount, is_received, receiver_date)
          		values
          		<foreach collection="list" index="index" item="receiver" separator=",">
          		(
          			#{receiver.receiver_key},
          			#{receiver.token},
          			#{receiver.user_id},
          			#{receiver.amount},		
          			#{receiver.is_received},		
          			#{receiver.receiver_date}		
          		)		
          		</foreach>
          	</insert>	

           

          기존방식에서 bulk insert 방식으로 변경 시 성능향상이 얼마만큼 되는지 JUnit 테스트를 진행해봤습니다.

          테스트코드

          	@Autowired
          	ReceiverDao receiverDao;
          	
          	@Autowired
          	SpreadService spreadService;
          	
          	private final int peopleCnt = 7000;
          	@Test
          	public void 벌크_인석트_테스트() {
          
          		long amount = 1000000;
          		
          		long[] amounts = spreadService.distribute(amount, peopleCnt);
          		List<Receiver.Info> listReceiver = new ArrayList<Receiver.Info>();
          				
          		//뿌리기 받을사람 정보 추가
          		for(int i=0; i<amounts.length; i++) {
          			Receiver.Info receiver = new Receiver.Info();
          			receiver.setToken("AsD");			
          			receiver.setAmount(amounts[i]);
          			receiver.setReceiver_key(SeedUtil.createUUID());
          			receiver.setIs_received("0");
          			receiver.setReceiver_date(new Date());
          			listReceiver.add(receiver);
          		}
          		
          		int result = receiverDao.addList(listReceiver);
          				
          		assertThat(result, is(peopleCnt));
          	}
          	
          	@Test
          	public void 단일_인석트_테스트() {
          
          		long amount = 1000000;
          		int sum = 0, result = 0;
          		long[] amounts = spreadService.distribute(amount, peopleCnt);
          				
          		//뿌리기 받을사람 정보 추가
          		for(int i=0; i<amounts.length; i++) {
          			Receiver.Info receiver = new Receiver.Info();
          			receiver.setToken("Asq");			
          			receiver.setAmount(amounts[i]);
          			receiver.setReceiver_key(SeedUtil.createUUID());
          			receiver.setIs_received("0");
          			receiver.setReceiver_date(new Date());
          			result = receiverDao.add(receiver);
          			sum += result;
          		}
          						
          		assertThat(sum, is(peopleCnt));
          	}

           

          테스트는 다음과 같이 진행했습니다. 삽입하려는 데이터의 건수는 1,000건부터 8,000건까지 1,000단위로 테스트 진행

          건수 single insert bulk insert
          1,000건 약 5초 약 0.7초
          2,000건 약 7초 약 1초
          3,000건 약 9초 약 1초
          4,000건 약 12초 약 1.5초
          5,000건 약 14초 약 1.5초
          6,000건 약 17초 약 2초
          7,000건 약 20초 약 2.2초
          8,000건 약 25초 약 2.2초

          Spring Batch ItemWriter 성능 향상

          대규모 데이터를 처리하는 Spring Batch 에서 배치 성능은 중요한 요소입니다.
          배치 성능에 있어서 튜닝 요소는 크게 2가지로 정리 될 수 있습니다.

          • Reader를 통한 데이터 조회
          • Writer를 통한 데이터 등록/수정

          Reader의 경우엔 Select Query 튜닝을 통한 개선 이야기가 많이 공유되어있습니다.

          Querydsl을 통한 Paging, No Offset 조회 방법은 이전 포스팅 을 참고하시면 됩니다.

          반면 Writer의 경우에는 Reader에 비해서는 공유된 내용이 많지 않습니다.
          그래서 이번 시간에는 Spring Batch JPA를 사용하는 경우에 어떻게 개선할 수 있을지 실제 비교를 해가며 정리하였습니다.

          Merge vs Persist

          JPA에서 Merge는 Insert에서 비효율적으로 작동을 합니다.

          Merge는 Entity의 persistent 상태를 알 수 없거나 이미 저장된 것을 변경하는데 유용합니다.

          다만, Spring Batch에서는 JpaItemWriter를 통한 write 작업이 신규 생성되는 Entity를 저장하는 기능과 기존 Entity의 값 변경 2영역에 모두 대응해야되어 Merge 를 기본 Mode로 구현하였습니다.

          그러던 중, Spring Batch 4.2 버전 선택적으로 Persist 모드를 선택할 수 있도록 개편되었습니다.

          Spring Boot 2.2.8 부터 사용 가능합니다.

          자 그럼 2가지 Mode에 대한 비교를 해보겠습니다.

          1-1. Non Auto Increment

          먼저 비교해볼 것은 테이블의 ID 생성 전략이 없는 경우 입니다. (즉, Auto Increment가 없는 상태) 이는 Id 채번을 애플리케이션에서 하는 경우입니다. 테스트 할 Entity 는 다음과 같습니다.

          @Getter
          @NoArgsConstructor
          @Entity
          public class Person2 {
          
              @Id
              private Long id;
          
              private String name;
          
              public Person2(Long id, String name) {
                  this.id = id;
                  this.name = name;
              }
          }

          보시다시피 @Id 외에 @GeneratedValue(strategy) 를 선언하지 않은 상태입니다. 해당 Entity에 대한 Merge 테스트 코드는 다음과 같습니다.

          @Test
          public void non_auto_increment_test_merge() throws Exception {
              // given
              JpaItemWriter<Person2> writer = new JpaItemWriterBuilder<Person2>()
                      .entityManagerFactory(this.entityManagerFactory)
                      .build();
          
              writer.afterPropertiesSet();
              List<Person2> items = new ArrayList<>();
              for (long i = 0; i < TEST_COUNT; i++) {
                  items.add(new Person2(i, "foo" + i));
              }
          
              // when
              writer.write(items);
          }

          Reader로 인한 조회 성능 차이나 그 밖에 Spring Batch의 여러 요소들로 인해 방해되는 것을 막기 위해 순수 Writer만 가지고 테스트를 진행합니다.

          위 테스트 코드를 수행해보면?

          Select쿼리와 Insert쿼리가 함께 수행 되는 것을 볼 수 있는데, 이는 Hibernate의 Merge 작동 방식때문인데요. 

          기존에 해당 Id로 저장된 Entity가 있을 경우 Update를, 없을 경우엔 Insert를 실행하기 위하여 저장하는 Entity 개수만큼 Select 쿼리가 발생합니다.

          반대로 Persist에선 어떻게 작동할까요?

          아래와 같이 테스트 코드를 작성하여 실행해봅니다.

          @Test
          public void non_auto_increment_test_persist() throws Exception {
              // given
              JpaItemWriter<Person2> writer = new JpaItemWriterBuilder<Person2>()
                      .usePersist(true) // (1)
                      .entityManagerFactory(this.entityManagerFactory)
                      .build();
          
              writer.afterPropertiesSet();
              List<Person2> items = new ArrayList<>();
              for (long i = 0; i < TEST_COUNT; i++) {
                  items.add(new Person2(i, "foo" + i));
              }
          
              // when
              writer.write(items);
          }

          (1) .usePersist(true)

          • 글 상단에서 언급한것처럼 Spring Batch 4.2에서 도입된 persist 모드를 활성화하는 옵션입니다.

          테스트 로그를 보면?

          Merge와 달리 Insert쿼리만 발생한 것을 확인할 수 있습니다.

          자 그럼 이 둘의 실제 성능 차이는 얼마나 발생할까요?

          Non Auto Increment 성능 비교

          1만건의 Entity를 AWS RDS Aurora (r5.large) 에 밀어넣어보면서 비교해보겠습니다.

          1. Merge

          2. Persist

          테스트 결과 약 2배 (merge: 2m 16s, persist: 1m 9s) 의 성능 차이가 발생하는 것을 확인할 수 있습니다.

          Id 생성 전략이 별도로 없을 경우 Persist가 좋다는 것을 확인할 수 있습니다.

          1-2. Auto Increment

          자 그럼 반대로 Auto Increment가 선언 된 경우엔 어떻게 될까요?

          테스트에 사용될 Entity는 다음과 같습니다.

          @Getter
          @NoArgsConstructor
          @Entity
          public class Person {
          
              @Id
              @GeneratedValue(strategy = GenerationType.IDENTITY)
              private Long id;
          
              private String name;
          
              public Person(String name) {
                  this.name = name;
              }
          }

          가장 먼저 Merge에 대한 테스트 코드입니다.

          @Test
          public void auto_increment_test_merge() throws Exception {
              // given
              JpaItemWriter<Person> writer = new JpaItemWriterBuilder<Person>()
                      .entityManagerFactory(this.entityManagerFactory)
                      .build();
          
              writer.afterPropertiesSet();
              List<Person> items = new ArrayList<>();
              for (long i = 0; i < TEST_COUNT; i++) {
                  items.add(new Person( "foo" + i));
              }
          
              // when
              writer.write(items);
          
              // then
              assertThat(personRepository.count()).isEqualTo(TEST_COUNT);
          }

          이번 테스트부터는 Id 생성을 Auto Increment에 맡기기 때문에 직접 생성하지 않도록 하였습니다.

          위 코드를 실행해보면?

          추가 Select 쿼리 없이 Insert만 수행되는 것을 확인할 수 있습니다.
          지정된 Id가 없으니 명확하게 새로운 Entity 임을 알 수 있기 때문에 별도의 Select 쿼리가 발생하지 않았습니다.

          그럼 Persist는 어떻게 될까요?

          @Test
          public void auto_increment_test_persist() throws Exception {
              // given
              JpaItemWriter<Person> writer = new JpaItemWriterBuilder<Person>()
                      .usePersist(true)
                      .entityManagerFactory(this.entityManagerFactory)
                      .build();
          
              writer.afterPropertiesSet();
              List<Person> items = new ArrayList<>();
              for (long i = 0; i < TEST_COUNT; i++) {
                  items.add(new Person( "foo" + i));
              }
          
              // when
              writer.write(items);
          
              // then
              assertThat(personRepository.count()).isEqualTo(TEST_COUNT);
          }

          Persist 테스트 코드를 수행해보면?

          마찬가지로 Insert쿼리만 수행되는 것을 확인할 수 있습니다.

          Persist의 경우 항상 새로운 객체를 저장할 때만 사용해야 합니다.
          Auto Increment에서 ID가 있는 Entity를 저장할 경우 에러가 발생합니다.

          둘 사이에 쿼리가 차이가 없으니 실제로 성능비교를 한번 해보겠습니다.

          Auto Increment 성능 비교

          실제 발생하는 쿼리가 동일하니 성능 역시 비슷하게 나옵니다.

          1. Merge

          2. Persist

          둘의 수행속도가 비슷하니 Auto Increment인 경우에 써도 되지 않을까? 싶으실텐데요.

          실제 Merge는 Entity 복사를 매번 수행합니다.
          PersistenceContext에 존재하는 것을 반환하거나 Entity의 새 인스턴스를 만듭니다.
          어쨌든 제공된 Entity에서 상태를 복사하고 관리되는 복사본을 반환합니다.
          (전달한 인스턴스는 관리되지 않습니다.)

          그래서 성능이 비슷하다 하더라도 신규 Entity를 생성할때는 Persist를 사용하는 것이 좋습니다.

          2. Jdbc Batch Insert

          위 테스트들을 거치면서 한가지 의문이 있으셨을 것입니다.

          • JpaItemWriter는 왜 Batch Insert (혹은 Bulk Insert) 로 처리하지 않는 것이지?

          일반적으로 Batch Insert라 하면 아래와 같은 쿼리를 이야기 합니다.

          INSERT INTO person (name) VALUES
          ('name1'),
          ('name2'),
          ('name3');

          이렇게 할 경우 MySQL 매커니즘으로 인해서 고성능으로 대량의 데이터를 처리할 수 있는데요.

          실제 성능 비교를 아래에서 진행합니다.

          JPA (정확히는 Hibernate) 에서는 Auto Increment 일 경우엔 이 방식을 지원하지 않습니다.

          물론 Auto Increment가 아닐 경우엔 아래와 같은 옵션으로 values 사이즈를 조절하여 Batch Insert를 사용할 수 있습니다.

          spring.jpa.properties.hibernate.jdbc.batch_size=개수

          이는 Hibernate의 매커니즘상 Entity의 Id를 알 수 없는 경우 Transactional write behind(트랜잭션을 지원하는 쓰기 지연: 트랜잭션이 커밋 될때까지 내부 쿼리저장소에 모아뒀다가 한번에 실행하는 방식)과 충돌이 발생하기 때문입니다.

          예를 들어, OneToMany의 Entity를 insert할 경우

          1) 부모 Entity를 insert 하고 생성된 Id 반환
          2) 자식 Entity에선 1) 에서 생성된 부모 Id를 FK 값으로 채워서 insert

          위 과정를 진행하는 쿼리를 모아서 실행하는게 Hibernate의 방식인데, 이때 Batch Insert과 같은 대량 등록의 경우엔 이 방식을 사용할 수가 없습니다.
          (부모 Entity를 한번에 대량 등록하게 되면, 어느 자식 Entity가 어느 부모 Entity에 매핑되어야하는지 알 수 없겠죠?)

          그럼 ID 생성 전략을 Auto Increment가 아닌 Table (Sequence)를 선택하면 되지 않을까 생각하게 되는데요.
          아래 글에서 자세하게 설명하고 있지만, 성능상 이슈 Dead Lock에 대한 이슈로 Auto Increment를 강력하게 추천합니다.

          그래서 이 포스팅에서도 Auto Increment와 직접 생성 방식에 대해서만 성능 비교를 진행해보겠습니다.

          혹시나 MySQL에서 실행중인 쿼리를 확인했을때 Insert 쿼리 합치기가 안된다면 Spring Boot의 Jdbc-url 설정에 rewriteBatchedStatements 옵션 (기본값이 false) 이 true 인지 확인해보시면 좋습니다.
          적용방법: jdbc:mysql:://DB주소:포트/스키마?rewriteBatchedStatements=true

          3-1. Non Auto Increment 성능

          먼저 Auto Increment 가 아닐 경우의 성능을 확인해보겠습니다.

          테스트할 코드는 아래와 같습니다.

          @Test
          public void non_auto_increment_test_jdbc() throws Exception {
              //given
              JdbcBatchItemWriter<Person2> writer = new JdbcBatchItemWriterBuilder<Person2>()
                      .dataSource(dataSource)
                      .sql("insert into person(id, name) values (:id, :name)")
                      .beanMapped()
                      .build();
          
              writer.afterPropertiesSet();
              List<Person2> items = new ArrayList<>();
              for (long i = 0; i < TEST_COUNT; i++) {
                  items.add(new Person2(i, "foo" + i));
              }
          
              // when
              writer.write(items);
          }

          1만건을 요청하는 위 코드를 직접 MySQL에 요청을 해보면?

          0.586초 라는 JpaItemWriter에 비해 압도적인 성능을 보여줍니다.

          3-2. Auto Increment 성능

          그럼 Auto Increment일 경우엔 어떻게 될까요?

          @Test
          public void auto_increment_test_jdbc() throws Exception {
              //given
              JdbcBatchItemWriter<Person> writer = new JdbcBatchItemWriterBuilder<Person>()
                      .dataSource(dataSource)
                      .sql("insert into person(name) values (:name)")
                      .beanMapped()
                      .build();
          
              writer.afterPropertiesSet();
              List<Person> items = new ArrayList<>();
              for (long i = 0; i < TEST_COUNT; i++) {
                  items.add(new Person( "foo" + i));
              }
          
              // when
              writer.write(items);
          }

          동일하게 1만건을 요청할 경우에도 마찬가지로 0.561초라는 결과를 보여줍니다.

          순수하게 단일 테이블의 등록면에 있어서는 Jdbc Batch Insert의 성능이 비교가 안될 정도로 좋다는 것을 알 수 있습니다.

          다만 무조건 많은 양의 row를 한번에 요청하는게 빠른 방법은 아닙니다.
          한번에 몇개의 insert value를 만들지 MySQL의 max_allowed_packet, Buffer Size, bulk_insert_buffer_size 등 여러 옵션들에 따라 상이하니 적절한 성능 테스트를 통해 값을 찾아야 합니다.

          3. 최종 비교

          최종적으로 Spring Batch ItemWriter들의 성능을 비교하면 다음과 같습니다.

          ItemWriter ModeNon Auto Increment (10,000 row)Auto Increment (10,000 row)

          ItemWriter Mode Non Auto Increment Auto Increament
          Jpa.Merge 2m 16s 1m 1s
          Jpa.Persist 1m 9s 1m 2s
          Jdbc Batch Insert 0.586s 0.586s

          순수하게 단일 테이블에 대량으로 등록할 경우 Jdbc의 Batch Insert 방식이 압도적인 성능을 보여줍니다.
          다만, 무조건 Jdbc Batch Insert 방식을 사용하기엔 아래와 같은 단점들이 있습니다.

          • OneToMany, ManyToMany와 같이 복잡한 Entity 관계가 insert가 필요할 경우 직접 구현해야할 부분이 너무나 많이 존재
          • 컴파일체크, 타입힌트, 자동완성등 유지보수가 어려운 개발 환경

          그래서 다음과 같이 혼합 방식을 선택하기도 합니다.

          이를 테면 OneToMany의 관계가 등록이 필요할 경우

          • 부모 Entity는 JpaItemWriter를 이용하여 ChunkSize별로 저장하여 PK값과 Entity를 확보
          • PK가 확보된 부모 Entity를 통해 자식 Entity들을 생성 (부모 ID값을 갖고 생성)
          • 자식 Entity들은 JdbcItemWriter를 통해 Jdbc Batch Insert

          와 같이 구현해서 처리하기도 합니다.

           

          (참고 : https://jojoldu.tistory.com/473)

          목차

            설정이 간단하다.

            나는 주로 그 동안  자바를 메인으로 사용하기 때문에 자바랑 비교 해 보자면 무지 간단하다. java는 설정이 꽤나 복잡하다. JDK, 메이븐, 스프링 설정, web.xml 등 DB 설정등 무지 많다. 근데 php 는 xampp 하나만 깔면 새로 프로그램을 깔거나 할 것이 없다. editor 정도만 깔아 주면 된다.

            괜찮은 MVC 프레임웍이 있다.

            사실 설정이 간단한 건 ASP도 간단하다. 하지만 old asp는 만들거나 기존 소스가 없으면 db connection 부터 화면단까지 모두 개발자의 몫이다. 프레임웍이 없다는 건 생산성에도 문제가 있지만 프레임웍 없이 만든 코드는 가독성역시 떨어지고 유지보수도 어렵다. php에는 CI(code igniter)라고 하는 괜찮은 MVC 프레임웍이 있다. Java 의 스프링 만큼 좋은 것은 아니겠지만 web 개발하는데는 충분하다. MVC라는 구조를 아는 사람이라면 쉽게 접근할 수 있다. 이 건 동일한 스크립트 언어인 ASP와 비교해볼 때 우위를 가지는 장점이다.

            스크립트 언어다.

            스크립트 언어라는 것의 의미는 변경사항이 생겼을 때 서버 재시작이 필요 없는 것을 의미 한다. java 의 경우에는 query 등 java 파일을 변경하는 경우에는 기본적으로 서버를 리스타트가 필요하다. 실제 개발할 때 수정 내용을 바로 반영해서 화면을 보는 것과 서버를 다시 리스타트해서 보는 것 사이에는 작게는 몇배에서 크게는 몇 십배 아니 몇 백배의 시간 차이가 난다. 하지만 스크립트 언어라 가지는 단점도 존재한다. 간단하게는 에러가 나봐야 안다. 하지만 그만큼의 생산성이 단점을 커버할만하다고 생각한다.

            멀티라인 문자열 변수를 사용할 수 있다.(?)

            이건 Java 대비 가지는 장점인데 java는 멀티라인 스트링 변수를 사용할 수 없다. 때문에 복잡한 query나 설정은 xml 에 저장해야 한다. 이거 무지 번거롭다. 파일 위치를 정해야 하고 web 이라는 특성상 절대경로를 사용하기에는 부담스럽다.  xml을 읽어서 parsing 해야 한다. 아님 mybatis 등 프레임웍을 설정해야 한다. 또 java 개발의 경우에는 java 파일 외에 properties 나 xml 파일을 다룰 줄 알아야 한다.  이렇게 하던 저렇게 하던 비용(시간)이 든다. php는 단순히 변수에 저장하면 되므로 간단하다. 또 문자열 연결도 무지 간단하다.

             

            PHP 라는 Web 개발언어는 호불호가 많이 갈리는 언어이다. 그 나름의 주장이 의미가 있다. 내가 장점으로 보는 것은 생산성 측면에서 좋다는 것이다. 그리고 스크립트 언어라는 단점 때문에 대용량이나 안정성이 중요하게 요구 되는 시스템에서는 적절하지 않을 수 있다. 다만 간단한 게시판 성의 내용이고 UI가 중요하다면 서버는 최대한 간단하게 php로 구축하고 UI를 유행하는 javascript 프레임웍(jquery, angular.js, react)으로 꾸며서 작업할 것이다. 또 내 경험으로 예전에 java 로 서버를 개발하고 html 에서 ajax를 만들어 보기가 쉽지 않았다. 지금은 RestController 등이 있어서 쉽게 json 형태로 변환이 되지만 얼마전까지는 쉽지 않았던 기억이 난다. 결론은 내가 100 이내의 사용자가 사용하는 내부 시스템을 만들어야 하는 상황이라면 PHP를 최우선으로 고려해 볼  듯 하다.

            'Spring' 카테고리의 다른 글

            [Spring] Component Scan과 Funtion을 사용한 빈 등록 방법  (0) 2022.05.05
            스프링 vs 스프링 부트  (0) 2021.03.31

            목차

              Chunk ? 

              Spring Batch에서의 Chunk란 데이터 덩어리로 작업 할 때 각 커밋 사이에 처리되는 row 수를 얘기합니다. 즉, Chunk 지향 처리란 한 번에 하나씩 데이터를 읽어 Chunk라는 덩어리를 만든 뒤, Chunk 단위로 트랜잭션을 다루는 것을 의미합니다. 여기서 트랜잭션이라는게 중요한데요. Chunk 단위로 트랜잭션을 수행하기 때문에 실패할 경우엔 해당 Chunk 만큼만 롤백이 되고, 이전에 커밋된 트랜잭션 범위까지는 반영이 된다는 것입니다. Chunk 지향 처리가 결국 Chunk 단위로 데이터를 처리한다는 의미이기 때문에 그림으로 표현하면 아래와 같습니다.

              Chunk 지향 프로세싱은 1000개의 데이터에 대해 배치 로직을 실행한다고 가정하면, Chunk 단위로 나누지 않았을 경우에는 한개만 실패해도 성공한 999개의 데이터가 롤백된다. Chunk 단위를 10으로 한다면, 작업 중에 다른 Chunk는 영향을 받지 않는다.
              • Reader에서 데이터 하나를 읽어 온다.(item 단위)
              • 읽어온 데이터를 Processor에서 가공한다.(item 단위)\
              • 가공된 데이터들을 별도의 공간에 모은 뒤 Chunk 단위만큼 쌓이게 되면 Writer에 전달하고 Writer는 일괄 저장한다. (Chunk = items)

              Reader와 Processor에서는 1건씩 다뤄지고, Writer에선 Chunk 단위로 처리된다는 것만 기억하시면 됩니다.

              Chunk 지향 처리를 Java 코드로 표현하면 아래처럼 될 것 같습니다.

              여기선 Reader, Processor에서는 1건씩 다뤄지고, Writer에서는 Chunk 단위로 처리된다는 것을 기억하면 된다.

              Chunk-oriented processing의 장점

              위에서 알아본 청크지향 프로세싱을 사용하지 않는다 하더라도 개발자가 충분히 비슷한 로직으로 구현을 할 수도 있습니다. 하지만 청크지향 프로세싱은 단순히 청크단위의 트랜잭션만 제공해주는것은 아닙니다.

              Spring batch 청크지향 프로세싱의 가장 큰 장점이라고 하면, 내결함성 (Falut tolernat)를 위한 다양한 기능들을 제공하고 있다는 것 입니다.

              멀티 스레드 환경에서 chunk 지향 불가

              각 Reader와 Writer의 Javadoc에 항상 저 thread-safe 문구가 있는지 확인해보셔야 합니다.
              만약 없는 경우엔 thread-safe가 지원되는 Reader 와 Writer를 선택해주셔야하며, 꼭 그 Reader를 써야한다면 SynchronizedItemStreamReader 등을 이용해 thread-safe로 변환해서 사용해볼 수 있습니다.

              그리고 또 하나 주의할 것은 멀티 쓰레드로 각 Chunk들이 개별로 진행되다보니 Spring Batch의 큰 장점중 하나인 실패 지점에서 재시작하는 것은 불가능 합니다. 이유는 간단합니다. 단일 쓰레드로 순차적으로 실행할때는 10번째 Chunk가 실패한다면 9번째까지의 Chunk가 성공했음이 보장되지만, 멀티쓰레드의 경우 1~10개의 Chunk가 동시에 실행되다보니 10번째 Chunk가 실패했다고 해서 1~9개까지의Chunk가 다 성공된 상태임이 보장되지 않습니다. 그래서 일반적으로는 ItemReader의 saveState 옵션을 false 로 설정하고 사용합니다.

              목차

                DI(Dependency injection)

                DI란 스프링이 다른 프레임워크와 차별화되어 제공하는 의존 관계 주입 기능으로, 객체를 직접 생성하는 게 아니라 외부에서 생성한 후 주입 시켜주는 방식이다. DI(의존성 주의)를 통해서 모듈 간의 결합도가 낮아지고 유연성이 높아진다.
                객체 생성 방식 설명
                기존방식
                A객체가 B, C객체를 new 생성자를 통해서 직접 생성하는 방법
                *의존성 주입 방식*
                외부에서 생성 된 객체를 setter()를 통해 사용하는 방법

                - A객체에서 B, C객체를 사용(의존)할 때, A객체에서 직접 생성하는 것이 아니라 외부(IOC컨테이너)에서 생성된 B, C객체를 조립(주입) 시켜 setter 혹은 생성자를 통해 사용하는 방식이다.

                - 스프링에서는 객체를 Bean 이라고 부르며, 프로젝트가 실행될때 사용자가 Bean으로 관리하는 객체들의 생성과 소멸에 관련된 작업을 자동적으로 수행해주는데 객체가 생성되는 곳에 스프링에서는 Bean 컨테이너라고 한다.

                의존성 주입이 생겨난 이유

                public class BugService {
                    public void countLeg(){
                        BugRepository bug = new Fly();
                        bug.legCount();
                    }
                }

                위 처럼 new 를 통해 직접 객체를 생ㅅ헝하면 BugRepository는 Fly클래스에 의존 되어버린다.

                내가 Fly가 아니라 다른 객체를 사용하고 싶어도 코드를 수정하기 전까진 불가능하다. 

                 

                public class BugService {
                    private BugRepository bugRepository;
                
                    public BugService(BugRepository bugRepository){
                        this.bugRepository = bugRepository;
                    }
                
                    public void countLeg(){
                        bugRepository.legCount();
                    }
                }
                
                //Test
                @Test
                public void testLeg(){
                    BugRepository bug = new LadyBug(); // Fly(), Mantis()... 등등
                    BugService bugService = new BugService(bug); //bugService의 생성자로 의존성주입!
                    bugService.countLeg();
                }

                 

                이렇게 생성자로 어떤 객체를 받아서 BugRepository를 생성해주면 의존성을 주입받았다고 할 수 있다. 즉 Test 쪽에서 보면 bug를 여러가지로 생성가능하다. 따라서 BugService에 넘겨주는 객체에 따라 의존성을 주입받을 수 있다.

                의존성 주입 방법 

                생성자를 이용하는 방법

                 

                • 장점
                  • 필수적으로 사용해야 하는 레퍼런스 없이는 인스턴스를 만들지 못하도록 강제함
                  • 테스트 코드 작성시 생성자를 통해 의존성 주입 용이함
                • 단점
                  • 어쩔 수 없는 순환 참조는 생성자 주입으로 해결하기 어려움(가급적 순환참조 발생하지 않는게 중요)
                  • 순환 참조? A가 B가 참조하고 B가 A를 참조하는 경우
                @Service
                public class BugService {
                
                private BugRepository bugRepository;
                    @Autowired
                    public BugService(BugRepository bugRepository){
                        this.bugRepository = bugRepository;
                    }
                }

                Field 변수를 이용한 방법

                • 장점 
                  • 간단하다.
                • 단점
                  • 의존 관계가 눈에 잘 보이지 않아 추상적이고, 이로 인해 의존성 관계가 과도하게 복잡해질 수 있다.
                  • SRP : 단일책임원칙에 반하는 안티패턴
                  • 단위 테스트시 의존성 주입이 용이하지 않음
                @Service
                public class BugService {
                    @Autowired
                    private BugRepository bugRepository;
                }

                setter를 이용한 방법

                • 장점
                  • 의존성이 선택적으로 필요한 경우에 사용(set을 불러올때 사용하니깐!?)
                  • 생성자에 모든 의존성을 기술하면 과도하게 복잡해질 수 있는 것으로 선택적으로 나눠 주입 할 수 있게 부담을 덜어줌
                  • 생성자 주입과 setter 주입 방법을 적절하게 분배하여 사용을 권장
                @Service
                public class BugService {
                
                    private BugRepository bugRepository;
                
                    @Autowired
                    public void setBugRepository(BugRepository bugRepository) {
                        this.bugRepository = bugRepository;
                    }
                }

                DI(Dependency Injection) 세 가지 방법

                느슨한 결합

                - 객체를 주입 받는다는 것은 외부에서 생성된 객체를 인터페이스를 통해서 넘겨받는 것이다. 이렇게 하면 결합도를 낮출수 있고, 런타임시에 의존관계가 결정되기 때문에 유연한 구조를 가진다.

                - SOULD 원칙에서 O에 해당하는 Open Closed Principle을 지키기 위해서 디자인 패턴 중 전략 패턴을 사용하게 되는데, 생성자 주입을 사용하게 되면 전략 패턴을 사용하게 된다.

                 

                Fielid Injection 필드 주입

                @Component
                public class SampleController {
                    @Autowired
                    private SampleService sampleService;
                }

                Field Injection을 사용하면 안되는 이유

                • 단일 책임(SRP)의 원칙 위반

                의존성을 주입하기가 쉽다.
                @Autowired 선언 아래 개수 제한 없이 무한정 추가할 수 있으니 말이다.

                여기서 Constructor Injection을 사용하면 다른 Injection 타입에 비해 위기감을 느끼게 해준다.

                Constructor의 parameter가 많아짐과 동시에 하나의 Class가 많은 책임을 떠안는다는 걸 알게된다.

                이때 이러한 징조들이 Refactoring을 해야한다는 신호가 될 수 있다.

                Setter Injection 세터 주입

                @Component
                public class SampleController {
                    private SampleService sampleService;
                 
                    @Autowired
                    public void setSampleService(SampleService sampleService) {
                        this.sampleService = sampleService;
                    }
                }

                Construtor Injection 생성자 주입 (권장)

                아래 처럼 Constructor에 @Autowired Annotation을 붙여 의존성을 주입받을 수 있다.

                @Component
                public class SampleService {
                    private SampleDAO sampleDAO;
                 
                    @Autowired
                    public SampleService(SampleDAO sampleDAO) {
                        this.sampleDAO = sampleDAO;
                    }
                }
                
                @Component
                public class SampleController {
                
                	private final SampleService sampleService = new SampleService(new SampleDAO());
                    
                	...
                }

                Spring Framework Reference에서 권장하는 방법은 생성자를 통한 주입이다.

                생성자를 사용하는 방법이 좋은 이유는 필수적으로 사용해야하는 의존성 없이는 Instance를 만들지 못하도록 강제할 수 있기 때문이다.

                Spring 4.3버전부터는 Class를 완벽하게 DI Framework로부터 분리할 수 있다.

                단일 생성자에 한해 @Autowired를 붙이지 않아도 된다.
                Spring 4.3부터는 클래스의 생성자가 하나이고 그 생성자로 주입받을 객체가 Bean으로 등록되어 있다면 @Autowired를 생략할 수 있다.

                또한 앞서 살펴본 Field Injection의 단점들을 장점으로 가져갈 수 있다.

                 

                • null을 주입하지 않는 한 NullPointerException 은 발생하지 않는다.

                의존관계 주입을 하지 않은 경우에는 Controller 객체를 생성할 수 없다.
                즉, 의존관계에 대한 내용을 외부로 노출시킴으로써 컴파일 타임에 오류를 잡아낼 수 있다.

                • final 을 사용할 수 있다.

                final로 선언된 레퍼런스타입 변수는 반드시 선언과 함께 초기화가 되어야 하므로 setter 주입시에는 의존관계 주입을 받을 필드에 final 을 선언할 수 없다.

                final의 장점은 객체가 불변하도록 할 수 있는 점으로, 누군가가 Controller 내부에서 Service 객체를 바꿔치기 할 수 없다는 점이다.

                • 순환 의존성을 알 수 있다.

                앞서 살펴 본 Field Injection에서는 컴파일 단계에서 순환 의존성을 검출할 방법이 없지만, Construtor Injection에서는 컴파일 단계에서 순환 의존성을 잡아 낼 수 있다.

                • 의존성을 주입하기가 번거로워 위기감을 느낄 수 있다.

                Construtor Injection의 경우 생성자의 인자가 많아지면 코드가 길어지며 개발자로 하여금 위기감을 느끼게 해준다.

                이를 바탕으로 SRP 원칙을 생각하게 되고, Refactoring을 하게 된다.

                이러한 장점들 때문에 스프링 4.x Documents에서는 Constructor Injection을 권장한다.

                 

                굳이 Setter Injection을 사용하려면, 합리적인 default를 부여할 수 있고 선택적인(optional) 의존성을 사용할 때만 사용해야한다고 말한다.
                그렇지 않으면 not-null 체크를 의존성을 사용하는 모든 코드에 구현해야한다.

                결국 더 좋은 디자인 패턴과 코드 품질을 위해서는 Constructor Injection을 사용해야 한다.

                참고 : https://velog.io/@gillog/Spring-DIDependency-Injection-%EC%84%B8-%EA%B0%80%EC%A7%80-%EB%B0%A9%EB%B2%95

                IoC(Inversion of Control)

                IoC란 '제어의 역전' 이라는 의미로 말 그대로 메소드나 객체의 호출작업을 개발자가 아닌 외부에서 결정되는 것이다. 스프링이 모든 의존성 객체를 스프링이 실행될때 다 만들어주고 필요한 곳에 주입시켜줌으로써 Bean들은 싱글턴 패턴의 특징을 가진다.

                'Spring > [인프런] Spring FrameWork' 카테고리의 다른 글

                Spring AOP 개념  (0) 2022.01.21
                Spring 커넥션풀(c3p0)  (0) 2022.01.09
                Spring JDBC 연동 & JDBC Template  (0) 2022.01.08
                리다이렉트, 인터셉트  (0) 2022.01.06
                세션, 쿠키  (0) 2022.01.03

                + Recent posts