우선순위 기반 큐와 자동 타임아웃 승격

Source: Dev.to

핵심 기능

제한된 동시성

• 구성 가능한 워커 풀 크기 (기본값: CPU 코어 × 2).
• 워커 용량을 초과하는 작업은 시스템 과부하를 방지하고 하드웨어 활용도를 극대화하기 위해 대기열에 쌓입니다.

우선순위 큐 및 승격

• 최소 힙을 사용한 5단계 우선순위 시스템: Immediate > High > Retry > Normal > Low.
• 높은 우선순위 작업이 먼저 실행되며, 동일한 우선순위의 작업은 FIFO 방식으로 처리됩니다.
• 오래 대기한 작업은 기아 현상을 방지하기 위해 자동으로 높은 우선순위로 승격됩니다.
• 승격 임계값은 설정된 타임아웃을 기준으로 계산됩니다.

오류 재시도

• 작업이 실패하면 자동으로 재시도될 수 있습니다.
• 재시도 작업은 Retry 우선순위로 다시 큐에 삽입되며, 이는 High와 Normal 사이에 위치해 지연된 재시도 효과를 제공합니다.