- Knowledge
오래 걸리는 작업은 어떻게 기다릴까? Short Polling과 Long Polling
202 Accepted와 작업 ID를 이용해 긴 작업의 시작과 상태 조회를 분리하고 Short Polling과 Long Polling의 차이를 살펴봅니다.
시리즈15편 중 2편백엔드 통신의 흐름1부 · 서버와 클라이언트는 어떻게 대화할까?
1부 · 서버와 클라이언트는 어떻게 대화할까?3편
2부 · HTTP 요청 아래에서는 무슨 일이 일어날까?6편
3부 · 서비스에 맞는 통신 방식 선택하기3편
4부 · 서버는 수많은 연결을 어떻게 감당할까?3편
영상 파일을 업로드한 뒤 서버에서 인코딩을 시작합니다. 작업은 30초가 걸릴 수도, 몇 분이 걸릴 수도 있어요. 그런데 브라우저와 API 서버 사이에 있는 프록시가 응답을 오래 기다리지 않고 연결을 끊는다면 어떻게 될까요?
서버 작업이 실패한 것은 아닌데 화면에는 타임아웃이 나타날 수 있습니다. 이 상황을 피하려면 작업을 시작하는 HTTP 요청과 결과를 확인하는 HTTP 요청을 분리할 수 있어요. 이를 구현하는 흔한 방식이 Polling입니다.
202 Accepted는 작업 완료를 뜻하지 않는다
사용자가 가상의 영상 인코딩 서비스에 요청을 보낸다고 가정할게요.
POST /jobs HTTP/1.1
Content-Type: application/json
{"videoId":"video-42","preset":"720p"}서버는 작업을 등록한 뒤 결과 파일이 만들어질 때까지 기다리지 않고 다음 응답을 돌려줍니다.
HTTP/1.1 202 Accepted
Location: /jobs/j-42
Content-Type: application/json
{"jobId":"j-42","status":"queued"}202 Accepted는 서버가 요청을 처리 대상으로 받아들였지만 아직 처리가 완료되지 않았다는 뜻입니다. 나중에 성공한다고 보장하는 상태 코드도 아니에요. 서버는 요청을 검증한 뒤 작업을 큐에 넣는 데 성공했을 수 있지만, 이후 인코딩은 실패할 수 있습니다.
응답의 Location: /jobs/j-42는 이 서비스가 상태 조회 주소를 알려 주기 위해 정한 규약입니다. 202 응답이 반드시 Location 헤더를 포함해야 하는 것은 아닙니다. 대신 응답 본문에 조회 URL을 넣어도 괜찮아요.
이제 브라우저가 GET /jobs/j-42를 호출하면 서버는 현재 작업 상태를 알려 줍니다.
HTTP/1.1 200 OK
Content-Type: application/json
{"jobId":"j-42","status":"running","progress":40}한참 뒤 다시 조회하면 다음과 같은 응답을 받을 수 있죠.
{
"jobId": "j-42",
"status": "completed",
"resultUrl": "/videos/video-42/720p"
}상태 조회에 200 OK를 썼다고 인코딩 작업까지 성공했다는 뜻은 아닙니다. 200은 상태 조회 HTTP 요청이 정상적으로 처리되었다는 뜻이고, 실제 작업 결과는 본문의 status 필드로 구분합니다. 실패한 작업이라도 상태 조회 자체는 정상일 수 있어요.
Short Polling: 정해진 간격으로 다시 물어보기
Short Polling은 서버가 상태 조회 요청에 곧바로 응답하는 방식입니다. 예를 들어 클라이언트가 3초마다 작업 상태를 확인할 수 있어요.
브라우저 코드를 단순화하면 다음과 같습니다. 아래 예제는 /jobs/j-42가 앞에서 정한 JSON을 반환한다는 API 계약에 따른 클라이언트 예제예요.
const sleep = (ms) => new Promise((resolve) => setTimeout(resolve, ms));
async function waitForJob(jobId) {
while (true) {
const response = await fetch(`/jobs/${encodeURIComponent(jobId)}`);
if (!response.ok) throw new Error(`상태 조회 실패: ${response.status}`);
const job = await response.json();
if (job.status === 'completed') return job.resultUrl;
if (job.status === 'failed') throw new Error('인코딩 실패');
await sleep(3000);
}
}이 코드는 작업을 새로 등록하지 않습니다. 같은 작업 ID의 상태만 읽어요. 또한 오류 재시도, 취소, 최대 대기 시간, 브라우저 탭 종료 시 처리는 간결하게 보여 주기 위해 생략했습니다. 운영 코드라면 반복을 무제한으로 이어가기보다 중단 조건을 정해야 합니다.
예를 들어 사용자가 1,000명이고 각자 5초마다 확인한다면, 요청 간격이 균등하게 분산된다는 가정 아래 상태 조회만 초당 약 200번 발생합니다. 대부분의 응답이 running이어도 HTTP 요청 처리와 DB 조회 비용은 남아요. 작업 수가 커질수록 Polling 주기와 서버 용량을 함께 고려해야 하는 이유입니다.
Long Polling: 변한 게 없다면 응답을 잠시 미루기
Short Polling에서는 매번 응답을 보내기 때문에 조회 시점 사이에 생긴 변화를 바로 알기 어렵습니다. 이 문제를 완화하는 방식이 Long Polling이에요.
Long Polling에서는 클라이언트가 상태 변경을 기다리는 조회를 보냅니다. 서버는 새로운 결과가 있으면 바로 응답하지만, 변화가 없다면 정해진 시간까지 HTTP 요청을 열어 둡니다.
가상의 API가 상태 버전 번호를 사용한다고 해볼게요.
GET /jobs/j-42/wait?after=4&timeout=20 HTTP/1.1이 요청은 ‘내가 마지막으로 본 상태 버전은 4입니다. 새 버전이 생기면 알려 주고, 최대 20초까지만 기다려 주세요’라는 서비스 자체의 규약이에요. 10초 뒤 작업 상태가 버전 5로 바뀌면 서버가 다음과 같이 응답합니다.
{"version":5,"status":"completed","resultUrl":"/videos/video-42/720p"}20초 동안 아무 변화가 없다면 이 API는 204 No Content를 돌려주도록 정할 수 있어요. 클라이언트는 그 응답을 받으면 다시 Long Polling 요청을 보냅니다. 204는 Long Polling의 의무적인 상태 코드가 아니고, 여기서 선택한 설계예요. 200 OK와 현재 상태를 돌려주는 API도 가능합니다.
Long Polling은 조회 요청을 줄이는 대신 연결을 더 오래 유지해야 합니다. 서버와 프록시는 열린 연결을 관리해야 하고, 일정한 시간 안에 응답이 없으면 중간 장비가 연결을 종료할 수 있어요. 클라이언트도 끊긴 연결을 다시 만들 수 있어야 합니다. 요청을 열어 두는 동안 CPU가 계속 계산해야 하는 것은 아니지만 연결과 관련된 메모리와 소켓 등 자원은 사용됩니다.
연결이 끊겨도 작업 상태를 찾을 수 있어야 한다
Short Polling과 Long Polling 모두 중요한 조건이 있습니다. jobId로 작업 상태를 다시 찾을 수 있어야 한다는 점이에요.
예를 들어 인코딩을 시작한 API 서버가 재시작되었다고 해볼게요. 작업 상태를 서버 메모리에만 기록했다면 기존 작업 ID로 조회했을 때 정보가 사라질 수 있습니다. 작업 큐와 DB 같은 외부 저장소를 이용해 상태를 유지하는 설계가 일반적이에요. 워커가 작업을 끝냈는데 상태 저장에 실패하는 상황까지 고려해야 합니다.
사용자가 인터넷 연결을 잃었다 돌아와도 같은 작업을 추적할 수 있어야 하므로, Polling을 다시 시작한다고 인코딩을 또 실행해서는 안 됩니다. 상태 조회는 작업을 반복 실행하는 호출과 분리하는 것이 안전해요.
또 하나, HTTP 연결을 끊었다고 작업이 자동 취소되는 것은 아닙니다. 실제 작업을 중단하려면 DELETE /jobs/j-42나 별도의 취소 API를 정의하고, 워커가 취소 요청을 안전하게 반영할 수 있도록 설계해야 합니다. 이미 완료된 작업은 취소되지 않을 수도 있어요.
정리하면 30초 걸리는 인코딩 작업을 하나의 HTTP 응답으로 계속 기다릴 필요는 없습니다. 완료될 때까지 기다리는 대신, 빠르게 202 Accepted와 작업 ID를 반환하고 별도의 조회 요청으로 결과를 받을 수 있어요. 작업 상태가 드물게 바뀌고 구현을 단순하게 유지하고 싶다면 Short Polling, 불필요한 조회 횟수를 줄이고 변화가 생겼을 때 빨리 응답하고 싶다면 Long Polling이 유용합니다. 둘 다 클라이언트가 먼저 요청하며, 작업 상태를 오래 보존하는 일은 별도로 해결해야 합니다.
갑자기 추워진 날, 진주에서
진주에서 하루종일 돌아다녔다

내 단점을 커버하는 동료와 함께.
새로운 프로젝트를 함께 준비하는 친구와의 저녁. 미운 점도 고마운 점도 있지만, 결국 같이 잘됐으면 좋겠다는 마음.

순천과 여수 여행3
마지막 하루. 공부랑 런닝으로 끝내기


댓글 0
이 글에 대한 생각을 자유롭게 남겨주세요.
댓글을 불러오는 중…