• Knowledge

TCP 연결은 성공했는데 서버 응답은 왜 늦을까?

TCP 핸드셰이크와 accept 대기열을 구분하고 서버 응답 지연이 생길 수 있는 구간을 살펴봅니다.

시리즈15편 중 5편백엔드 통신의 흐름2부 · HTTP 요청 아래에서는 무슨 일이 일어날까?
1부 · 서버와 클라이언트는 어떻게 대화할까?3편
  1. 01HTTP 요청과 동기·비동기 실행은 어떻게 다를까?
  2. 02오래 걸리는 작업은 어떻게 기다릴까? Short Polling과 Long Polling
  3. 03실시간 업데이트에는 SSE와 WebSocket 중 무엇을 선택할까?
2부 · HTTP 요청 아래에서는 무슨 일이 일어날까?6편
  1. 04TCP와 UDP는 무엇이 다를까? 바이트 스트림과 데이터그램
  2. 05TCP 연결은 성공했는데 서버 응답은 왜 늦을까?읽는 중
  3. 06HTTPS는 어떻게 서버를 확인하고 통신을 암호화할까?
  4. 07HTTP/1.1은 TCP 연결을 어떻게 재사용할까?
  5. 08HTTP/2는 여러 요청을 어떻게 하나의 연결에 담을까?
  6. 09HTTP/3는 왜 QUIC을 사용할까?
3부 · 서비스에 맞는 통신 방식 선택하기3편
  1. 10gRPC는 서로 다른 서비스를 어떻게 연결할까?
  2. 11WebRTC는 브라우저 사이의 연결 경로를 어떻게 찾을까?
  3. 12서버를 늘리면 왜 로그인 상태가 사라질까?
4부 · 서버는 수많은 연결을 어떻게 감당할까?3편
  1. 13요청이 많아지면 스레드도 그만큼 필요할까?
  2. 14L4와 L7 로드 밸런서는 요청을 어떻게 분산할까?
  3. 15Sidecar 프록시는 서비스 간 통신에서 무엇을 할까?
3-way handshake가 끝나도 애플리케이션이 아직 연결을 가져가지 않았을 수 있다

서버에 요청이 몰려서 API 응답이 느려졌다고 해볼게요. 그런데 클라이언트에서 측정한 TCP 연결 시간은 짧습니다. 네트워크 연결은 성공했는데 서버는 왜 바로 응답하지 않을까요?

서버가 listen(4000)을 호출했다고 해서 들어오는 모든 연결을 애플리케이션 코드가 곧바로 처리하는 것은 아닙니다. Linux에서는 커널이 TCP 핸드셰이크를 처리하고, 연결이 완성된 뒤 서버 프로세스가 accept()로 가져갈 때까지 기다리는 단계가 있어요.

TCP 핸드셰이크는 커널이 처리한다

TCP 서버의 일반적인 시작 순서는 socket(), bind(), listen(), 그리고 반복적인 accept()입니다. 애플리케이션은 특정 IP와 포트에서 연결을 받겠다고 등록하고, 커널은 네트워크로 들어오는 TCP 패킷을 처리합니다.

클라이언트가 연결을 시도하면 다음 흐름이 진행됩니다.

Plain Text
클라이언트             Linux 커널              서버 프로세스
    | SYN                   |                       |
    |---------------------->|                       |
    |       SYN-ACK         |                       |
    |<----------------------|                       |
    | ACK                   |                       |
    |---------------------->|  연결 완료, 대기       |
    |                       |---- Accept Queue ---->|
    |                       |      accept()         |
    |                       |<----------------------|
    |                       |  연결 소켓 전달        |

위의 도식은 보편적인 Linux TCP 서버 경로를 단순화한 것입니다. 운영체제의 버전과 설정, SYN cookie 사용 여부에 따라 내부 상태를 유지하는 세부 방식은 달라질 수 있어요.

클라이언트의 connect() 성공은 TCP 연결이 성립했다는 뜻입니다. 서버 프로세스가 해당 연결을 accept()로 가져왔거나 요청 본문을 읽고 인증을 마쳤다는 뜻은 아니에요. 이어서 HTTP 요청을 보내더라도 서버 코드가 그 요청을 처리할 때까지는 시간이 더 걸릴 수 있습니다.

SYN Queue와 Accept Queue는 무엇이 다를까?

일반적인 설명에서는 연결을 만드는 동안의 상태를 저장하는 곳을 SYN Queue, 핸드셰이크를 마친 연결이 accept()를 기다리는 곳을 Accept Queue라고 부릅니다.

SYN이 들어오면 커널은 연결을 만드는 데 필요한 상태를 관리하고 SYN-ACK를 돌려줍니다. 마지막 ACK까지 처리되면 연결은 확립된 상태가 되고, 서버 프로세스가 가져갈 준비가 됩니다. accept()가 호출되면 대기하던 연결 하나를 애플리케이션으로 넘겨줘요.

두 대기 단계에는 서로 다른 한계가 있습니다. Linux에서 listen(backlog)의 backlog는 오래전 Linux와 달리 완전히 성립한 뒤 accept를 기다리는 연결의 대기 길이를 지정합니다. 실제 상한은 net.core.somaxconn의 영향을 받고, 아직 연결이 완성되지 않은 요청은 net.ipv4.tcp_max_syn_backlog 같은 별도 설정과 관련됩니다. SYN cookie가 활성화된 상황에는 일반적인 SYN 대기열 설명을 그대로 적용할 수 없습니다.

따라서 backlog=128을 보고 서버가 동시에 처리할 수 있는 HTTP 요청이 128개뿐이라고 해석하면 안 됩니다. 이것은 요청 처리 스레드 수가 아니라 연결을 앱에서 받아 가기 전까지 대기할 공간에 관한 설정이에요.

listen의 backlog를 늘리는 것만으로 요청 처리 속도가 빨라지지는 않는다

연결만 성공한 뒤 계속 기다리는 경우

API 서버 프로세스가 CPU 작업에 오래 붙잡혀 새 연결을 제때 받아 가지 못한다고 가정해 볼게요. 처음 들어온 연결은 큐에 쌓일 수 있고, 더 많은 연결이 몰리면 대기 공간이 부족해집니다. 이때 클라이언트에서는 연결 지연, 타임아웃, 재전송 등 서로 다른 증상을 볼 수 있습니다. 어떤 증상이 나타나는지는 커널 설정과 네트워크 상황에 따라 달라요.

반대로 accept()는 빠르게 실행되는데 애플리케이션의 DB 쿼리가 느릴 수도 있습니다. 이 경우에는 Accept Queue가 비어 있어도 HTTP 응답은 오래 걸립니다. 같은 '느린 서버'처럼 보여도 병목이 있는 위치는 전혀 다르죠.

수신 버퍼 역시 별개의 단계입니다. 커널이 TCP 데이터를 받아 송신자에게 ACK를 보낸 시점과, 애플리케이션이 read() 또는 소켓 라이브러리를 통해 그 바이트를 읽은 시점은 같지 않을 수 있습니다. 앱이 읽는 속도가 느리면 수신 버퍼가 차고, TCP의 흐름 제어 때문에 상대편의 송신 속도가 제한될 수 있어요.

Plain Text
클라이언트가 데이터 전송
          ↓
서버 커널의 TCP 수신 버퍼
          ↓ 애플리케이션이 읽을 때
HTTP 파서 및 비즈니스 로직
          ↓
DB 조회, 응답 생성

서버의 TCP ACK는 바이트가 TCP 계층에서 수신됐다는 사실을 나타내지만, 데이터베이스 트랜잭션이 완료됐다는 뜻은 아닙니다. 서버가 응답을 보낸 사실과 클라이언트가 그 응답을 끝까지 읽은 사실도 구분해야 합니다.

Linux에서 어디부터 확인하면 좋을까?

Linux 호스트에서 직접 실행할 수 있는 점검 명령은 다음과 같습니다. 서버 권한과 배포 환경에 따라 일부 정보가 보이지 않을 수 있어요.

shell
# LISTEN 중인 TCP 소켓과 대기열 확인
ss -ltn

# 현재 성립된 TCP 연결 확인
ss -tn state established

# listen/accept 대기 한도 관련 설정
sysctl net.core.somaxconn
sysctl net.ipv4.tcp_max_syn_backlog

Linux의 ss -ltn에서 LISTEN 소켓의 Recv-Q는 일반적으로 완성됐지만 아직 accept되지 않은 연결 수, Send-Q는 해당 소켓의 backlog 상한을 보여 줍니다. 일반 데이터 소켓의 두 열과 의미가 다르니 같은 방식으로 읽으면 안 돼요.

다만 이 명령만으로 왜 응답이 느린지 확정할 수는 없습니다. 애플리케이션 레벨에서는 accept 이후의 처리 대기, HTTP 요청 처리 시간, 외부 DB 호출 시간도 별도로 관찰해야 해요. 로드 밸런서가 앞에 있으면 로드 밸런서와 서버 사이의 연결 상태도 구분해야 합니다.

연결 시간을 측정하는 도구만으로는 애플리케이션 처리 병목을 찾을 수 없다

처음 상황으로 돌아가면, TCP 연결은 성공했지만 API가 느린 데에는 충분한 이유가 있습니다. 커널이 연결을 맺는 일과 서버 애플리케이션이 그 연결의 데이터를 읽고 응답을 만드는 일은 다른 단계이기 때문이에요. 장애를 볼 때는 연결이 성립했는지, 애플리케이션이 받아 갔는지, 요청을 처리했는지를 나눠 확인하는 편이 정확합니다.

댓글 0

이 글에 대한 생각을 자유롭게 남겨주세요.

댓글 관련 문의

댓글을 불러오는 중…

갑자기 추워진 날, 진주에서

진주에서 하루종일 돌아다녔다

양승민

내 단점을 커버하는 동료와 함께.

새로운 프로젝트를 함께 준비하는 친구와의 저녁. 미운 점도 고마운 점도 있지만, 결국 같이 잘됐으면 좋겠다는 마음.

양승민

순천과 여수 여행3

마지막 하루. 공부랑 런닝으로 끝내기

양승민
See all