- Knowledge
Sidecar 프록시는 서비스 간 통신에서 무엇을 할까?
애플리케이션 옆 프록시가 공통 통신 기능을 맡는 구조와 운영 시 고려할 점을 살펴봅니다.
시리즈15편 중 15편백엔드 통신의 흐름4부 · 서버는 수많은 연결을 어떻게 감당할까?
1부 · 서버와 클라이언트는 어떻게 대화할까?3편
2부 · HTTP 요청 아래에서는 무슨 일이 일어날까?6편
3부 · 서비스에 맞는 통신 방식 선택하기3편
4부 · 서버는 수많은 연결을 어떻게 감당할까?3편
주문 서비스가 재고 서비스에 HTTP 요청을 보낸다고 해볼게요. 두 서비스만 있을 때는 요청을 보내고 응답을 받는 코드면 충분합니다. 그런데 서비스가 늘어나고 팀마다 언어가 달라지면 TLS 설정, 타임아웃, 접속할 서버 목록, 요청 추적 방식도 제각각이 되기 쉬워요.
이런 통신 관련 기능을 애플리케이션마다 직접 구현하는 대신, 애플리케이션 옆에 별도 프록시를 두는 방식이 Sidecar 패턴입니다. 자주 쓰는 구현으로 서비스 메시의 Sidecar 프록시가 있어요.
Sidecar를 사용한다고 앱이 네트워크를 몰라도 된다는 뜻은 아닙니다. 주문 서비스는 여전히 어떤 재고를 조회할지, 실패했을 때 주문을 계속할지 결정해야 합니다. 바꿀 수 있는 것은 주로 데이터를 어떻게 전달하고 연결을 관리할지에 관한 공통 기능입니다.
애플리케이션이 직접 연결할 때
처음 주문 서버에는 다음과 비슷한 코드가 있을 수 있어요.
const res = await fetch('http://inventory.internal:8080/stock/SKU-1');
if (!res.ok) throw new Error('재고 조회 실패');
const stock = await res.json();여기서는 애플리케이션이 재고 서비스의 주소를 알고 있습니다. 실제 운영에서는 주소를 서비스 디스커버리로 찾거나, 클라이언트 라이브러리가 연결을 재사용하고 타임아웃을 적용할 수도 있죠. 이런 방식이 잘못된 것은 아니에요.
하지만 언어와 런타임이 많은 조직에서는 TLS 인증서 처리, 공통 지표, 서버 목록 변경 등을 각 서비스의 라이브러리마다 맞추는 일이 부담이 될 수 있습니다.
Sidecar 구성에서는 앱 가까이 있는 프록시가 이런 통신을 대신 처리할 수 있어요. 예를 들어 주문 앱은 로컬 프록시에 요청하고, 프록시는 재고 서비스를 찾아 연결합니다. 서비스 메시를 사용한다면 통신 경로를 프록시로 보내도록 네트워크 규칙을 설정해 앱 코드를 그대로 유지하는 구성도 가능합니다.
프록시 두 개가 요청을 전달하는 과정
Kubernetes에서 흔히 사용하는 Sidecar 방식은 하나의 Pod 안에 애플리케이션 컨테이너와 프록시 컨테이너를 함께 두는 구조입니다. 두 컨테이너는 네트워크 네임스페이스를 공유하므로 로컬 통신이 가능해요.
예를 들어 주문 앱이 재고 API를 호출하면, 설정에 따라 다음 순서로 전달될 수 있습니다.
- 주문 앱이 재고 서비스로 요청을 보냅니다.
- 네트워크 규칙이 나가는 트래픽을 주문 앱 옆의 프록시로 전달합니다.
- 프록시가 목적지와 정책을 확인하고 재고 서비스 쪽으로 연결합니다. 서비스 메시에서 mTLS를 구성했다면 이 구간의 프록시가 TLS 연결과 신원 확인을 처리할 수 있습니다.
- 재고 쪽 프록시가 요청을 받아 재고 앱에 넘깁니다.
- 재고 앱이 HTTP 응답을 반환하면 반대 경로로 돌아옵니다.
이것은 Sidecar 기반 서비스 메시의 대표적인 흐름입니다. 모든 Sidecar가 반드시 두 개의 프록시를 필요로 하거나, 모든 트래픽을 자동으로 가로채는 것은 아니에요. 애플리케이션에서 명시적으로 로컬 프록시 주소를 사용할 수도 있고, 들어오는 통신과 나가는 통신을 따로 설정할 수도 있습니다.
프록시가 정책을 실행하려면 어떤 데이터를 읽을 수 있는지도 중요해요. TCP 수준에서 연결을 중계하는 프록시도 있지만, URL 경로를 기준으로 제어하려면 HTTP를 해석하는 L7 기능이 필요합니다. 이 차이는 이전 편의 L4·L7 로드 밸런서와 연결됩니다.
로컬에서 Sidecar의 역할 확인하기
프록시를 거치면 요청이 어떻게 바뀌는지 확인해 보겠습니다. 아래 예제는 Node.js 20 이상, 별도 패키지 없이 실행하는 교육용 예제입니다. 주문 앱, 로컬 프록시, 재고 앱을 각기 다른 프로세스로 띄웁니다.
이 예제는 HTTP 요청을 명시적으로 로컬 프록시에 보내고, 프록시가 헤더 하나를 추가하는 동작만 보여 줘요. 실제 서비스 메시의 투명한 트래픽 가로채기나 mTLS를 구현한 것은 아닙니다.
inventory.mjs — 재고 서비스
import http from 'node:http';
http.createServer((req, res) => {
if (req.url !== '/stock/SKU-1') {
res.writeHead(404).end();
return;
}
res.setHeader('Content-Type', 'application/json');
res.end(JSON.stringify({
sku: 'SKU-1', available: 3,
proxyHop: req.headers['x-demo-hop'] ?? null,
}));
}).listen(9602, '127.0.0.1', () => console.log('inventory :9602'));sidecar.mjs — 주문 앱 옆의 로컬 프록시
import http from 'node:http';
http.createServer((req, res) => {
const started = performance.now();
const upstream = http.request({
hostname: '127.0.0.1', port: 9602,
method: req.method, path: req.url,
headers: { ...req.headers, host: '127.0.0.1:9602',
'x-demo-hop': 'local-sidecar' },
}, (reply) => {
res.writeHead(reply.statusCode ?? 502, reply.headers);
reply.pipe(res);
reply.on('end', () => {
console.log(`proxy: ${req.url} ${Math.round(performance.now() - started)}ms`);
});
});
upstream.on('error', () => {
if (!res.headersSent) res.writeHead(502);
res.end('inventory unavailable');
});
req.pipe(upstream);
}).listen(9601, '127.0.0.1', () => console.log('sidecar :9601'));order.mjs — 주문 서비스
import http from 'node:http';
http.createServer(async (req, res) => {
if (req.url !== '/check') {
res.writeHead(404).end();
return;
}
try {
const reply = await fetch('http://127.0.0.1:9601/stock/SKU-1', {
signal: AbortSignal.timeout(2000),
});
res.writeHead(reply.status, { 'Content-Type': 'application/json' });
res.end(await reply.text());
} catch {
res.writeHead(502).end('inventory unavailable');
}
}).listen(9600, '127.0.0.1', () => console.log('order :9600'));각 파일을 다른 터미널에서 실행한 다음 주문 API를 호출합니다.
node inventory.mjs
node sidecar.mjs # 별도 터미널
node order.mjs # 별도 터미널
curl -s http://127.0.0.1:9600/check기대 응답은 다음과 같습니다.
{"sku":"SKU-1","available":3,"proxyHop":"local-sidecar"}재고 서비스가 받은 요청에 x-demo-hop 헤더가 들어 있다는 점을 확인할 수 있어요. 주문 앱은 프록시가 헤더를 추가했는지 몰라도 됩니다. 프록시의 터미널에는 요청 경로와 처리 시간도 기록됩니다.
x-demo-hop은 프록시를 거쳤는지 확인하기 위한 데모용 헤더일 뿐입니다. 인증 정보로 사용하면 안 됩니다. 이 코드에는 실제 인증, mTLS, 요청 크기 제한, 서버 검색, 연결 풀, 프록시 종료 처리도 구현하지 않았어요.
프록시를 넣으면 문제가 모두 해결될까?
프록시가 하나 늘어나면 요청이 거치는 구간도 늘어납니다. 연결 실패, 프록시 자체의 메모리·CPU 사용량, 타임아웃 불일치 같은 새로운 운영 문제가 생길 수 있어요. 앱에서 요청을 취소했는데 프록시가 업스트림 요청을 계속 처리하거나, 업스트림 타임아웃이 더 짧아 먼저 연결이 끊기는 상황도 점검해야 합니다.
또한 프록시가 재시도를 지원하는 것과 재시도가 안전한 것은 별개예요. 예를 들어 주문 생성 요청을 보낸 뒤 응답만 유실됐다면, 프록시가 요청을 다시 보내 중복 주문이 생길 수 있습니다. 멱등성 키나 애플리케이션의 중복 처리 방지 로직은 여전히 필요합니다.
Sidecar는 서비스 메시를 구성하는 한 가지 방법이기도 합니다. 예를 들어 Istio는 Pod마다 Envoy를 배치하는 Sidecar 모드 외에도, 노드 단위 프록시를 사용하는 Ambient 모드를 제공합니다. 따라서 서비스 메시를 도입한다고 반드시 모든 Pod에 Sidecar를 하나씩 붙여야 하는 것은 아닙니다.
마지막으로 처음 상황을 다시 보죠. 언어가 서로 다른 주문 서비스와 재고 서비스가 공통으로 연결 관리와 통신 정책을 적용해야 한다면, Sidecar는 그 기능을 애플리케이션 코드에서 분리할 수 있는 선택지예요. 통신을 어떻게 전달할지는 프록시가 도울 수 있지만, 요청을 언제 재시도하고 어떤 결과를 성공으로 볼지는 여전히 서비스의 업무 규칙에 달려 있습니다.
갑자기 추워진 날, 진주에서
진주에서 하루종일 돌아다녔다

내 단점을 커버하는 동료와 함께.
새로운 프로젝트를 함께 준비하는 친구와의 저녁. 미운 점도 고마운 점도 있지만, 결국 같이 잘됐으면 좋겠다는 마음.

순천과 여수 여행3
마지막 하루. 공부랑 런닝으로 끝내기


댓글 0
이 글에 대한 생각을 자유롭게 남겨주세요.
댓글을 불러오는 중…