• Knowledge

AI가 응답하지 않아 다시 실행했는데, 왜 작업이 두 번 처리될까?

AI의 재시도가 중복 메일과 중복 결제로 이어지는 이유를 타임아웃과 멱등성으로 설명합니다.

시리즈15편 중 7편AI 에이전트는 어떻게 일할까
  1. 01AI는 어떻게 대답만 하다가 실제로 일을 처리하게 될까?
  2. 02AI 에이전트는 왜 같은 작업을 계속 반복할까?
  3. 03AI는 방금 읽은 파일을 왜 다시 찾아볼까?
  4. 04AI에게 도구를 많이 연결하면 왜 오히려 일을 못할까?
  5. 05AI에게 문서를 검색하게 해도 왜 틀린 답을 할까?
  6. 06AI가 코드를 고쳤다면 바로 실행해도 될까?
  7. 07AI가 응답하지 않아 다시 실행했는데, 왜 작업이 두 번 처리될까?읽는 중
  8. 08AI 여러 명을 동시에 투입하면 개발이 더 빨라질까?
  9. 09AI가 이상한 행동을 했을 때 어디부터 디버깅해야 할까?
  10. 10AI와 대화할 때 실제로 어떤 데이터가 오갈까?
  11. 11AI는 왜 대화가 길어질수록 비용이 많이 들까?
  12. 12AI 에이전트를 여러 개 만드는 진짜 이유는 무엇일까?
  13. 13AI가 작업하는 도중 상황이 바뀌면 어떻게 알까?
  14. 14AI 에이전트에 새로운 능력을 추가하는 방법은?
  15. 15AI 에이전트를 직접 만든다면 어떤 코드가 필요할까?

“고객에게 청구서를 보내 줘”라는 작업을 AI에게 맡겼습니다. 메일 발송 요청 직후 연결이 끊어졌고, 화면에는 오류가 표시됐어요. AI가 다시 실행을 시도하자 고객에게 같은 청구서가 두 통 도착했습니다.

응답을 받지 못해도 서버가 작업을 마쳤을 수 있습니다. 에이전트를 네트워크 서비스에 연결하면 분산 시스템에서 오래 다뤄 온 이 문제도 함께 고려해야 합니다.

응답이 보이지 않는다고 작업이 실행되지 않은 것은 아니다.

연결이 끊겼을 때 실제로는 무슨 일이 벌어졌을까?

요청을 보낸 클라이언트가 일정 시간 안에 응답을 받지 못하면 타임아웃을 선언할 수 있습니다. 하지만 그동안 서버는 이미 요청을 처리했을 수 있어요.

두 상황을 비교해 볼게요.

첫 번째는 요청이 서버에 도달하지 않은 경우입니다. 이때 같은 요청을 다시 보내는 것이 필요할 수 있습니다.

두 번째는 서버가 청구서 메일을 보냈지만, 성공 응답이 클라이언트에 도달하지 않은 경우입니다. 이때 재요청하면 같은 행동이 중복될 수 있어요.

클라이언트가 보는 현상은 둘 다 ‘응답 없음’입니다. 네트워크 오류만으로는 어느 쪽인지 항상 구별할 수 없습니다.

클라이언트가 같은 타임아웃을 보더라도 서버 실행 여부는 다를 수 있다.

다시 해도 안전한 작업과 위험한 작업

GET으로 정보를 조회하는 동작은 보통 다시 시도해도 상태를 변경하지 않도록 설계할 수 있습니다. 반면 결제 승인, 이메일 발송, 주문 생성처럼 외부에 부작용을 남기는 작업은 주의가 필요해요.

여기서 등장하는 개념이 멱등성(idempotency)입니다. 같은 요청을 여러 번 수행하더라도 최종 결과가 한 번 수행했을 때와 동일하도록 만드는 성질이죠.

예를 들어 ‘사용자의 알림 설정을 켜짐으로 지정한다’는 작업은 반복해도 결과가 같게 만들기 쉽습니다. 반대로 ‘사용자의 잔액에서 1만 원을 차감한다’는 작업은 아무 장치 없이 두 번 실행하면 결과가 달라져요.

조회와 발송을 같은 재시도 규칙으로 다루면 중복 처리가 생길 수 있습니다.

중복 실행을 막는 요청 ID

중요한 쓰기 작업에는 고유한 요청 ID를 붙일 수 있습니다. 서버는 해당 ID를 처리한 기록을 저장하고, 같은 ID가 다시 오면 같은 작업을 반복하지 않도록 처리합니다.

Plain Text
1차 요청: send_invoice(id="invoice-184")
서버: 메일 전송 및 처리 결과 저장
응답: 네트워크에서 유실

2차 요청: send_invoice(id="invoice-184")
서버: 이미 처리한 ID 확인
결과: 기존 처리 결과 반환

단, ID만 추가한다고 완성되는 것은 아닙니다. 서버가 처리 기록과 실제 작업 사이의 일관성을 지켜야 하고, ID의 유효 기간과 인자 충돌도 관리해야 해요. 외부 메일 서비스가 이런 동작을 제공하지 않는다면 애플리케이션 쪽에 중복 억제 설계를 마련해야 합니다.

같은 요청 ID를 다시 받아도 이미 처리한 결과를 반환하도록 설계할 수 있다.

시간이 오래 걸리는 작업은 어떻게 다뤄야 할까?

AI가 큰 프로젝트의 테스트를 실행하면 몇 분이 걸릴 수 있습니다. 이때 모델 호출을 계속 반복해 “끝났나요?”라고 물을 필요는 없어요.

하네스가 작업을 시작하고 job_id를 돌려준 다음, 작업 상태를 별도로 보관할 수 있습니다. 운영 프로그램이 완료 이벤트를 받거나 일정 간격으로 상태를 확인하고, 완료되면 그 결과를 모델에게 전달하는 방식이죠.

Plain Text
작업 요청 → job_id 발급 → 실행 중
                         ↓
                   완료 이벤트 수신
                         ↓
                  결과를 모델에 전달

중간에 사용자가 취소를 눌렀다면 하네스를 멈추는 것과 외부 작업을 취소하는 것을 구분해야 합니다. 모델의 다음 답변을 막았다고 해서 이미 실행 중인 메일 발송이나 배포가 자동으로 취소되지는 않아요.

장시간 작업은 작업 ID와 상태를 따로 관리하고 완료 시 결과만 전달할 수 있다.

어떤 오류를 다시 시도해야 할까?

서버 과부하나 일부 네트워크 오류는 잠시 후 재시도할 수 있습니다. 이런 경우 지수 백오프처럼 대기 시간을 점차 늘리고, 무작위 지연을 섞어 동시에 몰리는 재요청을 줄이기도 합니다.

반면 잘못된 인자, 권한 부족, 존재하지 않는 파일 경로처럼 요청 자체가 문제인 경우에는 같은 요청을 반복해도 해결되지 않을 가능성이 큽니다. 먼저 원인을 수정해야 해요.

재시도 전에 오류가 일시적인지, 이미 처리됐을 가능성이 있는지, 다시 실행하면 부작용이 생기는지 확인해야 합니다.

특히 결제나 메일 발송처럼 되돌리기 어려운 작업이라면 실행 여부를 확인할 수 없을 때 어떻게 처리할지 미리 정해 두어야 합니다.

댓글 0

이 글에 대한 생각을 자유롭게 남겨주세요.

댓글 관련 문의

댓글을 불러오는 중…

갑자기 추워진 날, 진주에서

진주에서 하루종일 돌아다녔다

양승민

내 단점을 커버하는 동료와 함께.

새로운 프로젝트를 함께 준비하는 친구와의 저녁. 미운 점도 고마운 점도 있지만, 결국 같이 잘됐으면 좋겠다는 마음.

양승민

순천과 여수 여행3

마지막 하루. 공부랑 런닝으로 끝내기

양승민
See all