- Knowledge
AI가 작업하는 도중 상황이 바뀌면 어떻게 알까?
오래 걸리는 명령과 일정·웹훅 이벤트를 AI 에이전트가 처리하는 구조를 작업 상태, 큐, 알림, 중복 이벤트 관점에서 설명합니다.
시리즈15편 중 13편AI 에이전트는 어떻게 일할까
- 01AI는 어떻게 대답만 하다가 실제로 일을 처리하게 될까?
- 02AI 에이전트는 왜 같은 작업을 계속 반복할까?
- 03AI는 방금 읽은 파일을 왜 다시 찾아볼까?
- 04AI에게 도구를 많이 연결하면 왜 오히려 일을 못할까?
- 05AI에게 문서를 검색하게 해도 왜 틀린 답을 할까?
- 06AI가 코드를 고쳤다면 바로 실행해도 될까?
- 07AI가 응답하지 않아 다시 실행했는데, 왜 작업이 두 번 처리될까?
- 08AI 여러 명을 동시에 투입하면 개발이 더 빨라질까?
- 09AI가 이상한 행동을 했을 때 어디부터 디버깅해야 할까?
- 10AI와 대화할 때 실제로 어떤 데이터가 오갈까?
- 11AI는 왜 대화가 길어질수록 비용이 많이 들까?
- 12AI 에이전트를 여러 개 만드는 진짜 이유는 무엇일까?
- 13AI가 작업하는 도중 상황이 바뀌면 어떻게 알까?읽는 중
- 14AI 에이전트에 새로운 능력을 추가하는 방법은?
- 15AI 에이전트를 직접 만든다면 어떤 코드가 필요할까?
AI에게 “배포가 끝나면 결과를 알려 줘”라고 요청합니다. 그런데 배포에는 15분이 걸릴 수도 있고, 그동안 사용자는 채팅창을 닫을 수도 있어요.
모델을 반복해서 호출해 상태를 확인할 수도 있습니다. 하지만 배포 상태를 기다리고 완료를 감지하는 일은 워커나 스케줄러 같은 프로그램이 맡는 편이 적합합니다.
AI가 답을 생성하지 않을 때는 무슨 일이 일어날까?
일반적인 요청-응답 형태에서는 사용자 입력을 받고 모델이 응답하면 한 차례 작업이 끝납니다. 모델 자체가 15분 내내 서버 안에서 배포 완료를 기다리는 것은 아니에요.
배포 결과를 나중에 확인하려면 작업을 실행하고 상태를 유지하는 별도 시스템이 필요합니다. 이 시스템은 작업 ID, 시작 시각, 현재 상태, 결과 위치 등을 저장할 수 있죠.
예를 들어 배포를 요청한 직후에는 다음과 같은 결과가 돌아올 수 있습니다.
{
"job_id": "deploy-204",
"status": "running",
"result": null
}‘실패’가 아니라 시작되었지만 아직 끝나지 않은 상태입니다. 이 구분이 없다면 모델은 도구의 시간 초과를 배포 실패로 오해하거나, 이미 진행 중인 배포를 다시 시작할 수 있어요.
15분짜리 작업을 어떻게 관리할까?
하네스와 연결된 작업 처리 시스템을 두 부분으로 나눠 생각해 볼 수 있습니다. 사용자의 요청을 받는 쪽은 배포 작업을 큐에 넣고 작업 ID를 돌려줍니다. 실제 배포를 수행하는 워커는 작업을 가져가 실행하고, 상태 저장소를 업데이트합니다.
사용자는 작업 ID로 상태를 조회할 수 있고, 애플리케이션은 완료 이벤트가 발생했을 때 알림을 보낼 수도 있습니다. 모델이 오래 열려 있는 요청을 붙잡고 기다릴 필요는 없습니다.
여기서 주의할 점이 있어요. 모델 제공자의 비동기 추론 기능과 애플리케이션이 외부 배포 작업을 비동기로 실행하는 기능은 서로 다릅니다. 전자는 모델 응답을 기다리는 방식이고, 후자는 실제 배포·테스트·파일 처리처럼 외부 작업의 수명을 관리하는 방식입니다.
‘1시간마다 확인해 줘’는 어떻게 구현할까?
시계는 스케줄러가 담당합니다. 매시간 정해진 시점이 되면 스케줄러가 상태 점검 이벤트를 만들고, 그 이벤트를 받은 프로그램이 필요한 검사를 실행합니다.
작업 내용이 단순하면 모델 호출 자체가 필요 없을 수도 있습니다. 예를 들어 특정 HTTP 상태 코드가 바뀌었는지 확인하는 일은 코드로 빠르고 정확하게 처리할 수 있어요.
반면 점검 결과를 읽고 여러 상황을 요약해야 한다면 이벤트 처리 단계에서 모델을 호출할 수 있습니다. 순서는 시간이 이벤트를 만들고, 이벤트가 필요한 판단을 시작한다는 구조예요. 모델에게 ‘시간을 기억하라’고 지시하는 것만으로 안정적인 일정 작업이 되지는 않습니다.
웹훅을 받으면 즉시 모델을 실행해야 할까?
외부 서비스는 빌드 완료나 결제 실패 같은 이벤트를 웹훅으로 전달할 수 있습니다. 이때 받은 요청의 진위를 검증하고, 이벤트 식별자를 확인하고, 처리 큐에 등록하는 과정이 먼저 필요합니다.
수신 API에서 긴 모델 호출을 바로 시작하면 응답 시간이 길어지고 외부 서비스가 재전송을 시도할 수도 있어요. 따라서 일반적으로 수신과 실제 처리를 분리하면 운영하기 편합니다.
예를 들어 다음과 같은 순서를 생각할 수 있습니다.
빌드 완료 이벤트 수신
→ 서명 검증
→ 이벤트 ID 중복 검사
→ 큐에 저장
→ 상태 검사 및 요약
→ 사용자 알림실제 서비스의 전달 보장과 중복 제거 방식은 시스템마다 다릅니다. 웹훅은 적어도 한 번 전달되거나 중복될 수 있다고 가정하고 설계하는 편이 안전합니다.
두 번 도착한 완료 이벤트는 어떻게 처리할까?
네트워크가 불안정하면 같은 완료 이벤트가 여러 번 도착할 수 있어요. 두 번 알림을 보내는 정도로 끝날 수도 있지만, 이벤트 처리기가 ‘정산하기’ 같은 상태 변경 작업까지 수행한다면 문제가 커집니다.
이럴 때는 이벤트 ID나 작업 키를 저장해 한 이벤트의 효과가 중복 적용되지 않도록 해야 합니다. 동시에 두 워커가 같은 이벤트를 처리하는 경쟁 상태도 고려해야 하므로 단순히 메모리에 ‘처리함’ 표시를 남기는 것으로 충분하지 않을 수 있죠.
중복 이벤트 방지와 일시적 실패 후 재시도는 함께 설계해야 합니다. 처리 시작 전에 완료로 표시하면 중간 실패 시 작업이 유실될 수 있고, 마지막에만 표시하면 재시도 과정에서 부작용이 중복될 수 있습니다. 트랜잭션, 멱등성 키, 외부 서비스의 중복 방지 기능 등을 작업 종류에 맞춰 사용해야 합니다.
진행 상황을 다시 모델에 알려 주려면?
이벤트가 발생했다고 해서 진행 중이던 모델 호출의 입력이 저절로 바뀌지는 않습니다. 모델에게 최신 상태를 반영시키려면 새로운 호출에 상태 정보를 제공하거나, 지원되는 실행 시스템의 정해진 중단·재개 절차를 사용해야 합니다.
여기서도 누가 정보를 생산했는지 표시하는 게 중요합니다. “배포 완료”는 모델의 추측이 아니라 배포 시스템에서 검증한 이벤트여야 하죠. 배포 완료 후 테스트 실패가 확인됐다면 이전 이벤트가 있더라도 최종 성공으로 확정하면 안 됩니다.
장시간 작업에서는 스케줄러와 워커가 상태를 확인하고, 그 결과를 애플리케이션에 전달합니다. 모델이 최신 상황을 설명할 수 있으려면 이 상태를 저장하고 다시 전달하는 과정이 제대로 동작해야 합니다.
갑자기 추워진 날, 진주에서
진주에서 하루종일 돌아다녔다

내 단점을 커버하는 동료와 함께.
새로운 프로젝트를 함께 준비하는 친구와의 저녁. 미운 점도 고마운 점도 있지만, 결국 같이 잘됐으면 좋겠다는 마음.

순천과 여수 여행3
마지막 하루. 공부랑 런닝으로 끝내기


댓글 0
이 글에 대한 생각을 자유롭게 남겨주세요.
댓글을 불러오는 중…