• Knowledge

AI 에이전트는 왜 같은 작업을 계속 반복할까?

AI가 같은 작업을 반복하는 이유와 완료·실패·중단 조건을 설계하는 방법을 알아봅니다.

시리즈15편 중 2편AI 에이전트는 어떻게 일할까
  1. 01AI는 어떻게 대답만 하다가 실제로 일을 처리하게 될까?
  2. 02AI 에이전트는 왜 같은 작업을 계속 반복할까?읽는 중
  3. 03AI는 방금 읽은 파일을 왜 다시 찾아볼까?
  4. 04AI에게 도구를 많이 연결하면 왜 오히려 일을 못할까?
  5. 05AI에게 문서를 검색하게 해도 왜 틀린 답을 할까?
  6. 06AI가 코드를 고쳤다면 바로 실행해도 될까?
  7. 07AI가 응답하지 않아 다시 실행했는데, 왜 작업이 두 번 처리될까?
  8. 08AI 여러 명을 동시에 투입하면 개발이 더 빨라질까?
  9. 09AI가 이상한 행동을 했을 때 어디부터 디버깅해야 할까?
  10. 10AI와 대화할 때 실제로 어떤 데이터가 오갈까?
  11. 11AI는 왜 대화가 길어질수록 비용이 많이 들까?
  12. 12AI 에이전트를 여러 개 만드는 진짜 이유는 무엇일까?
  13. 13AI가 작업하는 도중 상황이 바뀌면 어떻게 알까?
  14. 14AI 에이전트에 새로운 능력을 추가하는 방법은?
  15. 15AI 에이전트를 직접 만든다면 어떤 코드가 필요할까?

테스트를 고쳐 달라고 맡긴 AI가 계속 파일을 수정합니다. 테스트를 실행하고, 오류를 보고, 다시 수정하는 것까지는 좋아요. 그런데 세 번째부터는 같은 파일을 비슷하게 바꾸기만 합니다.

AI가 계속 움직인다고 작업이 진행되는 건 아닙니다. 같은 오류가 반복될 때는 재시도를 이어 갈지, 멈추고 상황을 보고할지 판단할 기준이 필요합니다.

반복할 수 있는 AI보다 언제 멈춰야 하는지 아는 시스템이 중요하다.

“완료했습니다”와 “정말 완료됐다”는 다른 말

일반적인 자동화에서는 종료 조건을 코드로 정할 수 있어요. 파일 변환 프로그램은 입력 파일을 모두 처리하면 끝납니다. 하지만 코드 오류 수정처럼 목표가 열린 작업은 무엇을 몇 번 해야 끝나는지 미리 결정하기 어렵습니다.

이때 모델의 답변만 종료 조건으로 삼으면 문제가 생깁니다. 모델이 “완료했습니다”라고 말해도 테스트가 실패할 수 있어요. 반대로 테스트가 모두 통과했는데도 모델이 불필요한 개선을 계속 제안할 수 있습니다.

따라서 두 종류의 신호를 분리해야 합니다.

  • 모델의 종료 신호: 이번 응답에서 더 이상 도구를 요청하지 않음
  • 시스템의 완료 판정: 요구 조건, 테스트, 예산, 승인 상태가 충족됨

둘은 관련이 있지만 같지는 않습니다. 제품에 따라 도구 호출이 끝났음을 알려 주는 응답 필드와 실제 사용자 작업의 성공 여부를 별도로 관리해야 해요.

도구 호출이 끝났어도 목표 달성 여부는 별도로 확인해야 한다.

오류가 나면 다시 시도하면 되지 않을까?

어떤 오류인지에 따라 다릅니다.

예를 들어 config.json이 없다는 결과가 나왔다면 같은 파일을 열도록 열 번 요청해도 해결되지 않겠죠. 먼저 경로를 다시 찾거나 사용자에게 필요한 파일을 요청해야 합니다. 반면 일시적인 네트워크 장애라면 제한된 횟수로 다시 시도하는 편이 합리적일 수 있어요.

이를 구분하지 않으면 에이전트는 “실패 → 같은 호출 → 같은 실패”의 고리에 갇힙니다.

python
# 개념 설명용 의사 코드
if result.error == "FILE_NOT_FOUND":
    change_plan_or_ask_user()
elif result.error == "TEMPORARY_NETWORK_ERROR":
    retry_with_limit()
else:
    stop_and_report(result)

반복할수록 모델 호출 비용과 시간이 늘어납니다. 파일 쓰기 같은 작업이라면 원하지 않는 변경이 쌓일 수도 있습니다.

횟수 제한이 있으면 안전할까?

최대 20번까지 실행한다고 정하면 무한 반복은 막을 수 있습니다. 하지만 스무 번 동안 잘못된 파일을 수정하는 상황까지 막지는 못해요.

보통은 여러 제한을 함께 둡니다. 모델 호출 횟수, 총 실행 시간, 사용한 비용, 파일 변경 수, 동일 오류 연속 발생 횟수 등이 그 예예요.

이 제한들은 성공의 증거라기보다 피해가 커지는 것을 막는 안전장치입니다. 한도를 넘겼다면 “완료”가 아니라 “중단”으로 기록하고, 이미 수행한 작업과 남은 작업을 구분해 보여 줘야 합니다.

에이전트에는 횟수뿐 아니라 시간·변경 범위·반복 오류에 대한 한도가 필요하다.

반복하는 동안 방향이 틀어지면 어떻게 할까?

작업이 길어질수록 모델은 처음의 목표보다 방금 발생한 오류에 집중할 수 있습니다. 이런 경우 상태를 한 문장으로 유지하면 도움이 됩니다.

예를 들어 “목표: 로그인 오류 수정 / 완료 조건: 기존 테스트 통과 및 새 회귀 테스트 통과 / 변경 가능 범위: 인증 모듈”처럼요. 하네스는 매 단계마다 남은 작업을 갱신하거나, 중요한 제약을 모델에 다시 전달할 수 있습니다.

다만 이 문장도 모델의 행동을 유도하는 정보일 뿐입니다. 파일 수정 범위 같은 실제 권한은 프로그램이 독립적으로 검사해야 해요.

에이전트는 왜 종료했는지 정확한 상태로 알려 줘야 한다.

잘 멈추는 AI가 일을 잘하는 AI다

작업을 끝낼 때와 멈춰야 할 때를 구분하는 것도 에이전트 설계의 일부입니다. 테스트를 통과했다면 결과를 확인하고 종료하고, 더 진행할 수 없다면 시도한 내용과 남은 문제를 알려줘야 합니다.

자동화를 설계할 때는 실행 횟수뿐 아니라 완료 조건, 검증 방법, 중단 시 보고할 내용도 함께 정해 두는 편이 좋습니다.

댓글 0

이 글에 대한 생각을 자유롭게 남겨주세요.

댓글 관련 문의

댓글을 불러오는 중…

갑자기 추워진 날, 진주에서

진주에서 하루종일 돌아다녔다

양승민

내 단점을 커버하는 동료와 함께.

새로운 프로젝트를 함께 준비하는 친구와의 저녁. 미운 점도 고마운 점도 있지만, 결국 같이 잘됐으면 좋겠다는 마음.

양승민

순천과 여수 여행3

마지막 하루. 공부랑 런닝으로 끝내기

양승민
See all