- Knowledge
AI는 어떻게 대답만 하다가 실제로 일을 처리하게 될까?
AI가 실제 파일을 수정할 때 모델과 실행기는 각각 어떤 역할을 할까요? 도구 요청과 실제 행동의 차이를 살펴봅니다.
시리즈15편 중 1편AI 에이전트는 어떻게 일할까
- 01AI는 어떻게 대답만 하다가 실제로 일을 처리하게 될까?읽는 중
- 02AI 에이전트는 왜 같은 작업을 계속 반복할까?
- 03AI는 방금 읽은 파일을 왜 다시 찾아볼까?
- 04AI에게 도구를 많이 연결하면 왜 오히려 일을 못할까?
- 05AI에게 문서를 검색하게 해도 왜 틀린 답을 할까?
- 06AI가 코드를 고쳤다면 바로 실행해도 될까?
- 07AI가 응답하지 않아 다시 실행했는데, 왜 작업이 두 번 처리될까?
- 08AI 여러 명을 동시에 투입하면 개발이 더 빨라질까?
- 09AI가 이상한 행동을 했을 때 어디부터 디버깅해야 할까?
- 10AI와 대화할 때 실제로 어떤 데이터가 오갈까?
- 11AI는 왜 대화가 길어질수록 비용이 많이 들까?
- 12AI 에이전트를 여러 개 만드는 진짜 이유는 무엇일까?
- 13AI가 작업하는 도중 상황이 바뀌면 어떻게 알까?
- 14AI 에이전트에 새로운 능력을 추가하는 방법은?
- 15AI 에이전트를 직접 만든다면 어떤 코드가 필요할까?
“이번 주 회의록을 정리해 줘.” AI가 채팅창에 요약을 보여 준다면 답변을 만드는 일로 끝납니다. 그런데 회의록 파일을 찾아 날짜별로 이름을 바꾸고, 빠진 파일 목록까지 저장해 달라고 하면 어떨까요? 이때부터는 답변뿐 아니라 실제 파일 작업도 필요합니다.
모델이 다음에 할 일을 고르는 것과 컴퓨터에서 그 일을 실행하는 것은 서로 다른 과정입니다. 파일을 바꾸려면 모델의 요청을 받아 실제 작업을 수행할 프로그램이 필요합니다.
모델에게 파일을 바꾸라고 하면 무슨 일이 생길까?
언어 모델에 파일 경로만 알려 준다고 해서 서버의 파일이 저절로 바뀌지는 않아요. 일반적인 모델 API 요청은 입력을 보내고 응답을 받는 과정입니다. 그 응답이 자연어일 수도 있고, 도구 사용을 요청하는 구조화된 데이터일 수도 있죠.
예를 들어 모델이 다음과 같은 요청을 만들 수 있습니다.
{
"tool": "rename_note",
"arguments": {
"old_name": "회의.txt",
"new_name": "2026-10-29-회의.txt"
}
}이것은 파일 이름을 바꿨다는 결과가 아니라, 바꾸고 싶다는 요청입니다. JSON 자체에는 파일 시스템을 수정하는 힘이 없어요.
바깥에서 실행 중인 프로그램이 rename_note라는 도구가 허용돼 있는지 확인하고, 인자를 검증한 뒤 실제 파일 작업을 해야 합니다. 실행 결과도 다시 모델에 알려 줘야 다음 판단이 가능합니다.
같은 모델인데 어떤 AI는 일하고 어떤 AI는 대답만 하는 이유
차이는 모델의 이름만으로 결정되지 않습니다. 모델 주변에 어떤 실행 프로그램이 붙어 있느냐도 중요해요.
이처럼 모델이 도구를 쓰며 작업하도록 주변에서 받쳐 주는 소프트웨어를 하네스(harness)라고 부릅니다. 하네스는 모델에 전달할 정보를 구성하고, 도구 호출을 처리하고, 그 결과를 다시 모델에 전달합니다. 그림의 ‘실행기’는 이 가운데 실제 도구를 실행하는 부분을 가리킵니다.
아주 단순한 하네스를 의사 코드로 작성하면 다음과 같습니다.
history = [user_request]
for step in range(8):
reply = ask_model(history, available_tools)
history.append(reply)
if reply.kind == "final_answer":
break
result = execute_checked_tool(reply.tool_call)
history.append(result)여기서 ask_model과 execute_checked_tool은 설명을 위한 가상의 함수입니다. 실제 서비스에서는 각 API의 메시지 형식, 도구 호출 ID, 오류와 중단 사유 등을 함께 다뤄야 해요.
이 예제에서 눈여겨볼 부분은 반복문보다 도구 실행 결과를 다시 모델에 전달하는 과정입니다. 모델은 그 결과를 보고 다음 행동을 결정합니다.
한 번의 실행으로는 왜 부족할까?
요청이 “파일 하나의 이름을 바꿔 줘”라면 한 번의 도구 호출로 끝날 수 있어요. 하지만 “날짜별로 회의록을 정리해 줘”는 여러 단계로 나뉩니다.
먼저 파일 목록을 확인해야 합니다. 그다음 각 파일의 날짜를 읽어야 하고, 이름이 중복되는지 조사한 뒤, 실제 변경을 수행해야 해요. 중간에 “해당 이름이 이미 존재함”이라는 오류가 나면 다른 방법을 선택해야 합니다.
이 때문에 하네스는 도구 결과를 대화의 일부로 남깁니다. 모델은 단순히 이전에 의도한 일이 아니라, 컴퓨터에서 실제로 일어난 일을 근거로 다음 행동을 선택할 수 있어요.
모델이 도구를 요청하면 무조건 실행해도 될까?
그렇게 하면 안 됩니다. 모델이 선택한 작업이 사용자의 의도와 맞지 않을 수도 있고, 파일 내용이나 웹페이지에 포함된 잘못된 지시를 따를 수도 있기 때문이에요.
하네스에는 별도의 규칙이 필요합니다. 예를 들어 회의록 폴더 바깥의 파일은 수정하지 못하게 하고, 덮어쓰기가 발생하면 사용자 승인을 요구하는 식입니다. 입력 경로를 정규화하고 허용 디렉터리 안인지 확인하는 검사도 필요하죠.
도구를 쓸 수 있다는 사실과 도구를 쓸 권한이 있다는 사실은 다릅니다. 모델이 무엇을 요청했는지는 판단의 재료일 뿐, 승인 자체가 되어서는 안 됩니다.
그럼 AI 에이전트는 정확히 무엇일까?
모든 에이전트가 동일한 구조를 사용하지는 않습니다. 어떤 제품은 정해진 작업 흐름을 따르고, 어떤 제품은 모델이 도구를 반복해서 선택하게 합니다. 서버가 대화 상태를 저장하는 API도 있고, 애플리케이션이 직접 상태를 관리하는 API도 있어요.
구현 방식은 달라도 모델의 판단을 실제 작업으로 연결하려면 상태를 관리하고, 도구를 실행하고, 결과를 다시 전달하는 소프트웨어가 필요합니다.
AI가 파일을 수정했다면 모델의 답변만 확인할 게 아니라, 실제로 어떤 도구가 실행됐고 결과가 어땠는지도 살펴봐야 합니다.
갑자기 추워진 날, 진주에서
진주에서 하루종일 돌아다녔다

내 단점을 커버하는 동료와 함께.
새로운 프로젝트를 함께 준비하는 친구와의 저녁. 미운 점도 고마운 점도 있지만, 결국 같이 잘됐으면 좋겠다는 마음.

순천과 여수 여행3
마지막 하루. 공부랑 런닝으로 끝내기


댓글 0
이 글에 대한 생각을 자유롭게 남겨주세요.
댓글을 불러오는 중…