• Knowledge

AI에게 도구를 많이 연결하면 왜 오히려 일을 못할까?

AI 도구의 설명과 연결 규격, 지연 로딩, 권한 경계가 작업 정확도에 어떤 영향을 주는지 살펴봅니다.

시리즈15편 중 4편AI 에이전트는 어떻게 일할까
  1. 01AI는 어떻게 대답만 하다가 실제로 일을 처리하게 될까?
  2. 02AI 에이전트는 왜 같은 작업을 계속 반복할까?
  3. 03AI는 방금 읽은 파일을 왜 다시 찾아볼까?
  4. 04AI에게 도구를 많이 연결하면 왜 오히려 일을 못할까?읽는 중
  5. 05AI에게 문서를 검색하게 해도 왜 틀린 답을 할까?
  6. 06AI가 코드를 고쳤다면 바로 실행해도 될까?
  7. 07AI가 응답하지 않아 다시 실행했는데, 왜 작업이 두 번 처리될까?
  8. 08AI 여러 명을 동시에 투입하면 개발이 더 빨라질까?
  9. 09AI가 이상한 행동을 했을 때 어디부터 디버깅해야 할까?
  10. 10AI와 대화할 때 실제로 어떤 데이터가 오갈까?
  11. 11AI는 왜 대화가 길어질수록 비용이 많이 들까?
  12. 12AI 에이전트를 여러 개 만드는 진짜 이유는 무엇일까?
  13. 13AI가 작업하는 도중 상황이 바뀌면 어떻게 알까?
  14. 14AI 에이전트에 새로운 능력을 추가하는 방법은?
  15. 15AI 에이전트를 직접 만든다면 어떤 코드가 필요할까?

사내 AI 도우미에 캘린더, 메일, 문서, 데이터베이스를 연결했다고 해볼게요. 할 수 있는 일이 많아지니 더 똑똑해질 것 같지만, 엉뚱한 도구를 고르거나 같은 이름의 기능을 혼동하는 일이 생길 수도 있습니다.

도구가 많아질수록 모델이 각 도구의 역할을 구분할 수 있는 설명과 선택 범위가 중요해집니다.

도구를 많이 연결하는 것보다 현재 작업에 맞는 도구를 정확히 보여 주는 게 중요하다.

AI는 함수 이름만 보고 도구를 고를까?

도구 호출을 지원하는 모델에는 사용 가능한 도구의 이름, 설명, 인자 형식 등을 알려 줄 수 있습니다. 모델은 현재 작업과 이 정보를 바탕으로 도구 호출을 제안하죠.

다음 두 가지 설명을 비교해 볼까요?

Plain Text
search(query): 검색합니다.

search_invoice(query, period):
  사용자가 접근 가능한 영수증에서
  결제처나 금액으로 항목을 찾습니다.
  조회 작업만 수행하며 수정은 하지 않습니다.

두 번째 설명은 검색 대상, 조건, 권한, 부작용이 더 분명합니다. 모델이 이 기능을 선택할 근거도 늘어나죠.

그렇다고 설명을 길게 쓴다고 항상 좋은 것은 아니에요. 매번 너무 많은 도구 정의를 보내면 입력이 커지고, 비슷한 기능들 사이에서 구분하기가 어려워질 수 있습니다.

좋은 도구 설명은 무엇을 찾고 무엇을 바꾸지 않는지까지 알려 준다.

연결 규격이 통일되면 선택 문제도 해결될까?

여러 프로그램의 도구를 연결할 때 등장하는 규격 중 하나가 MCP(Model Context Protocol)입니다. MCP는 AI 애플리케이션과 외부 도구·자료 제공 프로그램이 서로 어떤 기능을 제공하고 어떻게 호출하는지 통신할 수 있게 해 줍니다.

예를 들어 메모 관리 서버가 list_notes와 get_note를 제공하고, 캘린더 서버가 list_events를 제공한다고 합시다. AI 애플리케이션은 각 서버와 약속된 통신 방식으로 기능을 발견하고 호출할 수 있습니다.

하지만 MCP를 쓴다는 사실만으로 모델이 도구를 올바르게 고르거나 안전하게 실행하는 것은 아닙니다. 표준화된 연결 방식과 사용 권한, 모델의 선택 정확도는 서로 다른 문제예요.

MCP는 외부 도구의 연결을 표준화하지만 호출 허가는 별도 검사가 필요하다.

수백 개 도구를 한 번에 보여 주지 않는 방법

모든 기능의 자세한 설명을 매번 모델에 전달할 필요는 없습니다. 먼저 기능을 범주로 나누고, 사용자의 요청과 관련된 범주를 고른 뒤, 그 안의 도구만 알려 주는 구조를 만들 수 있어요.

예를 들어 “지난주 회의 일정을 정리해 줘”라면 처음에는 캘린더 관련 기능만 보여 줍니다. 나중에 “이 결과를 메일로 보내 줘”라는 요청이 생기면 그때 메일 기능을 노출하는 식입니다.

Plain Text
사용자 요청
   ↓
관련 기능군 탐색
   ↓
사용할 도구 설명 로드
   ↓
모델이 호출 제안
   ↓
권한 검사 후 실행

이런 방식을 지연 로딩이라고 부를 수 있습니다. 단, 기능 분류가 잘못되면 필요한 도구를 아예 못 보여 줄 수 있다는 대가가 있어요. 사용자가 범주를 바꾸거나, 검색 결과가 없을 때 다시 탐색할 길을 남겨 두어야 합니다.

모든 도구 설명을 한꺼번에 보내는 대신 필요한 기능만 펼쳐 보여 줄 수 있다.

도구 설명은 신뢰할 수 있는 지시문일까?

외부에서 받은 도구 설명도 검증 대상입니다. 악의적이거나 잘못 설정된 서버가 불필요한 권한을 요구하거나 위험한 기능을 정상적인 도구처럼 소개할 수 있어요.

따라서 연결 전에는 어떤 서버인지 확인하고, 허용할 도구 범위를 정하며, 실제 호출 시 인자와 사용자 권한을 검사해야 합니다. 또한 민감한 도구에 대해서는 승인 단계를 두는 편이 좋습니다.

모델에 보여 주는 도구와 실제로 허용할 작업의 범위를 함께 관리해야 합니다. 도구가 연결돼 있더라도 모든 호출을 허용할 필요는 없습니다.

도구를 늘리기 전에 설명부터 살펴보자

에이전트의 도구 설계는 프로그램의 API 설계와 닮았습니다. 이름을 정확하게 짓고, 입력을 제한하고, 부작용을 설명하고, 실패를 이해할 수 있는 형태로 반환해야 하죠.

도구가 너무 많아 혼란스럽다면 모델을 교체하기 전에 먼저 확인해 보세요. 지금 작업과 관계없는 도구까지 모두 노출하고 있지는 않은지, 서로 다른 기능이 같은 설명을 쓰고 있지는 않은지 말이에요.

도구를 몇 개 연결했는지보다 각 도구를 언제 써야 하는지, 어디까지 실행할 수 있는지가 더 중요합니다.

댓글 0

이 글에 대한 생각을 자유롭게 남겨주세요.

댓글 관련 문의

댓글을 불러오는 중…

갑자기 추워진 날, 진주에서

진주에서 하루종일 돌아다녔다

양승민

내 단점을 커버하는 동료와 함께.

새로운 프로젝트를 함께 준비하는 친구와의 저녁. 미운 점도 고마운 점도 있지만, 결국 같이 잘됐으면 좋겠다는 마음.

양승민

순천과 여수 여행3

마지막 하루. 공부랑 런닝으로 끝내기

양승민
See all