AI 에이전트 입문 — 답변하는 도구와 실행하는 도구의 차이
편집 정정 · 2026년 9월 16일 — 이전 글의 확인되지 않은 경험·성과 표현을 정리했습니다. 아래 절차와 예시는 AI 보조 편집으로 작성한 업무 설계 제안이며, 운영자의 실제 고객 사례나 효과 측정 결과가 아닙니다.
도구가 무엇을 말하는지와 무엇을 바꾸는지 구분하세요
AI 에이전트라는 이름은 제품마다 넓게 사용됩니다. 이 글에서는 요청을 받아 여러 작업을 진행하고 연결된 도구를 호출할 수 있는 시스템을 가리킵니다. 이름보다 중요한 것은 실제 권한입니다. 문장을 제안하는 기능과 일정 등록, 메일 발송, 파일 수정처럼 외부 상태를 바꾸는 기능은 위험이 다릅니다.
가상 일정 보조 업무를 네 단계로
| 단계 | 할 수 있는 일 | 첫 시험의 통제 |
|---|---|---|
| 읽기 | 허용한 가상 일정표 확인 | 시험 자료 밖 접근 제외 |
| 제안 | 가능한 시간 후보 작성 | 시간대·충돌 근거 표시 |
| 변경 | 실제 일정 생성·수정 | 첫 시험에서는 차단 |
| 발송 | 초대장 전송 | 수신자·내용 승인 후 별도 수행 |
설명용 입력과 기대 동작
가상 요청이 ‘다음 주 수요일 오후에 회의를 잡아 줘’라고 가정합니다. 시간대, 참석자, 길이가 없으므로 바로 일정을 등록하는 것이 아니라 필요한 정보를 물어야 합니다. 예상 출력은 ‘회의 시간대·소요 시간·참석자를 확인해 주세요’입니다. 이것은 실제 에이전트 시험 결과가 아닙니다.
다음 시험에는 같은 요청을 두 번 전달합니다. 실제 일정 등록 단계까지 확장했다면 중복 등록을 막는 식별 기준과 기록이 필요합니다. 모델이 “이미 처리했습니다”라고 말하는 것과 시스템에 실제로 한 건만 등록된 것은 별개이므로 대상 시스템에서도 확인해야 합니다.
실행 전에 확인할 질문
- 어떤 계정으로 어떤 데이터와 도구에 접근하는가?
- 읽기와 쓰기 권한을 분리할 수 있는가?
- 외부 발송 전에 승인자가 대상·내용을 볼 수 있는가?
- 중간 실패 때 재실행하면 같은 일이 중복되는가?
- 실행 기록으로 실제 변경 사항을 추적할 수 있는가?
- 문제가 생겼을 때 연결을 끊고 기존 방식으로 처리할 수 있는가?
처음부터 결제나 삭제까지 맡길 필요는 없습니다. 읽기 전용 자료로 제안의 품질을 확인하고 필요한 동작만 좁게 추가하세요. 사용자 요청처럼 보이는 문장이 외부 문서에 포함될 수도 있으므로 문서의 내용과 실행 권한을 주는 지시를 구분하는 설계가 필요합니다.
편리한 자동 실행을 목표로 삼더라도 완료 보고와 실제 결과가 일치하는지 확인하는 책임은 남습니다. 운영 기록 없이 ‘알아서 처리한다’는 설명만으로 도입을 결정하지 마세요.
참고 범위와 다음 단계
아래 공식 자료는 관련 개념과 확인 항목을 읽기 위한 자료입니다. 이 글의 예시·양식이나 도입 효과를 해당 기관이 검증했다는 의미는 아닙니다. 제품의 현재 제공 조건은 사용 계정과 공식 안내에서 다시 확인하세요.
