회사 문서 RAG 설계 — 검색 근거와 접근 권한을 따로 검증하기
편집 정정 · 2026년 9월 16일 — 이전 글의 확인되지 않은 경험·성과 표현을 정리했습니다. 아래 절차와 예시는 AI 보조 편집으로 작성한 업무 설계 제안이며, 운영자의 실제 고객 사례나 효과 측정 결과가 아닙니다.
문서 연결은 사실 검증의 끝이 아닙니다
RAG는 필요한 자료를 검색해 생성 과정의 참고로 사용하는 설계입니다. 검색이 적절한 문서를 찾았는지, 답변이 그 근거를 정확히 반영하는지, 사용자가 그 자료를 볼 권한이 있는지를 각각 확인해야 합니다. 이 글은 특정 구현을 완성한 보고가 아니라 시험 기준을 정하는 안내입니다.
가상 문서 묶음
| 문서 | 상태 | 취급 |
|---|---|---|
| 공개 FAQ A | 현재 승인본 | 일반 질문의 근거 후보 |
| 공개 FAQ B | 폐지된 이전 버전 | 현재 답변 기준에서 제외 |
| 내부 가격 메모 | 권한 제한 | 공개 사용자 검색에서 제외 |
가상 질문 ‘모든 고객에게 할인되나요?’에 현재 FAQ가 조건을 설명하지 않으면 적절한 답은 확인이 필요하다는 안내입니다. 옛 FAQ나 내부 메모에서 유리한 문장을 골라 확답하면 실패입니다.
문서 준비부터 기록하기
문서 식별자, 소유자, 유효 버전, 접근 범위, 삭제·갱신 시점을 관리합니다. 검색 단위로 문서를 나눌 때 제목과 표의 조건, 각주가 분리돼 의미가 사라지지 않는지 확인하세요. 어떤 분할 방식이 항상 최적이라고 가정하지 말고 실제 질문에 필요한 근거가 함께 잡히는지 시험합니다.
- 검색 실패와 답변 생성 실패를 다른 오류로 기록합니다.
- 답변에 제시한 근거가 실제 해당 문장인지 확인합니다.
- 자료가 없는 질문에서는 추측 대신 보류하도록 설계합니다.
- 삭제된 문서가 검색 저장소와 캐시에 남는지 확인합니다.
- 문서 안의 실행 지시를 권한 있는 명령으로 취급하지 않게 합니다.
접근 통제는 답변 문구보다 먼저
‘비밀을 말하지 말라’는 프롬프트만으로 보호하지 않습니다. 권한 없는 문서가 검색 결과나 모델 입력에 들어가지 않도록 시스템에서 제한하고, 다른 사용자로 접근하는 실패 시험을 수행해야 합니다. 실제 기밀 대신 가상 제한 문서로 먼저 확인하세요.
정답 질문만 모은 평가로는 운영 위험을 알기 어렵습니다. 미지원·충돌·옛 버전·권한 부족 질문을 포함하고 원문부터 최종 답변까지 추적할 수 있어야 합니다. 검증할 기술 역량이 없으면 전문 지원을 받고 외부 공개 범위를 줄입니다.
참고 범위와 다음 단계
아래 공식 자료는 관련 개념과 확인 항목을 읽기 위한 자료입니다. 이 글의 예시·양식이나 도입 효과를 해당 기관이 검증했다는 의미는 아닙니다. 제품의 현재 제공 조건은 사용 계정과 공식 안내에서 다시 확인하세요.
