RAG 검색 품질 높이기: 하이브리드 검색·청킹·재정렬의 역할

답변이 틀리면 검색 결과부터 확인합니다

RAG는 관련 자료를 검색해 모델의 답변 근거로 제공하는 방식입니다. Microsoft의 Azure AI Search 문서는 키워드와 벡터 검색을 결합하는 하이브리드 검색을 설명합니다. 제품 코드나 고유명처럼 정확히 일치해야 하는 정보와 표현이 달라도 의미가 같은 질문을 함께 다룰 때 검토할 수 있습니다.

예를 들어 'AX-104 오류'와 '장비가 연결 직후 꺼져요'는 서로 다른 검색 특성을 가집니다. 전자는 코드의 정확한 일치가 중요하고 후자는 유사한 증상의 설명이 필요합니다. 같은 질문 묶음으로 키워드, 벡터와 결합 검색을 비교하면 어떤 유형에서 자료를 놓치는지 보입니다.

문서를 자를 때 의미와 출처를 남깁니다

문서 조각에 '이 경우에는 7일 이내'라는 문장만 남으면 대상 업무가 무엇인지 알기 어렵습니다. 제목, 절 이름, 표의 머리글과 문서 버전을 함께 관리하세요. Anthropic의 Contextual Retrieval은 조각에 문맥 정보를 보태는 접근을 소개합니다. 적용할 때에는 원문에 없는 사실이 추가되지 않았는지도 확인해야 합니다.

재정렬은 후보를 찾은 다음의 문제를 해결합니다

재정렬 모델은 검색된 후보를 질문과 비교해 순서를 조정합니다. 처음 검색에서 빠진 문서를 자동으로 복구해 주는 것은 아니므로 후보 단계의 누락과 순위 문제를 구분하세요. 후보를 늘리면 관련 자료가 들어올 가능성과 함께 처리 시간·비용도 변하므로 업무 질문으로 적정 범위를 찾아야 합니다.

권한과 문서 갱신은 검색 품질의 일부입니다

사용자가 볼 수 없는 문서가 모델 입력에 들어가면 최종 답변에서 숨기는 것만으로 충분하지 않습니다. 권한을 기준으로 검색 대상을 제한하고 문서 삭제나 접근권 변경이 검색 저장소에도 반영되게 하세요. 답변에는 확인 가능한 문서명과 위치를 연결하고 근거가 부족한 경우 그 한계를 안내합니다.

검색 개선 전후 검수표

• 대표 질문마다 정답 근거 문서가 지정되어 있는가
• 검색 누락과 잘못된 요약을 구분해 집계하는가
• 최신·폐기 문서가 구별되는가
• 표와 문단의 문맥이 분할 후에도 유지되는가
• 권한이 다른 사용자로 같은 질문을 검수했는가