컨텍스트 엔지니어링: AI에게 어떤 정보를 언제 줄 것인가

컨텍스트는 프롬프트보다 넓습니다

Anthropic의 컨텍스트 엔지니어링 글은 지침, 도구, 외부 자료와 대화 이력 등 모델이 판단할 때 받는 정보 전체를 다룹니다. 업무가 길어지면 정보도 계속 늘어나므로 무엇을 남기고 언제 다시 가져올지를 설계해야 합니다. 이 관점은 복잡한 질문을 처리하는 사내 검색이나 코딩 에이전트에 적용해 볼 수 있습니다.

예를 들어 장애 분석 에이전트에 한 달치 로그를 그대로 전달하면 이번 배포와 관련된 오류를 찾기 어렵습니다. 발생 시각, 영향받은 서비스, 최근 변경 목록을 먼저 주고 필요한 로그 구간을 조회하게 해 보세요. 모델이 판단할 정보와 상세 원문을 구분하면 누락과 불필요한 입력을 함께 점검할 수 있습니다.

정보를 역할별로 나누면 충돌을 찾기 쉽습니다

전체 자료 대신 필요한 자료로 이동할 수 있게 합니다

처음부터 모든 파일을 넣기보다 제목, 경로, 갱신 시각과 짧은 설명을 제공하고 필요한 원문을 읽게 할 수 있습니다. 이때 검색 도구가 너무 제한적이면 에이전트가 중요한 자료를 찾지 못합니다. 검색 결과의 개수뿐 아니라 실제 정답 근거가 포함됐는지를 질문 묶음으로 확인해야 합니다.

도구 응답도 같은 원칙을 적용합니다. 전체 고객 레코드를 반환하는 대신 업무에 필요한 필드와 추가 조회용 ID를 제공합니다. 잘라낸 응답에는 생략 여부나 다음 페이지 위치를 남기세요. 일부 결과만 받았는데 전체를 확인했다고 판단하는 실패를 줄이는 데 도움이 됩니다.

대화 요약에서는 결정과 근거를 보존합니다

작업 이력을 압축할 때는 이미 시도한 방법, 실패 원인, 확정된 결정과 미해결 질문을 남기세요. 요약문만 저장하고 로그 위치를 잃으면 틀린 요약을 바로잡기 어렵습니다. 중요한 수치나 정책 문장은 원문 위치와 연결하고, 오래된 요약이 최신 자료보다 우선하지 않도록 갱신 기준을 정합니다.

컨텍스트 변경의 효과를 확인하는 방법

• 같은 질문에서 정답 근거를 찾는 비율이 나아졌는가
• 줄인 정보 때문에 예외 조건을 놓치지 않는가
• 검색·모델 응답·재시도를 포함한 시간이 개선됐는가
• 요약의 사실을 원문으로 다시 확인할 수 있는가
• 외부 문서 내용이 실행 지침처럼 취급되지 않는가