AI 답변 화면의 신뢰 설계: 출처·불확실성·수정 경로 보여주기

답변이 하는 일에 따라 설명도 달라집니다

조사 에이전트와 업무용 AI가 문서를 만들고 실제 작업을 돕게 되면서 답변 화면의 역할도 커지고 있습니다. Google PAIR 가이드는 사용자의 이해와 결정에 필요한 설명, 피드백과 제어를 다룹니다. 모든 내부 과정을 길게 보여주는 대신 사용자가 무엇을 근거로 판단해야 하는지 먼저 정하는 접근이 유용합니다.

제품 매뉴얼을 찾는 직원에게는 출처와 적용 모델이 중요하고, 승인 요청을 검토하는 관리자에게는 변경 대상과 영향이 중요합니다. 같은 답변 UI를 모든 업무에 적용하면 필요한 정보가 묻힐 수 있습니다. 사용자 역할과 답변 뒤에 이어지는 행동을 기준으로 화면의 우선순위를 정하세요.

출처 링크는 주장과 연결돼야 합니다

답변 끝에 문서 제목을 몰아두기보다 어떤 설명을 뒷받침하는지 알 수 있게 표시합니다. 긴 PDF라면 관련 페이지나 절로 이동하고, 원문의 날짜와 버전을 확인할 수 있도록 하세요. 출처의 표현과 모델의 해석이 다르다면 그 차이가 보이도록 요약과 직접 확인 경로를 함께 제공합니다.

인용 링크가 열리지 않거나 자료가 삭제됐을 때의 화면도 필요합니다. 이전에 확인한 내용을 현재 사실처럼 보여주지 않도록 상태를 표시하고, 사용자가 원문에 접근할 권한이 있는지도 확인합니다. 접근 불가가 곧 내용의 오류를 뜻하는 것은 아니므로 이유와 다음 행동을 구분해 안내합니다.

불확실성은 행동할 수 있는 설명으로 바꿉니다

검증되지 않은 '신뢰도 95%' 같은 숫자를 넣으면 사용자가 보장으로 받아들일 수 있습니다. 자료가 없거나 기준이 모호하다면 어떤 조건이 빠졌는지, 무엇을 추가로 확인해야 하는지 설명하세요. 모델이 스스로 말한 확신과 실제로 측정한 정확도를 구분하는 것이 출발점입니다.

오류 신고 버튼에는 가능하면 유형과 근거를 선택할 방법을 둡니다. 날짜가 오래됨, 다른 상품 설명, 계산 오류와 표현이 어려움은 수정할 담당과 방법이 다릅니다. 사용자가 남긴 수정 제안도 곧바로 공용 지식에 적용하지 않고 원자료와 권한을 확인한 뒤 반영합니다.

접수 이후의 결과를 확인할 수 있게 합니다

업무상 중요한 오류라면 신고가 접수됐는지, 임시로 답변을 제한했는지와 수정이 완료됐는지를 보여줄 수 있습니다. 같은 피드백이 반복되면 화면 문제인지 검색 자료 문제인지 분류하세요. 시범 평가에는 답변의 정답률뿐 아니라 사용자가 오류를 발견하고 필요한 조치를 취할 수 있는지도 포함합니다.

• 답변별 핵심 근거로 바로 이동할 수 있는가
• 부족한 정보와 추가 확인 방법이 보이는가
• 피드백의 유형·담당·처리 상태가 연결되는가
• 잘못된 답변에서 안전하게 다음 행동을 선택할 수 있는가