에이전틱스
도메인 2. 출력 평가와 검증

2.3사실 확인과 검증 기법

예상 학습 시간 33

모든 문장을 확인할 수는 없으므로 무엇을 확인할지 고르는 일이 검증의 절반입니다. 이 수업에서는 확인 대상을 고르는 기준, 출처가 붙어 있을 때 무엇까지 봐야 하는지, 그리고 확인이 불가능할 때의 처리 방법을 다룹니다.

무엇을 확인할지 고르기

결과물 전체를 검증하는 것은 대개 불가능합니다. 그래서 확인 대상을 고르는 기준이 필요합니다. 두 축으로 판단합니다.

틀렸을 때 손해가 크다손해가 작다
확인이 쉽다무조건 확인시간 남으면 확인
확인이 어렵다확인하거나, 못 하면 빼기표시만 하고 넘어감

왼쪽 위 칸이 우선입니다. 여기에 해당하는 대표적인 것이 밖으로 나가는 수치입니다. 고객 안내문의 금액, 보도자료의 실적, 제안서의 기간 같은 것들입니다. 확인도 비교적 쉽고 틀리면 손해가 큽니다.

왼쪽 아래 칸이 판단이 필요한 자리입니다. 확인하기 어려운데 중요한 내용이라면 선택지는 둘뿐입니다. 시간을 들여 확인하거나, 그 문장을 빼는 것입니다. 확인하지 않은 채 그대로 두는 것은 선택지가 아닙니다.

실무에서는 이 구분을 미리 정해 두면 편합니다. 예를 들어 팀 규칙으로 "외부에 나가는 문서의 숫자는 전부 원자료 대조"를 정해 두면 매번 판단할 필요가 없습니다.

출처가 붙어 있을 때

출처가 함께 나왔다고 확인이 끝난 것은 아닙니다. 세 단계를 봐야 합니다.

  1. 그 출처가 실제로 존재하는가 — 없는 보고서나 논문이 인용될 수 있습니다
  2. 그 출처에 그 내용이 있는가 — 존재하는 자료인데 내용이 다를 수 있습니다
  3. 맥락이 유지되었는가 — 내용은 맞는데 조건이 빠진 경우입니다

3번이 가장 자주 놓칩니다. 원문이 "수도권 대기업 기준 도입률 42%"인데 결과물에는 "도입률 42%"로만 적히는 식입니다. 숫자도 맞고 출처도 맞지만 적용 범위가 사라져 전혀 다른 주장이 됩니다.

링크가 붙어 있을 때도 마찬가지입니다. 링크가 열린다고 해서 그 페이지에 해당 내용이 있다는 뜻은 아닙니다. 열어서 해당 문장을 찾아봐야 확인입니다.

확인을 쉽게 하려면 요청 단계에서 원문 구절을 함께 뽑아 달라고 하는 방법이 있습니다. 자료를 붙여 요청할 때 "각 주장마다 근거가 된 원문 구절을 그대로 인용해 줘"라고 하면, 대조 시간이 크게 줄어듭니다.

교차 확인의 한계

같은 질문을 여러 번 물어 답이 같으면 맞다고 보는 방법이 있습니다. 이 방법은 부분적으로만 유효합니다.

답이 매번 다르게 나온다면 그 내용은 확실히 불안정합니다. 이건 유용한 신호입니다. 하지만 답이 매번 같다고 해서 사실인 것은 아닙니다. 같은 근거에서 나온 같은 착각일 수 있습니다.

특히 널리 퍼진 잘못된 정보는 일관되게 반복됩니다. 오래 인용되어 온 통계가 실제로는 출처가 불분명한 경우가 그렇습니다. 이런 내용은 몇 번을 물어도 같은 답이 나오지만 확인해 보면 근거가 없습니다.

그래서 교차 확인은 불안정한 내용을 걸러내는 용도로 쓰고, 확정하는 용도로는 쓰지 않습니다. 확정은 원자료 대조로만 합니다.

다른 각도로 물어보는 방법은 조금 낫습니다. "이 주장에 반대되는 근거가 있는가"라고 물으면 한쪽만 보던 시야가 넓어지는 경우가 있습니다. 다만 이것도 확정 수단은 아닙니다.

확인이 불가능할 때

확인할 방법이 없는 내용이 남을 때가 있습니다. 내부 자료가 없거나, 원문이 유료이거나, 시간이 없는 경우입니다.

이럴 때 선택지는 세 가지입니다.

선택언제 쓰는가함께 해야 할 일
뺀다그 내용 없이도 결론이 서는 경우없음
표시하고 남긴다참고 자료이고 읽는 사람이 판단할 수 있는 경우"확인 필요" 명시
확인될 때까지 보류결정의 근거가 되는 경우언제까지 확인할지 정하기

가장 나쁜 것은 확인하지 않은 채 확인한 것처럼 넘기는 것입니다. 표시 없이 남기면 다음 사람은 그것이 검증된 내용이라고 여깁니다. 문서가 여러 손을 거칠수록 이 위험이 커집니다.

표시는 문서에 남겨야 합니다. 머릿속에만 있으면 전달되지 않습니다. "이 수치는 확인 전"이라는 한 줄이 나중에 큰 문제를 막습니다.

시험 함정

  • 출처가 붙어 있으면 확인이 끝났다고 보는 선택지 — 존재·내용·맥락 세 단계를 봐야 합니다.
  • 같은 답이 반복되면 사실로 간주하는 선택지 — 같은 근거의 같은 착각일 수 있습니다.
  • 결과물 전체를 검증해야 한다는 선택지 — 손해와 확인 난이도로 대상을 골라야 합니다.
  • 링크가 열리면 확인된 것으로 보는 선택지 — 해당 문장을 찾아봐야 확인입니다.
  • 확인 못 한 내용을 표시 없이 남겨도 된다는 선택지 — 다음 사람이 검증된 내용으로 여깁니다.
  • 원문 조건을 생략해도 수치가 맞으면 된다는 선택지 — 적용 범위가 빠지면 다른 주장이 됩니다.

실습 시나리오

실제 시험과 같은 형식의 시나리오 문제입니다.

보고서 초안에 "도입률 42%"가 있고 출처 링크도 붙어 있습니다. 링크를 열어 보니 실제 문서였고 해당 수치도 있었습니다. 그런데 원문에는 "수도권 대기업 기준"이라는 조건이 붙어 있습니다. 어떻게 처리해야 합니까?

빌드 연습 · 확인 대상 고르고 대조하기

30
  1. 1.검증 대상 뽑기

    결과물에서 사실 주장에 해당하는 문장을 모두 골라 목록으로 만듭니다.

    기대 결과 · 의견과 사실 주장이 구분되어 사실 주장만 모여 있습니다.

  2. 2.두 축으로 분류

    각 문장을 손해 크기와 확인 난이도로 네 칸에 배치합니다.

    기대 결과 · 네 칸에 문장이 나뉘어 있고 우선순위가 보입니다.

  3. 3.우선 대상 대조

    손해가 크고 확인이 쉬운 항목부터 원자료와 맞춰 봅니다.

    기대 결과 · 각 항목에 대조 결과와 확인한 자료가 적혀 있습니다.

  4. 4.맥락 확인

    확인된 수치에 원문의 조건이 함께 옮겨졌는지 봅니다.

    기대 결과 · 조건이 빠진 문장이 있으면 표시되어 있습니다.

  5. 5.미확인 처리

    확인하지 못한 항목을 빼기·표시·보류 중 하나로 처리합니다.

    기대 결과 · 각 미확인 항목의 처리 방식과 이유가 문서에 남아 있습니다.

출처 및 더 읽기