환각은 거짓말이 아니라 그럴듯하게 채워진 빈칸입니다. 그래서 문장만 봐서는 알아보기 어렵고, 어디에 잘 생기는지를 알아야 찾을 수 있습니다. 이 수업에서는 환각이 잘 나타나는 자리, 앞뒤가 맞지 않는 서술을 찾는 법, 그리고 편향이 결과에 스며드는 경로를 다룹니다.
환각이 잘 생기는 자리
환각은 아무 데서나 균일하게 생기지 않습니다. 빈칸을 메워야 하는 자리에 몰립니다.
| 자리 | 왜 위험한가 | 예 |
|---|---|---|
| 구체적인 수치 | 있어야 자연스러운 자리에 없으면 채워진다 | "시장 규모는 약 1조 2천억 원" |
| 출처와 연도 | 근거처럼 보이는 형식이 요구될 때 | "2023년 ○○협회 조사에 따르면" |
| 고유명사 | 이름이 필요한 자리 | 실제로 없는 제품명, 논문 제목 |
| 인용문 | 따옴표 안이 비면 문장이 완성되지 않는다 | "○○ 대표는 이렇게 말했다" |
| 목록의 뒷부분 | 다섯 개를 요구했는데 셋만 확실할 때 | 4·5번째 항목이 흐릿하다 |
마지막 항목이 실무에서 특히 자주 나타납니다. "사례 다섯 개"를 요청하면 확실한 것이 셋뿐이어도 다섯 개가 옵니다. 개수를 지정하는 것 자체가 빈칸을 만드는 요청이기 때문입니다.
이를 줄이는 방법은 개수를 조건으로 바꾸는 것입니다. "확실한 사례만, 개수는 상관없다"거나 "다섯 개를 채우되 확신이 낮은 것은 표시해 줘"라고 하면 억지로 채우는 압력이 줄어듭니다.
한 가지 더. 환각은 낯선 분야일수록 알아보기 어렵습니다. 내가 잘 아는 분야의 결과물에서는 이상한 점이 바로 보이지만, 처음 조사하는 분야에서는 전부 그럴듯해 보입니다. 그래서 낯선 분야일수록 출처 확인 비중을 높여야 합니다.
앞뒤가 맞지 않는 서술 찾기
환각과 달리 내부 불일치는 외부 자료 없이도 찾을 수 있습니다. 결과물 안에서 서로 어긋나는 두 진술을 찾는 것입니다.
자주 나타나는 형태는 이렇습니다.
- 앞에서 "3분기 매출이 감소했다"고 하고 뒤에서 "성장세가 이어졌다"고 하는 경우
- 표의 합계와 본문의 총액이 다른 경우
- 요약 부분의 결론과 본문의 결론이 다른 경우
세 번째가 가장 놓치기 쉽습니다. 긴 문서에서 요약만 읽고 넘어가는 일이 많은데, 요약은 본문을 다시 압축하는 과정에서 방향이 미묘하게 바뀔 수 있습니다.
찾는 방법은 간단합니다. 숫자가 두 번 이상 나오면 대조하고, 결론이 두 곳에 있으면 대조합니다. 표와 본문, 요약과 본문, 도입부와 맺음말이 대상입니다.
그리고 결과물 자체에 검토를 시켜 볼 수도 있습니다. "이 문서 안에서 서로 어긋나는 진술이 있는지 찾아 줘"라고 별도로 요청하면, 작성할 때는 놓쳤던 불일치가 드러나는 경우가 있습니다. 다만 이것으로 사람 검토를 대신할 수는 없습니다. 같은 근거로 만들어진 결과라 같은 착각을 반복할 수 있기 때문입니다.
편향이 스며드는 경로
편향은 결과물이 특정 관점으로 기우는 것을 말합니다. 세 경로로 들어옵니다.
요청이 기울어 있을 때. "우리 제품이 경쟁사보다 나은 점을 정리해 줘"라고 하면 나은 점만 나옵니다. 요청 자체가 결론을 정해 놓았기 때문입니다. 이 경우는 결과물의 문제가 아니라 요청의 문제이므로, 결과만 검토해서는 발견되지 않습니다.
자료가 기울어 있을 때. 붙인 자료가 한쪽 입장만 담고 있으면 결과도 그렇게 나옵니다. 자사 홍보 자료만 붙여 놓고 객관적 비교를 기대할 수는 없습니다.
빠진 관점이 있을 때. 요청과 자료가 중립적이어도 특정 집단의 관점이 통째로 빠질 수 있습니다. 고객 대상 정책을 검토하면서 소수 사용자군의 사정이 언급되지 않는 식입니다.
세 번째가 가장 알아보기 어렵습니다. 없는 것은 눈에 띄지 않기 때문입니다. 확인하는 방법은 누가 이 결과에 영향을 받는지 목록을 먼저 만들고, 그 목록의 각 집단이 결과물에 언급되었는지 대조하는 것입니다.
요청 단계에서 균형을 요구할 수도 있습니다. "우리 제품이 불리한 점도 같은 분량으로 적어 줘"처럼 반대편을 명시적으로 요구하면 기울기가 줄어듭니다.
표현이 아니라 구조를 보기
환각을 찾을 때 흔한 함정은 표현의 자연스러움을 신뢰의 근거로 삼는 것입니다. 잘 쓰인 문장일수록 검토가 느슨해집니다.
대신 구조를 봅니다. 다음 질문이 유용합니다.
- 이 문장이 사실이라면, 그 근거는 어디에 있어야 하는가
- 그 근거가 지금 자료에 실제로 있는가
- 없다면 이 문장은 어디서 왔는가
세 번째 질문이 핵심입니다. 붙인 자료에 없는 내용이 결과에 있다면, 그것은 일반 지식이거나 추론이거나 환각입니다. 셋 중 무엇인지는 확인해야 알 수 있습니다.
그래서 검토 전에 결과물을 자료 기반 진술과 그 밖의 진술로 나눠 두면 검토 범위가 크게 줄어듭니다. 자료에 있는 것은 대조하면 되고, 나머지만 따로 확인하면 되기 때문입니다.
시험 함정
- 환각을 "거짓말"로 설명하는 선택지 — 의도가 아니라 빈칸이 그럴듯하게 메워진 결과입니다.
- 잘 쓰인 문장을 신뢰의 근거로 삼는 선택지 — 표현의 자연스러움과 사실 여부는 무관합니다.
- 개수를 지정해 요청하는 것이 안전하다는 선택지 — 개수 지정은 억지로 채우는 압력을 만듭니다.
- 결과물에 스스로 검토를 시키면 사람 검토가 필요 없다는 선택지 — 같은 착각을 반복할 수 있습니다.
- 편향이 결과물에서만 생긴다는 선택지 — 요청과 자료가 기울어 있으면 결과만 봐서는 못 찾습니다.
- 내부 불일치를 찾으려면 외부 자료가 필요하다는 선택지 — 결과물 안의 두 진술을 대조하면 됩니다.
실습 시나리오
실제 시험과 같은 형식의 시나리오 문제입니다.
신사업 조사 결과에 "2023년 업계 협회 조사에 따르면 도입률이 약 42%"라는 문장이 있습니다. 붙인 자료에는 이 수치가 없습니다. 검토자가 취할 행동으로 가장 적절한 것은 무엇입니까?
빌드 연습 · 결과물을 진술 유형별로 가르기
약 30분1.결과물 고르기
자료를 붙여 받은 결과물을 하나 골라 문장 단위로 번호를 매깁니다.
기대 결과 · 각 문장에 번호가 붙어 있습니다.
2.자료 기반과 그 밖으로 나누기
각 문장이 붙인 자료에서 확인되는지 표시합니다.
기대 결과 · 문장마다 자료에 있음·없음이 표시되어 있습니다.
3.위험 자리 표시
자료에 없는 문장 중 수치·출처·고유명사·인용이 든 것을 골라냅니다.
기대 결과 · 환각이 잘 생기는 자리에 해당하는 문장이 따로 모여 있습니다.
4.내부 불일치 대조
숫자가 두 번 이상 나오는 곳과 결론이 두 곳에 있는 곳을 서로 맞춰 봅니다.
기대 결과 · 대조한 쌍과 결과가 기록되어 있습니다.
5.빠진 관점 확인
이 결과에 영향받는 집단을 적고 각각이 언급되었는지 확인합니다.
기대 결과 · 언급되지 않은 집단이 있으면 그 목록이 남아 있습니다.