6.4책임 있는 사용을 위한 판단

편향은 추상적인 문제가 아니라 결과물에 구체적으로 나타납니다.

상황	나타나는 모습
채용 공고 문구를 다듬을 때	특정 성별이나 연령을 연상시키는 표현이 남는다
고객 사례를 만들 때	예시 인물이 한쪽 특성으로 몰린다
지역·업종별 분석을 할 때	자료가 많은 쪽만 자세하고 나머지는 뭉뚱그려진다
우선순위를 매길 때	목소리 큰 집단의 요구가 위로 온다

세 번째가 특히 알아채기 어렵습니다. 자료가 적은 대상은 결과에서 조용히 얕게 다뤄집니다. 틀린 말은 없는데 특정 집단에 대한 내용만 빈약한 상태가 됩니다.

확인하는 방법은 결과에 등장하는 대상의 분포를 세어 보는 것입니다. 예시 인물이 다섯 명 나왔다면 어떤 특성으로 구성되어 있는지, 지역 분석이라면 어느 지역이 몇 줄씩 다뤄졌는지 보면 기울기가 드러납니다.

기울기를 발견하면 요청 단계에서 교정합니다. "각 지역을 같은 분량으로 다루고 자료가 부족한 지역은 부족하다고 명시해 줘"처럼 적으면 됩니다.

결과물에 도움을 받았다는 사실을 밝힐지는 상황에 따라 다릅니다. 판단 기준은 받는 사람이 그 사실을 알면 다르게 판단할까입니다.

상황	대체로
내부 초안·메모	밝힐 필요 적음
대외 발송 문서	조직 규칙을 따름
전문성을 근거로 하는 문서	밝히는 편이 안전
개인의 창작으로 제출하는 것	반드시 확인

세 번째가 판단이 필요한 자리입니다. 상대가 "이 사람의 전문적 판단"으로 받아들이는 문서라면, 어떻게 만들어졌는지가 신뢰에 영향을 줍니다.

네 번째는 규칙의 영역입니다. 학위 과제나 공모전처럼 개인의 작업임을 전제하는 곳은 주최 측 규정을 확인해야 합니다. 규정이 금지하는데 쓰면 자격 문제가 됩니다.

애매하면 밝히는 쪽이 안전합니다. 밝혀서 문제가 되는 경우는 드물지만, 숨겼다가 드러나면 결과물 자체의 신뢰까지 무너집니다.

사람의 기회나 처우에 영향을 주는 결정에는 지켜야 할 선이 있습니다.

• 결정 자체를 넘기지 않는다. 자료 정리와 선택지 비교까지가 범위입니다
• 근거를 설명할 수 있어야 한다. 왜 그런 결론인지 사람이 설명하지 못하면 그 결정은 쓸 수 없습니다
• 당사자가 이의를 제기할 통로가 있어야 한다.

두 번째가 실무에서 중요합니다. 결과가 그럴듯해서 그대로 받아들였는데 나중에 "왜 이렇게 됐냐"는 질문에 답하지 못하면, 그 결정은 정당성을 잃습니다. 설명할 수 없는 결론은 쓰지 않는 것이 기준입니다.

세 번째는 절차의 문제입니다. 영향을 받는 사람이 문제를 제기할 수 있어야 하고, 그 제기가 실제로 검토되어야 합니다.

이 세 가지는 사람이 판단할 때도 지켜야 하는 것들입니다. 도구를 쓴다고 해서 기준이 낮아지지 않습니다.

윤리적으로 애매한 상황에서 쓸 수 있는 질문들이 있습니다.

• 이 결과에 영향을 받는 사람이 이 과정을 알면 어떻게 느낄까
• 내가 이 결과를 받는 쪽이라면 괜찮을까
• 이 방식이 널리 퍼지면 무엇이 달라질까
• 지금 아무도 모르게 하고 있는 것이 있는가

마지막 질문이 가장 실용적입니다. 숨기고 있다는 감각이 있다면 대개 그 자체가 신호입니다.

세 번째 질문도 유용합니다. 한 사람이 하면 별문제 없어 보여도 모두가 하면 곤란한 일이 있습니다. 예를 들어 저작권이 있는 자료를 참고용으로 쓰는 것과 그것을 그대로 배포하는 것은 다릅니다.

그리고 혼자 판단하지 않아도 됩니다. 애매한 상황은 대체로 다른 사람도 겪었거나 겪을 일입니다. 팀에서 한 번 이야기해 두면 기준이 생기고, 다음에는 고민하지 않아도 됩니다.