거버넌스와 안전, 리스크 관리

가드레일(guardrail)은 프롬프트에 적는 한 줄의 금지 문구가 아니라, 입력·권한·출력·감사에 걸쳐 겹으로 쌓는 통제 구조입니다. 이 수업에서는 계층 방어의 각 층이 막는 위협이 서로 다르다는 점과, 어느 층이 비면 어떤 사고가 나는지를 다룹니다.

LLM 시스템의 실패는 틀린 답 하나로 끝나지 않습니다. 이 수업에서는 실패를 유형별로 나누어 보는 틀과, 에이전트 구조에서만 나타나는 고유한 실패, 그리고 이를 아키텍처 산출물로 정리하는 방법을 다룹니다.

사람을 개입시키는 것은 안전 장치이지만, 잘못 설계하면 형식적인 승인 절차로 굳어 아무것도 막지 못합니다. 이 수업에서는 개입 지점의 선택 기준과 승인 피로 문제, 검토자에게 제공해야 할 정보, 그리고 개입 자체를 지표로 관리하는 방법을 다룹니다.

GDPR·HIPAA·FedRAMP 같은 규제는 아키텍트에게 법 조문이 아니라 설계 제약으로 도착합니다. 이 수업에서는 규제 요구를 데이터 흐름·보관·삭제·감사 설계로 번역하는 방법을 다룹니다. 법적 해석과 준수 판단은 법무와 컴플라이언스 검토의 몫이며, 이 수업은 설계 관점만 다룹니다.

윤리적 고려사항은 선언문으로 해결되지 않고 측정과 절차로만 관리됩니다. 이 수업에서는 편향이 시스템에 들어오는 지점 중 아키텍트가 통제할 수 있는 것, 공정성을 지표로 다루는 방법, 그리고 투명성을 사용자 경험과 조직 절차로 구현하는 방법을 다룹니다.