컨텍스트 관리와 신뢰성

컨텍스트 윈도우(context window)는 Claude가 한 번에 볼 수 있는 정보의 총량이며, 에이전틱 시스템의 성능과 비용을 좌우하는 핵심 자원입니다. 이 수업에서는 토큰 예산 수립, 긴 컨텍스트 배치 전략, 압축(compaction)의 함정, 프롬프트 캐싱(prompt caching)까지 컨텍스트를 자원으로 다루는 방법을 배웁니다.

에이전트가 모든 상황을 스스로 판단하게 두면 잘못된 가정 위에 작업을 쌓고, 모든 것을 물어보게 하면 자동화의 의미가 사라집니다. 이 수업에서는 진행과 질문의 기준선을 설계하는 방법, 모호한 지시의 처리 전략, 사람에게 에스컬레이션(escalation)하는 구조를 다룹니다.

다단계 에이전틱 파이프라인에서는 한 단계의 작은 오류가 후속 단계로 전파되며 눈덩이처럼 커집니다. 이 수업에서는 오류 복리 효과의 구조, 단계 간 검증 게이트, 재시도 전략, 그리고 실패를 모델에게 유용하게 되돌려주는 방법을 배웁니다.

에이전트가 대규모 코드베이스를 다룰 때 전체를 읽는 것은 불가능하고, 무작정 검색하는 것은 비효율적입니다. 이 수업에서는 에이전틱 검색(agentic search)의 동작 원리, 점진적 공개(progressive disclosure) 전략, 탐색 작업을 서브에이전트로 격리해 컨텍스트를 보호하는 방법을 다룹니다.

AI 산출물을 어디까지 사람이 검토해야 하는지는 신뢰성 설계의 마지막 관문입니다. 이 수업에서는 위험도 기반 검토 계층 설계, 자동화율을 안전하게 올리는 캘리브레이션 과정, LLM 심사자(LLM-as-judge)의 활용과 한계를 다룹니다.

에이전트의 답변은 모델의 사전 지식, 제공된 문서, 툴 결과, 사용자 입력이 섞여 만들어집니다. 이 수업에서는 정보의 출처(provenance)를 구분·표시하는 방법, 근거 강제와 인용으로 환각을 줄이는 기법, 신뢰할 수 없는 콘텐츠를 데이터로 다루는 프롬프트 인젝션(prompt injection) 방어를 배웁니다.