개념은 알겠는데 문맥은 왜 못쓰나요?
AI Coding Assistant에서 Context Engineering(컨텍스트 엔지니어링)은 "모델에 가장 관련성이 높은 정보를 제공하는 방법"으로 설명되는 경우가 많습니다. 그러나 편집기를 열면 다음 질문이 즉시 제기됩니다. 어떤 파일을 포함해야 합니까? 토큰 내역 중 어느 정도가 포함되어야 합니까? 오류 로그를 함께 제공하시겠습니까?
첫 번째이자 가장 일반적인 막힌 점은 Context Engineering를 모델 미세 조정으로 처리한다는 것입니다. 실제로 이는 교육과는 아무런 관련이 없으며 현재 대화 또는 에이전트 루프에서 기존 정보를 구성하는 방법만 있습니다. 즉, GPU가 필요하지 않고 재교육도 필요하지 않으며 구조화된 선택, 주입 및 업데이트 규칙 세트만 있으면 됩니다.
두 번째 난점은 전체 코드 베이스를 한 번에 집어넣으려고 한다는 것입니다. 많은 초보자는 프로젝트의 모든 디렉토리 구조, README 및 수십 개의 파일을 결합합니다. 결과적으로 토큰 창을 초과하거나 모델이 핵심 사항을 전혀 파악할 수 없습니다.
첫 번째 단계: 먼저 콘텐츠 주입 레이어 구축
유효한 Context Engineering에는 획득 계층, 필터링 계층 및 주입 계층의 세 가지 계층이 필요합니다. 첫 번째 레이어는 후속 품질을 직접 결정하지만 대부분의 사람들은 마지막 레이어에 더 많은 관심을 기울입니다.
획득 계층의 핵심은 "수동적 접합이 아닌 능동적 획득"입니다. 코딩 시나리오에서는 어떤 데이터가 필요한지 명확하게 정의해야 합니다.
- 현재 열려 있는 파일과 마지막 20~50줄의 변경 내용(전체 파일 기록이 아님)
- 현재 컴파일 오류 또는 린터 경고의 실시간 출력(없으면 건너뛰기)
- 가장 최근의 git diff에 대한 간략한 설명(컨텍스트 변경 사항을 이해하는 데 필요한 경우)
- 사용자의 마지막 자연어 명령에 포함된 주요 명사와 동작
보다 구체적인 접근 방식은 모든 키보드 스트로크를 새로 고치는 대신 파일이 저장될 때 컨텍스트 스냅샷을 트리거하도록 파일 변경 리스너(예: Chokidar)를 설정하는 것입니다. 이는 API 소비를 줄일 뿐만 아니라 답변 중간에 컨텍스트 돌연변이로 인한 모델의 "기억상실"을 방지합니다.
2단계: 컨텍스트 유효 기간 및 제거 메커니즘 정의
실패하기 가장 쉬운 부분이다. 많은 사람들이 완벽한 컨텍스트 구조를 설계하지만 "오래된 컨텍스트"를 정리하는 것을 고려하는 것을 잊어버립니다. 결과 모델의 모든 답변은 제거된 함수나 오래된 주석을 참조했습니다.
실패 시나리오 1: 오류 메시지의 컨텍스트를 저장했습니다. 이후 사용자는 코드를 수정하고 다시 컴파일했지만 이전 오류 컨텍스트가 여전히 토큰 위치를 점유하여 새 모델 응답에서 오류가 여전히 존재한다고 잘못 믿게 되었습니다.
해결 방법: 각 컨텍스트에 "유효 기한" 태그를 추가합니다. 예를 들어 컴파일 오류 컨텍스트는 다음 번 컴파일 작업이 성공한 후에만 자동으로 제거됩니다. 현재 분기가 전환되거나 커밋되면 git diff 컨텍스트가 지워집니다. 간단한 우선순위 대기열을 사용하여 이를 유지할 수 있습니다. 높은 우선순위(예: 사용자의 현재 명령)는 항상 유지되고 낮은 우선순위는 시간이나 이벤트에 따라 만료됩니다.
또 다른 일반적인 문제는 컨텍스트가 너무 많다는 것입니다. 각각이 매우 정확하더라도 한 번에 10개 이상이 주입되면 모델은 Attention Dilution으로 인해 어려움을 겪기 시작합니다. 일반적으로 3~5개의 백본 컨텍스트를 유지하고 나머지는 사용자 활성 쿼리를 통해 로드하는 것이 좋습니다.
3단계: 구현 가능한 최소 구현 경로
다음은 특별한 프레임워크가 필요하지 않고 Node.js 또는 Python에만 기반을 둔 고전적인 디자인입니다.
ContextStore클래스를 포함하여contextEngine.js을 생성하고 내부적으로Map를 사용하여 각 컨텍스트를 저장하며 키는 자동으로 생성된 ID입니다.addContext({ id, content, priority, expireOnEvent }),removeContext(id),getActiveContexts()의 세 가지 메서드를 구현합니다.- AI 코딩 도우미(예: Continue, Aider, Cursor Agent)의 "도구 호출" 또는 "후크"를 호출합니다. 파일이 저장되면
addContext을 호출하여 차이점을 기록합니다. 컴파일 실행이 끝나면 오류를 확인하고 해당 컨텍스트를 업데이트하세요. - 모델에 전송된 프롬프트 조립 기능에서
getActiveContexts()을 호출하여 우선 순위가 높은 순서대로 접합합니다.
여기에는 실질적인 절충안이 있습니다. "가능한 한 많은 컨텍스트"를 원하십니까, 아니면 "모델에 가장 필요한 것만 제공"하시겠습니까? 전자는 모델을 쉽게 혼동시킬 수 있는 반면, 후자는 사용자가 일련의 규칙을 직접 정의해야 합니다. 우리의 관행에 따라 우리는 후자를 권장하며, 규칙은 더하기보다는 적어야 합니다. 간단한 "최근 수정된 파일 + 최신 오류"로 시작한 다음 점차적으로 늘려보세요.
4단계: 장애 발생 시 진단 및 롤백
모델 답변 품질이 떨어지면 먼저 컨텍스트 대기열이 과부하되었거나 오래된 것인지 확인하세요. 검토를 용이하게 하려면 터미널에 컨텍스트 상태 로그를 출력하는 것이 좋습니다(짧은 JSON 줄 사용). 체크포인트가 하나 더 있습니다. 모델이 이전에 해결했던 문제를 반복하는지 확인하세요. 이는 일반적으로 컨텍스트가 적시에 삭제되지 않았다는 표시입니다.
위의 문제가 자주 발생하는 경우 더 좁은 컨텍스트 전략으로 대체할 수 있습니다. 즉, 현재 파일과 사용자 명령만 포함하고 증분 누적을 완전히 포기할 수 있습니다. 모델에 글로벌 비전이 부족하더라도 최소한 답변 안정성은 더 높습니다. 이는 특히 고가용성이 필요한 경우 수용 가능한 엔지니어링 절충안입니다.
실천부터 시스템 개선까지
위의 최소 경로를 실행한 후에는 세션 전반에 걸쳐 컨텍스트 템플릿을 저장하는 방법, 다양한 작업(리팩토링, 디버깅, 코드 검토)에 대해 서로 다른 컨텍스트 전략을 전환하는 방법 등 많은 최적화 지점이 있음을 알 수 있습니다. 이러한 내용은 이미 고급 주제이므로 단일 기사로 다루기가 어렵습니다.
목표가 "API 조정" 스타일에서 벗어나 에이전트 수준 컨텍스트 폐쇄 루프를 설계하는 방법을 진정으로 익히는 것이라면 환경 구축부터 컨텍스트 주입 전략 미세 조정, 다중 에이전트 협업 하의 컨텍스트 공유 메커니즘까지 보다 체계적인 학습 경로에 들어가는 것이 좋습니다.
아직 댓글이 없습니다