두 번째 강의에서 우리는 하나의 선으로 AI 지식의 전체적인 흐름을 엮었습니다. 앞으로의 십여 개 강의는 그 흐름을 따라가면 됩니다. 지난 글에서 말했듯이: 모델은 출고 시점부터 max tokens 속성뿐만 아니라 1M 컨텍스트만 지원하도록 고정되어 있습니다. 또한 모델의 지식도 잠겨 있습니다. 출고 설명서에는 '지식 마감일: 2026년 3월'이라는 한 줄이 있습니다. 각 모델의 system card에서 이 문구를 찾아볼 수 있습니다. 왜 출고 시점부터 모델의 지식이 잠겨 있을까요? 왜 지식에 명확한 마감일이 있을까요? 이 간단해 보이는 질문에 답하려면 모델이 어떻게 훈련되는지 이해해야 합니다.
아직 댓글이 없습니다