지식 컷오프

지식 컷오프(knowledge cutoff)는 언어 모델이 사전 훈련에 사용한 데이터를 어느 시점까지 모았는지를 가리킵니다. 이 시점 이후에 일어난 사건이나 새로 등장한 정보는 모델의 파라미터에 담겨 있지 않아, 모델이 모르거나 추측으로 답하게 됩니다.

왜 중요한가

• 최신 정보를 묻는 질문에는 컷오프 이후 내용을 몰라 할루시네이션으로 이어지기 쉽습니다.
• 컨텍스트 윈도우에 자료를 직접 넣거나 웹 검색, RAG로 최신 지식을 보충하면 한계를 메울 수 있습니다.
• 모델마다 컷오프 시점이 다르므로, 시점에 민감한 작업에서는 해당 모델의 컷오프를 확인하는 편이 좋습니다.