Graph RAG

🏷️ LLM

Graph RAG는 RAG의 변종으로, 검색 단계에서 벡터 유사도 대신 그래프 구조를 활용하는 방식입니다. Microsoft GraphRAG가 2024년 공개되며 본격 화제가 됐습니다.

기본 구성은 다음과 같습니다.

  1. 문서에서 LLM으로 엔티티와 관계를 추출
  2. 추출한 것을 그래프로 구성 (보통 Neo4j 같은 그래프 DB에 저장)
  3. 사용자 질문이 들어오면 그래프에서 관련 노드·엣지를 검색
  4. 검색 결과를 컨텍스트로 LLM에 넘겨 답변 생성

Vector RAG가 임베딩 유사도로 단일 청크만 가져온다면, Graph RAG는 엣지를 따라가며 다단계 컨텍스트를 모읍니다. "X의 멘토가 어떤 분야에서 일했는가" 같은 다단계 질문에 강합니다.

다만 Graph RAG의 "추론"은 LLM의 자연어 추론이지, Reasoner 기반 형식 추론이 아닙니다. 사용하는 그래프도 보통 Knowledge Graph 수준이고, 풀 온톨로지를 돌리는 경우는 드뭅니다. "Graph RAG = 온톨로지"라는 등치는 잘못된 것입니다.