GraphRAG란 무엇인가: 벡터 검색만으로 부족할 때 쓰는 RAG 구조

GraphRAG는 RAG에 지식 그래프를 결합한 검색 증강 생성 구조다. 일반 RAG가 질문과 의미적으로 가까운 문서 조각을 찾는 데 집중한다면, GraphRAG는 문서 안의 엔티티와 관계를 그래프로 구성해 “무엇과 무엇이 어떻게 연결돼 있는가”를 답변 생성에 활용한다. 벡터 검색만으로 부족한 관계형 질문, 전체 요약, 복잡한 원인 분석에서 특히 유용하다.

GraphRAG 구조 개념도: 문서에서 엔티티와 관계를 추출해 지식 그래프와 벡터 검색을 함께 사용하는 RAG 아키텍처 — GraphRAG는 문서를 단순 청크로만 찾지 않고 엔티티와 관계를 그래프로 구성해 벡터 검색이 놓치는 연결 질문을 보완하는 RAG 구조다.

핵심 요약

GraphRAG는 RAG에 knowledge graph를 결합한 구조다.
일반 벡터 검색은 “비슷한 문서”를 찾는 데 강하고, 그래프는 “엔티티 사이의 관계”를 따라가는 데 강하다.
조직, 사람, 제품, 사건, 정책처럼 관계가 중요한 데이터에서는 GraphRAG가 일반 RAG보다 더 좋은 답변 근거를 만들 수 있다.
모든 RAG에 GraphRAG가 필요한 것은 아니다. 데이터 규모, 질문 유형, 구축 비용을 함께 봐야 한다.

RAG가 먼저 해결한 문제

RAG는 Retrieval-Augmented Generation의 약자다. LLM이 내부 파라미터에만 의존하지 않고, 외부 문서에서 관련 내용을 검색한 뒤 그 근거를 바탕으로 답변하게 만드는 방식이다. 회사 문서, 정책 자료, 기술 문서, 고객 지원 문서처럼 모델 학습 시점 이후의 지식이나 비공개 지식을 다룰 때 유용하다.

가장 흔한 구현은 문서를 작은 청크로 나누고 embedding을 만든 뒤 벡터 DB에 저장하는 방식이다. 사용자가 질문하면 질문도 embedding으로 바꾸고, 벡터 공간에서 가까운 청크를 찾아 LLM에 넣는다. 이 방식은 간단하고 강력하지만 모든 질문에 충분하지는 않다.

벡터 검색만으로 부족한 순간

벡터 검색은 의미적으로 비슷한 문장을 찾는 데 강하다. 그러나 질문이 여러 문서에 흩어진 관계를 묻거나, 특정 엔티티가 전체 데이터 안에서 어떤 역할을 하는지 묻거나, 여러 사건을 묶어 상위 패턴을 요약해야 할 때는 한계가 드러난다.

질문 유형	일반 벡터 RAG의 어려움	GraphRAG가 보완하는 점
여러 조직의 관계	각 조직이 나온 청크는 찾지만 연결 구조를 놓칠 수 있다	조직 간 관계를 edge로 따라간다
전체 데이터 요약	상위 k개 청크만으로 전체 맥락을 대표하기 어렵다	커뮤니티 단위 요약을 활용한다
원인과 영향 분석	비슷한 문장 검색만으로 인과 연결이 약하다	사건, 원인, 결과 노드를 연결한다
동명이인/동음이의어	비슷한 텍스트가 섞일 수 있다	엔티티 식별과 관계 맥락을 사용한다
장기 문서 컬렉션	관련 청크가 너무 많아 선별이 어렵다	그래프 구조로 탐색 범위를 좁힌다

GraphRAG의 기본 구조

GraphRAG는 문서를 단순히 청크로만 저장하지 않는다. 문서에서 사람, 조직, 장소, 제품, 개념, 사건 같은 엔티티를 추출하고, 엔티티 사이의 관계를 edge로 연결한다. 이후 이 그래프를 요약하거나 커뮤니티로 나누고, 질문에 맞는 노드와 관계를 찾아 LLM에 제공한다.

문서 수집
→ 청크 분리
→ 엔티티 추출
→ 관계 추출
→ 지식 그래프 구성
→ 커뮤니티/요약 생성
→ 질문에 맞는 그래프 탐색
→ LLM 답변 생성

Local search와 Global search

Microsoft Research의 GraphRAG 연구는 query-focused summarization 문제에서 local search와 global search 관점을 제시한다. local search는 특정 엔티티나 좁은 주제 주변의 근거를 찾는 데 유리하다. global search는 전체 데이터셋에서 넓은 패턴이나 주제를 요약할 때 유리하다.

검색 방식	잘 맞는 질문	예시
Local search	특정 엔티티 주변 정보	이 고객사가 어떤 제품 이슈와 연결돼 있는가
Global search	데이터 전체의 큰 주제와 패턴	최근 장애 보고서에서 반복되는 핵심 원인은 무엇인가
Vector search	질문과 의미적으로 가까운 문서	이 API 설정 방법이 적힌 문서는 어디인가
Hybrid search	키워드, 벡터, 그래프를 함께 사용	정책 변경과 관련 조직, 영향 범위를 함께 찾기

GraphRAG가 유리한 데이터

조직, 팀, 서비스, 고객, 계약처럼 엔티티 관계가 중요한 업무 문서
사건, 원인, 영향, 대응이 여러 문서에 흩어진 장애 보고서
논문, 특허, 기술 리포트처럼 개념 간 연결이 중요한 지식 데이터
뉴스, 정책, 법령처럼 사람과 기관, 시점, 사건의 관계가 중요한 문서
고객 지원 기록처럼 같은 문제가 다른 표현으로 반복되는 데이터

GraphRAG가 과한 경우

GraphRAG는 만능이 아니다. 단순한 FAQ, 짧은 제품 문서, 키워드 검색으로 충분한 데이터, 실시간성이 강해 그래프를 자주 다시 만들어야 하는 데이터에는 비용 대비 효과가 낮을 수 있다. 그래프 구축에는 LLM 호출 비용, 엔티티 정제, 관계 품질 검증, 인덱싱 시간이 들어간다.

따라서 처음부터 GraphRAG를 도입하기보다 일반 RAG로 시작하고, 실패 사례를 모아야 한다. “관련 문서는 찾았지만 관계를 설명하지 못한다”, “전체 문서 컬렉션의 패턴을 요약하지 못한다”, “동일 엔티티가 여러 이름으로 흩어진다” 같은 문제가 반복될 때 GraphRAG를 검토하는 편이 현실적이다.

일반 RAG, GraphRAG, Knowledge Graph의 관계

개념	핵심 역할	혼동하면 안 되는 점
RAG	외부 문서를 검색해 LLM 답변에 넣는다	반드시 벡터 DB만 뜻하지는 않는다
Vector DB	embedding 기반 유사도 검색을 제공한다	관계 구조를 자동으로 이해하는 것은 아니다
Knowledge Graph	엔티티와 관계를 그래프로 표현한다	LLM 답변 생성까지 포함하는 개념은 아니다
GraphRAG	그래프 구조를 RAG 검색과 요약에 활용한다	벡터 검색을 완전히 대체하는 구조는 아니다

작게 시작하는 GraphRAG 설계

작은 팀이 GraphRAG를 실험한다면 전체 시스템을 한 번에 바꾸지 않는 편이 좋다. 먼저 기존 RAG에서 실패한 질문 20~50개를 모은다. 그다음 해당 질문이 엔티티 관계 문제인지, 전체 요약 문제인지, 검색 품질 문제인지 분류한다. GraphRAG는 이 중 관계와 전체 요약 문제가 반복될 때 도입 가치가 커진다.

기존 RAG 실패 질문을 수집한다.
반복적으로 등장하는 엔티티 유형을 정의한다.
문서 일부로 작은 지식 그래프를 만든다.
local search와 global summary 질문을 따로 평가한다.
일반 RAG 답변과 GraphRAG 답변을 같은 질문 세트로 비교한다.
정확도뿐 아니라 비용, 지연 시간, 운영 복잡도도 함께 본다.

GraphRAG 체크리스트

질문이 단순 문서 검색인지 관계 분석인지 구분했는가
추출할 엔티티 유형과 관계 유형을 정의했는가
그래프 생성에 드는 LLM 비용을 계산했는가
그래프 업데이트 주기와 재인덱싱 비용을 정했는가
일반 RAG와 비교할 평가 질문 세트를 만들었는가
답변 근거를 사용자에게 어떻게 보여줄지 정했는가
잘못 추출된 엔티티와 관계를 수정하는 절차가 있는가

FAQ

GraphRAG는 무엇인가?

GraphRAG는 문서에서 엔티티와 관계를 추출해 지식 그래프를 만들고, 이 그래프를 RAG 검색과 답변 생성에 활용하는 구조다. 벡터 검색만으로 찾기 어려운 관계형 질문이나 전체 요약 질문에 강하다.

GraphRAG와 일반 RAG의 차이는 무엇인가?

일반 RAG는 질문과 비슷한 문서 청크를 벡터 검색으로 찾는 방식이 많다. GraphRAG는 문서 안의 사람, 조직, 개념, 사건, 관계를 그래프로 연결한 뒤 그 구조를 검색과 요약에 함께 사용한다.

GraphRAG를 쓰면 벡터 DB가 필요 없는가?

그렇지 않다. 실제 구현에서는 벡터 검색과 그래프 검색을 함께 쓰는 경우가 많다. 벡터 검색은 의미적으로 가까운 문서를 찾는 데 강하고, 그래프는 엔티티 간 관계와 커뮤니티 구조를 따라가는 데 강하다.

GraphRAG는 언제 과한 선택인가?

문서 수가 적고 질문이 단순 사실 검색 중심이라면 일반 RAG로도 충분하다. GraphRAG는 그래프 구축, 엔티티 정제, 커뮤니티 탐지, 인덱싱 비용이 들기 때문에 관계 분석이 필요한 데이터에서 더 가치가 크다.

Microsoft GraphRAG만이 GraphRAG인가?

아니다. Microsoft GraphRAG는 대표적인 오픈소스 구현과 연구 사례 중 하나다. GraphRAG라는 이름은 더 넓게 그래프 기반 검색 증강 생성 패턴을 가리킬 때도 쓰인다.