고대 서사시에서 현대적 경이로움으로: GraphRAG으로 마하바라타 챗봇 파헤치기 (3부)

마하바라타에 더욱 매료될 준비 되셨나요? 이전 탐험에서 마하바라타를 통해 매혹적인 여행을 시작했었죠. 저희는 Graph Database와 챗봇의 힘을 활용해서 이 서사시적인 인도 이야기의 중심에 있는 복잡한 관계와 인물을 풀어냈어요.

아직 읽지 않으셨다면 이 시리즈의 1부를 읽어보시는 걸 추천드려요.

Mahabharata의 웹 공개: Neo4j Graph Database를 사용한 엄청난 관계 분석(1부)

더 나은 이해를 위해 2부도 읽어보시면 좋을 것 같아요.

마하바라타 서사시를 생생하게 구현하기: Google Gemini를 사용한 Neo4j 기반 챗봇(2부)

이제 마하바라타에 생명을 불어넣는 기술적 경이로움, 즉 상황이 풍부하고 직관적인 챗봇에 대해 더 깊이 탐구해볼게요. 이걸 달성하는 데 도움이 된 GraphRAG라는 혁신적인 접근 방식에 중점을 두고 이 혁신적인 시스템의 내부 작동 방식을 분석해볼게요.

강력한 챗봇: RAG의 힘 설명

마하바라타 전문가인 친구와 대화를 나눈다고 상상해보세요. 등장인물과 사건에 대해 설명하고 그 연관성을 설명해줄 수 있겠죠. 물론 지금은 이 인도 서사시의 전문가를 찾기가 쉽지 않아요. 이것이 바로 저희가 챗봇을 통해 목표로 하는 것이에요! 하지만 LLM(Large Language Model)으로 구축된 기존 챗봇은 때때로 이 문제로 어려움을 겪을 수 있어요.

LLM은 엄청난 양의 텍스트 데이터에 대해 훈련받은 초강력 언어 학습자와 같아요. 인상적인 반응을 이끌어낼 수 있지만, 기술 세계에서 저희가 "환각(hallucination)"이라고 부르는 것을 꾸며내는 경향도 있어요. 이는 옳지 않은 세부 사항을 엮거나 마하바라타와 같은 복잡한 내러티브로 완전히 목표를 놓칠 수 있다는 의미에요.

여기서 RAG(Retrieval-Augmented Generation)라는 멋진 접근 방식이 등장해요. RAG를 LLM에 도움을 주는 방법으로 생각할 수 있어요. RAG는 검색 기반 모델을 LLM과 결합하거든요. 검색 모델은 강력한 검색 엔진처럼 작동해서 특정 질문에 대해 가장 관련성이 높은 정보를 찾기 위해 방대한 양의 정보를 검색해요. RAG는 검색된 조각을 활용해서 LLM의 응답을 알리고 이를 실제 정보에 기반을 두고 더욱 정확하게 만들죠.

RAG에 대해 더 자세히 알아보고 싶으신가요? 이걸 확인해보세요. 3분짜리 영상에서 LLM용 RAG를 설명해주고, 좀 더 기술적인 설명을 원하시면 참고하시면 좋을 것 같아요. 하지만 지금은 RAG가 Mahabharata 챗봇이 순조롭게 진행되고 창의적이고 사실적으로 정확한 응답을 제공하는 데 도움이 된다고 가정해볼게요.

GraphRAG 이해하기: 벡터를 넘어서

이제 GraphRAG 접근 방식에 대해 이야기해볼게요. 기존의 챗봇은 RAG 모델을 사용하는 경우가 많아요. 이러한 모델은 사용자 Query를 기반으로 관련 정보(예: 텍스트 구절 또는 대화 조각)를 검색하고 검색된 Vector Embedding을 조작해서 응답을 생성하는 방식으로 작동해요. 이 접근 방식은 효과적이지만 제한이 있을 수 있어요. Vector Embedding 전용 표현은 마하바라타와 같은 복잡한 서술에 내재된 풍부한 맥락과 관계를 완전히 포착하지 못할 수 있거든요.

출처: DALL-E

이것이 GraphRAG가 개입하는 곳이에요. 다음과 같은 Graph Database의 기능을 통합해서 기존 RAG 모델을 확장하는 거죠. . GraphRAG는 그래프 구조 내 데이터의 상호 연결성을 사용해서 관련 정보를 검색하고 엔터티 간의 관계를 이해해요. 이를 통해 챗봇은 더욱 미묘하고 상황에 맞는 응답을 생성해서 마하바라타의 캐릭터와 그들의 복잡한 관계를 더욱 의미 있게 생생하게 전달할 수 있어요.

Neo4j를 사용한 Knowledge Graph 및 RAG에 대해 자세히 알아보세요. 그래프아카데미.

Neo4j LLM Knowledge Graph Builder

그래서 저희는 GraphRAG가 챗봇에게 절실히 필요한 기능을 제공한다는 사실을 확인했어요. 하지만 실제로 이 모든 것을 어떻게 통합할 수 있을까요? 여기에 멋진 도구가 있어요. Neo4j LLM Knowledge Graph Builder가 등장하는 거죠.

챗봇을 위한 완벽한 Knowledge Graph를 만들 수 있는 마법의 주방이라고 생각해보세요. 이 온라인 도구를 사용하면 마하바라타에 대한 모든 종류의 정보(텍스트 구절, 인물 설명, 심지어 복잡한 가족 관계까지!)를 제공할 수 있어요! 그런 다음 Neo4j LLM Knowledge Graph Builder는 영리한 AI(기본적으로 선택된 LLM 중 하나 — OpenAI의 GPT-4o, 4 및 3.5, Diffbot 또는 Gemini 1.5 Pro)를 사용해서 이 모든 데이터를 분석하고 강력한 Knowledge Graph, 즉 서사시의 본질을 포착하는 상호 연결된 정보의 웹을 구축해요. 도구에 대한 자세한 내용은 Neo4j 연구소를 참조하세요.

이 Knowledge Graph는 RAG 기반 챗봇의 비밀 무기가 될 거예요. 사용자가 질문을 하면 챗봇은 RAG에서 검색된 스니펫을 활용하고 이 상세한 Knowledge Graph를 참조해서 캐릭터, 이벤트 및 위치 간의 관계를 이해할 수 있어요. 이를 통해 챗봇은 통찰력 있고 상황에 맞게 풍부한 응답을 제공해서 마하바라타 모험을 더욱 매력적으로 만들어줄 거예요.

LLM 그래프 빌더 도구 작동 중

저는 이 도구가 정말 마음에 들어요! 챗봇이 마하바라타 문의의 모든 질문에 답변할 수 있게 해주거든요. 예를 들어 이런 간단한 질문부터:

가토타카흐를 죽인 사람은 누구인가? (스포일러 주의 — 카르나였어요!)

더 복잡한 질문까지도요:

판다바족은 왜 12년 동안 숲에서 살아야만 했나요? (이건 사기, 추방, 잘못된 주사위 게임에 대한 이야기죠!)

Neo4j LLM Knowledge Graph 빌더는 챗봇이 이런 유형의 질문을 쉽게 탐색할 수 있도록 도와줘요. 더 간단한 Knowledge Graph에서는 관련 연결을 효율적으로 찾아낼 수 있죠. 복잡한 질문의 경우 챗봇이 관계, 동기, 역사적 맥락을 고려해서 다재다능한 설명을 만들어낼 수 있어요. 마치 서사시의 신비를 풀 준비가 된 개인 마하바라타 학자를 여러분 손끝에 둔 것과 같아요!

마하바라타와의 대화: 새롭고 향상된 경험

GraphRAG와 Neo4j LLM Knowledge Graph 빌더 도구의 마법을 살펴봤으니, 이제 주인공인 마하바라타 챗봇에 대해 이야기해 볼게요. 여러분의 마하바라타 여정을 더욱 발전시키기 위해 제 친구 브리즈라즈 싱이 이 챗봇을 위해 특별히 세련되고 사용자 친화적인 웹 앱을 디자인했답니다.

이 웹 앱은 Hugging Face Spaces에서 호스팅되는 이전 Gradio 챗봇을 훨씬 더 개선한 버전이에요 (단순히 IFrame을 가져오는 것 이상이죠). 이유는 다음과 같아요.

• 향상된 사용자 인터페이스 - 웹 앱은 더욱 직관적이고 시각적으로 매력적인 인터페이스를 제공해서 챗봇과 더 쉽게 상호 작용하고 마하바라타를 탐색할 수 있어요.
• - 웹 앱은 GraphRAG 및 Knowledge Graph 구성 요소와 완벽하게 통합되어 원활하고 효율적인 사용자 경험을 보장해요.
• - 이 앱은 더 많은 사람들이 마하바라타의 지혜를 쉽게 접할 수 있도록 설계되었어요.

다음 링크로 이동해서 나만의 대화형 마하바라타 모험을 시작해 보세요. 질문을 하고, 인물 관계를 탐구하고, 시대를 초월한 이 서사시에 대해 더 깊이 이해할 수 있을 거예요.

끊임없이 진화하는 마하바라타 여정: 미리보기

이건 저의 마하바라타 챗봇 여정의 시작일 뿐이에요. 저는 챗봇의 능력을 개선하고 확장할 수 있는 방법을 끊임없이 찾고 있답니다. 앞으로 어떤 흥미로운 가능성이 있는지 몇 가지 소개해 드릴게요.

• - GraphRAG 이상의 Natural Language Generation 기술을 통합하면 챗봇이 질문에 답하고, 매혹적인 이야기를 만들고, 마하바라타의 다양한 측면을 탐색할 수 있게 될 거예요.
• - 챗봇을 다국어로 만들면 더 많은 사람들이 이용할 수 있고, 서사시에 대한 전 세계적인 이해도를 높일 수 있겠죠.
• 고급 캐릭터 상호작용 - 마하바라타의 등장인물과 직접 대화를 나눈다고 상상해 보세요! 등장인물들의 동기를 탐구하고, 주요 사건을 그들의 관점에서 보고, 그들의 성격에 대한 더 깊은 이해를 얻을 수 있을 거예요.

제 마하바라타 챗봇의 미래는 밝다고 생각해요. 현재 Google의 Vertex AI에서 Model Garden의 code-bison 및 text-bison의 강력한 기능을 활용하고 있지만, Gemini 1.5 Pro 또는 Gemini 1.5 Flash와 같이 훨씬 더 발전된 LLM의 잠재력을 탐구할 준비를 하고 있어요. 또한 Anthropic의 Claude 또는 OpenAI의 GPT-4o와 같은 다른 LLM 모델과 함께 챗봇을 테스트해서 마하바라타 내러티브의 복잡성을 어떻게 해결하는지 알아볼 거예요. 이 실험을 통해 이 특정 애플리케이션에 대한 최적의 LLM을 식별할 수 있을 거라고 생각해요.

GitHub – sidagarwal04/mahabharata-genai: 마하바라타의 웹 공개: Neo4j를 사용한 그래프 여행 및 마하바라타 탐색을 위한 gen-ai 챗봇 구축

---

• GenAI
• GraphRAG
• 마하바라타
• RAG
• Vertex AI

---

에이치시스템즈의 LogTree는 Neo4j 기반 GraphRAG 플랫폼으로, 데이터를 자동으로 지식그래프화하고 자연어 질의로 즉시 답을 제공합니다.

👉 에이치시스템즈 홈페이지