RAG 챗봇 대신 에이전트를 선택한 이유

"RAG의 종말에 대한 소문은 크게 과장되었습니다."

샌프란시스코 현장에서 Neo4j의 눈과 귀인 Alexy Khrabrov가 우리 회사의 문제를 걱정해야 하는지 물었을 때 이렇게 대답했어요. GraphAcademy의 GenAI 커리큘럼.

즉, 여론은 Retrieval-Augmented Generation(RAG)을 선호하고 있고, 어떻게 해야 할지에 대한 생각은 움직일 수 없다는 거죠. RAG는 ​​죽었어. 저는 이게 대부분 과장이라고 생각하지만, GenAI 스택 내에서 RAG의 위치가 변하고 있다고 생각해요.

전통을 깨다

LLM이 지침을 따르는 능력이 향상되고 컨텍스트 창이 더 커지면서, 문서 청크 분할, 임베딩 생성, 벡터 기반 Semantic Search를 사용하여 유사한 결과를 찾는 '전통적인' 프로세스가 큰 망치를 사용하여 호두를 깨는 것처럼 보이기 시작했어요.

업계가 발전함에 따라 GenAI가 제기하는 문제를 해결하기 위해 새로운 기술이 자주 등장하고 있어요. 예를 들어, 텍스트 요약에 적합한 동일한 LLM을 다음에도 사용할 수 있죠. llms.txt 파일 만들기, 컨텍스트 창에 맞을 만큼 충분히 짧아서 LLM에 작업 해결에 필요한 간결한 지침을 제공해요. 제목이 포함된 파일 목록이 주어지면 LLM은 외부 데이터 소스 없이도 상황에 맞는 올바른 파일을 선택할 수 있어요.

따라서 RAG가 확실히 죽지 않았지만, 문자 그대로나 비유적으로 대화가 바뀌었어요.

RAG 기반 챗봇

많은 사람들처럼 우리도 시류에 동참하고 싶었어요. GraphAcademy에 교육용 챗봇 출시 챗봇은 Neo4j의 벡터 인덱스를 사용하여 관련 결과를 조회하고 사용자에게 합리적인 답변을 생성할 수 있었어요. 이를 통해 정적 정보 검색 문제를 해결하고 LLM의 응답을 실제 정보에 기반을 두었지만, 여전히 여러 측면에서 부족했죠.

GraphAcademy를 ​​오랫동안 사용해오셨다면 통합 쿼리 창에서 간헐적인 문제를 발견하셨을 거예요. 이는 여러 가지 이유로 발생할 수 있어요. 서버가 여전히 Neo4j 인스턴스를 프로비저닝 중이거나, 브라우저가 포트를 차단하고 있거나, 인스턴스 자체에 문제가 있을 수 있죠.

GraphAcademy에 대한 Google의 최고 제안은 '연결 거부'입니다.

이 주제는 대화 기록에서 자주 등장했으며, Semantic Search를 통해 문제 해결을 위한 잠재적인 팁이 포함된 문서를 찾을 수는 있지만 문제가 무엇인지 확실히 알 수는 없었어요.

또 다른 주요 좌절감은 실습 문제였어요. 과정 전반에 걸쳐 학습자가 실습을 통해 Node 생성 및 삭제와 같은 작업을 수행하도록 요구해요. GraphAcademy 웹사이트는 데이터베이스에 연결하고 Cypher 문을 실행하여 챌린지가 성공적으로 완료되었는지 확인하죠.

위와 같은 이유로 학습자가 챌린지를 완료하지 못하거나, 웹사이트 내에서 챌린지 완료 여부를 확인하지 못할 수도 있어요.

아는 것부터 실천하는 것까지

최신 에이전트 아키텍처를 사용하면 사용자를 대신해서 작업을 수행할 수 있는 도구 목록이 포함된 에이전트를 만들어서 이런 문제를 해결할 수 있어요. 이는 데이터 위에 추가 인터페이스 역할을 해서 필요할 때 웹사이트에 이미 존재하는 기능을 실행하고, 추가 지원을 제공하는 데 필요한 컨텍스트를 기본 LLM에 제공하는 거죠.

개방형 문제를 해결하는 가장 일반적인 패턴은 ReAct에요. React는 문제에 대해 빠르게 설명하고 도구를 사용해서 act하는 방식이죠. 에이전트는 작업이 완료될 때까지 필요에 따라 도구를 호출하면서 루프를 계속 진행해요.

ReAct 에이전트는 코드베이스 내에서 또는 MCP를 통해 도구 목록에 액세스할 수 있으며 r 루프를 수행합니다.문제가 해결될 때까지 조치를 취합니다.

만약 학습자가 데이터베이스 인스턴스에 접근할 수 없다고 보고하거나, 통합 브라우저 창이 연결을 거부하는 경우 기존 챗봇은 일반적인 지침만 제공할 수 있을 거예요.

하지만 ReAct 기반 학습 에이전트는 도구를 호출해서 학습자의 데이터베이스 자격 증명을 얻고, 로컬에서 연결을 확인하고, 복사해서 붙여넣어 최종 연결을 테스트할 수 있는 작업 코드 샘플을 제공할 수도 있죠.

RAG 기반 챗봇은 정보만 반환할 수 있어요. 에이전트가 도구를 호출해서 작업을 수행할 수 있다는 점이 다르죠.

학습자가 문제에 봉착한 경우, 에이전트는 데이터베이스를 검사하고 수업 목표의 전체 맥락을 바탕으로 사용자에게 솔루션을 안내할 수 있어요.

에이전트는 UI를 통해 사용할 수 있는 동일한 기능에 대한 Natural Language 인터페이스를 제공해요. 확인 또는 다시 시도 버튼을 클릭하면 동일한 기본 기능이 실행되는 거죠.

학습 에이전트가 좌절감을 감지하고 사용자가 수업을 통과하는 데 필요한 지식을 입증한 경우, 에이전시는 학습자를 대신해서 수업을 완료하기도 해요. 결국 우리는 학습을 돕기 위해 존재하는 것이지 학습자에게 특정 경로를 강요하기 위해 존재하는 게 아니니까요.

즉석 학습

공개 AI 애플리케이션을 출시한 사람이라면 누구나 응답을 평가하고 즉석에서 학습하는 것이 중요하다는 것을 알게 될 거예요.

학습자의 대화 기록은 수업과 연결되어 나중에 참고할 수 있도록 스크래치 패드로 저장돼요. 이 정보를 사용해서 사용자 의도 및 도구 호출의 일반적인 패턴을 감지하고, 해당 정보를 사용해서 모든 단계 후에 LLM과 통신할 필요 없이 작업을 엔드 투 엔드로 수행하는 전용 도구를 만들 수 있죠.

피자를 주문하려는 에이전트와 사용자 간의 대화; 에이전트에는 사용자가 피자에 파인애플을 추가하려고 할 때 작동을 거부하는 도구가 있어요.

네, 하지만 MCP는 어떻습니까?

도구 정의 및 소비의 표준화인 MCP(Model Context Protocol)를 언급하지 않고서는 2025년 GenAI 기사가 완성되지 않을 거예요. MCP가 제공하는제3자가 작성한 도구를 사용하는 방식으로 온라인 및 데스크톱 기반 AI 애플리케이션 모두에서 큰 도약을 이루었죠.

독점 애플리케이션 내에서 MCP 도구의 위치에 대해 진지한 논의가 있지만, 프로토콜을 사용하면 다음을 사용할 수 있어요. Neo4j에서 출시한 MCP 도구를 사용해서 학습자 경험을 개선하고 최신 지침과 모범 사례를 제공할 수 있죠.

예를 들어, Neo4j 데이터 모델링 MCP 서버는 Graph Data Modeling의 모범 사례를 가르치는 리소스와 프롬프트를 제공해요. 이러한 도구는 스택 내에 완벽하게 자리잡고 있으며 학습자에게 최적의 데이터 모델을 생성하고 리팩터링하는 데 필요한 지침을 제공하죠.

이 도구는 자체 지속성 도구와 결합되어 데이터 모델을 데이터베이스에 저장하고 REST API를 통해 다른 Neo4j 서비스에 노출해요. Stripe 및 Google 드라이브 통합과 같은 다른 인기 있는 타사 오픈 소스 도구는 우리 스택에 포함되지 않아요.

GraphAcademy로 학습하기

여기에 언급된 주제에 대해 더 자세히 알고 싶다면 Neo4j GraphAcademy를 방문하는 걸 추천드려요. 여기서는 GenAI와 Knowledge Graph를 사용하여 개발자와 데이터 과학자에게 GenAI와 Knowledge Graph에 대해 가르치고 있거든요.

저희는 포괄적인 Knowledge Graph 및 GraphRAG 학습 경로를 통해 처음부터 모든 과정을 다루고 있어요. GraphRAG 기본 사항부터 LLM에 대한 Knowledge Graph를 구축하여 GraphRAG 과정을 적용하는 방법, 그리고 Neo4j MCP 도구로 개발하는 방법까지 배울 수 있답니다.

---

• Agents
• MCP Server

---

에이치시스템즈의 LogTree는 Neo4j 기반 GraphRAG 플랫폼으로, 데이터를 자동으로 지식그래프화하고 자연어 질의로 즉시 답을 제공합니다.

👉 에이치시스템즈 홈페이지