AI 에이전트에게 같은 질문을 두 번 했는데 다른 답변을 얻는다면 이는 큰 문제입니다. 내구성 있는 메모리가 없으면 세션 간에 컨텍스트가 전달되지 않을 수 있습니다. 고객 지원 담당자는 환불을 승인하고 해당 결정에 대한 증거를 잃어버리며 다음 상호 작용을 완전히 새로운 사례로 처리할 수 있습니다. 맥락이 없으면 상담원은 일관된 결정을 내릴 수 없으며 과거 사례로부터 배울 수도 없습니다.
A 컨텍스트 그래프AI 에이전트를 위한 영구 메모리 시스템 역할을 하여 장기적인 기업 지식과 단기 대화 기록, 추론 메모리를 연결하여 이를 해결합니다. 그래프이기 때문에 메모리 간의 연결이 보존되고 탐색 가능하므로 에이전트가 전체 컨텍스트를 쉽게 수집할 수 있습니다. 그래프에는 조직이 알고 있는 내용, 상호 작용 중에 발생한 일, 증거를 반환한 도구, 결정이 내려진 이유 간의 관계가 저장됩니다.
이러한 전체적인 메모리를 갖춘 상담원은 관련 컨텍스트를 추론하고, 정확한 답변을 생성하고, 결정을 설명하고, 과거 결정에서 배우고, 워크플로가 프로덕션으로 전환될 때 팀에 필요한 감사 추적을 남길 수 있습니다.
이 가이드의 추가 정보:
- AI 에이전트에 컨텍스트 그래프가 필요한 이유
-
- 장기 기억은 기업 지식을 저장합니다.
-
- 단기 기억은 대화 내용을 저장합니다.
-
- 추론 메모리는 의사결정 추적을 저장합니다.
-
-
- 1. 더 정확한 답변
-
- 2. 더 관련성이 높은 맥락
-
- 3. 프롬프트 이상의 지속적인 컨텍스트
-
- 4. 더 강력한 설명 가능성과 거버넌스
-
- 5. 장기 실행 워크플로우 지원
-
- 6. 멀티 에이전트 시스템을 위한 공유 메모리
-
- 7. 낮은 토큰 비용
-
- 컨텍스트 그래프와 지식 그래프
- Neo4j 에이전트 메모리로 컨텍스트 그래프를 작성하는 방법
- AI 에이전트가 컨텍스트 그래프를 사용하는 방법
- 컨텍스트 그래프는 신뢰할 수 있는 AI를 위한 지식 계층을 활성화합니다.
- FAQs
AI 에이전트에 컨텍스트 그래프가 필요한 이유
An AI 에이전트모델을 사용하여 추론하고, 도구를 실행하고, 실행 루프를 사용하여 목표를 향해 전진합니다.에이전트 AI시스템은 에이전트가 단계를 계획하고, 도구를 호출하고, 결과를 관찰하고, 정의된 결과에 도달할 때까지 반복하는 보다 복잡한 워크플로에 걸쳐 해당 패턴을 확장합니다. 정교한 모델이라도 올바른 추론과 행동에 필요한 맥락이 부족하면 잘못된 판단을 내릴 수 있습니다.
에이전트가 턴, 세션, 도구, 결정 전반에 걸쳐 컨텍스트를 전달해야 하면 내구성 있는 메모리가 필수적입니다. 프롬프트 지침은 하나의 상호 작용을 안내할 수 있고 검색은 지원 문서를 표면화할 수 있으며 로그는 사실 이후의 활동을 표시할 수 있지만 프로덕션 에이전트는 에이전트가 쉽게 결합할 수 있도록 쿼리 가능한 구조로 연결된 모든 조각이 필요합니다.
컨텍스트 그래프가 제공하는 내구성 있는 메모리가 없으면 에이전트는 작업 주변의 세계를 계속해서 재구성해야 합니다. 이러한 재구축은 비효율적일 뿐만 아니라 이로 인해 에이전트가 이미 처리된 문제, 적용되는 정책 버전, 이전 에이전트가 다른 작업 대신 특정 작업을 선택한 이유 등 중요한 컨텍스트를 추적하지 못할 가능성이 높아집니다.
반품을 처리하는 고객 지원 담당자를 만나보세요. 문제를 올바르게 해결하려면 상담원은 반품 정책과 고객의 자격, 현재 진행 중인 대화, 과거 유사한 청구 결정 기록 등 다양한 종류의 컨텍스트나 메모리를 한꺼번에 참조해야 합니다. 이는 컨텍스트 그래프가 제공하는 세 가지 유형의 메모리(장기, 단기 및 추론)입니다. 예를 들어 상담원이 대화 중에 반품 정책을 파악하지 못한 경우 회사의 기한이 오래 지난 품목에 대해 환불을 승인할 수 있습니다. 또는 대화 내역을 추적하지 못하면 고객이 같은 말을 반복하게 되어 고객 만족도가 떨어집니다. 둘 다 수용 가능한 결과가 아니므로 컨텍스트 그래프가 매우 중요해졌습니다.
컨텍스트 그래프의 세 가지 유형의 메모리
컨텍스트 그래프는 세 가지 종류의 메모리를 구분하면서 동시에 해당 작업을 중심으로 연결합니다. 이러한 연결은 단절된 기록 더미가 아니라 상담원에게 상황에 대한 일관된 시각을 제공합니다.
장기 기억은 기업 지식을 저장합니다.
장기적인 기업 지식에는 상담원이 대화를 시작하기 전에 알아야 할 사실이 포함되어 있습니다. 기업 환경에는 정책, 제품, 고객, 계정, 공급업체, 계약, 시스템, 권한, 비즈니스 규칙 및 기타 조직 지식이 포함됩니다.
본질적으로 이는 컨텍스트 그래프 내에서 엔터티, 관계 및 비즈니스 의미를 정의하는 지식 그래프입니다. 반품 요청의 경우 컨텍스트 그래프는 반품 정책을 제품 카테고리, 고객 상태, 예외 워크플로 및 정책을 소유한 팀에 연결할 수 있습니다.
이러한 사실은 실시간 대화보다 느리게 변하지만 실제로 변합니다. 정책이 개정됩니다. 제품이 추가됩니다. 비즈니스 규칙이 변화합니다. 유연한 그래프 모델은 팀이 전체 메모리 구조를 재구성하지 않고도 새로운 엔터티와 관계를 추가하는 데 도움이 됩니다.
단기 기억은 대화 내용을 저장합니다.
상호 작용 계층은 메시지와 세션 전반에 걸쳐 작업을 전달합니다. 사용자 요청, 메시지, 중간 상태, 이전 세션 및 에이전트가 이미 수행한 작업을 캡처합니다.
반품 요청의 경우 상담원은 고객의 가장 최근 메시지, 손상된 품목의 세부정보, 주문 번호, 요청한 결과, 대화 중에 이미 취한 조치가 필요합니다. 해당 기억이 없으면 상담원은 고객이 이미 제공한 정보를 반복하도록 강요할 수 있습니다.
다중 에이전트 워크플로는 공유된 대화 상태를 유지해야 하는 또 다른 이유를 추가합니다. 한 에이전트는 정보를 수집하고, 다른 에이전트는 정책을 확인하고, 다른 에이전트는 다음 작업을 결정합니다. 각자는 이미 이루어진 일과 아직 해결되지 않은 일이 무엇인지 알아야 합니다.
추론 메모리는 의사결정 추적을 저장합니다.
추적 계층은 에이전트가 증거에서 행동으로 어떻게 이동했는지 기록합니다. 결정, 추론 경로, 도구 호출, 반환된 증거 및 결과를 캡처합니다.
동일한 반품 사례에서 추적을 통해 상담원이 주문 기록을 확인하고, 요청을 정책과 비교하고, 자격을 확인하고, 환불을 승인하고, 사유를 기록한 것을 확인할 수 있습니다.
추적은 쿼리 가능하므로 팀에서는 어떤 사실이 결정에 영향을 미쳤는지 물어볼 수 있습니다. 또한 에이전트가 사용한 도구, 해당 작업이 정책과 다른 부분, 유사한 사례가 일관된 결과를 가져왔는지 여부를 물어볼 수도 있습니다.
이 세 가지 레이어가 함께 메모리 루프를 만듭니다. 고객이 다시 지원팀에 문의하면 상담원은 정책, 이전 대화, 이전 환불 결정을 검색할 수 있습니다. 새로운 상호 작용과 결과는 향후 작업의 맥락이 됩니다.
컨텍스트 그래프의 7가지 이점
안정적인 상담원 워크플로에는 단일 프롬프트 이상으로 지속되는 컨텍스트가 필요합니다. 컨텍스트 그래프를 사용하면 에이전트는 작업이 시작될 때 관련 메모리를 검색하고, 워크플로가 진행됨에 따라 새로운 컨텍스트를 보존하고, 나중에 사용할 수 있도록 쿼리 가능한 기록을 남길 수 있습니다.
1. 더 정확한 답변
저장된 사실, 관계 및 이전 결정은 모델이 응답하기 전에 모델에 더 강력한 증거를 제공합니다. 이러한 항목이 그래프에 연결되면 에이전트는 검색된 컨텍스트에 답변을 기반으로 하고 지원되지 않는 가정을 줄일 수 있습니다.
2. 더 관련성이 높은 맥락
큰 컨텍스트 창은 자체적으로 컨텍스트 품질을 해결하지 못하는 반면, 관련 없는 정보는 응답 정밀도를 감소시키고 추론 비용을 증가시키며 워크플로 디버깅을 더 어렵게 만들 수 있습니다. 그래프 지원 메모리를 사용하면 에이전트는 관련 없는 컨텍스트를 프롬프트에서 제외하면서 현재 작업에 필요한 것을 검색할 수 있습니다.
3. 프롬프트 이상의 지속적인 컨텍스트
프롬프트는 지침과 현재 입력에 유용하지만 메모리를 관리하기에는 적합하지 않습니다. (에이전트가 실행될 때마다 애플리케이션 코드가 모든 것을 다시 빌드하는 것을 원하지 않습니다.) 그래프 지원 메모리는 해당 컨텍스트에 위치를 제공하므로 에이전트는 현재 작업에 적합한 부분을 검색할 수 있습니다.
4. 더 강력한 설명 가능성과 거버넌스
결정 추적을 통해 에이전트 동작을 더 쉽게 검사할 수 있습니다. 팀은 정책이나 사람의 승인이 적용된 지점을 포함하여 사실, 대화 전환, 도구 호출, 증거 및 결정 뒤의 추론 단계로 돌아가는 경로를 따라갈 수 있습니다.
5. 장기 실행 워크플로우 지원
복잡한 상담원 워크플로에는 차례, 도구, 승인, 전달, 업데이트가 포함됩니다. 작업 상태가 단일 프롬프트나 세션 이후에도 지속되기 때문에 컨텍스트 그래프는 에이전트가 해당 단계에서 작업을 유지하는 데 도움이 됩니다.
6. 멀티 에이전트 시스템을 위한 공유 메모리
다중 에이전트 시스템에는 작업에 대한 공통된 관점이 필요합니다. 공유 그래프 지원 메모리는 에이전트에 상태를 읽고 쓸 수 있는 공유 공간을 제공하므로 각 에이전트는 동일한 사실, 대화 기록, 도구 출력 및 이전 결정을 기반으로 구축할 수 있습니다.
7. 낮은 토큰 비용
상담사 워크플로에서 대화 기록이 빠르게 늘어납니다. 모든 관련 문서 및 이전 도구 결과와 함께 전체 기록을 매 턴마다 모델에 다시 전달하면 비용과 대기 시간이 추가됩니다. 선택적 그래프 검색을 통해 에이전트는 모든 것을 프롬프트로 가져오지 않고도 다음 단계에 필요한 컨텍스트를 가져올 수 있습니다.
컨텍스트 그래프와 지식 그래프
더 나아가기 전에 그래프, 지식 그래프, 컨텍스트 그래프의 차이점을 이해하는 것이 도움이 됩니다. 이러한 개념은 서로를 기반으로 하는 개념이라고 생각하세요.
| 개념 | 기능 | 답변에 도움이 되는 것 |
|---|---|---|
| 그래프 | 엔터티 및 관계를 나타냅니다. | 무엇이 연결되어 있나요? |
| 지식 그래프 | 의미 구조와 비즈니스 의미를 추가합니다. | 연결은 무엇을 의미합니까? |
| 컨텍스트 그래프 | 에이전트 작업에 대한 기업 지식, 대화 기록, 의사 결정 추적을 연결합니다. | 현재 어떤 맥락이 관련이 있으며, 그 이유는 무엇입니까? |
그래프는 데이터를 엔터티와 관계로 나타냅니다. 에이지식 그래프의미 구조와 비즈니스 의미를 추가하여 엔터티가 나타내는 내용과 관련 방식을 정의합니다. 컨텍스트 그래프는 에이전트 워크플로 내에서 해당 의미를 사용하여 에이전트가 필요로 하는 도메인 지식을 대화 상태 및 현재 작업에 대한 추론 추적에 연결합니다.
에이전트 메모리 아키텍처에서 지식 그래프는 에이전트의 장기 메모리와 동일합니다. 컨텍스트 그래프는 해당 지식을 대화 및 추론 메모리에 연결하므로 에이전트는 관련 사실, 대화 및 의사 결정 추적을 함께 검색하여 전체 컨텍스트를 볼 수 있습니다.
Neo4j 에이전트 메모리로 컨텍스트 그래프를 작성하는 방법
이제 컨텍스트 그래프를 작성할 준비가 되었으므로 가장 쉬운 방법은 다음을 사용하는 것입니다.Neo4j 에이전트 메모리. 에이전트의 메모리를 구성하는 것(대화, 엔터티, 선호도, 사실, 도구 사용 및 추론 추적)을 Neo4j 그래프에 연결하므로 메모리는 프롬프트, 로그 및 별도의 저장소에 분산되지 않고 그래프를 통해 쿼리할 수 있습니다.
인프라 및 애플리케이션 워크플로에 맞는 설정을 선택하세요. 다섯 가지 경로가 있습니다:
- 호스팅된 Neo4j 에이전트 메모리 서비스(NAMS)를 사용하세요.이 관리형 REST 서비스는 API 키가 필요하며 서버에서 임베딩, 추출, 중복 제거를 처리하므로 개발자가 자체 데이터베이스를 운영할 필요가 없습니다.
- 기존 Neo4j 배포에 연결합니다.Python 개발자는 메모리 클라이언트를 실행할 수 있습니다.Neo4j 아우라배포, 데이터 지역성, 그래프 작업 또는 에어 갭 사용에 대한 더 많은 제어가 필요한 경우 Bolt를 통한 , 데스크톱 또는 Docker를 사용합니다.
- MCP(Model Context Protocol)를 통해 메모리를 노출합니다.포함된 MCP 서버를 사용하면 호환 가능한 보조자 및 개발 환경이 메모리 도구 세트를 통해 그래프 기반 메모리에 액세스할 수 있습니다.
- 풀스택 애플리케이션 스캐폴드로 시작하세요. The
create-context-graph도구는 FastAPI 백엔드, Next.js 프론트엔드, Neo4j 지식 그래프 및 대화 메모리가 이미 연결된 프로젝트를 생성합니다. - 관리형 에이전트 플랫폼을 기반으로 구축. Neo4j Aura 에이전트(현재 초기 액세스 중) 팀은 자체 경로를 조립하는 대신 호스팅된 경로를 원할 때 로우 코드 도구를 사용하여 지식 그래프를 기반으로 GraphRAG 에이전트를 구축하고 배포할 수 있습니다.
구체적인 구현을 위해서는 이실습 컨텍스트 그래프 연습Neo4j 데이터베이스, 에이전트 애플리케이션 및 MCP 도구가 함께 작동하여 결정 추적을 캡처하고 쿼리하는 방법을 보여줍니다.
AI 에이전트가 컨텍스트 그래프를 사용하는 방법
컨텍스트 그래프는 에이전트 루프 전체에서 AI 에이전트에 의해 사용 및 유지 관리됩니다. 행동하기 전에 에이전트는 다음을 사용합니다.그래프RAG사실, 대화 기록 및 유사한 과거 추론을 포함하여 작업과 관련된 모든 컨텍스트를 탐색하고 검색합니다. 이렇게 하면 동일한 문제를 처음부터 해결할 필요가 없습니다.
예를 들어 손상된 품목 반품을 처리하는 상담원은 고객의 주문, 제품, 보증, 정책 및 최근 지원 내역을 검색한 다음 해당 정보를 지금까지의 대화 및 관련 이전 결정에 연결할 수 있습니다. 유사한 주장이 이전에 해결된 경우 에이전트는 모든 관련 컨텍스트를 탐색하고 결정을 뒷받침하는 증거와 동일한 정책이 여전히 적용되는지 여부를 검사할 수 있습니다.
에이전트가 작동하면 그래프도 그에 따라 변경됩니다. 에이전트는 새로운 사용자 및 에이전트 메시지를 단기 메모리에 저장하고 내구성 있는 지식을 장기 메모리에 씁니다. 모든 추론 단계와 작업을 기록하고 도구 사용을 기록하며 에이전트가 결과에 도달하면 닫히는 추론 추적으로 증거에서 결과까지 자체 순회 경로를 캡처합니다.
다음 실행은 백지 상태가 아닌 연결된 기록에서 시작됩니다. 상담원은 시간이 지남에 따라 더 나은 결정을 내립니다.
다중 에이전트 시스템에서 공유 컨텍스트 그래프는 모든 에이전트에게 읽고 쓸 수 있는 동일한 연결된 레코드를 제공하므로 각 핸드오프는 수행된 작업, 결정된 작업, 해결되지 않은 작업에 대한 전체 그림을 전달합니다.
컨텍스트 그래프는 신뢰할 수 있는 AI를 위한 지식 계층을 활성화합니다.
에이전트 AI 시스템의 경우 모델 기능은 방정식의 일부일뿐입니다. 에이전트에게는 다음 사항도 필요합니다.연결된, 현재 및 쿼리 가능한 컨텍스트이는 이미 이루어진 작업, 조직 및 결정을 반영합니다.
A 지식층제공합니다그래프 기초AI 컨텍스트, 메모리 및 추론을 위해 엔터프라이즈 데이터를 연결하고 구조화합니다. 컨텍스트 그래프는 에이전트가 추론하고 행동하는 데 필요한 조직 지식, 대화 상태, 작업 기록 및 결정 기록을 통합하는 해당 계층의 메모리 구성 요소입니다.
이러한 요소가 프롬프트, 문서, 로그 및 애플리케이션 스토어에 분산되어 있는 경우 각 워크플로는 컨텍스트를 재구성해야 합니다. 컨텍스트 그래프는 에이전트와 개발자 사이의 관계를 보존하여 작업이 진행됨에 따라 검색, 확장 및 조사할 수 있는 공유 기록을 제공합니다.
FAQs
컨텍스트 그래프는 AI 에이전트가 작업을 완료하는 데 필요한 지식, 상태, 기록 및 결정 기록을 연결하여 표현한 것입니다. 이를 통해 에이전트는 관련 컨텍스트를 검색하고 사실, 대화, 도구 활동 및 이전 결정이 어떻게 관련되어 있는지 이해할 수 있습니다.
세 가지 메모리 계층은 내구성 있는 지식을 위한 장기 메모리, 대화 및 상태를 위한 단기 메모리, 의사 결정 추적 및 도구 활동을 위한 추론 메모리입니다.
지식 그래프는 도메인 내의 엔터티, 관계 및 의미를 나타냅니다. 컨텍스트 그래프는 해당 도메인 지식을 대화, 작업 상태, 도구 활동 및 특정 에이전트 워크플로우와 관련된 사전 결정과 연결합니다.
컨텍스트 그래프는 AI 에이전트가 더 정확한 답변을 생성하고, 더 관련성이 높은 컨텍스트를 검색하고, 컨텍스트를 메모리로 유지하고, 결정을 설명하고, 장기 실행 워크플로를 지원하고, 에이전트 간에 메모리를 공유하고, 토큰을 절약하는 데 도움이 됩니다.
지속 가능한 도메인 지식, 대화 및 작업 상태, 도구 활동, 의사 결정 추적을 연결된 데이터로 모델링하여 컨텍스트 그래프를 구축할 수 있습니다. 와 함께Neo4j 에이전트 메모리, 팀은 호스팅 서비스, 자체 호스팅 Neo4j 인스턴스, MCP 서버 또는 풀 스택 AI 애플리케이션을 통해 이를 구축할 수 있습니다.
에이전트는 작동하기 전에 그래프에서 관련 컨텍스트를 검색하고, 작동하면서 새로운 사실과 메시지를 다시 작성하고, 결과에 도달하면 결정 추적을 저장합니다. 나중에 에이전트나 사람은 그래프를 쿼리하여 무슨 일이 일어났고 왜 발생했는지 이해할 수 있습니다.