반응형

GenAI 개발의 중요한 과제를 해결하는 Google Cloud 및 Vertex AI와의 새로운 기본 통합을 발표하게 되어 정말 기뻐요! 이 통합은 상황에 맞게 풍부한 외부 데이터에 액세스하여 정확하고 설명 가능한 결과를 제공하는 데 도움을 주죠. 특히 통합을 통해 GraphRAG 구현이 간소화되는데, GraphRAG는 이러한 문제를 해결하기 위한 반응형 실시간 방법이에요.

GraphRAG는 Retrieval-Augmented Generation(RAG)과 Knowledge Graph라는 두 가지 강력한 기술을 결합한 방식이에요. RAG를 사용하면 GenAI 애플리케이션이 외부 데이터세트에 액세스하고 쿼리할 수 있고, Knowledge Graph를 사용하면 엔터티로 상황별 정보를 풍부하게 하고 엔터티 간의 복잡한 관계를 캡처해서 데이터를 더욱 스마트하게 만들 수 있죠. 이러한 풍부한 컨텍스트를 통해 LLM은 질문에 대해 추론하고, 추론하고, 정확하게 답변하고 작업을 실행해서 답변과 조치를 사실 정보에 고정시킬 수 있어요.

GenAI 개발에서 Knowledge Graph의 중요성은 아무리 강조해도 지나치지 않아요. Gartner는 Knowledge Graph를 GenAI 개발에 필수적인 요소로 보고 있고, 데이터 리더들에게 "내결함성 AI 애플리케이션을 구축하기 위해 Knowledge Graph의 견고성과 함께 LLM의 힘을 활용"하라고 권고하고 있어요.

현재 사용 가능한 GraphRAG 통합을 통해 조직은 안전하고 규정을 준수하면서 상황에 맞는 풍부한 외부 데이터를 실시간으로 통합할 수 있는 GenAI 애플리케이션을 신속하게 구축할 수 있어요. 이 기능은 LLM이 대규모 데이터 세트 내에서 복잡한 관계와 패턴을 발견하고 사용할 수 있도록 하는 동시에 환각을 극적으로 줄여주죠. 따라서 GenAI 앱은 기업 사용 사례에 필요한 정확성, 관련성 및 설명 가능성을 제공할 수 있어요.

통합을 통해 개발자는 GraphRAG를 원활하게 구현할 수 있답니다.

      1. 정확하고 설명 가능한 결과를 위해 Knowledge Graph를 빠르게 생성하세요. 개발자는 Gemini 모델, Google Cloud VertexAI 플랫폼, LangChain 및 Neo4j를 사용하여 PDF, 웹페이지, 문서와 같은 구조화되지 않은 데이터에서 직접 또는 Google Cloud Storage 버킷에서 로드하여 Knowledge Graph를 쉽게 만들 수 있어요. 단순화된 프로세스는 llm-graph-transformer를 사용하는데, Neo4j가 LangChain에 기여했죠. LLM에 의도된 그래프 스키마를 제공하고 Gemini의 함수 호출 기능을 사용하여 구조화된 방식으로 엔터티와 해당 관계를 추출합니다. 그런 다음 이러한 엔터티와 관계는 GenAI 또는 기타 애플리케이션에서 사용하기 위해 Neo4j Knowledge Graph에 추가됩니다. GraphRAG를 사용하면 LLM은 엔터티, 해당 속성 및 엔터티 간의 관계를 중심으로 모델링된 데이터에 액세스하여 GenAI 정확성과 설명 가능성을 향상시킬 수 있어요.
      1. 몇 초 만에 실시간 데이터를 수집, 처리, 분석합니다. 개발자는 Dataflow에서 Flex 템플릿을 사용할 수 있어요. Google BigQuery, Google Cloud Storage 및 Neo4j에서 데이터를 수집, 처리 및 분석하는 반복 가능하고 안전한 데이터 파이프라인을 생성하여 Knowledge Graph에 실시간 정보를 제공하고 GenAI 애플리케이션이 적시에 관련 통찰력을 제공할 수 있도록 돕죠.
      1. Gemini for Workspace 및 Reasoning Engine을 사용하여 그래프 기반 GenAI 앱을 구축하고 배포하세요. GenAI 애플리케이션을 프로덕션에 배포하는 것은 어려웠지만, Reasoning Engine Vertex AI 플랫폼에서 개발자는 이제 GenAI 앱과 API를 쉽게 배포, 모니터링, 확장할 수 있는 도구를 갖게 되었어요. Google Cloud Run 덕분이죠. 벡터 검색, GraphRAG 및 대화형 메모리와 같은 Neo4j의 GenAI 기능은 Google Cloud의 LangChain 및 Neo4j AuraDB를 통해 원활하게 통합됩니다. Gemini 모델은 Neo4j 관련 보조 콘텐츠에 대한 교육을 받아 Neo4j 도구 및 API용 코드 조각을 자동으로 생성하여 개발을 간소화합니다. 또한 자연어를 Neo4j의 Cypher 쿼리 언어로 변환하여 Neo4j로 애플리케이션을 더 쉽게 구축할 수 있어요. 단 몇 줄의 Python 코드와 Google Vertex AI Python SDK를 사용하면 GenAI 및 그래프 기반 API를 Reasoning Engine에 배포하여 개발자와 운영팀 모두에게 강력한 RAG 기능을 제공할 수 있습니다. 이를 통해 조직은 그래프 기반 GenAI 애플리케이션을 쉽고 자신있게 프로덕션에 도입할 수 있죠.

새로운 통합과 이를 통해 조직이 GenAI의 엄청난 잠재력을 실현하는 데 어떻게 도움이 되는지 좀 더 자세히 살펴볼까요?

Gemini 모델과 LangChain을 사용하여 비정형 데이터에서 Knowledge Graph 구축

Gemini의 고급 언어 기능과 새로운 함수 호출 기능을 통해 구조화되지 않은 텍스트에서 엔터티, 유형 및 관계를 식별하고 구조화된 방식으로 추출할 수 있어요. Neo4j가 LangChain에 기여한 llm-graph-transformer를 사용하면 개발자는 PDF, 웹 페이지, Google Docs 등 모든 LangChain 문서 세트를 Knowledge Graph로 전환할 수 있습니다.

지침이 포함된 특정 프롬프트와 구조화되지 않은 텍스트가 포함된 선택적 그래프 스키마를 제공함으로써 개발자는 LLM이 정보를 추출하고 Node 및 Relationship에 대해 사전 정의된 개체를 통해 구조화된 출력을 채우도록 안내할 수 있습니다. 함수 호출에 대한 Gemini의 초기 지원을 통해 개발자는 추출 파이프라인에서 모델을 사용할 수 있죠.

Dataflow Flex 템플릿으로 실시간 GraphRAG 애플리케이션 강화

새로운 통합을 통해 개발자는 실시간 데이터를 사용하여 GraphRAG 애플리케이션을 구축할 수 있어요. Dataflow Flex 템플릿을 사용하여 BigQuery 및 Google Cloud Storage에서 Google Cloud의 Neo4j Graph Database로 실시간 데이터 이동을 위한 안전하고 효율적인 파이프라인을 설정할 수 있습니다. GraphRAG 애플리케이션을 지원하는 Knowledge Graph는 지속적으로 업데이트되어 보다 정확하고 시의적절하며 상황에 맞는 응답을 생성할 수 있답니다.

Architecture diagram showing Dataflow from Google Cloud to Neo4j

Google Cloud에서 Neo4j로의 Dataflow를 보여주는 아키텍처 다이어그램

아래에서는 Dataflow Flex 템플릿을 사용해서 Google Cloud Storage 버킷에서 작업을 실행하고 데이터를 Neo4j Knowledge Graph로 변환하는 방법을 보여드릴게요. Google Cloud에서 데이터가 업데이트되면 실시간으로 변경 사항을 확인하고 Knowledge Graph를 업데이트하는 작업을 만들 수도 있어요. 이제 Neo4j 안의 그래프를 RAG 아키텍처와 함께 사용해서 LLM 정확도와 설명 가능성을 높일 수 있다는 점! 정말 흥미롭죠?

A sample job run in Dataflow to get data from Google Cloud to Neo4j to create a knowledge graph

Knowledge Graph를 만들기 위해 Google Cloud에서 Neo4j로 데이터를 가져오기 위해 Dataflow에서 실행되는 샘플 작업

조직은 Dataflow Flex 템플릿을 Neo4j의 Graph Database와 결합해서 빠르게 변화하는 데이터 환경에 적응하는 정교한 GraphRAG 애플리케이션을 구축할 수 있어요. 실시간 데이터를 통해 이러한 애플리케이션은 더욱 정확하고 시의적절하며 상황에 맞는 풍부한 통찰력을 제공해서 도메인 및 사용 사례 전반에 걸쳐 의사 결정 및 사용자 경험을 향상시키죠.

Google Workspace 및 Neo4j용 Gemini를 통해 GenAI 가속화

저희는 Google Workspace용 Gemini의 그래프 애플리케이션 개발 기능을 개선하기 위해 Google과 긴밀히 협력해 왔어요. Neo4j는 Google에 광범위한 교육 데이터를 제공해서 Gemini가 Cypher 쿼리 언어를 이해하고 그래프 애플리케이션 개발자에게 더욱 포괄적인 지침을 제공할 수 있도록 도왔답니다. (교육 데이터에는 Neo4j의 문서, 온라인 강좌, Knowledge Graph뿐만 아니라 text2cypher 개발 노력과 크라우드소싱, LLM 생성 질문-답변 쌍의 데이터도 포함되었어요.)

Google Workspace용 Gemini 개발자 어시스턴트는 이제 개발자가 Neo4j에서 Knowledge Graph를 생성하는 데 도움을 줄 수 있어요. 자연어를 Cypher로 번역해주는 거죠. Knowledge Graph를 사용해서 벡터 검색 기능을 위해 애플리케이션을 통합하고 GraphRAG로 강화해서 LLM을 기반으로 더욱 설명 가능하고 정확한 결과를 얻을 수 있어요. Neo4j 내에서 Knowledge Graph가 생성되면 이를 사용해서 그래프 데이터를 탐색해서 숨겨진 패턴과 통찰력을 찾아낼 수 있답니다.

A code snippet within a Google Workspace, showcasing the generation of Cypher query to load data into Neo4j

Neo4j에 데이터를 로드하기 위한 Cypher 쿼리 생성을 보여주는 Google Workspace 내의 코드 스니펫

Google Workspace용 Gemini는 Neo4j를 LangChain, LlamaIndex, Haystack과 같은 널리 사용되는 오케스트레이션 프레임워크와 통합하는 방법에 대한 교육도 받았대요. 그래서 개발자에게 프레임워크별 지침을 제공해서 개발 프로세스를 훨씬 간소화할 수 있죠.

Google Workspace용 Gemini는 Google Workspace의 최종 사용자, Google Cloud Platform(GCP) 콘솔의 개발자는 물론 Visual Studio Code 및 JetBrains와 같은 널리 사용되는 개발 환경에서도 사용할 수 있어요. 덕분에 개발자는 차세대 GenAI 지원 애플리케이션을 구축할 때 AI 지원 코딩 기능을 마음껏 활용할 수 있답니다.

Google의 추론 엔진 런타임을 사용하여 Graph 기반 GenAI 애플리케이션 배포

많은 개발자가 프로덕션 환경에 GenAI 애플리케이션을 처음 배포할 때 어려움을 겪는데요. Google의 추론 엔진 런타임은 Vertex AI 및 Gemini 모델을 사용해서 GenAI 애플리케이션을 안전하게 배포, 확장, 모니터링, 운영하는 과정을 단순화해서 이런 문제를 해결해 준답니다. Google의 Reasoning Engine Runtime은 GenAI 애플리케이션과 Knowledge Graph를 통합하기 위한 프레임워크를 제공하는 새로운 제품이에요. Vertex ML의 기능을 훨씬 뛰어넘죠. 이는 개발자가 엔터티 간의 복잡한 관계를 모델링하거나 고급 추론 작업을 수행해야 하는 필요성과 같은 애플리케이션의 특정 요구 사항을 기반으로 Knowledge Graph를 사용할 시기를 결정하는 데 도움을 줘요.

광범위한 LangChain 통합과 결합된 Google Cloud와의 새로운 통합을 통해 사용자는 Neo4j Knowledge Graph를 GenAI 스택에 정말 쉽게 통합할 수 있어요. 개발자는 LangChain을 사용해서 추론 엔진 런타임 내에서 GraphRAG를 포함한 직접 또는 고급 RAG 아키텍처를 실행할 수 있죠.

Neo4j의 Knowledge Graph 기능을 Google의 Reasoning Engine Runtime과 결합하는 건 맥락에 맞게 발전된 GenAI 애플리케이션을 구축하는 강력한 접근 방식이에요. 더 정확하고 설명 가능한 GenAI 결과를 제공하는 동시에 프로덕션의 복잡성을 줄여주죠.

GraphRAG: GenAI의 잠재력 잠금 해제

GenAI가 발전함에 따라 GraphRAG가 LLM의 한계를 극복하기 위한 강력한 도구라는 게 점점 더 분명해지고 있어요. Knowledge Graph와 Retrieval-Augmented Generation을 결합하면 정확성, 설명 가능성, 투명성이라는 중요한 문제를 해결하고 GenAI의 잠재력을 최대한 활용할 수 있답니다.

Neo4j와 Google Cloud의 새로운 통합으로 GraphRAG는 그 어느 때보다 더 쉽게 접근하고 사용할 수 있게 되었어요. 이제 개발자는 환각이나 투명성 부족 문제를 해결하느라 애쓰는 대신 신뢰할 수 있고 상황을 인식하는 차세대 GenAI 애플리케이션을 만드는 데 집중할 수 있죠.

Google Cloud에서 Neo4j GraphRAG를 시작하려면 다음을 살펴보세요.GenAI 리소스Neo4j AuraDB에서 실행 가능Google 클라우드 마켓플레이스오늘.
  • 쌍둥이자리
  • Google Workspace
  • GraphRAG
  • Knowledge Graph LLM
  • Neo4j AuraDB
  • Neo4j LLM
  • RAG
  • 구조화되지 않은 데이터
  • Vertex AI

에이치시스템즈LogTree는 Neo4j 기반 GraphRAG 플랫폼으로, 데이터를 자동으로 지식그래프화하고 자연어 질의로 즉시 답을 제공합니다.

👉 에이치시스템즈 홈페이지

반응형

+ Recent posts