생성형 AI 결과는 극대화하고, 리스크는 최소화하기

Neo4j와 AWS는 Knowledge Graph를 통해 조직이 더 많은 GenAI 가치를 실현하도록 지원한대요.

GenAI 애플리케이션은 직원 생산성 향상, 사이버 보안, 경쟁 차별화 및 제품 혁신과 같은 꽤 괜찮은 비즈니스 가치를 제공하죠(EY AI 펄스 설문조사). 하지만 설명 가능성 부족, 부정확한 답변, 환각 등 GenAI 위험에 대한 우려는 여전히 채택 증가에 가장 큰 장벽으로 남아있어요. 이런 문제들은 신뢰를 크게 떨어뜨리고 GenAI 앱을 비즈니스에 쓸모없게 만들 수 있거든요(맥킨지, 글로벌 설문조사).

GenAI가 의사 결정을 돕기 위해 신뢰할 수 있는 결과를 제공하려면 조직의 검증 가능한 기업 지식 소스를 기반으로 해야 해요. GenAI의 기반은 해당 출력을 검증 가능한 엔터프라이즈 데이터(이미 비즈니스 및 산업의 맥락에 있는 조직 전체의 데이터 웨어하우스 및 애플리케이션의 데이터)에 연결할 수 있다는 의미이기도 하고요. 이렇게 데이터를 연결하면 위험을 줄이고 설명 가능한 결과와 비즈니스 요구 사항에 맞는 정확한 답변을 얻을 수 있어요.

GenAI 접지 작동 방식

여기서 '접지'라는 건 응답을 생성하고 반환하기 전에 LLM에 사용자 질문에 대한 답변과 관련된 정보를 제공하는 프로세스를 말해요. 예를 들어, 전 세계에 센터와 공급업체를 둔 글로벌 제약회사를 생각해 볼까요? 허리케인 때문에 주요 유통 센터가 3일 동안 멈춘다면, 이 조직은 가능한 모든 영향을 알아야 할 거예요. 어떤 약에 영향이 있을까요? 공급업체에 미치는 영향은 뭘까요? 중요한 의약품이 약국과 병원에 제 시간에 도착하도록 하려면 어떻게 해야 할까요?

일반적인 챗봇에게 이런 종류의 공급망 분석 질문을 하면, 챗봇은 학습한 원본 데이터를 기반으로 답변을 찾을 거예요. 그 데이터는 인터넷, 책, 또는 공개 데이터일 수도 있겠죠. 하지만 '접지'를 통해서 엔터프라이즈 데이터가 제공하는 컨텍스트를 사용하면 중요한 결정을 내리는 데 필요한 통찰력과 답변을 빠르게 얻을 수 있답니다.

Neo4j, GenAI 품질과 효율성 향상을 위해 핵심 기술 통합

Neo4j는 기본 Vector Search, Knowledge Graph, 그리고 Graph Data Science for GraphRAG를 통해 GenAI 단독 사용으로 인해 발생할 수 있는 많은 문제들을 해결하는 데 도움을 줘요.

• 환각을 줄이고 효과를 높여요. Knowledge Graph는 부정확한 응답을 크게 줄여주고 모든 자료를 추적할 수 있게 해서 더 정확하고 투명하며 설명 가능한 GenAI 결과를 제공하죠.
• 데이터로부터 얻는 통찰력을 향상시켜요. 도메인 지식에 대한 연결된 뷰를 통해 상황에 맞는 관련 정보를 찾고, 숨겨진 패턴과 관계를 발견하고, 더 풍부한 통찰력을 얻을 수 있어요. 질문하는 만큼 빠르게 답변을 제공할 수 있다면 사용 사례를 조정하고 전환해서 최고의 비즈니스 결과를 얻을 수 있겠죠?
• 더 높은 정확도를 달성해요. GenAI와 결합된 Knowledge Graph를 통해 다운스트림 모델 및 분석이 가능해져요. 기본 데이터의 패턴, 품질 및 잠재적 편향을 이해해서 지속적인 개선에 적용할 수도 있고요.

기본 Vector Search의 필수 기능

새로운 기술은 아니지만, Vector Search는 대규모 데이터 세트에서 관련 정보를 효율적으로 검색할 수 있도록 해서 GenAI 애플리케이션을 구축하는 데 중요한 역할을 해요. 텍스트, 이미지 또는 기타 데이터를 벡터로 변환해서 작동하기 때문에 빠른 유사성 비교가 가능하거든요. 이 접근 방식은 GenAI 모델이 응답이나 콘텐츠를 생성할 때 가장 적절한 정보를 찾고 사용하는 데 도움이 된답니다.

Vector Search를 활용하면 GenAI 애플리케이션은 더 정확하고 상황을 잘 파악한 결과를 제공하고, 기존 키워드 기반 검색 방법보다 복잡한 Query를 더 효과적으로 처리할 수 있어요. Neo4j의 기본 벡터 Indexing 기능은 HNSW(Hierarchical Navigable Small World) 알고리즘을 사용해서 유사한 벡터를 효율적으로 식별해요. 벡터가 유사할수록 관련성이 높다는 뜻이겠죠?

Knowledge Graph의 근본적인 강점

GenAI가 등장하기 전부터 Knowledge Graph는 의료에서 운송에 이르기까지 다양한 산업의 데이터 분석을 혁신하고 있었어요. 이제 Knowledge Graph의 고유한 강점 덕분에 성공적인 GenAI 구현에 필수적인 요소가 되었죠. Gartner에 따르면 "GenAI 모델은 Knowledge Graph와 함께 사용되어 신뢰할 수 있고 검증된 사실을 출력에 전달하고 모델을 포함하는 규칙을 제공합니다"(Gartner Research, 신흥 기술 영향 레이더: 2024).

Knowledge Graph란 무엇일까요?

Knowledge Graph는 엔터티(Node) 모음과 이를 연결하는 관계(Edge)의 구조화된 데이터 표현이에요. 조직이 알고 있는 모든 것이 상호 연결된 대규모 웹처럼 펼쳐져 있어서, AI가 한 사실에서 다음 사실로 자연스럽게 이동할 수 있도록 도와주죠. 추론을 통해 Knowledge Graph는 맥락 중심의 통찰력과 주제에 대한 더 깊은 이해를 제공해서 벡터 전용 데이터베이스의 부족한 부분을 채워줘요.

Native Property Graph Database인 Neo4j는 Knowledge Graph를 구현하기 위한 논리적인 선택이에요. 정보를 Node, Relationship, Property로 저장하기 때문에 GenAI에 이상적인 고도로 상호 연결된 데이터 구조를 직관적으로 표현할 수 있거든요. Neo4j Knowledge Graph로 LLM을 접지하면 사실적(명시적) 정보와 상황적으로 관련 있는(암시적) 정보를 LLM에 제공해서 정확성, 맥락, 설명 가능성이 향상돼요. 이 조합은 사용자에게 가장 관련성이 높고 상황에 맞게 정확한 응답을 제공하죠.

"Knowledge Graph는 높은 수준의 정확성과 정밀도를 달성해야 하는 LLM 기반 솔루션을 완벽하게 보완해요."

데이터 과학의 통찰력

Graph Data Science는 연결된 데이터의 구조를 사용해서 예측을 강화하고, 질문에 답변하며, 결과를 설명함으로써 Knowledge Graph에서 통찰력을 얻는 과학적인 접근 방식이에요. Graph Data Science는 수십억 개의 데이터 포인트를 몇 초 만에 탐색하고, 숨겨진 패턴과 관계를 식별하고, 정확성을 향상시켜서 GenAI 추론과 통찰력을 향상시키는 데 사용될 수 있어요.

Neo4j Graph Data Science(GDS)는 중요한 것, 특이한 것, 다음 단계와 같은 질문에 답하는 데 도움이 되는 그래프 알고리즘과 ML 절차의 라이브러리예요. GDS를 사용하면 개발자, 데이터 과학자, 데이터 엔지니어 모두 Knowledge Graph를 풍부하게 하고 새로운 통찰력을 생성해서 GenAI 프로젝트의 품질과 영향력을 향상시킬 수 있죠.

GraphRAG의 강력한 힘

GenAI 접지를 위한 중요한 조력자는 바로 GraphRAG예요. Retrieval-Augmented Generation(RAG) 애플리케이션을 향상시킨 기능이죠. GraphRAG는 Knowledge Graph를 활용해서 개인 데이터 세트에 대한 복잡한 Query를 수행해서 정교한 데이터 분석 및 통찰력을 제공하는 RAG 유형이에요. GraphRAG는 인상적인 추론과 상황에 따른 추론을 보여줄 뿐만 아니라 반환된 정보의 신뢰성과 추적성을 극적으로 향상시켜요. GraphRAG를 사용하면 LLM이 질문에 대해 추론하고, 추론하고, 정확하게 답변하고 작업을 실행해서 검증 가능하고 상황에 맞게 관련된 기업 정보에 답변과 조치를 고정할 수 있어요.

Neo4j의 GraphRAG는 Knowledge Graph와 기본 벡터 검색을 결합해서 심층적인 컨텍스트, 다중 홉 추론, 정확한 결과를 제공해요. 이를 통해 사용자는 GenAI 앱을 구축하고, 상황 인식 챗봇을 만들고, 더 나은 검색 경험을 제공할 수 있죠.

강력한 GenAI 이점을 위해 Neo4j와 AWS의 업계 최고 강점을 통합

공유된 혁신의 역사를 바탕으로 Neo4j와 Amazon Web Services의 전략적 협업은 Neo4j의 강력한 기능을 AWS의 신뢰할 수 있는 인프라 및 단일 API를 통해 고성능 기반 모델을 선택할 수 있는 완전관리형 서비스인 Amazon Bedrock의 GenAI 기능과 통합해요.

업계 최고의 플랫폼의 강력한 조합을 통해 안전하고 규정을 준수하면서 상황에 맞는 풍부한 외부 데이터를 실시간으로 통합하는 GenAI 애플리케이션을 신속하게 구축할 수 있죠. 이를 통해 LLM이 대규모 데이터 세트 내에서 복잡한 관계와 패턴을 발견하고 사용할 수 있도록 하는 동시에 환각을 크게 줄일 수 있으므로 GenAI 앱은 기업 사용 사례에 필요한 정확성, 관련성 및 설명 가능성을 제공할 수 있어요.

"Amazon Bedrock의 생성적 AI 기능과 Neo4j Knowledge Graph를 결합하면 모든 팀 구성원에게 제도적 지식을 제공할 수 있어요. 이 조합은 또한 비정형 데이터의 가치를 열어 사실에 기반한 완전한 답변을 제공하고 LLM 추측 대신 정확하고 상황에 맞는 응답을 생성합니다."

정확하고 설명 가능한 결과를 위해 Knowledge Graph를 빠르게 생성하세요.

• 몇 초 만에 실시간 데이터를 수집, 처리, 분석합니다.
• Bedrock에서 Knowledge Graph를 기반으로 하는 GenAI 애플리케이션을 구축하세요.

Neo4j와 AWS 통합의 엔터프라이즈 GenAI 이점은 실제적이며 기본 벡터 검색, Knowledge Graph, 데이터 과학 및 GraphRAG의 통합 기능을 기반으로 합니다.

Neo4j와 AWS 통합을 통해 GenAI의 위험을 최소화하면서 결과를 극대화하는 데 어떻게 도움이 되는지 자세히 알아보려면 aws-team@neo4j.com으로 문의하거나 방문하세요.neo4j.com/partners/amazon/.

---

에이치시스템즈의 LogTree는 Neo4j 기반 GraphRAG 플랫폼으로, 데이터를 자동으로 지식그래프화하고 자연어 질의로 즉시 답을 제공합니다.

👉 에이치시스템즈 홈페이지