AI 에이전트란 무엇일까요?

• 에이전트 AI

AI 에이전트는 GenAI 모델을 사용해서 목표를 향해 생각하고 행동하는 애플리케이션이에요. 이는 일반적으로 지침, 도구에 대한 액세스, 추론하고 조치를 취하고 작업이 완료될 때까지 반복할 수 있는 실행 루프가 포함된 언어 모델로 구성돼요.

현실 세계에서는 어떤 모습일까요? 여러분이 아프다고 상상해 보세요. 여러분의 증상을 AI 에이전트와 공유하는 거예요. 실험실 결과를 가져오고, 의료 데이터베이스의 진단 및 치료 옵션을 평가하고, 문제가 있는 약물 상호 작용을 확인하고, 의사가 개선할 수 있는 치료 계획을 제시하죠.

이제는 에이전트 AI의 시대에요! 이제 상담원은 질문과 답변 텍스트 생성 이상의 기능을 수행할 수 있어요. 그들은 추론하고, 계획하고, 도구를 사용하고, 반복적으로 진행하고, 자신의 작업을 확인하고, 경험을 통해 배울 수 있죠. 기계적이고 반복적인 작업을 수행하는 직원을 점점 더 신뢰하게 되면서 직원이 더 높은 가치의 판단 중심 프로젝트에 집중하고 감독자 역할을 할 수 있게 되었어요.

오늘날의 개발자와 AI 엔지니어는 "어떻게 하면 LLM에서 더 나은 결과를 얻을 수 있나요?"라는 질문에서 전환했어요. "복잡한 작업을 해결하는 에이전트를 어떻게 구축할 수 있나요?" 이는 엄청난 도약이며 이미 우리가 생활하고 일하는 방식을 변화시키고 있어요.

이 가이드의 추가 내용:

• AI의 최근 역사: 에이전트가 지금 등장하는 이유는 무엇입니까?
•  
• Reason
•  
• Act
•  
• Observe
•  
• 반복 또는 완료
•  
• Knowledge Graph가 AI 에이전트에 컨텍스트를 제공하는 방법
• AI 에이전트의 실제 사용 사례는 무엇입니까?
• 다양한 유형의 AI 에이전트는 무엇입니까?
• AI 에이전트가 함께 일할 수 있나요?
• AI 에이전트의 과제와 위험
• AI 에이전트 구축을 위한 모범 사례
• 최고의 AI 에이전트 프레임워크는 무엇입니까?
• AI 에이전트의 미래

AI의 최근 역사: 에이전트가 지금 등장하는 이유는 무엇입니까?

최근 몇 년간 GenAI의 발전을 살펴보면 에이전트로 가는 길이 이해가 될 거예요. 아마 여러분도 이런 과정을 겪어본 적이 있을 텐데요.

1. Large Language Model (LLM)은 우리에게 텍스트 생성 기반을 제공했어요. 좋은 프롬프트를 입력하면 텍스트로 좋은 답변을 얻을 수 있지만 그게 전부였죠.
2. Retrieval-Augmented Generation (RAG)은 정확성을 높이고 환각을 줄이기 위해 LLM을 데이터 소스에 연결했지만, 여전히 수동적이었어요. 사용자가 요청하고 검색하고 응답하는 방식이었죠.
3. GraphRAG는 Knowledge Graph를 사용해서 더욱 정확한 컨텍스트 검색을 가능하게 했어요. 단순히 유사성 검색을 사용하는 대신, 시스템이 사물이 서로 어떻게 관련되어 있는지 이해할 수 있게 된 거죠.
4. 는 오케스트레이션과 다단계 프로세스를 도입했어요. 이제 여러 LLM 호출을 함께 연결하고, 조건부 논리를 추가하고, 더 복잡하고 반복 가능하며 자동화된 프로세스를 만들 수 있게 되었죠. 하지만 여전히 미리 정의된 경로를 따랐어요.
5. Autonomous Agent는 의사 결정을 위해 LLM을 사용해요. 환경을 관찰하고, 도구를 사용하고, 조치를 취하고, 과거 상호 작용을 통해 학습할 수 있죠. 에이전트는 고정된 워크플로를 따르는 것이 아니라, 작업 완료 경로를 동적으로 계획하고 결정할 수 있어요.

최근 AI 기술이 발전하면서 에이전트적인 행동이 가능해졌어요. 어떤 발전이 있었는지 한번 살펴볼까요?

• 더 나은 추론: 강화 학습으로 훈련된 최신 LLM은 다단계 추론을 훨씬 더 안정적으로 처리할 수 있어요. 추론 모델은 일련의 사고를 사용해서 논리적으로 추론하고 결정을 정당화할 수 있죠. 이는 복잡한 작업을 작은 하위 작업으로 나누어 워크플로로 계획하고 실행하는 데도 도움이 돼요.
• 더 큰 컨텍스트 창: LLM의 컨텍스트 창 용량이 매년 크게 증가하고 있어요. 몇 년 전과 비교하면 이제 LLM은 훨씬 더 많은 양의 입력 및 출력 토큰을 처리할 수 있게 되었죠.
• : 최신 LLM은 도구 선택 및 함수 호출 기능을 개선하기 위해 광범위하게 훈련받았어요. 특히 더 큰 도구 세트에는 보다 안정적인 선택 예측 품질이 필요하다는 점을 고려하면 더욱 그렇고요.
• : 이전에는 LLM을 API와 통합하려면 복잡한 인증과 응답 처리, 그리고 각 도구나 서비스에 대한 별도의 인터페이스 유지가 필요해서 사용자 정의 코딩이 많이 필요했어요. 하지만 이제는 모델 컨텍스트 프로토콜(MCP) 같은 통일된 표준이 적용되면서, 일관되고 미리 구축된 커넥터를 통해 LLM을 외부 도구(데이터베이스, 웹 서비스, API 등)에 쉽게 연결할 수 있게 되었답니다.
• 구조화된 메모리와 컨텍스트: 이제 에이전트는 데이터베이스 및 Knowledge Graph 같은 구조화된 메모리 시스템에 연결해서 쿼리를 실행하고 정확한 상황 인식 메타 정보를 검색할 수 있어요. 똑똑한 에이전트라면 추론 오류와 환각을 피하기 위해 상황에 맞는 추론을 위한 구조화된 메모리가 필수겠죠?

이러한 혁신 덕분에 LLM은 단순한 텍스트 생성기에서 사람의 감독을 최소화하면서 추론하고, 복잡한 작업을 수행하고, 새로운 상황에 적응할 수 있는 시스템으로 변모했어요.

예전에는 입력, 조건, 출력 등 결정론적인 방식으로 소프트웨어를 구축하곤 했죠. 하지만 에이전트는 달라요. 유연하고 반복적이며 개방형 작업을 위해 설계되었답니다.

AI 에이전트의 구성 요소는 무엇일까요?

AI 에이전트에는 GenAI 모델, 도구, 오케스트레이션이라는 세 가지 기본 구성 요소가 있어요.

AI 에이전트의 핵심은 실제로 목표를 달성하기 위해 추론 및 실행 루프에서 실행되는 지침과 도구 세트가 포함된 LLM이라고 할 수 있어요.

모델

LLM과 같은 AI 모델은 AI 에이전트의 핵심 엔진이에요. 모델은 계획하고, 추론하고, 무엇을 할지 결정하고, 그리고 하죠. 여기에는 다음과 같은 것들이 포함돼요.

• 사용자의 목표나 지시사항을 해석하고 세분화하는 것
• 제공된 모든 정보 분석(컨텍스트, 메모리, 검색된 문서 등)
• 직접 응답, 추가 정보 검색, 도구 호출 등 어떤 조치를 취해야 할지 계획하기
• 도구 호출의 출력을 관찰하고 전체 작업을 수행하기 위해 이를 컨텍스트에 통합하는 것

모델이 모든 것을 알거나 할 필요는 없어요. 단지 자신이 가지고 있는 정보를 가지고 추론하기만 하면 되죠. 신뢰할 수 있는 의사 결정과 자율적인 실행을 위해서는 구조화된 메모리 시스템, 외부 도구 및 가드레일과 결합되어야 한답니다.

도구

도구는 에이전트를 정말 유용하게 만들어주는 요소에요. 모델을 언어 그 이상으로 확장해서 외부 시스템과 상호 작용하며 관련 정보를 검색하고 작업을 수행할 수 있게 해주죠. 도구는 에이전트가 실제로 작업을 수행하는 방법이라고 할 수 있어요. 예를 들어:

• : 에이전트는 생성되거나 매개변수화된 쿼리를 사용해서 데이터베이스 또는 Knowledge Graph에서 데이터를 검색하고 조작할 수 있어요.
• API: 에이전트는 웹 검색을 포함해서 HTTP 또는 RPC를 통해 내부 또는 외부 시스템과 상호 작용할 수 있어요.
• : 에이전트는 사전 정의된 기능을 호출해서 특정 작업을 수행할 수 있어요.
• 분석 및 계산: 에이전트는 데이터를 분석하고, 프로그램을 생성하고, 계산을 수행하고, 차트 및 기타 자산을 생성할 수 있어요.
• : 운영자가 활성화된 에이전트는 브라우저나 컴퓨터를 이용해서 프로그램을 실행할 수 있어요.

The 모델 컨텍스트 프로토콜(MCP)도구 통합을 쉽게 만들고 도구 검색, 인증, 통합 및 사용을 표준화했어요. 도구, 정적 리소스, 프롬프트 및 추가 지원 입력 및 출력 콘텐츠 유형에 대한 액세스를 제공하죠. 프로토콜에는 메타데이터, 매개변수 스키마 및 동작 지침에 대한 정의와 주석이 포함되어 있어서 에이전트가 프레임워크 전체에서 이를 더 쉽게 이해하고 동적으로 호출할 수 있어요.

오케스트레이션

오케스트레이션 엔진은 AI 에이전트의 구성 요소를 관리하고 조정하며, 추론 루프를 실행해서 에이전트가 다음을 수행할 수 있도록 도와줘요.

1. 다음에 할 행동을 추론하고 계획해요.
2. 추출된 매개변수로 도구를 선택해요.
3. 도구를 실행해요 (병렬로도 가능!).
4. 결과를 평가해요.
5. 루프의 다음 반복을 결정해요.

사용자 입력을 받고, 메모리, 지침, 메타데이터 및 가드레일을 검색하고, 적용 가능한 도구 목록을 만들어요. 그리고 LLM에 반복적으로 적절한 시스템 Prompt가 포함된 컨텍스트로 모든 것을 전달하죠.

오케스트레이션 엔진은 지침, 프로필, 목표라는 세 가지 주요 영역에서 AI 에이전트를 지원해요. 메모리, 모델 기반 추론 및 계획도 중요하죠.

지침, 프로필 및 목표

은 주요 작업 및 상호 작용(수행할 내용, 사용자에게 서비스를 제공하는 방법, 작업에 접근하는 방법 등)에서 에이전트를 안내해요. 여기에는 추론 및 실행 흐름과 함께 효과적인 도구 호출 및 성공적인 답변의 예가 포함되는 경우가 많죠. 에이전트의 은 스타일, 간결성, 대체 동작은 물론 특정 상황(예: 주요 정보가 누락된 경우)에서 사용자와 상호 작용하는 방법을 결정해요. 는 에이전트를 사실적이고 가치 있는 답변으로 유도해서 비효율적인 사고 사슬을 중단하고 중간 결과를 평가할 수 있게 도와줘요.

메모리

AI 에이전트에게는 중요한 지식, 과거 상호작용, 맥락을 붙잡기 위한 가 필요해요. 에이전트에는 일반적으로 두 가지 유형의 메모리가 있어요.

• : 현재 작업, 진행 중인 대화, 최근 결과 등을 추적해요.
• : 과거 사용자 상호 작용, 비즈니스 규칙, 기록 통찰력 등 에이전트가 작업 전반에 걸쳐 기억해야 하는 중요한 정보를 저장해요. 일반적으로 에피소드(텍스트), 의미(구조) 및 절차(과거 실행) 메모리로 구분되며 구조화되지 않은 Vector Database 또는 구조화된 Knowledge Graph에서 제공되는 경우가 많아요.

안정적인 메모리 시스템을 통해 에이전트는 대화의 일관성을 유지하고 응답을 개인화하며 경험을 통해 배울 수 있어요.

모델 기반 추론 및 계획

특히 성공을 객관적으로 측정할 수 있는 경우, LLM에 적용된 강화 학습을 통해 단순한 질문 답변을 넘어 복잡한 작업을 성공적으로 실행할 수 있게 되었어요.

에이전트 설정에서 AI 모델은 이전 단계 및 라운드의 적절한 컨텍스트와 함께 독립적으로 호출되고 사용되는 여러 역할을 맡게 돼요.

• 기획자/결정자
• 수집가/집행자
• 관찰자/처리자

다음 섹션에서는 에이전트가 어떻게 추론하고 행동하는지 자세히 살펴볼게요.

AI 에이전트는 어떻게 작동하나요?

에이전트에는 다양한 유형이 있으며 목표를 달성할 때까지 많은 이유와 행동이 반복적으로 발생해요. ReAct는 가장 일반적인 AI 에이전트 패턴이에요.

ReAct 에이전트는 목표를 구성 요소 작업으로 나눌 수 있는 고급 추론 기능을 갖추고 있으며 데이터베이스, 트랜잭션 API, 웹 브라우저와 같은 외부 도구를 사용하여 해당 작업을 수행할 수 있어요. 최종 결과를 평가하고, 자신이 저지른 실수로부터 배우고, 필요한 경우 다시 시작하죠. 다음은 ReAct 주기의 분석이에요.

Reason

The Reason 단계는 에이전트의 내부 계획 단계예요. 여기에서 LLM은 사용자의 요청을 해석하고, 이미 어떤 정보가 있는지 확인하고, 채워야 할 공백을 식별하죠. 도구 호출이나 추측에 바로 뛰어드는 대신 사용 가능한 컨텍스트를 사용하고 앞으로 나아갈 경로를 설명해요. 이 단계는 명확성에 관한 거예요. 사용자가 무엇을 요구하는가? 그리고 거기에 가려면 무엇이 필요할까요?

문제의 틀이 정해지면 에이전트는 불확실성을 줄일 수 있는 가장 작은 다음 단계를 결정해요. 반복 횟수, "충분한" 정보, 작업과 관련된 도구 등 자체적으로 경계를 설정할 수 있죠. 이러한 제약은 노력 낭비를 방지하고 프로세스에 명확한 방향을 제시해요.

예를 들어, 제2형 당뇨병 환자에 대한 치료 계획을 제안해 달라는 요청을 받으면 에이전트는 "최근 실험실 결과, 환자의 병력, 현재 복용 중인 약물이 필요합니다. 먼저 최신 혈당 수치와 A1C 결과를 검색한 다음 생활 방식 요인과 동반 질환을 검토합니다. 약물, 식이 요법 및 운동 고려사항의 균형을 맞춘 치료 계획을 추천할 수 있게 되면 중단하겠습니다."라고 생각하는 거죠.

Act

The Act 단계는 에이전트가 추론을 구체적인 행동으로 변환하는 단계예요. 에이전트는 추론 단계에서 결정된 도구나 리소스를 선택하고 직접 상호작용하죠. 이는 검색 쿼리, 데이터베이스 검색, API 요청, 함수 호출 또는 계산일 수 있어요.

중요한 것은 행동이 의도적이고 구체적이라는 거예요. 모호한 쿼리는 종종 복잡한 결과를 반환하는 반면, 집중된 쿼리는 소음을 줄이고 에이전트에게 필요한 것을 정확하게 가져다주죠. 행동과 추론을 긴밀하게 연결함으로써 각 움직임은 목표를 향한 진행에 직접적으로 기여해요.

의료 사례를 계속해서 설명하면 에이전트는 전자 건강 기록(EHR) 시스템에 환자의 가장 최근 혈액 검사를 쿼리하고, 약물 목록을 검색하고, 유사한 프로필을 가진 제2형 당뇨병 관리를 위한 의료 지침을 참조해요. 이러한 각 작업은 추론에 설명된 계획을 지원하여 프로세스를 효율적으로 유지하죠.

Observe

The Observe 단계는 에이전트가 작업의 결과를 받아들이고 이를 이해하는 단계예요. 유용한 정보, 지식 격차를 채우는 정보, 여전히 설명이 필요한 항목을 유지하면서 이를 메모리에 저장하고 해석하죠.

이 해석을 통해 에이전트는 적응할 수 있어요. 도구 출력은 가설을 확인하거나, 모호성을 드러내거나, 심지어 기대와 모순될 수도 있죠. 이를 작업 컨텍스트에 다시 통합함으로써 에이전트는 계획을 동적으로 유지하고 그 과정에서 학습한 내용에 반응해요.

의료 시나리오에서 EHR 데이터는 환자가 심혈관 질환의 가족력인 A1C 수치가 상승했으며 현재 메트포르민을 처방받고 있음을 보여줍니다. 에이전트는 이러한 요인이 더 강력한 혈당 조절 및 심혈관 모니터링의 필요성을 시사하며, 이는 치료 계획을 구체화하고 추가 약물 치료 또는 생활 방식 조정 고려와 같은 잠재적인 다음 단계를 식별하는 데 도움이 된다는 점을 관찰했어요.

Repeat or Finish

마지막 단계는 체크포인트예요. 새로운 정보를 확보한 에이전트는 작업을 완료하기에 충분한지 또는 다른 루프가 필요한지 여부를 결정하죠. 공백이 남아 있으면 업데이트된 컨텍스트를 사용하여 추론으로 돌아가요. 요구 사항이 충족되면 결론을 내리고 최종 응답을 전달해요.

이 결정은 루프를 효율적이고 완전하게 유지하는 것이에요. 너무 일찍 중지하면 불완전한 답변을 얻을 위험이 있고 무한정 반복하면 리소스가 낭비되죠. 에이전트는 진행 상황을 명시적으로 평가하여 적절한 순간에 종료되도록 보장해요. 즉, 과도하지 않고 자신감 있게 종료되는 거죠.

의료 사례에서 에이전트는 이제 환자의 실험실 데이터, 의료 기록 및 약물 프로필이 있는지 확인해요. 약물 상호 작용을 교차 확인하고, 최신 치료 지침을 검증하고, 생활 방식 권장 사항을 평가하거나, 약물 간의 가능한 부작용을 확인하기 위해 몇 가지 루프를 더 실행하기로 결정할 수 있죠. 충분한 증거가 수집되면 추가 반복 없이 약물 조정, 식이 요법 권장 사항 및 운동 지도를 결합한 개별화된 치료 계획을 수립해요.

Knowledge Graph가 AI 에이전트에 컨텍스트를 제공하는 방법

Knowledge Graph는 에이전트가 사실을 연결하고 작업 전반에 걸쳐 추론하고 결정을 설명할 수 있는 능력을 제공하는 구조화된 메모리와 추론 백본을 제공합니다.

오늘날 AI 에이전트는 겉으로는 인상적으로 보일 수 있어요. 하지만 실제 프로덕션급 에이전트를 구축하려고 하면 항상 한 가지 문제가 발생하죠. 바로 예요. 에이전트의 신뢰성을 높이는 데 있어 가장 중요한 요소이죠.

에이전트가 제대로 작동하려면 컨텍스트가 필요해요. 상황은 그들에게 "상황 인식"을 제공하는 모든 것이죠. 사용할 수 있는 도구, 지금까지 일어난 일에 대한 기억, 계획 능력, 이 모든 것을 하나로 묶는 추론 "두뇌" 말이에요. 맥락이 없으면 에이전트는 본질적으로 모든 단계에서 추측을 하는 것과 같아요.

몇 년 전, Prompt Engineering이 AI 개발자들에게 새로운 기술로 떠올랐던 것처럼, 이제는 Context Engineering이 주목받고 있어요. 에이전트가 다음에 뭘 해야 할지 추론하고 계획할 때, 그리고 실제로 실행해서 결과를 만들어낼 때, 적절한 시점에 올바른 정보를 제공하는 방법을 아는 게 정말 중요하거든요.

Context Engineering 분야는 빠르게 AI의 주요 관심사가 되고 있어요. 개발자들은 구조화된 데이터, 도구 정의, 메모리, 그리고 검색된 문서를 LLM의 context window에 어떻게 공급할지, 그리고 에이전트가 단계를 진행할 때 이 정보들을 어떻게 관련성 있고, 최신이며, 정확하게 유지할지 고민하는 데 많은 시간을 쏟고 있죠.

Knowledge Graph는 에이전트에게 논리적으로 생각하고, 연결고리를 찾고, 자신의 행동을 설명할 수 있는 구조화된 context를 제공해준답니다.

Knowledge Graph는 정보를 엔터티와 관계로 구성해서 풍부한 메타데이터를 담을 수 있게 해주고, 실시간으로 작업이 바뀌고 데이터가 업데이트됨에 따라 에이전트와 함께 발전할 수 있는 context 레이어를 제공하는 거죠.

Knowledge Graph는 GraphRAG라는 방법을 통해 쿼리하고 검색할 수 있어요. 에이전트는 Context Engineering을 효과적으로 수행해서 추론과 의사 결정을 획기적으로 개선하고, 구조화되지 않은 접근 방식에서 생기는 추론 오류와 환각을 줄일 수 있답니다.

Knowledge Graph는 다음과 같은 고급 에이전트 AI 시스템의 주요 기능들을 제공해요:

• : Knowledge Graph는 에이전트의 장기 기억 역할을 하는, 서로 연결된 엔터티와 관계를 저장하기 위한 그래프 데이터 구조를 제공해요. 이건 에이전트가 필요할 때 정확하게 탐색할 수 있는 사실, 경험, context 정보를 담은 복잡한 네트워크라서, 단순한 벡터 저장소보다 훨씬 강력하죠.
• 멀티홉 GraphRAG: Knowledge Graph는 에이전트가 관계 경로를 탐색하고, 사실을 검색하고, 패턴을 분석하고, 그래프 구조를 기반으로 결론을 도출할 수 있도록 해서 고급 추론 기능을 강화해줘요. 덕분에 에이전트는 그래프를 넘나들면서, 구조화되지 않은 데이터 소스에 의존하는 기존 에이전트에게는 보이지 않는 중간 링크를 통해 관련 없어 보이는 정보들을 연결할 수 있게 되는 거예요.
• : 에이전트는 소스 메타데이터를 Semantic Knowledge Graph로 변환함으로써, Language Model이 자연어를 쿼리로 변환하는 데 도움이 되는 context 기반을 얻게 돼요. 이걸 통해 기본 데이터에 대한 더 정확한 검색과 추론이 가능해지죠.
• 설명 가능한 의사결정: 그래프를 사용하면 에이전트가 디버깅과 감사를 위해 내린 결정 경로를 추적할 수 있어요.
• 보안 및 액세스 제어: Neo4j Graph Database를 사용하는 경우, 에이전트에게 Knowledge Graph에 대한 다양한 액세스 수준을 부여하는 역할 기반 권한을 활성화해서, 에이전트가 검색하거나 조작할 수 있는 데이터에 대한 가드레일을 설정할 수도 있답니다.

Knowledge Graph를 구축하는 방법

AI 사용 사례를 위한 Knowledge Graph 구축에 대해 알아야 할 모든 것을 알아보세요.

AI 에이전트의 실제 사용 사례는 무엇입니까?

다양한 유형의 AI 에이전트들은 이미 여러 비즈니스 애플리케이션에서 활발하게 사용되고 있어요. 이들은 주로 반복적인 작업을 처리하기 때문에, 사람들은 더 중요하고 가치 있는 일에 집중할 수 있게 되죠. AI 에이전트나 디지털 보조자 팀이 직원들의 워크플로우를 지원해서 생산성과 효율성을 높여주는 거예요. 가장 흔한 사용 사례를 한번 살펴볼까요?

• : 복잡한 지원 문의 처리, 환불, 계정 업데이트, 문제 해결, 케이스 에스컬레이션, 불만 패턴 감지 등을 수행해요.
• 마케팅 및 영업: 잠재 고객 조사, 개인 맞춤형 Outreach, 리드 선별, 캠페인 최적화, 콘텐츠 및 이메일 관리, 최적의 Outreach 시점 식별 등을 담당하죠.
• 재무 및 회계: 복잡한 거래 조정, 비정상적인 지출 표시, 규정 준수 보고서 생성, 실시간 분석을 통한 현금 흐름 문제 예측 등을 수행합니다.
• : 이력서 심사, 초기 인터뷰 진행, 맞춤형 온보딩, 휴가 정책 관리, 직원 이직 위험 식별 등을 돕습니다.
• 코딩 및 개발: 일상적인 코딩 작업 자동화, 프롬프트 기반 코드 생성, 단위 테스트 작성, 버그/보안 결함 감지, 리팩토링 및 CI/CD 통합과 같은 다단계 워크플로우를 처리합니다.
• : 환자 이력 분석, 증상 비교, 치료법 제안, 환자 진행 상황 모니터링, 의료 서비스 제공자에게 위험이나 상호 작용에 대한 경고 등을 제공합니다.
• : 계약 검토, 위험 조항 표시, 더 안전한 표현 제안, 관할 구역 준수 보장, 규제 감사 추적 유지 등을 지원합니다.
• : 공급업체 조사, 재고 수요 예측, 검사 조정, IoT 데이터를 활용한 생산 문제 해결, 실시간 물류 경로 최적화 등을 수행합니다.

다양한 유형의 AI 에이전트는 무엇입니까?

AI 에이전트는 크게 다섯 가지 유형으로 나눌 수 있는데, 지능 수준, 의사 결정 방식, 그리고 환경과의 상호 작용 방식에 따라 분류돼요. 간단한 규칙 기반 자동화 시스템부터 학습하고 적응하는 고도의 자율 시스템까지 정말 다양하죠.

• : 메모리 없이 기본적인 if-then 규칙에 따라 작동하며, 즉각적인 입력에만 반응해요 (예: 온도 조절 장치).
• 모델 기반 반사 에이전트: 미리 정의된 규칙과 과거 상호 작용 메모리를 사용해서 결정을 조정해요 (예: 청소된 영역을 기억하는 로봇 진공청소기).
• 목표 기반 에이전트: 정의된 목표를 달성하기 위한 조치에 대한 명확한 목표, 계획 및 추론을 가지고 행동하죠 (예: 항공편 예약 대행사).
• 유틸리티 기반 에이전트: 장단점을 평가하고 전반적인 이익이 가장 높은 결과를 선택해서 목표 기반 추론을 확장해요 (예: 금융 거래 대리인).
• : 피드백과 경험에 적응해서 지속적으로 개선하고, 역동적이고 변화하는 환경에 효과적으로 적용해요.

AI 에이전트가 함께 일할 수 있나요?

고급 에이전트 시스템에서는 여러 에이전트가 함께 작동하기도 해요. 가장 일반적인 두 가지 시스템을 한번 살펴볼까요?

• 다중 에이전트 시스템: 복잡한 문제를 해결하기 위해 전문 에이전트를 조정해요. 각 에이전트는 공유된 목표를 향해 작업하면서 고유한 기능을 제공하죠. 예를 들어, 한 에이전트는 데이터 분석을 처리하고, 다른 에이전트는 보고서를 생성하고, 세 번째 에이전트는 통신을 관리하는 식으로요.
• 계층적 에이전트 시스템: 여러 에이전트를 감독자-하급 관계의 계층으로 구성해요. 높은 수준의 에이전트는 낮은 수준의 에이전트에게 작업을 위임하고 관리자가 워크로드와 경험을 기반으로 전문 작업자에게 작업을 할당하는 것처럼 활동을 조정하죠.

The Agent2Agent(A2A) 프로토콜은 에이전트가 통신하고 협업하는 방식을 표준화해서 이러한 시스템을 지원해요. 다양한 에이전트가 작업을 안전하고 효율적으로 조정할 수 있는 공통 프레임워크를 제공해서, 사용자 정의 통합 없이도 다중 에이전트 및 계층적 설정 전반에 걸쳐 원활한 상호 작용이 가능하도록 돕죠.

AI 에이전트의 과제와 위험

에이전트는 상당한 이점을 제공하지만 계획해야 하는 실질적인 과제도 제시해요. 이러한 문제를 미리 고려하지 않으면 에이전트 시스템이 실패하거나 더 큰 위험에 직면할 수도 있어요.

• : 에이전트가 동일한 도구를 반복적으로 호출하거나 진행하지 않고 루프에서 실행될 수 있어요. 처음부터 회로 차단기와 루프 감지 기능이 내장되어 있어야 하죠.
• 상황에 따른 환각: LLM은 제한된 교육 데이터, 좁은 컨텍스트 창, 정확성보다 유용성에 대한 최적화로 인해 환각을 느낄 수 있어요. 에이전트 사용 사례에서는 추론과 계획이 지배적이므로 엔터프라이즈 시스템에 대해 출력을 더 쉽게 검증할 수 있죠.
• : 도구 환각은 제공된 도구가 잘못된 용도로 사용되거나, 매개변수가 올바른 형태나 값으로 제공되지 않거나, 결과가 무시되거나, 존재하지 않는 도구를 구성하는 경우 발생할 수 있어요. 마지막은 가장 간단한 오류 모드이고, 다른 것들은 발견하고 예방하기가 더 까다롭죠.
• : 개인 정보가 포함된 신뢰할 수 없는 도구를 호출하면 데이터가 유출될 수 있어요. 에이전트 빌더는 항상 최소한의 권한으로 신뢰할 수 있는 공급업체의 도구를 사용해야 하며, 실제로 필요한 데이터에만 액세스하고 공개 배포 메커니즘을 제한해야 해요.
• Bias: 편향은 사전 훈련 데이터와 사후 훈련(특히 인간 피드백을 통한 강화 학습을 통해) 및 추론 시 상황 안내를 통해 널리 퍼져요. 에이전트도 예외는 아니죠. 에이전트는 답변 소스로 모델 자체에서 생성되는 콘텐츠를 적게 사용하지만 특정 도구 선택, 특정 작업 과정 계획, 후처리 및 결과 판단은 편향될 수 있어요.
• : LLM은 명령어와 데이터를 쉽게 구분할 수 없기 때문에 악의적인 명령어가 포함된 신뢰할 수 없는 데이터 소스를 처리할 위험이 높으며 데이터 유출이나 손실로 이어질 수 있어요. 더 높은 복잡성과 노력으로 특정 에이전트 아키텍처를 통해 부분적으로 완화될 수 있죠.
• : 에이전트 실행은 리소스 집약적일 수 있어요. 에이전트의 주요 비용 동인은 여전히 LLM 추론(토큰 입력 및 출력)이에요. 즉, 실제 과제는 긴 컨텍스트, 반복적인 도구 사용 또는 동시에 실행되는 여러 에이전트에서 추론 오버헤드를 제어하는 ​​것이죠.
• 다중 에이전트 종속성: 서로 의존하는 에이전트가 있는 경우 하나의 오류가 전체 시스템에 퍼질 수 있어요. 체인의 한 에이전트가 속도 제한에 도달하고 모든 다운스트림이 중단되었기 때문에 프로덕션 시스템이 다운되는 경우도 있죠.
• 데이터 개인 정보 보호 문제: 에이전트가 유용하려면 중요한 데이터에 액세스해야 하는 경우가 많지만 정보를 유지하는 메모리 시스템도 있어요. 무엇이 어디에 얼마나 오랫동안 저장되어 있는지 확인해야 해요.
• 인간의 신뢰와 채택: 가장 큰 장애물은 기술적인 것이 아닐 수도 있어요. 사람들이 자율 시스템을 신뢰하게 만드는 것일 수도 있죠. 모든 것을 한 번에 자동화하려고 하기보다는 위험도가 낮은 작업부터 시작해서 점차적으로 자신감을 키워보세요.

AI 에이전트 구축을 위한 모범 사례

효과적인 AI 에이전트를 구축하려면 명확한 범위, 구조화된 계획, 강력한 컨텍스트 관리를 갖춘 신중한 설계가 필요해요. 검증, 로깅, 사람의 감독과 같은 보호 장치를 내장함으로써 에이전트는 신뢰성과 안전성을 유지하고 비즈니스 목표에 부합할 수 있죠. 예를 들어:

• : 에이전트는 일반 전문가가 되어서는 안 되지만 명확한 지침, 심사, 도구 세트 및 가치 있는 결과를 얻을 수 있을 만큼 범위가 좁아야 해요. (필요한 경우) 다중 에이전트 설정을 통해 더 복잡한 시나리오나 작업 흐름을 처리할 수 있죠.
• 고품질 기획 지도: 계획은 에이전트에게 중요한 단계에요. 메모리, 메타데이터, 가드레일, 정책, 도구 종속성과 같은 고품질 지침을 통해 에이전트가 일관되게 행동하고 중복 작업을 방지하며 비즈니스 목표에 부합하도록 보장할 수 있죠. 잘 구성된 계획은 에이전트가 작업을 관리 가능한 단계로 나누고 종속성을 효과적으로 처리하는 데에도 도움이 돼요.
• 구조화된 컨텍스트 관리: 상담원은 세션, 도구, 워크플로 전반에서 컨텍스트를 관리하고 검색하기 위한 강력한 메커니즘이 필요해요. 여기에는 관련 기록, 상태 및 환경 요소를 유지하면서 관련 없는 세부 사항으로 인한 과부하를 방지하는 것이 포함되죠. 구조화된 지식을 갖춘 강력한 상황 관리는 상담원이 일관된 결정을 내리고, 다단계 상호작용을 유지하며, 진화하는 상황에 적응하는 데 도움이 될 거예요.
• 검증/심사: 에이전트 루프에는 적어도 한 번은 덜 편향된 관점(예: 다른 모델 또는 프롬프트)에서 결정 및 컨텍스트 데이터를 조사하고 검토하는 판단 및 검증 단계가 있어야 해요. 필요한 경우 이는 인간일 수도 있겠죠.
• : 문제를 디버깅하고, 동작을 감사하고, 결과를 설명할 수 있도록 주요 결정, 도구 호출 및 실패를 구조화된 방식으로 기록해야 해요.
• 인간 참여형 디자인: 중요한 결정을 위한 승인 워크플로를 구축하고 감독 프로세스를 유지하세요. 에이전트가 아무리 훌륭하더라도 필요할 때 인간이 개입할 수 있어야 하니까요.
• : 에이전트에는 정상적인 종료 메커니즘이 필요해요. 문제가 발생하면 시스템을 일관성 없는 상태로 두지 않고 에이전트를 완전히 중지할 수 있기를 원할 거예요.
• 역할 기반 액세스 제어: 상담원 권한을 필요한 권한으로만 제한하세요. 에이전트가 전체 데이터베이스에 액세스할 수 있다고 해서 반드시 그래야 한다는 의미는 아니니까요.

최고의 AI 에이전트 프레임워크는 무엇일까요?

오늘날 AI 에이전트 개발을 위한 가장 인기 있는 오픈 소스 프레임워크는 다음과 같아요.

• LangGraph (or LangChain)
• Google 에이전트 개발 키트(ADK)
• LlamaIndex 에이전트 워크플로
• AWS Strands 에이전트 SDK
• 마이크로소프트 AutoGen
• CrewAI

관리형 엔터프라이즈 지원 서비스의 경우 마이크로소프트 365 Copilot Studio, Google Vertex AI Agent Builder, 그리고 Amazon Bedrock 에이전트가 확실한 옵션이에요.

통합할 수 있어요. Neo4j의 Knowledge Graph를 다음을 통해 이러한 프레임워크에 기능을 추가해서요. MCP를 사용하면 Knowledge Graph를 읽고 쓸 수 있는 강력한 AI 에이전트를 구축할 수 있답니다.

AI 에이전트의 미래

우리는 AI를 텍스트 생성 도구로 사용하는 것에서 목표를 이해하고 이를 달성하기 위해 자율적으로 작업할 수 있는 에이전트 시스템으로 근본적인 전환을 목격하고 있어요.

앞으로 대부분의 기존 비즈니스 애플리케이션은 상담원 작업 공간으로 발전할 거예요. 고정된 사용자 인터페이스 대신 사용자는 자신이 달성하려는 작업을 설명하고 상담원은 해당 작업을 완료하는 데 필요한 인터페이스와 워크플로를 만들죠.

구축을 시작할 준비가 된 개발자에게는 기회가 정말 중요해요. 이러한 변화에 기꺼이 투자하려는 조직의 경우 경쟁 우위가 상당할 거예요. AI의 미래는 단지 더 나은 모델에 관한 것이 아니라 실제 세계에서 행동하고, 학습하고, 적응할 수 있는 더 나은 시스템에 관한 것이니까요.

이러한 미래를 가능하게 하려면 에이전트는 관련 정보를 반환할 수 있지만 논리와 관계를 포착하는 데 어려움을 겪는 비정형 메모리와 벡터 검색을 뛰어넘어 발전해야 해요. 상담원은 상황에 따라 추론할 수 있는 구조화된 Knowledge Graph를 갖추어야 하죠.

자원

무료 도서:

• 개발자 가이드: Knowledge Graph 구축 방법
• GraphRAG 개발자 가이드
• 필수 GraphRAG

무료 GraphAcademy 강좌 AI 에이전트 개발:

• Neo4j 및 GenerativeAI 기초
• 벡터 인덱스 및 비정형 데이터 소개
• LLM으로 Knowledge Graph 구축
• LangChain과 함께 Neo4j 사용하기
• Neo4j MCP 도구로 개발
• Python을 사용하여 Neo4j 지원 Chatbot 구축

우리는 다음 과정을 다룰 예정이에요. LangGraph를 사용하여 GraphRAG 에이전트 구축, 라마인덱스, 구글 ADK, 그리고 크루AI, 그리고 RAGAS로 GraphRAG 평가하기. 완전한 로드맵도 확인해 보세요.

자주 묻는 질문

AI 에이전트가 챗봇과 똑같은 건가요? 

아니에요, 챗봇은 주로 대화에 집중하죠. 텍스트나 음성을 통해 사람과 소통하도록 만들어졌어요. AI 에이전트는 여러 단계로 이루어진 작업을 계획하고, 도구를 사용해서 목표를 달성할 수 있는 더 넓고, 능동적이고, 목표 지향적인 시스템이에요. 대화는 능력 중 하나일 뿐이고, 꼭 주요 기능은 아닐 수 있어요.

AI 에이전트는 LLM과 어떻게 다른가요? 

LLM은 프롬프트에 대한 텍스트 응답을 만들어내는 반면, AI 에이전트는 LLM을 "두뇌"처럼 사용하지만, 메모리, 계획, 도구 액세스, 그리고 목표 지향적인 행동을 더해서 작업을 자율적으로 완료해요.

코딩 없이 AI 에이전트를 만들 수 있나요? 

기본적인 에이전트는 로우 코드 플랫폼을 사용해서 만들 수 있지만, 맞춤형 통합과 복잡한 추론이 필요한 정교한 에이전트는 개발 기술이 필요해요.

에이전트를 만들려면 어떤 도구나 프레임워크가 필요해요? 

LangGraph로 시작하고, LLM(OpenAI, Anthropic 등)에 액세스하고, API 및 데이터베이스용 통합 도구를 사용해 보세요. 복잡한 메모리 및 검색의 경우 Neo4j와 같은 Knowledge Graph 추가를 고려해보는 것도 좋겠죠.

AI 에이전트를 프로덕션 환경에서 사용해도 안전한가요? 

사람의 감독, 포괄적인 로깅, 액세스 제어, 중요한 결정을 위한 승인 워크플로와 같은 적절한 보호 장치를 마련하면 에이전트를 프로덕션 환경에 안전하게 배포할 수 있어요.

AI 에이전트는 항상 인터넷에 연결되어 있어야 하나요? 

꼭 그렇지는 않아요. 클라우드 기반 LLM 및 외부 API 통합에는 인터넷 연결이 필요하지만, 에이전트는 오프라인 LLM 및 로컬 데이터 소스를 사용해서 로컬로 실행할 수도 있어요.

에이전트는 시간이 지나면서 학습하거나 개선될 수 있나요? 

네, 정교한 에이전트는 결과를 메모리 시스템에 저장하고, 과거 상호 작용에서 성공하거나 실패했던 것을 기반으로 전략을 조정해서 경험을 통해 학습할 수 있어요.

에이전트를 효과적으로 사용하려면 Knowledge Graph가 꼭 필요한가요? 

간단한 사용 사례나 취미 프로젝트에는 Knowledge Graph가 필요하지 않아요. 하지만 에이전트가 복잡한 관계를 이해하고, 맥락에 따라 추론하고, 자신의 작업을 설명해야 하는 중요한 엔터프라이즈 애플리케이션에는 필수적이죠.

하나의 에이전트가 여러 도구나 작업을 처리할 수 있나요? 

물론이죠. 에이전트는 여러 도구와 함께 작동하도록 설계되었고, 상황에 따라 다양한 작업 간에 전환할 수 있어요. 하지만 전문화된 에이전트가 고도로 일반화된 에이전트보다 더 나은 성능을 보여주는 경우가 많아요.

에이전트 오케스트레이션과 RAG의 차이점은 무엇인가요?

RAG는 응답에 대한 정보를 검색하고 보강하는 동시에, 에이전트 오케스트레이션은 여러 에이전트와 도구를 조정해서 복잡한 워크플로우를 실행하고 특정 목표를 자율적으로 달성해요.

---

에이치시스템즈의 LogTree는 Neo4j 기반 GraphRAG 플랫폼으로, 데이터를 자동으로 지식그래프화하고 자연어 질의로 즉시 답을 제공합니다.

👉 에이치시스템즈 홈페이지