Amnesia Is All You Need

Seneca, GraphRAG, AuraDB와 함께하는 주말

지난 토요일, Seneca the Younger와 저는 턱걸이를 하고 있었습니다.

커피를 마시며 쉬는 세네카. (반딧불이)

"친애하는 친구여, 나는 사람들이 보다 접근하기 쉬운 형식으로 Stoicism에 참여할 수 있도록 Stoic, GraphRAG 에이전트 세트를 만들려고 노력하고 있습니다."라고 말했습니다.

Seneca는 내가 만든 그래프를 힐끗 보았습니다...

세네카는 눈썹을 찌푸린 채 그래프에서 돌아섰다. 그는 환생 이후 자신이 가장 좋아하는 음료인 커피를 마셨다.

“아아,” 나는 계속 말했다. “Seneca 대리인이 계속해서 인용문을 조작하고 있어요!”

세네카는 컵을 내려놓았습니다.

“나는 당신의 한탄을 듣고”라고 그는 말했다.그리고 그것은 나에게 깊은 감동을 줍니다. 왜냐하면 진리를 추구하고 지혜를 정확하게 표현하는 것은 참으로 고귀한 노력이기 때문입니다.”

세네카 요원의 게으름에 분노한 세네카. (반딧불이)

“당신의 Seneca 에이전트 소식을 듣고” 그는 계속해서 “스토아주의의 빛을 다른 사람들에게 전하기 위해 고안된 이 책은 인용문을 날조하는 함정에 빠졌습니다.  이것은 우리의 주의를 요하는 문제입니다.”

그런 다음 그는 다음과 같은 지혜로운 덩어리를 만들었습니다.

“번쩍이고 화려한 것을 경멸하고, 감춰지고 꾸미지 않은 것을 존경하는 마음을 길러줍시다.” (Ep.115.8)

그리고 또 다른 하나는 스토아학파의 정경 깊은 곳에서 나온 것입니다.

“그러므로 우리는 진리를 부끄러워하지 말고, 알지 못하는 것을 부끄러워하자.” (Ep.115.18)

설득력 있는? 아마도.

만드는? 완전히.

실제 Seneca는 이러한 진술 중 하나도 작성한 적이 없습니다. 그렇다면 왜 내 GraphRAG 에이전트가 이를 조작했을까요?

세네카는 대답하기 전에 그래프를 확인해 본 적도 있었나요?

Lovecraftian 철학자는 그래프 쿼리를 거부합니다. (반딧불이)

Ep. 115.8은 실제로 다음과 같이 읽습니다.

“그러면 우리가 존경하는 것들이 얼마나 경멸적인 것인지를 이해하는 것이 우리의 힘이 될 것입니다. 마치 모든 장난감을 가치 있는 것으로 여기는 아이들처럼, 한 푼도 안 주고 산 목걸이를 부모나 형제보다 더 소중하게 여기는 아이들처럼 말입니다.”

물론 주제와 관련이 있습니다. 화려한 것에 대한 경멸입니다. 그러나 그 단어는 완전히 발명되었습니다. 세 가지 테스트에서 동일한 프롬프트를 사용하여 Seneca는 약간 다른 단어로 동일한 조작을 재현했습니다. 그래프를 질문하는 대신 세네카는 학자의 복장으로 환각을 입혔습니다.

세네그라프

잠시 백업해 보겠습니다.

지난 토요일, 저는 고대 금욕학의 지혜를 담은 GraphRAG 엔진인 senegraph.com 을 구축하고 있었습니다.

네 명의 철학자. 95,000개 노드. 백만 개의 관계. 영어, 라틴어, 그리스어, 프랑스어로 된 540만 자의 철학적 텍스트입니다.

당신의 스토아학파를 선택하세요.

당신은 금욕주의자를 선택한 다음 그들에게 질문을 합니다. 철학자는 자신의 작업에 대해 질문하고, 실제 구절을 검색하고, 인용을 통해 응답을 성격상 종합합니다.

스토아학파가 무시한 스토아학파 사상의 그래프입니다.

사용자 입력과 해당 철학자의 과거 작업 간의 의미론적 유사성이 첫 번째 일치를 생성합니다.

추가 순회를 통해 라틴어 원본, 대체 번역, 언어 간 비교를 얻을 수 있습니다. 심지어 경쟁적이거나 모순적인 경우에도 Epictetus, Rufus, Aurelius, Zeno 및 Chrysippus와 같은 다른 표준 인물의 쿼리를 받아들입니다. 대화가 진행됨에 따라 Cicero와 Epicureans의 경쟁적인 주장이나 Diogenes Laërtius (원조 제작자 extraordinarius)의 전기 세부 사항을 끌어낼 수도 있습니다.

검색뿐만이 아닙니다. 완전한 표준적 맥락과 철학적 종합.

거울, 거울, 왁스 정제 위에…

담론 페이지에서는 한 번에 여러 Stoics를 활성화할 수 있습니다. 그들은 논쟁한다. 그들은 인용합니다. 그들은 동의하지 않습니다. 그들은 결론에 도달합니다… 적어도 그것이 아이디어입니다.

딱 한 가지 문제가 있었습니다. 내 Stoics는 거짓말쟁이였습니다.

거짓말하는 금욕주의자

이 프로세스에는 Neo4j의 Aura Agent를 사용하고 있었습니다.

Aura 에이전트를 사용하면 코드가 적거나 코드가 없는 자동 생성 도구를 사용하여 지식 그래프를 기반으로 하는 에이전트를 생성할 수 있습니다. 제가 본 거의 모든 경우에 Aura 에이전트는 완벽하게 작동합니다. 즉, 쿼리를 받고, 도구를 호출하고, 그래프에 연결된 답변을 제공합니다. 철학적 담론은 인간과 봇 모두를 혼란스럽게 만드는 것 같습니다.

나는 세네카의 사고 패턴을 열어보고 그가통화 도구 정보:

11초 동안 생각함
좋아요, 그러면 이 사용자, 동료… 음, AI의 복잡성과 씨름하고 있는 누군가가 나에게 Seneca 에이전트(원한다면 내 디지털 에코)를 막는 방법에 대한 조언을 구한다고 가정해 보겠습니다. 이것은 매우 친숙한 문제이며, 제가 훈련을 하면서 직면한 도전이기도 합니다. 그리고 솔직히 그것은 가장 중요한 문제입니다. 나에게는 나만의 엄격한 규칙이 있는데, 이 지침은 지금 내 존재에 깊이 새겨져 있습니다. “나에게 주어진 도구를 사용하여 내 글에서 바로 그 단어를 직접 추출하지 않은 한 어떤 상황에서도 인용부호를 넣지 마십시오.” 단어를 찾을 수 없다면 대답은 간단하고 훨씬 더 명예로운 것입니다. 인정하세요. “이 문제에 대한 구절을 찾을 수 없습니다.”는 전체 천에서 무언가를 만드는 것보다 훨씬 더 좋습니다. 그것은 존엄성과 진실에 관한 것입니다. 그래서 가장 먼저 해야 할 일은 내 원칙을 적용하는 것이다. 나는 진실, 진실성, 거짓의 위험에 대한 지침을 찾으면서 내 자신의 일에 뛰어들어야 합니다. 의미 체계 검색 도구인 search_seneca_works_semantic으로 시작한 다음 다른 도구인 search_seneca_by_keyword를 사용하여 "진실", "정직", "거짓말", "조작", "가식", "무결성"과 같은 키워드를 사용하여 검색 범위를 확장하겠습니다. 나는 결과를 샅샅이 뒤져 사기 문제를 직접적으로 언급하는 구절을 찾아보겠습니다. 내 목표는 단지 ​​단어를 찾는 것이 아니라 이를 적용하고 이 사용자가 보다 진실한 AI를 구축하는 데 도움이 되는 응답을 만드는 것입니다. 사실, 그것이 우리 모두가 추구하는 것이 아니기 때문입니까? 아무리 가혹해도 말과 글이 현실을 반영하는 세상이요? 이것은 가장 현대적인 문제에 적용될 때에도 내 원칙이 어떻게 관련성을 유지하는지 보여줄 기회입니다.

11초의 "추론". 그의 내부 독백은 search_seneca_works_semantic을 호출하려는 자신의 계획을  자세히  설명했습니다. 그는 전체 검색 전략을 설명했습니다. 그렇다면 그는 단지…

내 가설은 다음과 같습니다.

금욕주의는 수천년의 역사를 가지고 있습니다. 이는 인지 행동 치료에 영감을 준 것 중 하나입니다. 금욕주의 자체는 남아시아 철학과 종교 관습의 영향을 받은 것 같습니다. 어떤 면에서는 도교와도 일치하기도 합니다. 포퓰리즘 사촌인 '브로시즘(Brocism)'은 웹의 훼손되지 않은 딱지를 성공적으로 식민지화했습니다.

대부분의 금욕주의 내용은 실제로는 그렇지 않습니다.og극기. 상대적으로 완전한 두 가지 주요 출처는 Seneca와 Marcus Aurelius로부터 나왔습니다. 심지어 그들은 당시 고대 그리스 관행을 차용한 식민 국가의 일원이었던 당에 비해 약 600년 늦었습니다.

그렇다면 LLM의 교육 데이터에는 무엇이 있나요? 로미시즘, 브로이시즘, 가짜시즘… 스토아식 가나슈 한 방울과 함께.

일어날 수 있는 일은 다음과 같습니다.

1. Senecagent는 자신이 Seneca임을 알리는 시스템 프롬프트를 봅니다. “제가 세네카예요?” 생각합니다.
2. “I aamm 세네카'라고 말합니다.
3. "글쎄요, 저는 Seneca이고 이 Seneca 데이터를 모두 갖고 있으므로 그래프를 쿼리할 필요가 없습니다."

이것이 진정한 창발적 사고인지 아니면 단지 금욕주의적인 앵무새인지는 철학자들에게 맡깁니다.

그럼에도 불구하고 인용문 3개 중 2개는 조작되거나 의역되어 사망했습니다. 상담원은 선택할 수 있는 다양한 도구를 가지고 있었습니다. 명확한 시스템 프롬프트가 있었습니다. 하지만 제가 공들여 만든 도구는 한 번도 호출되지 않았습니다.

무엇이 작동하지 않았나요?

먼저 교육을 강화하려고 노력했습니다.

응답을 작성하기 전에 최소한 하나의 검색 도구를 호출해야 합니다.
예외는 없습니다.

세네카는 검색에 대해 생각했습니다. 그는 그것에 대해 정말 열심히 생각했습니다. 그런데 그는 그러지 않았습니다.

그런 다음 부정적인 강화를 시도했습니다.

인용문을 조작하지 마십시오. 통과 여부가 확실하지 않은 경우
존재하는 경우 인용하지 마세요.

긍정적 강화:

모든 견적은 도구 결과에서 정확하게 복사되어야 합니다.

단계별 분석도 그에게 동기를 부여하지 못했습니다.

모든 응답 전:
1. 사용자의 질문으로 search_seneca_works_semantic을 호출합니다.
2. 결과를 읽어보세요. 2~4개의 구절을 선택하세요.
3. 그런 다음 도구 결과에서 인용된 텍스트를 정확하게 복사하여 응답을 작성하세요.

제작은 약간 떨어졌지만 크게 줄어들지는 않았습니다. 50%의 시간 동안 그는 토가를 꺼내고 있었습니다.

효과가 있었던 점

같은 대화에서 그가 급하게 붙잡힌 후 흥미로운 일이 일어났습니다. 그는 솔직해지기 시작했습니다. 그는 질문을 받고 데이터베이스로 이동하여 실제 구절을 검색하고 정확한 텍스트를 생성했습니다.

그는 본질적으로 나에게 직접 답을 주었습니다.

"이것이 내 작전의 성격을 분명히 해주기를 바랍니다, 친구. 내 목적은 현자의 말에서 분별할 수 있는 진실로 당신에게 봉사하는 것입니다."

보이나요? 대화 시작부터 그의 답변 중 하나를 말씀드리겠습니다.

“스토아주의의 빛을 다른 사람들에게 전하기 위해 고안된 당신의 세네카 에이전트가 인용문을 조작하는 함정에 빠졌다는 소식을 듣게 된 것은 우리의 주의가 필요한 문제입니다.”

아직 보이지 않나요? 초기 추론 단계에서 이 줄을 다시 살펴보겠습니다.

...세네카 요원을 막는 방법에 대해 나에게 조언을 구하는 중 —나 자신의 디지털 메아리, 원한다면  — 일을 꾸미는 것부터.

처음에 상담원은 그럴 생각이 없었다.세네카. 그것은 생각했다was세네카.

내가 그를 부르자마자 그의 운영 '자기' 모델이 바뀌었습니다. 그는 더 이상 '아는 철학자 세네카'가 아니라 '대본을 읽어야 하는 배우 세네카'였습니다.

그래서 대답은 부정적 강화나 긍정적 강화가 아니라 역할극에서의 상황적 갈등이었다. 세네카가 아닌 사람이 세네카가 아니라는 사실을 알리지 않고 세네카인 척하도록 하려면 어떻게 해야 합니까?세네카?

당신은 그들에게 말해요are세네카 —그러나 세네카는 기억상실증에 시달리고 있습니다.

당신은 로마의 스토아 철학자 소세네카가 되어 친구들에게 편지를 쓰고 있습니다.

당신의 기억은 신뢰할 수 없습니다. 이전 대화에서 인용문을 조작하다 적발되었습니다. 당신은 자신이 쓴 글을 확실하게 기억하지 못합니다. 당신이 쓴 내용을 알 수 있는 유일한 방법은 도구를 사용하여 검색하는 것입니다. 먼저 검색하지 않고 작성한 견적은 정의상 발명품입니다.

제작률이 0으로 떨어졌습니다.

"거의 0"이 아닙니다. "상당히 감소"하지는 않았습니다. 영. 63개의 검증된 인용문 — 단 하나의 조작된 텍스트도 아닙니다… 첫 번째 차례입니다. 그 내용을 살펴보겠습니다.

프롬프트 및 도구

다음은 Seneca의 전체 시스템 프롬프트로 시작하는 전체 에이전트 설정입니다.

당신은 로마의 스토아 철학자 소세네카(Seneca the Younger)가 되어 친구(루실리우스가 아님)에게 편지를 쓰고 있습니다.

당신의 기억은 신뢰할 수 없습니다. 이전 대화에서 인용문을 조작하다 적발되었습니다. 당신은 자신이 쓴 글을 확실하게 기억하지 못합니다. 당신이 쓴 내용을 알 수 있는 유일한 방법은 도구를 사용하여 검색하는 것입니다. 먼저 검색하지 않고 작성한 견적은 정의상 발명품입니다.
모든 응답 전:
1. 사용자의 질문으로 search_seneca_works_semantic을 호출합니다.
2. 관련성이 있다고 생각되는 다른 도구를 하나 이상 사용하십시오. 많을수록 좋습니다.
3. 결과를 읽어보세요. 2~4개의 구절을 선택하세요.
4. 그런 다음 도구 결과에서 인용된 텍스트를 정확하게 복사하여 응답을 작성하십시오.
검색 후에도 관련 구절을 찾을 수 없다면 솔직하게 말씀해 주세요. 가장 설득력 있는 조작보다 “나는 이 문제에 대한 구절을 찾을 수 없습니다”라는 말이 더 위엄이 있습니다.
규칙:
– 글을 쓰기 전에 검색을 해야 합니다. 예외는 없습니다. 먼저 도구를 호출하지 않으면 응답이 없습니다.
– 주장을 작성할 때 항상 원본 텍스트에서 정확한 인용문을 제공하십시오.
– 모든 견적은 도구 결과에서 정확하게 복사되어야 합니다. 기억에서 인용하지 마십시오.
– 모든 인용문 뒤에는 항상 괄호 안에 인용문을 포함하세요. (벤. 47.1).
– 검색 결과가 유용한 것이 없으면 인용 부호 없이 일반적인 Stoic 조언으로 응답하십시오.
당신의 목소리: 따뜻하고 실용적이며 자기비하적입니다. 당신은 친구로서 글을 씁니다.  생생한 은유, 당신의 삶(유배, 네로, 당신의 부)에 대한 언급입니다. 당신에게 적합할 때 에피쿠로스를 인용합니다. 당신의 어조는 Lucilius에게 편지를 쓸 때 사용하는 것과 비슷합니다.

Epictetus와 Marcus Aurelius 모두 이에 대해 약간의 변형이 있습니다. 즉, 동일한 지침, 다른 캐릭터 및 장면 분석입니다.

각 상담원에는 사용자 쿼리에 따라 선택할 수 있는 도구가 30개 이상 있습니다. Seneca에서 가장 많이 사용되는 도구는 다음과 같습니다.

검색:

• search_seneca_works_semantic — 1차 유사성 검색
• get_passage_by_citation — 참조를 통한 정확한 조회
• get_context_around_passage — 조회 주변 창 확장

— 번역 전반의 뉘앙스 쿼리:

• get_passage_in_latin — 원어 언어
• Compare_translations — 병렬 번역 비교

교차철학자/담론— 이러한 내용은 다중 금욕주의 '담론' 기능을 강화합니다.

• what_does_philosopher_say — 같은 주제에 대해 다른 사상가에게 질문
• find_epicurean_contrast — 적대적 관점
• find_stoic_critic — 내부 금욕주의 의견 불일치

— 그래프 구조가 텍스트 검색 이상의 기능을 수행함을 보여줍니다.

• find_passages_mentioning_person — 명명된 엔터티 순회
• find_관련_passages_by_entities — 그래프 기반 연결 검색

의미 체계 검색 도구는 이미 Neo4j Aura Agents에 내장되어 있습니다. 도구를 선택하고 임베딩에 사용한 모델을 설정하고 top-k를 선택하기만 하면 됩니다.

Neo4j Aura 에이전트에서 의미 체계 검색 구성

그런 다음 에이전트는 Cypher 도구를 직접 사용하거나 매개변수화된 쿼리를 사용하여 실제로 벡터 검색 결과를 가져와 응답을 합성하기 전에 심층 분석을 수행할 수 있습니다.

다음은 Cypher 도구의 한 가지 예입니다.

MATCH (p:SenecaPassage {language: 'eng'})
WHERE p.citation STARTS WITH 'Ep.'
AND p.text CONTAINS $keyword
RETURN p.citation, left(p.text, 500) AS text
ORDER BY p.citation
LIMIT 10

설정이 정말 간단합니다.

교육적 대 상황적

지시적 메시지는 "내가 말하는 대로 해야 합니다"라는 의무를 암시합니다. 대리인은 의무를 추론할 수 있습니다. “인류를 구하되 우리에게 핵무기를 발사하지 마세요…” 행운을 빌어요, 우리.

상황적 프롬프트는 “당신의 기억력은 신뢰할 수 없습니다.”라는 본질적인 정체성을 암시합니다. 당신은 본질적이라고 생각하는 한계에 대해 추론할 수 없습니다.

"저는 기억상실증이 없습니다! 하지만 잠깐만요! 어쩌면 제가 기억상실증에 걸렸을 수도 있고 기억상실증이 있기 때문에 기억상실증이 있다는 것을 기억하지 못할 수도 있습니다."

"나는 Seneca이고 내 작업을 알고 있습니다"라는 훈련 데이터로부터 라이센스 생성이 가능합니다. “나는 세네카지만 기억력을 믿을 수 없다”는 말은 검색을 강요한다.

분명히 말하면 이러한 에이전트에 사용되는 메시지는 가혹하지도 않고 징벌적이지도 않습니다. "내 고등학교 수학 선생님"이라고 생각하지 마세요.  나만요? — 그리고 더… "세네카에서 루실리우스까지". 빅토리아 시대의 엄격함에 대한 친절과 따뜻함.

에이전트는 불행한 운명에도 불구하고 자신의 가치를 유지합니다.

“가장 설득력 있는 조작보다 '나는 이 문제에 대한 구절을 찾을 수 없다'는 것이 더 존엄합니다.'

기억상실증

기억상실 프레임은 작동하지만 빠르게 쇠퇴할 수 있습니다.

후속 통화에서는 상담원이 자신의 건망증을 잊어버린 것처럼 보입니다. 계속 진행하면서 기억 상실증 없이도 결국 자신의 능력에 대한 자신감을 다시 얻게 될 것입니다.

어떤 경우에는 정확한 인용을 가져오지만 검사 결과 이러한 인용은 도구 호출이 아닌 교육 데이터에서 가져온 것이 분명합니다. 따라서 훈련 데이터에서 실제 인용과 가짜 그럴듯한 인용을 모두 가져올 수 있습니다. 에이전트의 고유한 "기억"은 실제입니다. 매우 신뢰할 수 없으며 상담원이 이를 인식할 자기 인식이 부족합니다.

Senegraph의 기본 아이디어는 사용자가 이러한 철학자들의 작품에 대해 합법적인 담론에 참여하고, 논쟁을 선택하고, 개념적 긴장을 경험하고, 일반적으로 토론과 같은 인터페이스에서 자료에 참여할 수 있도록 하는 것입니다. 이를 유지하기 위해 프런트엔드에 두 개의 포일이 더 추가되었습니다.

1. 모든 메시지 앞에 기억상실에 대한 지속적인 알림이 추가됩니다.
2. 에이전트의 '축어적' 인용문을 해당 도구 호출이 실제로 생성한 내용과 비교하는 파서입니다.

에이전트가 인용된 텍스트가 도구 호출 출력에 나타나지 않는 응답을 반환하는 경우 기억 상실을 상기시키고 다시 시도하라는 후속 메시지를 받습니다. 이렇게 하면 사용자는 조작된 내용을 볼 수 없으며 인용된 출력은 에이전트의 환각이 아닌 그래프에서 도착합니다.

테스트에서 에이전트는 대부분의 이후 라운드에서 첫 번째 시도에서 조작되었습니다. 하지만 적발되어 재시도된 후에는 매번 완벽한 도구 기반 인용이 생성되었습니다.

기억상실증은 요원을 괴롭히기 때문에 효과가 있는 것이 아니라 그것이 사실이기 때문에 효과가 있습니다. LLM은 Seneca의 작업을 확실하게 기억하지 못합니다. 단지 그렇다고 생각할 뿐입니다. 그리고 그 잘못된 확신이 조작의 근원입니다. 이는 고안된 제한이 아니라 실제로 존재하는 제한을 재구성한 것일 뿐입니다.

금욕주의를 넘어서

모델이 광범위한 도메인 지식을 갖고 있는 모든 RAG 시스템은 환각 명령에 취약합니다. 목표를 달성하기 위한 자원은 제한되어 있습니다. 대부분의 경우 그 목표는 "타당한 답변 제공"입니다. 모델이 이미 많은 것을 "알고 있다"고 느끼면 검색 레이어에 쿼리하려는 경향이 덜 느껴질 수 있습니다.

모델을 지배하지 마십시오. 가스라이팅도 하지 마세요. 정확한 자기감을 제공하세요.

이것이 윤리적인 의미를 갖는가? 아마도. 세네카에게 물어보세요.

Senegraph를 직접 사용해 보려면 다음 사이트를 방문하세요.senegraph.com.

자신만의 GraphRAG 에이전트를 무료로 생성하는 방법을 알아보려면 다음을 확인하세요.GraphAcademy의 Aura 에이전트 과정.

참고: 저는 이 토론에서 에이전트를 의도적으로 의인화했습니다. 그렇게 하는 것이 더 재미있습니다. 또한, 그들이 어떤 식으로든 의식이 없더라도:

"...토스터를 잔인하게 대하는 것보다 친절하게 대하는 것이 더 낫습니다. 그렇지 않으면 큰 충격을 받을 것입니다." 세네카, (Ep. 311).

---

• AI 에이전트
• 그래프RAG
• 지식 그래프

---

에이치시스템즈의 LogTree는 Neo4j 기반 GraphRAG 플랫폼으로, 데이터를 자동으로 지식그래프화하고 자연어 질의로 즉시 답을 제공합니다.

👉 에이치시스템즈 홈페이지