단도직입적으로 시작하겠습니다. 현재 업계에는 프롬프트 몇 줄에 외부 API 하나 붙여놓고 ‘에이전틱 AI(Agentic AI)’라고 부르는 노이즈가 너무 많습니다.

이것은 착각입니다. 에이전트를 단순한 챗봇과 구분 짓는 핵심은 ‘환경을 인지하고 도구를 쓰는 것’에 그치지 않습니다. 진짜 지능은 ‘기억(Memory)을 어떻게 구조화하고, 의사결정에 어떻게 호출하는가‘에서 결정됩니다.

L1. [에이전트의 인지-행동 루프

가장 먼저, 에이전트가 외부 세계와 상호작용하는 전체 시스템의 흐름을 봐야 합니다.

대부분의 개발자들은 ‘입력(Perception)’과 ‘행동(Action)’에 집착합니다. “내일 비가 올 것 같니? 우산을 줘”라는 사용자의 복합적인 맥락(텍스트, 시각적 환경)을 데이터 벡터로 변환하고, 이를 로봇 팔이라는 물리적 구체화(Embodiment)로 연결하는 과정은 훌륭해 보입니다.

하지만 여기서 진짜 병목(Bottleneck)이 발생하는 곳은 중앙의 ‘뇌(Brain)’입니다.

단순한 파이프라인의 한계: 인지된 데이터를 곧바로 행동으로 연결하면 그것은 그저 ‘조건부 자동화(If-Then Automation)’에 불과합니다.
기억과 지식의 분리: 에이전트의 뇌는 단순히 텍스트를 처리하는 것을 넘어, 저장(Storage) 공간 내에서 ‘메모리(과거의 경험)’와 ‘지식(학습된 정보)’을 교차 참조해야 합니다. 이를 바탕으로 계획(Planning)과 추론(Reasoning)을 수행해야만 비로소 ‘일반화 및 전이(Generalize/Transfer)’가 가능해집니다.

그렇다면 이 뇌를 구동하는 핵심인 ‘저장소(Storage)’, 그중에서도 기억(Memory)은 어떻게 설계되어야 할까요? 여기서 두 번째 논의로 넘어갑니다.

L2. 기억의 계층적 해부 (Memory Taxonomy)

시스템의 뇌를 확대해 보면, 기억은 단일한 데이터베이스가 아님을 알 수 있습니다. 장기 기억(Long Term Memory)은 크게 두 가지, 세부적으로는 세 가지 구조로 철저히 분리되어야 합니다.

1. 외현적 기억 (EXPLICIT): 구조화되고 검색 가능한 지식 (RAG의 영역) 개발자가 명시적으로 쿼리하고 검색할 수 있는 데이터입니다.

의미론적(SEMANTIC) 기억: 사실과 개념의 집합입니다. “개는 포유류이다”라는 예시처럼, 변하지 않는 전역적 지식입니다. 에이전트가 세상의 규칙을 이해하는 기반이 됩니다.
일화적(EPISODIC) 기억: 시간적, 공간적 맥락이 부여된 경험의 기록입니다. “나는 2018년에 반려견을 입양했다”처럼 특정 시점의 이벤트입니다. 사용자 컨텍스트와 대화 기록(Session History)이 여기에 속합니다.

2. 내재적 기억 (IMPLICIT): 무의식적 학습과 반사적 행동 (Fine-Tuning/RLHF의 영역)

절차적(PROCEDURAL) 기억: 명시적인 검색(Retrieval) 없이도 체화된 기술입니다. 로봇이 매번 “장애물 회피 공식”을 검색하지 않고도 자연스럽게 피하는 것과 같습니다. 이는 벡터 DB에 텍스트로 저장되는 것이 아니라, 강화학습(RL)이나 모델 가중치(Weights) 업데이트를 통해 시스템 자체에 내재화됩니다.

L3. 왜 당신의 에이전트는 실패하는가? (Critical Synthesis)

대부분의 에이전틱 AI가 멍청하게 행동하는 이유는 기억의 계층을 혼합하거나 하나만 편식하기 때문입니다.

일화적 기억의 비대화: 유저와의 이전 대화 기록(Episodic)을 단순히 Context Window에 전부 쑤셔 넣는 방식은 한계에 부딪힙니다. 토큰 낭비이자 환각(Hallucination)의 주범입니다. 이 일화적 기억은 주기적으로 요약(Summary)되어 의미론적 기억(Semantic)으로 승격되거나 아카이빙 되어야 합니다.
절차적 기억의 부재: 복잡한 도구(Tool)를 사용하거나 추론(Reasoning)을 할 때, 매번 프롬프트로 지시해야만 한다면 그것은 절차적 기억이 없는 것입니다. 진정한 에이전트는 반복된 성공과 실패를 통해 최적의 도구 사용법을 ‘절차적 기억(가중치 업데이트)’으로 전환해야 합니다.

[결론] 에이전틱 시스템의 설계는 단순히 프롬프트를 잘 짜는 것이 아닙니다. 환경(Environment)에서 들어온 자극을 분해하여, 이 정보가 일화적(Episodic)인가, 의미론적(Semantic)인가, 아니면 행동 교정을 위한 절차적(Procedural) 데이터인가를 실시간으로 분류하고 적절한 저장소(Storage)로 라우팅하는 아키텍처를 구축하는 것. 이것이 AI 에이전트 설계의 핵심 과제입니다.