AI Agent는 단순한 LLM 기반 챗봇이 아니라, 목표를 스스로 계획하고, 필요한 정보를 검색하며, 외부 도구를 호출해 실제 작업을 수행하는 지능형 시스템이다.
이를 구성하기 위해서는 LLM부터 RAG, Memory, Tooling, MCP, Workflow Graph까지 여러 기술이 유기적으로 연결된다.
아래는 AI Agent의 핵심 구성 요소를 한눈에 볼 수 있는 구조도이다.
1. AI Agent 기본 아키텍처 다이어그램 (텍스트 기반 구조도)
flowchart TD
A[User Input<br>사용자 입력]
B["1.Planner (계획 수립)
- Analyze goal (목표 분석)
- Determine required tools (필요한 도구 판단)
- Identify necessary information (필요한 정보 파악)
- Structure multi-step tasks (멀티스텝 작업 구조화)
"]
C["2.Memory / Knowledge Access (메모리 / 지식 접근)
- Long-term Memory (장기 기억)
- Short-term Memory (단기 기억)
- RAG: Vector DB Retrieval (벡터DB 검색)"]
D["3.LLM Reasoning Engine (추론 엔진)
- Execute plan (계획 실행)
- Perform reasoning (추론 수행)
- Document-based reasoning (문서 기반 추론)
- Tool selection & parameter generation (도구 선택 및 파라미터 생성)"]
E["4.Tool Execution Layer (도구 실행 계층)
- API calls (API 호출)
- Database queries (DB 조회)
- File access (파일 접근)
- External integration (검색/스크래핑 등)
- MCP: Multi-Agent Control Protocol (표준화된 도구 접근)"]
F["5.Workflow Orchestration (워크플로우 오케스트레이션)
- LangChain / LangGraph / Airflow / Custom Engine
- State management (상태 관리)
- Retry on failure (실패 시 재시도)
- Multi-agent collaboration (멀티 에이전트 협업)"]
G[Final Output<br>최종 출력]
A --> B --> C --> D --> E --> F --> G
2. 각 요소 설명
1) Planner (계획 수립 엔진)
AI Agent가 “목표를 구성하는 단계”이다.
- 사용자의 요청을 분석하고
- 필요한 단계들을 만들고
- 어떤 도구를 사용해야 할지 판단한다.
예:
“삼성전자 최근 1년 실적 분석해줘”
→ Planner는 다음과 같은 단계로 나눈다:
- 재무 데이터 수집(API Tool)
- 텍스트 요약(LLM)
- 표 생성(File Tool)
- 결과 정리
Planner 단계는 AI Agent의 핵심 두뇌 기능이다.
2) Memory & RAG (지식 기반)
Agent는 단순히 질문에 답하는 것이 아니라 “기억하고 학습해야 한다.”
그래서 Memory와 RAG가 필요하다.
- Short-term memory: 현재 작업의 문맥 유지
- Long-term memory: 사용자의 과거 요청 기록 저장
- RAG: PDF, 내부 문서, 웹사이트 등에서 실시간 정보 검색
Memory/RAG 시스템이 강화될수록 Agent는 점점 더 똑똑해진다.
3) LLM Reasoning Engine
LLM은 Agent의 중심이며 다음 역할을 수행한다.
- 문맥 기반 reasoning
- Tool 호출 여부 판단
- API에 넣을 파라미터 생성
- 검색된 문서 기반 분석
- 최종 요약 결과 생성
GPT, Claude, Gemini 등 모델 종류는 다양하지만 역할은 동일하다.
4) Tool Execution (MCP 기반 도구 실행 계층)
Agent는 단순히 문장만 생성하는 것이 목적이 아니다.
실제 행동을 수행해야 한다.
- API 호출
- 파일 읽기/저장
- DB 조회/삽입
- 브라우저 자동화
- 크롤링
- 외부 시스템 연동
기존에는 각 서비스마다 구현 방식이 달랐지만,
MCP가 등장하면서 표준화된 Tool 구조를 사용할 수 있게 되었다.
5) Workflow Orchestration (LangGraph 기반)
하나의 작업은 여러 단계로 구성된다.
Agent가 안정적으로 여러 단계를 수행하려면 워크플로우 관리가 필수다.
- 상태(state) 기반 진행
- 에러 발생 시 재시도
- 멀티 Agent 협업
- 단계별 조건 분기
- 비동기 처리
- 장기 실행 작업 관리
LangGraph는 AI Agent 개발에서 거의 표준처럼 사용되고 있다.
3. AI Agent 확장형 아키텍처 (Multi-Agent 구조)
여러 Agent가 협업하는 구조도 가능하다.
flowchart TD
A[ResearchAgent]
B[DataAgent]
A --> C[AnalysisAgent]
B --> D[VisualizationAgent]
C <--> D
C --> E[Master Agent]
D --> E[Master Agent]
예시
- 한 Agent는 웹 크롤링
- 한 Agent는 데이터 분석
- 한 Agent는 정리·보고서 생성
- Master Agent가 전체를 조율
이 구조는 투자 분석, 리서치 보고서, 운영 자동화 등에서 강력하다.
4. AI Agent 아키텍처 핵심 요약
- LLM = 두뇌
- RAG = 지식
- Memory = 장기 기억 저장소
- Tool(MCP) = 손과 발
- Planner = 행동 계획
- Workflow = 일의 순서 관리
이 조합이 완성되면 AI Agent는 단순 답변을 넘어서
사람처럼 일하는 AI 시스템이 된다.