Clip 2: AI Agent architecture 자세히 살펴보기

학습 목표

• AI Agent의 핵심 구성 요소 이해하기
• 다양한 Agent 아키텍처 패턴 파악하기
• 실무에 적용 가능한 Agent 설계 원칙 습득하기

1. Agent의 정의

OpenAI 정의

Agent는 "지시사항(해야 할 것), 가드레일(하지 말아야 할 것), 도구(할 수 있는 것)를 가지고 사용자를 대신해 행동하는 AI 시스템"

일반적 정의

Agent는 "LLM을 사용하여 애플리케이션의 제어 흐름을 결정하는 시스템"

Agent는 다음과 같은 결정을 내릴 수 있습니다:

• 잠재적인 경로들 사이에서 라우팅
• 어떤 도구를 호출할지 결정
• 더 많은 작업이 필요한지 판단

일반적으로 Agent가 할 수 있는 일은 2025년 10월 7일 발표된 Agent Builder 에서 확인할 수 있음

https://platform.openai.com/docs/guides/agents/agent-builder

graph TD
    Input[사용자 입력] --> LLM[LLM 브레인]
    LLM --> Decision{제어 흐름<br/>결정}

    Decision -->|경로 선택| Route[라우팅]
    Decision -->|도구 선택| Tools[도구 실행]
    Decision -->|작업 평가| Continue{계속할까?}

    Tools --> Observe[결과 관찰]
    Observe --> Continue

    Continue -->|예| LLM
    Continue -->|아니오| Output[최종 결과]

    Route --> Output

2. 핵심 Agent 아키텍처 유형

2.1 Router Architecture (라우터 아키텍처)

가장 단순한 형태의 Agent로, 제한된 제어 메커니즘을 제공합니다.

특징:

• LLM이 미리 정의된 옵션 중 단일 단계를 선택
• 구조화된 출력 기법 활용:
  • Prompt engineering (프롬프트 엔지니어링)
  • Output parsers (출력 파서)
  • Tool calling (도구 호출)

사용 예시:

graph LR
    Input[질문] --> Router{라우터 Agent}
    Router -->|기술 지원| Tech[기술팀으로 전달]
    Router -->|결제 문의| Billing[결제팀으로 전달]
    Router -->|일반 문의| General[일반 지원팀으로 전달]

적용 사례:

• 고객 문의 분류 시스템
• 문서 카테고리 분류
• 작업 우선순위 결정

2.2 Tool-Calling Agent Architecture (도구 호출 Agent 아키텍처)

더 복잡한 Agent로, 다단계 의사결정을 가능하게 합니다.

핵심 구성 요소:

graph TB
    subgraph "Tool-Calling Agent"
        LLM[LLM Core]
        Tools[도구 모음]
        Memory[메모리]
        Planning[계획 모듈]

        LLM <--> Tools
        LLM <--> Memory
        LLM <--> Planning
    end

    Input[입력] --> LLM
    LLM --> Output[출력]

1) Tool Calling (도구 호출)

• LLM이 다양한 도구를 선택하고 사용
• API 호출, 데이터베이스 쿼리, 외부 서비스 연동 등

2) Memory (메모리)

단기 메모리 (Short-term Memory):

• 현재 시퀀스 내에서 정보 유지
• 대화 컨텍스트, 중간 결과 저장
• 예시: ChatGPT 한 세션에서 주고 받은 메시지

장기 메모리 (Long-term Memory):

• 상호작용 전반에 걸쳐 정보 회상
• 사용자 선호도
• 예시: CLAUDE.md, AGENTS.md

sequenceDiagram
    participant User
    participant Agent
    participant ShortMem as 단기 메모리
    participant LongMem as 장기 메모리

    User->>Agent: "지난주에 논의한 프로젝트 계속하자"
    Agent->>LongMem: 과거 대화 검색
    LongMem-->>Agent: 프로젝트 A 정보 반환
    Agent->>ShortMem: 현재 대화 컨텍스트 저장
    Agent-->>User: "프로젝트 A를 계속하시겠습니까?"

3) Planning (계획 수립)

재귀적 루프를 통한 계획:

1. 호출할 도구 결정
2. 도구 실행
3. 결과 평가
4. 충분한 정보가 수집되면 종료

graph TD
    Start[시작] --> Analyze[상황 분석]
    Analyze --> Plan[도구 선택 계획]
    Plan --> Execute[도구 실행]
    Execute --> Evaluate{목표 달성?}

    Evaluate -->|아니오| Analyze
    Evaluate -->|예| End[완료]

3. 고급 Agent 설계 패턴

3.1 Core Workflow Patterns (Anthropic)

Anthropic이 제시한 5가지 핵심 워크플로우 패턴:

1) Prompt Chaining (프롬프트 체이닝)

작업을 순차적 단계로 분해

graph LR
    A[입력] --> B[LLM 1:<br/>분석]
    B --> C[LLM 2:<br/>처리]
    C --> D[LLM 3:<br/>요약]
    D --> E[출력]

장점: 각 단계를 독립적으로 최적화 가능 예시: 문서 분석 → 핵심 추출 → 요약 생성

2) Routing (라우팅)

입력을 분류하고 전문화된 작업으로 전달

graph TD
    Input[입력] --> Classifier{분류기}
    Classifier -->|타입 A| Expert1[전문가 Agent A]
    Classifier -->|타입 B| Expert2[전문가 Agent B]
    Classifier -->|타입 C| Expert3[전문가 Agent C]

    Expert1 --> Output[통합 출력]
    Expert2 --> Output
    Expert3 --> Output

장점: 전문화된 처리, 효율성 향상 예시: 언어별 번역 Agent, 도메인별 질의응답 시스템

3) Parallelization (병렬화)

하위 작업을 동시에 실행. 예시: Claude Deep Research

graph TD
    Start[복잡한 작업] --> Split[작업 분할]

    Split --> Task1[하위작업 1]
    Split --> Task2[하위작업 2]
    Split --> Task3[하위작업 3]

    Task1 --> Merge[결과 통합]
    Task2 --> Merge
    Task3 --> Merge

    Merge --> Final[최종 결과]

장점: 속도 향상, 리소스 효율성 예시: 여러 소스에서 동시에 정보 수집

4) Evaluator-Optimizer (평가자-최적화자)

피드백 루프를 통한 반복적 개선

graph TD
    Input[초기 입력] --> Generator[생성기]
    Generator --> Output1[결과물]
    Output1 --> Evaluator{평가자}

    Evaluator -->|불충분| Feedback[피드백]
    Feedback --> Generator

    Evaluator -->|충분| Final[최종 결과]

장점: 품질 향상, 자가 개선 예시: 코드 생성 및 자동 테스트, 콘텐츠 작성 및 품질 검증

3.2 고급 기능

Human-in-the-Loop (인간 개입)

중요한 결정 시점에 사람의 승인 요청

sequenceDiagram
    participant Agent
    participant System
    participant Human

    Agent->>System: 작업 A 완료
    Agent->>System: 중요 결정 필요
    System->>Human: 승인 요청
    Human-->>System: 승인/거부
    System-->>Agent: 결정 전달
    Agent->>System: 작업 계속

적용 사례:

• 금융 거래 승인
• 콘텐츠 발행 전 검토
• 중요 시스템 변경

Reflection (반성/성찰)

Agent가 자신의 출력을 평가하고 개선

graph LR
    A[생성] --> B[자기 평가]
    B --> C{만족스러운가?}
    C -->|아니오| D[개선 계획]
    D --> A
    C -->|예| E[최종 출력]

4. 멀티 에이전트 vs 싱글 에이전트

멀티 에이전트가 유리한 경우 (Anthropic)

Orchestrator-Worker 패턴:

• 리드 Agent가 전문화된 하위 Agent들을 병렬로 조정
• 연구 평가에서 싱글 Agent 대비 90.2% 성능 향상

적합한 작업:

• 병렬화가 가능한 독립적 탐색 경로
• 단일 컨텍스트 윈도우를 초과하는 정보량
• 여러 복잡한 도구 동시 사용 필요

한계:

• 토큰 사용량 15배 증가
• Agent 간 의존성이 높은 작업엔 비효율적
• 코드 작성 등 병렬화 어려운 작업엔 부적합

싱글 에이전트를 선택해야 하는 경우 (Cognition AI)

멀티 에이전트의 취약점:

graph TD
    A[Agent 1] -->|불완전한 컨텍스트| Decision1[결정 A]
    B[Agent 2] -->|다른 컨텍스트| Decision2[결정 B]
    Decision1 -.상충.-> Conflict[충돌하는 결과]
    Decision2 -.상충.-> Conflict

• 컨텍스트 단절: 하위 Agent간 세밀한 컨텍스트 공유 어려움
• 일관성 문제: 병렬 작업시 상충되는 결정 발생
• 의사결정 충돌: "행동은 암묵적 결정을 담고, 충돌하는 결정은 나쁜 결과를 초래"

---

참고 자료 및 읽어보면 좋은 자료

• LangGraph - Agentic Concepts
• Anthropic - Building Effective Agents
• OpenAI - a-practical-guide-to-building-agents.pdf
• Anthropic - multi-agent-research-system
• Cognition - Dont-build-multi-agents
• OpenAI - AgentKit

---

강사 정보

• 작성자: 정구봉
• LinkedIn: https://www.linkedin.com/in/gb-jeong/
• 이메일: bong@dio.so

강의 자료

• 강의 자료: https://goobong.gitbook.io/fastcampus
• Github: https://github.com/Koomook/fastcampus-ai-agent-vibecoding
• FastCampus 강의 주소: https://fastcampus.co.kr/biz_online_vibeagent