AI Study
Sensor-Effector 고전 에이전트에서 LLM 자율 추론 · 도구 실행 · Multi-Agent 협업까지

Agent (에이전트)

단순히 생각하는 시스템(Thinker)을 넘어 환경을 지각하고 목표를 향해 능동적으로 행동하는 시스템(Actor)입니다. 1990년대 소프트웨어 개인 비서와 로봇 제어 구조에서 출발한 에이전트 개념은, 오늘날 LLM의 추론 능력·메모리·도구 호출(MCP)과 결합해 스스로 계획하고 실행하는 AI 시대의 핵심 주체로 진화했습니다.

Section 01 · 원문 보존 및 고전 에이전트 기초

Agent의 기원과 고전적 정의

기존 22개 링크 100% 보존

프로 운동선수들은 에이전트가 있으며 영화 스타들도 에이전트가 있고 ...... 우리 각자도 에이전트가 있다. 에이전트는 당신을 대신하여 어떤 일을 맡길수 있을 만큼 믿음을 주는 전문성을 가진 사람들이며, 마찬가지로 당신의 컴퓨팅 경험을 최대로 하도록 도와주는 컴퓨터 (Computer) 프로그램을 "agents" 라고 부른다. 인터넷에서 특정 정보를 찾을 때 당신이 흥미를 느끼고 있는 것을 알고있고 당신의 시간이 얼마나 중요한지를 아는 당신만의 에이전트를 상상해보라. 인공지능 (Artificial Intelligence) 과학자들이 수행하는 연구는 더욱더 섬세하고, 독립적이며, 더 도움을 줄수있는 에이전트를 만들어 능력을 부여하는 것이다. ............ 우리는 단지 지능적으로 생각하는 것 (thinkers) 이 아니라 지능적으로 행동하는 것 (actors) 을 만들기를 원한다. 전혀 행동하지 않는 시스템에서 지능 (Intelligence)을 어떻게 추정할수 있는가? 달리 말하면, 행동이 없는 시스템이 지능을 어떻게 보여줄수 있는가는 명확치 않다 (Martha Pollack)............ (AI Topics : Agents)

환경 지각과 행동의 정의 (Russell, 1994)

"Agent 는 자신의 센서 (Sensor) 를을 통해 환경 (environments) 을 지각 (Percept) 하여 작용기 (effectors) 를 통해 그 환경에 대해 반응 (action) 하는 시스템을 말한다" (Russel 1994)

Agent는 인공지능 분야에서 오래 전부터 연구되어 온 분야로서 1990년대 초부터 독립된 분야로 인식되기 시작한 분야이다. agent는 최근 통신 및 컴퓨터의 보급이 증대됨에 따라 개인 비서 역할을 하기 위해 등장한 개념으로, 특히 분산 환경에 적당하다.

통합 구조 (Architecture)와 핵심 요소

완전한 기능을 하는 Agent 는 그것이 생물이든 소프트웨어든 로봇 (Robot)이든간에 다양하면서도 서로 연관된 기능을 하나의 통합된 구조 (architecture) 로서 가질 것을 요구한다. 현재는 AI 의 대부분의 작업에서 그런 구조의 하나의 component (예를들면 컴퓨터비전 (Computer Vision), 자연어 이해 (Natural Language Understanding), 기계학습 (Machine Learning), 계획 (Planning) 등등) 만을 가지거나, 많은 component 에 의해 사용되는 표현과 추론 (Reasoning) 메카니즘 (논리 (Logic), 신경망 (Neural Network), 유전알고리즘 (Genetic Algorithm) 등등) 을 가진다. 모든 것이 서로 연관되는 것에 관한 연구는 매우 필요하다.

다중에이전트 시스템 (Multi-Agent System)

다중에이전트 시스템 (Multi-Agent System)은 많은 지능적 Agent 들이 서로 작용하도록 하는 시스템이다. 그 Agent 들은 소프트웨어 프로그램이나 로봇 (Robot)처럼 자율적인 개체 (autonomous entities) 인것으로 간주된다. 그 상호작용은 서로 이기적일 수도 있고 협력적일 수도 있다. 즉 그 Agent 들은 공통의 목적을 (개미의 집단처럼) 가질 수도 있고 그들 자신의 이익을 추구할 수도 있다 (자유 시장 경제처럼). Multi-agent system 연구자들은 의사교환을 위한 언어와 상호 작용을 위한 프로토콜을 개발하고 Multiagent system 의 개발을 쉽게하는 에이전트 구조 (architecture) 를 개발한다. 예를 들면 Multiagent system연구자들은 각 개미들이 가장 효과적인 방법으로 음식물을 개미집으로 가져오게 하려면 각 개미들이 어떻게 프로그램 되어야 하는지를 연구한다. 또한 이기적인 에이전트 집단이 주어진 작업을 수행하기 위해 함께 일하려면 어떻게 규칙 (rule) 을 만들어야 하는지를 연구한다. 그들은 AI 이외의 분야 즉 생물학, 사회학, 경제학, 철학, 경영학등의 많은 분야에서 아이디어를 얻는다.

Section 02 · 개념과 작동 방식 비교

전통적인 Agent vs. AI · LLM 시대의 Agent

고전 AI 패러다임 · 규칙 · 탐색 · MDP 기반

전통적인 Agent (Symbolic · Classical RL)

전통적인 에이전트는 미리 정의된 상태 공간(State Space)과 명시적 규칙·보상 함수 안에서 작동하는 구조화된 시스템입니다.

  • 유형 진화: 단순 반사(Simple Reflex) → 모델 기반(Model-Based) → 목표 기반(Goal-Based) → 효용 기반(Utility-Based) → 학습 에이전트.
  • 추론 방식: 기호 논리(Logic), A* 탐색, PDDL 계획(Planning), 혹은 좁은 도메인(게임·로봇 제어)의 강화학습(RL) 정책에 의존합니다.
  • 제약사항: 개발자가 정의하지 않은 예외 상황이나 비정형 자연어·웹 환경을 만나면 즉시 실패하며, 범용 상식이 부족합니다.
현대 Agentic AI · LLM Brain + Memory + Tools

AI · LLM 시대의 Agent (Autonomous LLM Agent)

LLM 시대의 에이전트는 거대언어모델을 중앙 추론 두뇌(Reasoning Core)로 삼아, 스스로 계획을 세우고 외부 도구를 호출하며 실패를 교정해 목표를 달성합니다.

  • 범용 언어·맥락 이해: 비정형 텍스트, 코드, 이미지, OS 화면을 그대로 이해하고 자연어로 목표를 분해합니다.
  • 동적 도구 사용 (Tool Use / MCP): 검색엔진, 파이썬 인터프리터, DB, API, 웹 브라우저 등을 상황에 맞게 스스로 선택해 호출합니다.
  • 자기 성찰 (Reflection): 실행 결과와 에러 로그를 관찰(Observe)한 뒤 스스로 계획을 수정하여 재시도합니다.

LLM 시대 Agent의 5단계 핵심 작동 원리 (ReAct · Plan-Act-Reflect 루프)

STEP 01

목표 & 맥락 인식

사용자의 상위 목표(Goal)와 현재 환경 상태, 장기 기억(RAG/Memory)을 컨텍스트에 적재합니다.

STEP 02

추론 & 작업 분해

Chain-of-Thought로 문제를 작은 하위 작업(Sub-tasks)으로 쪼개고 다음 행동을 결정합니다.

STEP 03

도구 호출 (Act)

Function Calling, MCP, 코드 실행, 또는 브라우저 클릭으로 실제 환경에 작용을 가합니다.

STEP 04

관찰 (Observe)

API 응답, 테스트 통과 여부, 화면 변화, 에러 메시지를 새로운 입력으로 받아들입니다.

STEP 05

성찰 & 반복

목표 달성 여부를 판정하고, 부족하면 계획을 수정(Reflect)해 루프를 반복하거나 완료합니다.

비교 기준 전통적인 Agent (고전 AI) AI · LLM 시대의 Agent
핵심 추론 엔진 규칙 기반 엔진, 기호 논리, 탐색 트리(A*/MCTS), 좁은 RL 정책 사전학습된 범용 LLM / 추론 모델 (Reasoning Models)
환경 및 입력 정형화된 센서 수치, 사전에 정의된 이산 상태(State) 비정형 자연어, 코드, 문서, 이미지, 웹/OS 화면(멀티모달)
기억 구조 명시적 상태 변수 또는 고정 테이블 컨텍스트 윈도우(단기) + 벡터 DB·지식 그래프(장기 기억)
도구 확장성 하드코딩된 고정 액션 집합만 수행 가능 Tool Schema / MCP를 읽어 새로운 API와 도구를 동적 학습·사용
주요 리스크 미정의 상황에 대한 극심한 취약성(Brittleness) 환각, 다단계 오류 누적(Compounding Error), 프롬프트 인젝션
Section 03 · Deep Research & Infographic

LLM 시대 Agent의 구조, 한계와 미래 전망

인포그래픽 ① : LLM Agent 핵심 4대 구성 요소와 폐루프 아키텍처

현대 AI 에이전트는 단일 LLM 호출이 아니라 Planning(계획) · Memory(기억) · Tools/MCP(도구) · Reflection(성찰)이 하나의 폐루프로 결합된 시스템입니다.

CENTRAL REASONING CORE LLM Agent 두뇌 의도 해석 · 상태 판단 · 다음 행동 결정 (ReAct / CoT / Tool Routing) 1. Planning & Self-Reflection 목표 분해(Sub-goals) · 자가 비평 · 오류 시 계획 재수립 2. Memory (단기 · 장기 기억) 단기: Context Window 작업 기억 장기: Vector DB(RAG) · Graph · 사용자 선호 이력 3. User & Guardrails 자연어 목표 부여 (Goal) Human-in-the-Loop 승인 권한 제어 및 최종 결과 전달 4. Tools & Environment • MCP / REST API / DB • Code Sandbox / Terminal • Browser / Computer Use • Physical Robot / Sensors Action Observe

인포그래픽 ② : Agent 자율성 진화와 다단계 오류 누적(Compounding Error) 법칙

에이전트의 자율성이 높아질수록 단일 단계 성공률의 작은 차이가 장기 과업 성공률을 크게 좌우합니다. 따라서 미래의 에이전트는 검증 게이트(Verification)와 멀티에이전트 교차 검증이 필수적입니다.

AI Agent 자율성 4단계 진화 Level 1 · 단일 질의응답 (Chatbot): 도구 실행 없이 텍스트 답변 Level 2 · 정해진 워크플로우 (Router/Chain): 사전 정의된 경로 실행 Level 3 · 자율 단일 에이전트 (ReAct): 스스로 계획·도구선택·수정 Level 4 · Multi-Agent 협업 팀 & 백그라운드 자율 운영 역할 분담(계획·실행·검증) + A2A/MCP 프로토콜 기반 장기 실행 다단계 실행 시 오류 누적 (20단계 기준) 단계당 정확도 95% (무검증 직렬 실행) 전체 성공률 ≈ 35.8% (0.95^20) 단계당 정확도 99% (도구 스키마 최적화) ≈ 81.8% 단계별 검증기 + 자가 수정 재시도 루프 98%+ 신뢰성 달성 (Self-Correction) 결론: 미래 에이전트 성능은 '모델 크기'뿐 아니라 '검증·복구 루프'가 결정

Deep Research ① : LLM 시대 Agent의 5대 미래 방향

  • 1) Multi-Agent 협업 생태계와 A2A 표준: 하나의 거대 에이전트가 모든 일을 처리하는 대신, 코딩·검색·검증·보안 등 전문화된 에이전트들이 A2A(Agent-to-Agent) 및 MCP 프로토콜로 팀을 이루어 병렬 작업하는 구조가 보편화됩니다.
  • 2) 장기 실행 비동기 에이전트 (Long-Horizon Async Agents): 몇 초 안에 답하는 채팅을 넘어, 백그라운드에서 수 시간~수일간 코드베이스를 리팩토링하고 테스트하며 스케줄에 따라 보고하는 상주형 에이전트로 진화합니다.
  • 3) 디지털에서 물리 세계로의 확장 (Physical AI & Robotics): 비전-언어-행동(VLA) 모델과 결합된 에이전트가 브라우저·OS(Computer Use)뿐 아니라 실제 로봇, 자율주행, 스마트 팩토리의 물리적 환경을 직접 지각하고 제어합니다.
  • 4) 경험 축적형 자기 개선 (Experience-Driven Learning): 실행 중 마주친 성공·실패 궤적을 기억(Memory)과 스킬(Skill)로 증류하여, 시간이 지날수록 특정 조직과 사용자의 업무 방식에 맞춰 스스로 진화합니다.
  • 5) 거버넌스와 에이전트 샌드박스 보안: 에이전트마다 최소 권한(Least Privilege)과 격리된 실행 컨테이너를 부여하고, 모든 도구 호출을 감사(Audit)하는 엔터프라이즈 보안 인프라가 필수 요소가 됩니다.

Deep Research ② : Agent 상용화의 3대 핵심 한계

  • 1) 다단계 오류 누적 (Compounding Errors): 각 단계의 정확도가 95%로 매우 높아도, 20단계를 연속 실행하면 전체 성공률은 0.9520 ≈ 35.8%로 급감합니다. 중간 검증과 롤백 메커니즘 없이는 긴 자율 작업의 신뢰도를 보장하기 어렵습니다.
  • 2) 간접 프롬프트 인젝션 및 과도한 권한 위임: 에이전트가 외부 웹페이지·이메일·문서를 읽는 과정에서 악성 지시문이 주입되면, 보유한 API 권한으로 데이터를 유출하거나 비가역적 삭제를 수행할 위험이 존재합니다.
  • 3) 비용·지연 시간 폭증 및 평가(Eval)의 어려움: 에이전트 루프가 길어질수록 토큰 소비와 대기 시간이 기하급수적으로 늘어나며, 확률적 경로 선택 때문에 동일한 테스트에서도 매번 다른 궤적을 밟아 품질 검증이 까다롭습니다.
Section 04 · AI 개발자 실무 활용 가이드

AI 개발자는 LLM 시대의 Agent를 어떻게 설계하고 활용할 수 있는가?

실무에서 안정적이고 비용 효율적인 에이전트를 구축하려면, 무작정 높은 자율성을 부여하기보다 결정론적 제어와 LLM의 유연한 추론을 정교하게 결합해야 합니다.

전략 01 · 아키텍처 선택 원칙

워크플로우 우선, 필요한 곳만 자율 에이전트

단계가 명확한 작업은 고정 워크플로우(Routing · Prompt Chaining)로 처리해 예측 가능성을 높이고, 단계 수를 미리 정할 수 없는 열린 탐색 작업에만 자율 ReAct 루프를 적용하세요.

전략 02 · 역할 분리 설계

생성자(Actor)와 검증자(Evaluator) 분리

하나의 에이전트에게 실행과 검수를 모두 맡기지 말고, 코드를 작성·실행하는 워커 에이전트와 단위 테스트·규칙 검증을 수행하는 리뷰어 에이전트를 분리해 오류 누적을 차단하세요.

전략 03 · 안전 및 권한 제어

샌드박스 격리 & Max-Steps 상한선

읽기 전용 도구와 쓰기/결제 도구를 엄격히 분리하고, 고위험 액션 전에는 Human-in-the-Loop 승인을 거치며, 무한 루프 방지를 위해 최대 스텝 수와 비용 예산 상한을 반드시 설정하세요.

전략 04 · 표준 프로토콜

MCP 기반 재사용 가능한 도구 서버 구축

에이전트마다 도구를 중복 구현하지 말고 Model Context Protocol(MCP) 서버로 사내 DB, Git, Jira, 검색 기능을 표준화하면 다양한 LLM과 에이전트에 즉시 연결해 활용할 수 있습니다.

전략 05 · 관측 가능성 및 지속 개선

Trajectory 로깅과 궤적 기반 자동 평가(Eval)

최종 답변만 보지 말고 에이전트가 거친 중간 추론·도구 호출·에러 복구 궤적(Trajectory) 전체를 기록하세요. 실패 궤적을 분석해 도구 설명(Schema)을 다듬고 회귀 테스트셋으로 축적하는 것이 에이전트 성능을 높이는 가장 빠른 길입니다.