인간 인지 모델링(Newell & Simon)에서 출발한 생성 규칙(Production Rules)의 이론적 기초에서부터, 규칙기반 전문가 시스템과의 본질적 차이, 그리고 오늘날 LLM 자율 에이전트의 ReAct 및 인지 아키텍처(Cognitive Architecture)로 진화한 의미를 조망합니다.
💡 "인간의 장기·작업기억과 인식-행동 사이클을 모사한 인지 아키텍처"에서 "LLM 자율 에이전트의 생각-행동(ReAct) 루프"로의 진화
※ 흔히 공학적 맥락에서 Rule-base system, Production system, Production rule 등은 같은 의미로 혼용되기도 합니다.
규칙(Rule)은 가장 널리 알려진 지식표현 (Knowledge Representation) 방법 중의 하나입니다. 이는 IF 문장과 THEN 문장으로 연결된 형태를 취하며, IF 구문의 조건이 만족되거나 발생한 상태이면 THEN 구문이 수행되거나 논리적으로 참이 되는 형태입니다. 이를 생성 규칙 (Production Rule)이라고 합니다.
Rule의 형태는 다음과 같으며, 기본적으로 조건명제 (Implication: P → Q)의 논리 기호를 사용할 수 있습니다.
IF (상황, 전제, 증거, 원인, premise, condition)
THEN (행동, 결론, 가설, 결과, conclusion, action)
Rule에서 나타나는 문장 표현을 정교히 하면 논리 (Logic)에서의 술어계산 (Predicate Calculus)이 됩니다. 술어계산에서는 Rule을 구성하는 문장의 표현에 대상을 지칭하는 변수(Variable) 사용을 허용함으로써 보다 의미를 명확히 할 수 있습니다.
또한 AND/OR 그래프를 이용하면 서로 산재해 있는 Rule들의 집합을 하나의 구조화된 트리 형태로 조감할 수 있으며, 각 문장 간의 논리적인 종속 및 인과 관계를 시각적으로 쉽게 파악할 수 있습니다. (김재희 1988)
"인간의 인지 구조를 설명하는 일반 심리학·계산 이론(Production System)" vs "특정 실무 도메인 문제 해결을 위한 응용 소프트웨어(Expert System)"
두 용어는 소프트웨어 구현상 유사한 IF-THEN 규칙을 사용하여 혼용되지만, 학문적 기원과 설계 목적에서 매우 중요한 본질적 차이를 갖습니다.
| 비교 축 | 생성 시스템 (Production System) | 규칙기반 전문가 시스템 (Rule-Based ES) |
|---|---|---|
| 개념적 계층 | 상위 인지 아키텍처 및 튜링 완전 계산 모델 | 생성 규칙 메커니즘을 빌려 구현한 하위 응용 시스템 |
| 주요 연구 분야 | 인지심리학, 인지과학, 인간 두뇌 계산 모델 | 응용 인공지능, 지식공학, 산업 비즈니스 자동화 |
| 핵심 아키텍처 | 작업기억 + 생성기억 + 인식-행동(Recognize-Act) 사이클 | 지식베이스 + 추론엔진 + 설명기능 + 지식획득기 |
| 지식의 범주 | 인간의 보편적 절차적 지식(행동 양식, 목표 관리) | 특정 도메인의 전문적 경험 규칙 및 휴리스틱 |
| 학습(Learning) 유무 | 규칙 묶기(Chunking) 등을 통한 자율 인지 학습 포함 | 자율 학습 불가 (인간 지식공학자가 수동 코딩) |
뉴얼과 사이먼의 산출 체계는 죽지 않았다: 'LLM 자율 에이전트의 ReAct 루프'와 '인-컨텍스트 작업기억'으로의 위대한 부활
생성시스템의 가장 핵심적인 작동 원리는 "작업기억 관찰 ➔ 규칙 매칭 ➔ 행동 실행"이라는 끝없는 순환 사이클이었습니다. 오늘날 최첨단 AI 에이전트 아키텍처(LangChain, AutoGen, CrewAI 등)에서 표준으로 정립된 ReAct (Reasoning + Acting) 패턴은 생성시스템의 직계 후손입니다.
[Thought] LLM이 현재 상황(작업기억)을 추론하고 필요한 도구를 결정 (규칙 매칭)
[Action] 계산기, 웹 검색, Python 인터프리터, 데이터베이스 API 호출 (규칙 실행 / RHS Firing)
[Observation] 도구 실행 결과를 다시 프롬프트에 추가하여 새로운 작업기억 형성 (작업기억 갱신)
인지과학 생성시스템의 기억 분할 구조는 최신 생성형 AI 시스템에 완벽하게 1:1로 대응됩니다.
프린스턴 대학교와 스탠퍼드 대학교 연구진은 최근 CoALA(Cognitive Architectures for Language Agents) 프레임워크를 발표하며, 뉴얼의 SOAR와 존 앤더슨의 ACT-R 같은 고전 생성시스템 이론이야말로 통제 불가능한 LLM을 진정한 자율 지능 에이전트로 도약시키는 핵심 청사진임을 선언했습니다.
💡 단순한 텍스트 챗봇에 머물던 LLM이 생성시스템의 인지 제어 루프를 장착함으로써, 목표 지향적 계획(Planning), 장기 메모리 관리, 자율적 도구 제어가 가능한 AGI의 초석으로 거듭나고 있습니다.
고전: 환경에서 관측된 사실(Fact)이 작업기억(WM)에 적재됨.
현대 LLM: 사용자의 질문과 시스템 프롬프트가 컨텍스트 윈도우에 토큰으로 배치됨.
고전: IF 조건과 일치하는 프로덕션 규칙을 Rete 알고리즘으로 매칭.
현대 LLM: 트랜스포머 어텐션 연산을 통해 생각의 사슬(Thought)을 전개하고 도구 호출(Tool Call)을 선택.
고전: THEN 절의 행동을 실행하고 새 사실을 작업기억에 반영.
현대 LLM: 외부 웹 검색, 파이썬 코드 실행, DB 쓰기를 수행하고 결과를 다시 관찰(Observation)하여 루프 순환.
뉴얼과 사이먼의 인지 생성시스템 이론이 어떻게 최신 LLM 자율 에이전트의 핵심 두뇌로 재탄생했는지 확인해 보세요.
인간의 장기기억과 작업기억 간의 상호작용 및 산출 체계(Production Systems)의 원형 강의.
생성시스템의 '인식-행동 사이클'을 LLM에 적용하여 도구를 자율 호출하는 차세대 에이전트 아키텍처.