Production System (생성 시스템 / 산출 체계)

인간 인지 모델링(Newell & Simon)에서 출발한 생성 규칙(Production Rules)의 이론적 기초에서부터, 규칙기반 전문가 시스템과의 본질적 차이, 그리고 오늘날 LLM 자율 에이전트의 ReAct 및 인지 아키텍처(Cognitive Architecture)로 진화한 의미를 조망합니다.

💡 "인간의 장기·작업기억과 인식-행동 사이클을 모사한 인지 아키텍처"에서 "LLM 자율 에이전트의 생각-행동(ReAct) 루프"로의 진화

📑 빠른 목차 안내

1. 생성시스템(Production System)의 정의와 규칙의 형태

※ 흔히 공학적 맥락에서 Rule-base system, Production system, Production rule 등은 같은 의미로 혼용되기도 합니다.

규칙(Rule)은 가장 널리 알려진 지식표현 (Knowledge Representation) 방법 중의 하나입니다. 이는 IF 문장과 THEN 문장으로 연결된 형태를 취하며, IF 구문의 조건이 만족되거나 발생한 상태이면 THEN 구문이 수행되거나 논리적으로 참이 되는 형태입니다. 이를 생성 규칙 (Production Rule)이라고 합니다.

Rule의 형태는 다음과 같으며, 기본적으로 조건명제 (Implication: P → Q)의 논리 기호를 사용할 수 있습니다.

Production Rule Template

IF    (상황, 전제, 증거, 원인, premise, condition)

THEN (행동, 결론, 가설, 결과, conclusion, action)

2. 술어계산과 AND/OR 그래프 지식표현

Rule에서 나타나는 문장 표현을 정교히 하면 논리 (Logic)에서의 술어계산 (Predicate Calculus)이 됩니다. 술어계산에서는 Rule을 구성하는 문장의 표현에 대상을 지칭하는 변수(Variable) 사용을 허용함으로써 보다 의미를 명확히 할 수 있습니다.

⚠️ 술어계산의 적용 범위: 그러나 이러한 술어계산은 그 사용 범위가 진위를 명확히 구분할 수 있는 명제에 국한됩니다. 즉, Rule의 내용이 엄밀한 논리적 함의(Logical Implication)일 경우에만 술어계산적 표현을 엄격하게 사용할 수 있습니다.

또한 AND/OR 그래프를 이용하면 서로 산재해 있는 Rule들의 집합을 하나의 구조화된 트리 형태로 조감할 수 있으며, 각 문장 간의 논리적인 종속 및 인과 관계를 시각적으로 쉽게 파악할 수 있습니다. (김재희 1988)

Concept Comparison

3. Production System 과 Rule-base Expert System 의 본질적 차이

"인간의 인지 구조를 설명하는 일반 심리학·계산 이론(Production System)" vs "특정 실무 도메인 문제 해결을 위한 응용 소프트웨어(Expert System)"

두 용어는 소프트웨어 구현상 유사한 IF-THEN 규칙을 사용하여 혼용되지만, 학문적 기원과 설계 목적에서 매우 중요한 본질적 차이를 갖습니다.

인지과학 / 계산 이론 🧠

생성 시스템 (Production System)

  • 학문적 기원: 에밀 포스트(Emil Post, 1943)의 형식 문법 체계 및 앨런 뉴얼과 허버트 사이먼(Newell & Simon, 1972)의 인간 인지 아키텍처.
  • 설계 목적: 인간의 두뇌가 어떻게 정보를 단기기억(작업기억)과 장기기억에서 처리하고 문제를 해결하는지 인간 인지 과정 자체를 시뮬레이션하는 범용 계산 모델. (SOAR, ACT-R)
  • 지식의 성격: 절차적 지식(Procedural Knowledge). 감각 입력에 대해 즉각 취해야 할 행동 패턴 및 습관.
응용 AI 소프트웨어 🩺

규칙기반 전문가시스템 (Rule-base ES)

  • 학문적 기원: 에드워드 파이겐바움(Edward Feigenbaum, 1970~1980년대)의 응용 지식공학(Applied Knowledge Engineering).
  • 설계 목적: 특정 좁은 도메인(의료 처방, 세무 상담, 기기 고장 진단 등)에서 최고 인간 전문가의 의사결정을 자동화하여 상업적 가치를 창출하는 소프트웨어. (MYCIN, XCON)
  • 지식의 성격: 도메인 전문 지식(Domain Heuristics). 책과 경험에서 추출한 선언적·판단적 진단 규칙.
비교 축 생성 시스템 (Production System) 규칙기반 전문가 시스템 (Rule-Based ES)
개념적 계층 상위 인지 아키텍처 및 튜링 완전 계산 모델 생성 규칙 메커니즘을 빌려 구현한 하위 응용 시스템
주요 연구 분야 인지심리학, 인지과학, 인간 두뇌 계산 모델 응용 인공지능, 지식공학, 산업 비즈니스 자동화
핵심 아키텍처 작업기억 + 생성기억 + 인식-행동(Recognize-Act) 사이클 지식베이스 + 추론엔진 + 설명기능 + 지식획득기
지식의 범주 인간의 보편적 절차적 지식(행동 양식, 목표 관리) 특정 도메인의 전문적 경험 규칙 및 휴리스틱
학습(Learning) 유무 규칙 묶기(Chunking) 등을 통한 자율 인지 학습 포함 자율 학습 불가 (인간 지식공학자가 수동 코딩)
Deep Research

4. 최신 AI 와 LLM 에서 Production System(생성시스템)이 가지는 의미

뉴얼과 사이먼의 산출 체계는 죽지 않았다: 'LLM 자율 에이전트의 ReAct 루프'와 '인-컨텍스트 작업기억'으로의 위대한 부활

1) LLM 자율 에이전트의 ReAct 패턴: '인식-행동(Recognize-Act) 사이클'의 재현

생성시스템의 가장 핵심적인 작동 원리는 "작업기억 관찰 ➔ 규칙 매칭 ➔ 행동 실행"이라는 끝없는 순환 사이클이었습니다. 오늘날 최첨단 AI 에이전트 아키텍처(LangChain, AutoGen, CrewAI 등)에서 표준으로 정립된 ReAct (Reasoning + Acting) 패턴은 생성시스템의 직계 후손입니다.

[Thought] LLM이 현재 상황(작업기억)을 추론하고 필요한 도구를 결정 (규칙 매칭)

[Action] 계산기, 웹 검색, Python 인터프리터, 데이터베이스 API 호출 (규칙 실행 / RHS Firing)

[Observation] 도구 실행 결과를 다시 프롬프트에 추가하여 새로운 작업기억 형성 (작업기억 갱신)

2) 컨텍스트 윈도우(작업기억)와 가중치·벡터DB(생성기억)의 매핑

인지과학 생성시스템의 기억 분할 구조는 최신 생성형 AI 시스템에 완벽하게 1:1로 대응됩니다.

  • 작업기억 (Working Memory) ➔ LLM 컨텍스트 윈도우 (Context Window): 현재 대화 기록, 사용자 프롬프트, 도구 반환값이 실시간으로 올라가는 단기 활성 공간.
  • 생성기억 (Production Memory) ➔ 사전학습 가중치 + 도구 함수 스키마(Tool Schemas): 어떤 상황(IF)에서 어떤 API나 지식을 꺼내 써야 하는지(THEN) 정의된 장기 기억 저장소.
  • 외재화된 장기기억 ➔ 벡터 데이터베이스 (Vector DB / RAG): 작업기억 한계를 극복하기 위해 외부 장기 에피소드 기억을 검색하여 주입하는 메커니즘.

3) 언어 에이전트를 위한 인지 아키텍처 (CoALA: Cognitive Architectures for Language Agents)

프린스턴 대학교와 스탠퍼드 대학교 연구진은 최근 CoALA(Cognitive Architectures for Language Agents) 프레임워크를 발표하며, 뉴얼의 SOAR와 존 앤더슨의 ACT-R 같은 고전 생성시스템 이론이야말로 통제 불가능한 LLM을 진정한 자율 지능 에이전트로 도약시키는 핵심 청사진임을 선언했습니다.

💡 단순한 텍스트 챗봇에 머물던 LLM이 생성시스템의 인지 제어 루프를 장착함으로써, 목표 지향적 계획(Planning), 장기 메모리 관리, 자율적 도구 제어가 가능한 AGI의 초석으로 거듭나고 있습니다.

5. [인포그래픽] 뉴얼&사이먼의 생성시스템과 현대 LLM 에이전트 대응 구조

Step 1. 인식 (Perceive) 👀

작업기억 & 프롬프트 컨텍스트

고전: 환경에서 관측된 사실(Fact)이 작업기억(WM)에 적재됨.
현대 LLM: 사용자의 질문과 시스템 프롬프트가 컨텍스트 윈도우에 토큰으로 배치됨.

Step 2. 생각 (Reason) 🧠

생성규칙 매칭 & LLM 추론

고전: IF 조건과 일치하는 프로덕션 규칙을 Rete 알고리즘으로 매칭.
현대 LLM: 트랜스포머 어텐션 연산을 통해 생각의 사슬(Thought)을 전개하고 도구 호출(Tool Call)을 선택.

Step 3. 행동 (Act) ⚡

규칙 실행 & API 도구 호출

고전: THEN 절의 행동을 실행하고 새 사실을 작업기억에 반영.
현대 LLM: 외부 웹 검색, 파이썬 코드 실행, DB 쓰기를 수행하고 결과를 다시 관찰(Observation)하여 루프 순환.

🎬 전문가 추천 영상: 인지 아키텍처와 LLM 에이전트의 결합

뉴얼과 사이먼의 인지 생성시스템 이론이 어떻게 최신 LLM 자율 에이전트의 핵심 두뇌로 재탄생했는지 확인해 보세요.

[인지과학] 생성시스템과 인지 아키텍처 (SOAR, ACT-R)

인간의 장기기억과 작업기억 간의 상호작용 및 산출 체계(Production Systems)의 원형 강의.

[현대 AI] LLM 자율 에이전트와 ReAct 루프

생성시스템의 '인식-행동 사이클'을 LLM에 적용하여 도구를 자율 호출하는 차세대 에이전트 아키텍처.

6. 학술 연구 논문 및 인지과학 원전 (Paper & Classics)

지식 표현

규칙을 이용한 지식 표현

저자: 이재규 (KAIST)

노벨경제학상 수상자

산출체계들 (Production Systems)

저자: Herbert Simon (CMU)

튜링상 수상자

장기기억을 위한 산출 시스템

저자: Allen Newell (CMU, Unified Theories of Cognition)

인지심리학

절차적 지식 표상

저자: Robert J. Sternberg (Yale Univ.)

🔗 인지과학 및 생성시스템 핵심 용어 (Term Hub)