NON-MONOTONIC LOGIC & REASONING DEFEASIBLE INFERENCE & BELIEF REVISION

비단조 추론 (Non-monotonic Reasoning)

새로운 정보나 반증 증거가 지식베이스에 추가되었을 때, 이전에 참이라고 잠정적으로 결론 내렸던 명제를 스스로 철회하고 수정(Defeasible Inference)할 수 있는 인공지능의 핵심 논리 추론 체계입니다. 현실 세계의 불완전한 정보 속에서 상식적 판단을 가능하게 하는 토대입니다.

인공지능(AI) 에서 비단조 추론 (Non-monotonic Reasoning / Non-monotonic Logic) 이란 전통적인 연역 논리(새로운 정보가 추가되어도 기존의 참인 결론이 결코 번복되지 않는 단조성)와 달리, 시스템에 새로운 사실이나 관측 증거가 추가되거나 이전 정보가 삭제될 때 기존에 도출되었던 결론의 사실 여부가 무효화(Defeasible)되거나 수정될 수 있는 유연한 추론 방식을 의미합니다.

🎯 비단조 추론의 4대 핵심 축 및 작용 원리

철회 가능한 추론 (Defeasible Inference) : 완전한 정보가 갖춰지지 않아도 일단 가장 그럴듯한 잠정적 결론을 내리되, 예외나 모순되는 새로운 사실이 발견되면 즉시 이전 결론을 철회합니다.
디폴트 가정과 예외의 국소화 (Default Assumption & Qualification) : "비정상적인 상황(날개 부상, 펭귄 등)이라는 반증이 없는 한, 새는 날 수 있다"와 같이 일반 규칙을 기본값으로 채택합니다.
진위 유지 및 의존성 추적 (Truth Maintenance System, TMS) : 어떤 결론을 도출하는 데 바탕이 되었던 전제나 가정이 무너지면, 그에 의존하여 유도되었던 모든 파생 명제들을 연쇄적으로 동기화하여 삭제합니다.
동적 환경에서의 신념 수정 (Dynamic Belief Revision) : 항공기 식별, 의료 진단, 자율주행 등 센서 신호가 실시간으로 변하는 환경에서 AI가 경직되지 않고 지식 상태를 항상 최신 사실과 일관되게 갱신합니다.

📌 주요 바로가기 : 1. 의미와 기본 원리 2. AI 연구에서의 역할 3. 핵심 활용 분야 4. 단조 vs 비단조 논리 비교 5. 4대 대표 이론 체계 6. 개척자들의 통찰 및 학술 기록 7. 관련 자료 및 아카이브

🔄 1. 비단조 추론(Nonmonotonic Reasoning)의 의미와 기본 원리

THEORY & LOGIC

전통적인 수리 논리학과 1차 술어 논리(First-Order Logic)는 **단조성(Monotonicity)**이라는 강력한 수학적 성질을 가집니다. 즉, 어떤 공리들의 집합에서 어떤 정리(Theorem)가 증명되었다면, 여기에 그 어떤 새로운 공리를 1만 개 추가하더라도 기존 증명은 결코 취소되지 않습니다. 수학적 정리 증명에서는 이것이 절대적인 미덕이지만, 우리가 살아가는 현실 세계에서는 치명적인 한계로 작용합니다.

인간의 상식 추론 (Commonsense Reasoning)은 모든 조건이 100% 완벽히 확인될 때까지 기다리지 않습니다. 우리는 "새는 날 수 있다"는 기본 규칙에 따라 눈앞의 새가 날 것이라고 믿고 행동합니다. 그러나 잠시 후 "그 새는 날개가 부러진 펭귄이다"라는 새로운 사실이 밝혀지면, 아무런 모순 없이 "아, 그렇다면 날지 못하겠구나"라고 기존의 판단을 즉시 번복합니다. 비단조 논리 (Non-monotonic Logic)는 이러한 인간의 지극히 자연스러운 '철회 가능한 추론(Defeasible Inference)'을 컴퓨터 알고리즘으로 체계화한 것입니다.

🐦 고전적 예시 : 트위티(Tweety)의 비단조 추론 전개 과정

1단계 (초기 지식베이스) :
• 일반 규칙: "새는 일반적으로 날 수 있다." (디폴트 규칙)
• 관측 사실: "트위티는 새이다."
→ 잠정적 결론 도출: "트위티는 날 수 있다." (지식베이스에 등록) 2단계 (새로운 예외 정보 추가) :
• 추가 관측 사실: "트위티는 펭귄이다."
• 특수 규칙: "펭귄은 날 수 없다." 3단계 (신념 수정 및 이전 결론 철회) :
• 단조 논리 체계라면: "트위티는 날 수 있다"와 "트위티는 날 수 없다"가 공존하여 시스템 전체가 모순(Contradiction)으로 붕괴함.
• 비단조 논리 체계: 새로운 사실이 들어오는 순간, 이전 결론의 정당화 근거가 소멸되었음을 감지하고 "트위티는 날 수 있다"라는 결론을 스스로 삭제(Withdraw)하여 지식베이스의 일관성을 유지함!

💡 존 매카시의 '자격 문제(Qualification Problem)' 통찰

만약 단조 논리만으로 "새는 날 수 있다"를 완벽히 참으로 만들려면, 공리 안에 상상할 수 있는 모든 예외를 전부 적어야 합니다: "새는 날 수 있다 (단, 펭귄이 아니고, 타조가 아니고, 날개가 부러지지 않았고, 발이 묶여 있지 않고, 죽지 않았고, 콘크리트에 갇혀 있지 않다면...)"
이러한 예외의 목록은 끝이 없기 때문에 컴퓨터에 입력하는 것이 불가능합니다. 존 매카시 (John McCarthy)는 "비정상적인 상황(Abnormal)이라는 증거가 없는 한 새는 난다"고 선언하는 비단조적 한정(Circumscription) 기법을 통해 이 난제를 해결하였습니다.

🚀 2. 비단조 추론이 AI 연구에서 수행하는 핵심 역할

AI RESEARCH PILLAR

인공지능(Artificial Intelligence)이 닫힌 장난감 세계(Blocks World)를 벗어나 시시각각 변화하는 실제 현실 세계에서 자율적으로 행동하기 위해서는 비단조적 사고가 필수적입니다:

🧩

불완전한 정보 하의 자율적 의사결정

현실에서는 결코 모든 정보를 완벽히 알 수 없습니다. 비단조 추론은 지식의 부재(Absence of Knowledge) 자체를 근거로 유력한 가정을 세워 AI가 멈추지 않고 즉각 행동할 수 있도록 합니다.

🔄

신념수정 (Belief Revision)의 수학적 기초

센서 관측이나 외부 입력으로 기존 신념과 모순되는 새로운 데이터가 유입될 때, 신념수정(Belief Revision) 알고리즘을 통해 최소한의 지식 손실로 정합성을 회복합니다.

⚙️

진위 유지 시스템 (TMS) 기반 연쇄 오류 정정

추론된 모든 명제 간의 정당화 의존 관계(Justification Network)를 추적하여, 근거가 된 가정이 번복되면 그로부터 파생된 수천 개의 하위 결론들을 자동으로 연쇄 철회합니다.

🎯

계획 수립(Planning)과 프레임 문제 극복

로봇이 방을 이동할 때 세상의 모든 물건 위치가 그대로 유지된다는 "불변성"을 일일이 계산하지 않고, 변경되었다는 증거가 없는 한 디폴트로 유지된다고 가정합니다.

🌐 3. 비단조 추론이 활용되는 핵심 산업 및 첨단 응용 분야

APPLICATIONS & USE CASES

비단조 추론은 새로운 증거에 따라 결론을 유연하게 교정해야 하는 국방, 의료, 게임 AI, 법률 등 고위험 동적 도메인에서 중추적인 역할을 담당합니다.

✈️

방공 레이더 항공기 식별 및 피아 판별

영공으로 접근하는 항공기를 초기에는 민간여객기로 판정했더라도, 이후 비행 궤적 급변이나 피아식별 신호 불일치 등 새로운 증거가 포착되면 즉시 적 전폭기로 판정을 번복하여 요격 체계를 가동합니다.

🎮

적응형 전략 게임 AI 엔진

김제민·박영택 교수의 연구처럼, 상대 플레이어의 이전 행동을 바탕으로 수립했던 전술 가정이 상대의 변칙 공격으로 깨지면 즉각 이전 작전을 철회하고 실시간으로 카운터 전략을 재수립합니다.

🩺

임상 의료 진단 및 처방 수정

초기 발열 증상으로 감기로 추정 처방했으나, 혈액 검사에서 백혈구 급증이라는 새로운 증거가 확인되면 초기 감기 가설을 철회하고 패혈증/폐렴 치료로 진단과 처방을 즉시 전환합니다.

⚖️

법률 인공지능 및 판례 추론

"계약 위반은 배상 책임을 진다"는 원칙에 따라 유죄로 추정되다가도, 상대방의 '불가항력(천재지변)' 입증 증거가 제출되면 기존 유죄 판정을 무효화(Defeasible)하는 법리적 구조를 구현합니다.

📊 4. 전통적 단조 논리(Monotonic) vs 비단조 논리(Non-monotonic) 비교

LOGICAL COMPARISON

두 논리 체계는 적용되는 환경의 성격과 지식의 완전성에 따라 근본적인 차이를 보입니다:

비교 기준	단조 논리 (Monotonic Logic)	비단조 논리 (Non-monotonic Logic)
정리 집합의 변화	새로운 공리가 추가되어도 기존 정리의 유효성이 영원히 보존됨 (Γ ⊆ Δ ⇒ Th(Γ) ⊆ Th(Δ)).	새로운 사실이 추가되면 이전에 도출되었던 결론이 무효화되어 참인 정리의 집합이 줄어들거나 변경됨.
적용 도메인	수학적 공리계, 닫힌 형식 체계, 연역적 하드웨어 검증.	실세계 상식 추론, 동적 에이전트, 로보틱스, 자연어 이해.
정보 요구 수준	모든 사실이 100% 완전하고 불변이어야 함.	정보가 불완전하고 잠정적이어도 가정을 통해 추론 가능.
모순 처리 방식	모순이 단 하나라도 발생하면 폭발 원리(Principle of Explosion)로 시스템 전체 마비.	모순을 유발한 가정을 찾아내어 철회하고 지식베이스를 유연하게 복구.

📐 5. 비단조 추론의 4대 수학적·형식적 이론 체계

FORMAL MECHANISMS

AI 학자들은 비단조성을 형식 논리 안에 엄밀하게 구현하기 위해 다음과 같은 획기적인 수학적 메커니즘들을 정립했습니다:

1. 한정 (Circumscription, John McCarthy) :
• 특정 술어(예: 비정상성을 뜻하는 Ab(x))의 외연(Extension)을 모델 이론적으로 최소화(Minimization)합니다.
• "x가 새이고 비정상(Abnormal)이 아니라면 날 수 있다. 그리고 세상에 알려진 것 외에는 그 어떤 새도 비정상이지 않다."라고 선언하여 디폴트 결론을 형식화합니다.

2. 디폴트 논리 (Default Logic, Raymond Reiter) :
• 디폴트 추론 규칙을 다음과 같은 형식으로 명시합니다:

                        A(x) : M B(x) / C(x)   →   "A(x)를 알고 있고, B(x)라고 가정하는 것이 지식과 모순되지 않는다면(Consistent), C(x)라고 결론 내린다."
                    

• 예: Bird(Tweety) : M Fly(Tweety) / Fly(Tweety)

3. 자기인식 논리 (Autoepistemic Logic, Robert C. Moore) :
• 양상 논리(Modal Logic)의 지식 연산자 L(φ)("나는 φ를 안다")를 도입하여, "내가 모른다는 사실" 자체를 전제로 삼아 추론합니다.
• "내가 누군가에게 형제가 있다는 사실을 모른다면, 그에게는 형제가 없다."

4. 진위 유지 시스템 (Truth Maintenance System, TMS / Jon Doyle) :
• 명제 간의 정당화(Justification) 네트워크를 그래프로 구축하여, 가정이 기각되었을 때 그 가정에 의존하던 모든 파생 노드를 자동으로 비활성화(OUT 상태)하는 신념 유지 엔진입니다.

📜 6. 개척자들의 통찰 및 역사적 학술 기록 (AIStudy 원문)

PIONEERS & ARCHIVES

비단조 추론의 개념을 개척하고 발전시킨 국내외 석학들의 원문 통찰과 학술 기록입니다:

John McCarthy 교수 (Stanford University, LISP 창시자)

"'새는 날 수 있다'라는 하나의 공리를 상식 데이터베이스에 넣는 경우를 고려해 보자. 이 경우 펭귄과 죽은 새는 날 수 없다는 것이 그 공리에 명확히(qualified) 되어야 한다. 그래서 펭귄과 죽은 새의 예외를 포함하는 공리를 만들 수 있을 것이다. 그러나 우리는 펭귄과 죽은 새 이외에도 수많은 예외들을 생각할 수 있다.

형식 비단조 추론 (formalized nonmonotonic reasoning)은 만일 비정상적인 상황(여러 사실들이 고려되어)이 아니라면 새들은 날 수 있다고 말하는 형식적인 방법을 제공한다."
— Nonmonotonicity : John McCarthy

Stanford Encyclopedia of Philosophy & Anthony Aaby

"전통적인 논리는 연역법에 기반한 것이며, 결론이 항상 정확하여 규칙이 제대로 적용되면 오류의 가능성이 없다는 장점을 가진 추론 방법이다. 즉 연역법은 정보가 완전하고, 정확하며 일관되어야 한다. 반면에 실세계는 불완전하고, 부정확하며 일관되지 않을 가능성이 있는 정보에 직면하는 상식 추론을 필요로 한다.

만일 명제의 사실 여부가 시스템에 새로운 정보(공리)가 추가될 때 변화하지 않는다면 그것은 단조 논리(monotonic logic)라고 한다. 반면에 시스템에 새로운 정보(공리)가 더해지거나 오래된 정보가 삭제될 때 명제의 사실 여부가 변화한다면 비단조 논리(non-monotonic logic)라고 한다. Non-monotonic logic이라는 말은 defeasible inference (철회 가능한 추론)를 표현하기 위해 고안된 형식 체계를 의미한다."
— Non-monotonic Logic : Stanford Encyclopedia of Philosophy & Anthony Aaby

Patrick Winston 교수 (MIT AI Lab 디렉터)

"어떤 식(expression)이 어떤 공리(axiom)의 집합에 대하여 정리(theorem)라고 가정하자. 어떤 새로운 공리를 추가한 후에도 그 식이 여전히 정리일까? 확실히 그렇게 되어야 한다. 왜냐하면 증명은 그 새로운 공리를 무시한 후 예전 공리만을 이용해서 이루어질 수 있기 때문이다. 새로운 공리는 단지 증명 가능한 정리의 리스트에 추가될 뿐 결코 다른 것을 취소시키지 않으므로, 전통적 논리는 단조적(monotonic)이라고 말한다.

그러나 단조적 술어는 자연적 사고방식과는 맞지 않는다. '모든 새는 난다'라는 공리에서 펭귄의 경우와 같은 새로운 사실의 추가에 의해 이미 내려진 결론과 위배될 수 있으나 정리 증명기(theorem prover)를 중단할 수는 없다. 이런 종류의 문제를 다루는 것은 새로운 논리의 방식을 요구하며, 비단조적(nonmonotonic)이라는 논리학으로 이끈다."
— Patrick Winston, Artificial Intelligence (1990, p.270)

정영기 교수 (비단조논리 연구)

"우리의 상식적인 추리는 예외적일 수 있는 일반적인 규칙을 사용하는 능력에 깊이 의존하고 있다. 우리가 일상생활에서 내리는 의사결정 중에 완전한 확실성을 갖고 있는 것은 거의 없다. 그러나 우리는 불확실성에도 불구하고 계속 행위하기 위해 결정을 내린다.

비단조 논리는 우리가 완전한 정보가 없는 상황에서 행위할 수 있도록 해 주기 때문에 매우 중요하다. 인공지능 연구자들은 상황에 대해 완전하고 정확한 지식이 없는 가운데에서 합리적으로 행위하는 능력을 매우 중요시하였다. 비단조 논리는 전통적인 1차 술어논리에 구체적인 지식의 부재에 기초하여 결론을 내리는 메커니즘을 보충하였다."
— 비단조논리 연구 & 비단조논리적인 행위설명 : 정영기

이강찬 교수 (전문가 시스템과 추론 엔진)

"항공기 식별 시스템에 나타난 여러 가지 증거로 봐서 현재 우리나라 상공으로 다가오는 항공기는 보통 민간여객기로 판명되었으나, 그 후 여러 가지 추가적인 증거들로 인해 그것은 민간여객기가 아니라 적의 전폭기로 판명되는 경우, 단조 추론만 가능한 경우에는 이를 다룰 수 없으나 비단조 추론의 경우에는 이와 같이 이미 추론된 사실을 다시 번복하는 것을 가능케 한다.

이러한 비단조성을 부여하기 위해선 추론된 결론이나 규칙마다 그것을 정당화하는 근거가 됐던 다른 사실이나 규칙과의 의존 관계를 파악하고 있어야 한다. 따라서 어떠한 사실이 무위로 되었을 때 그것으로 인해 정당화되었던 관련 사실들이 함께 무위로 되어야 한다. 이렇게 사실과 사실들을 정당화하는 근거를 토대로 사실들의 진위를 관리하는 것을 진위유지 (Truth Maintenance)라고 한다."
— 비단조추론 : 이강찬

📚 7. 관련 주제어 및 주요 학술 참고문헌 아카이브

KNOWLEDGE NETWORK