전문가 지식의 한계와 상식 표상의 승리:
전문가 시스템의 쇠퇴와 대규모 언어 모델의 성공에 관한 인지·계산적 비교 분석
1. 서론: 지식 표상 패러다임의 역사적 전회
인공지능 연구의 역사는 지능의 본질을 '명시적 기호 조작(Explicit Symbolic Manipulation)'으로 규정할 것인가, 아니면 '대규모 통계적 분산 표상(Distributed Representation)'으로 파악할 것인가를 둘러싼 패러다임의 대립과 진화의 과정이었다. 1970년대와 1980년대를 풍미했던 전문가 시스템(Expert Systems)은 고도로 훈련된 소수 전문가의 심층 도메인 지식(Deep Knowledge)을 기호화하고 규칙화하여 컴퓨터에 이식하려 했던 하향식(Top-down) 기호주의 인공지능의 정점이었다. 그러나 막대한 자본과 인력이 투입되었음에도 불구하고, 전문가 시스템은 산업 현장에서 확장에 실패하며 제2차 인공지능의 겨울(AI Winter)을 촉발하는 결정적 계기가 되었다.
반면 2020년대에 등장한 대규모 언어 모델(Large Language Models, LLM)은 특정 영역의 정밀한 규칙을 주입하는 대신, 웹 스케일의 방대한 텍스트 코퍼스에 축적된 인류의 '보편적 상식(Common Sense)'과 언어적 맥락을 상향식(Bottom-up)으로 흡수함으로써 전례 없는 범용 문제 해결 능력을 입증했다. 좁은 영역의 정밀한 지식을 겨냥했던 시스템은 처참히 붕괴하고, 불완전하고 모호해 보이던 일상의 모든 상식을 학습한 모델이 오히려 고도의 전문적 과업까지 유연하게 해결하게 된 현상은 인공지능과 인지과학 연구에 중대한 통찰을 제공한다. 본 보고서는 전문가 시스템의 아키텍처적 결함과 지식 획득의 한계를 규명하고, 대규모 언어 모델이 상식의 기저를 포섭함으로써 성공할 수 있었던 계산적·인지적 요인을 심층적으로 비교 분석한다.
2. 기호주의 전문가 시스템의 구조와 역사적 궤적
전문가 시스템은 특정 전문 분야에서 인간 전문가가 내리는 복잡한 의사결정 과정을 논리적 연역 메커니즘을 통해 기계적으로 재현하고자 구축된 컴퓨터 프로그램이다. 앨런 뉴얼(Allen Newell)과 허버트 사이먼(Herbert Simon)의 '물리적 기호 시스템 가설(Physical Symbol System Hypothesis)'에 이론적 뿌리를 둔 이 체계는, 지능의 본질이 기호들의 패턴을 저장하고 조건에 맞춰 변환하는 형식 규칙의 실행에 있다고 보았다.
전문가 시스템의 가장 본질적인 아키텍처적 혁신은 도메인 지식을 보관하는 저장소와 이를 처리하는 제어 로직을 엄격하게 분리한 점이었다. 지식 베이스(Knowledge Base)는 전문가로부터 추출한 사실적 정보와 경험적 판단 규칙을 주로 IF <조건> THEN <행동/결론> 형태의 프로덕션 규칙(Production Rules)이나 프레임(Frames), 의미망(Semantic Networks)으로 정형화하여 축적했다. 이와 완전히 독립되어 작동하는 추론 엔진(Inference Engine)은 작업 메모리(Working Memory)에 입력된 현재 상태와 지식 베이스의 규칙을 대조하며 결론을 도출했다. 이때 추론은 사실로부터 유효한 결론을 연역하는 전향 추론(Forward Chaining)이나, 설정된 가설을 증명하기 위해 필요한 조건을 역추적하는 후향 추론(Backward Chaining) 방식으로 수행되었다. 더불어 시스템이 특정 판단에 도달하게 된 규칙의 활성화 경로(Rule Firing Trace)를 단계적으로 사용자에게 보여주는 설명 시설(Explanation Facility)을 구비하여, 의사결정의 완전한 투명성과 감사 가능성을 보장하고자 했다.
역사적으로 전문가 시스템의 포문은 에드워드 파이겐바움(Edward Feigenbaum) 연구팀의 주도로 열렸다. 1960년대 중반 유기화학 분자의 질량 분석 데이터를 해석하기 위해 개발된 덴드랄(DENDRAL)은 가설 생성과 검증 규칙을 결합하여 인간 화학자 수준의 분자 구조 결정을 성공적으로 수행함으로써 규칙 기반 AI의 가능성을 열었다. 1970년대 초반 스탠퍼드 대학교에서 개발된 마이신(MYCIN)은 혈액 감염 질환 진단 및 항생제 추천을 목표로 설계되었으며, 약 600개의 규칙에 불확실성을 다루는 확신도(Certainty Factor) 공식을 결합하여 전문의와 대등하거나 이를 상회하는 처방 정확도를 입증했다. 1980년대에는 존 맥더못(John McDermott)이 디지털 이큅먼트 코퍼레이션(DEC)과 함께 VAX 컴퓨터 시스템의 복잡한 하드웨어 주문 사양을 자동 구성하는 엑스콘(XCON, 초기 명칭 R1)을 성공적으로 현장에 배치하여 연간 수천만 달러의 비용을 절감시킴으로써 상업적 전성기를 구가했다.
| 시스템 명칭 | 개발 시기 및 주체 | 대상 도메인 | 지식 표현 및 추론 방식 | 주요 성과 및 한계 |
|---|---|---|---|---|
| DENDRAL | 1965년, Stanford Univ. | 유기화학 분자 구조 규명 | 규칙 기반 가설 생성 및 검증 (Plan-Generate-Test) | 최초의 지식 기반 전문가 시스템; 극도로 협소한 도메인에 국한 |
| MYCIN | 1972년, Stanford Univ. | 혈액 감염 질환 진단 및 항생제 처방 | 후향 추론 및 확신도(Certainty Factor) 모델 | 임상 전문의 수준 도달; 윤리·법적 문제 및 상식 부재로 실제 병원 도입 실패 |
| XCON (R1) | 1978–1980년, CMU / DEC | VAX 컴퓨터 하드웨어 부품 구성 | OPS5 기반 전향 추론 및 매치-실행(Match-Action) | 최초의 대규모 상업적 성공; 규칙 수 증가에 따른 유지보수 비용 폭발 |
| CYC | 1984년~현재, MCC / Cycorp | 일반 상식 온톨로지 구축 | 1차 술어 논리 기반 형식적 공리계 수동 구축 | 상식 부호화를 통한 취약성 극복 시도; 지식 엔지니어링의 조합적 한계 직면 |
3. 전문가 시스템의 기술적 한계와 쇠퇴 원인
초기의 눈부신 성과에도 불구하고 전문가 시스템은 1980년대 후반을 지나며 급격한 몰락을 맞이했다. 전문가 시스템의 좌절은 단순한 소프트웨어 구현상의 결함이 아니라, 지식의 획득, 상식의 결여, 그리고 규칙 체계의 복잡성 관리라는 세 가지 본질적 장벽에서 비롯되었다.
지식 획득의 병목과 폴라니의 역설
전문가 시스템 구축 과정에서 가장 극복하기 어려웠던 장애물은 지식 엔지니어(Knowledge Engineer)가 인간 전문가를 장기간 심층 인터뷰하여 이들의 경험적 판단을 일련의 기호 규칙으로 명시화하는 작업이었다. 파이겐바움은 이러한 지식 추출과 형식화의 비효율성을 가리켜 '지식 획득의 병목(Knowledge Acquisition Bottleneck)'이라고 정의했다. 이 병목의 기저에는 철학자 마이클 폴라니(Michael Polanyi)가 갈파한 '폴라니의 역설(Polanyi's Paradox)', 즉 "우리는 말로 표현할 수 있는 것보다 훨씬 더 많은 것을 알고 있다"는 인간 인지의 근본적 한계가 자리 잡고 있었다.
실제 전문가의 역량은 교과서적인 명제적 지식(Explicit Knowledge)에 의존하기보다, 수년간의 실천과 시행착오를 통해 체화된 암묵지(Tacit Knowledge) 및 직관적 패턴 인식에 뿌리를 둔다. 노련한 의사가 환자의 미묘한 안색이나 복합적인 증상의 총체적 인상에서 질병을 직감할 때, 이를 IF-THEN 인과 규칙의 연쇄로 논리 정연하게 환원하는 것은 불가능에 가깝다. 지식 엔지니어가 규칙 추출을 강요할 때 전문가는 자신의 실제 사고 과정을 과도하게 단순화하거나 왜곡된 규칙을 진술하게 되며, 이는 실제 임상 환경에서 중대한 예외와 누락을 낳는 구조적 원인이 되었다. 결국 암묵지를 형식 논리로 온전히 변환할 수 없다는 인지적 간극이 전문가 시스템의 확장성을 원천 봉쇄했다.
상식의 부재와 시스템의 취약성
인공지능의 선구자 존 매카시(John McCarthy)는 1984년 논문 "Some Expert Systems Need Common Sense"를 통해 전문가 시스템의 가장 치명적인 결함이 바로 '보편적 상식의 결여'에 있음을 역설했다. 전문가 시스템은 철저하게 인위적으로 고립된 닫힌 세계 가정(Closed-World Assumption) 속에서만 작동하도록 설계되었다. 시스템은 자신이 다루는 고도로 전문적인 규칙 외에, 현실 세계를 구성하는 물리적·사회적 기본 법칙에 대해서는 완전히 무지했다.
이러한 상식의 결여는 시스템의 극단적인 '취약성(Brittleness)'을 초래했다. 인간 전문가는 자신의 전문 분야를 벗어나는 상황에 직면하더라도 상식적 배경지식에 의존하여 유연하게 대처하거나 자신의 한계를 인지하지만, 전문가 시스템은 사전에 프로그래밍된 규칙의 경계를 단 한 뼘만 벗어나도 완만하게 성능이 저하되는 것이 아니라 황당무계한 오류를 출력하며 완전히 붕괴했다. 예컨대 마이신과 같은 의료 진단 시스템은 복잡한 세균 감염의 연쇄 반응을 계산해 낼 수 있었지만, 환자가 이미 사망한 상태이거나 환자의 성별과 생물학적으로 모순되는 진단(예: 남성의 임신 관련 합병증)이 주어지더라도 이를 배제할 기초 상식이 없었다.
더글러스 레너트(Douglas Lenat)는 이러한 취약성을 극복하고자 1984년 인간의 모든 일상 상식을 술어 논리로 부호화하려는 야심 찬 CYC 프로젝트를 출범시켰다. 그러나 물이 아래로 흐른다거나 부모는 자식보다 나이가 많아야 한다는 식의 수백만 가지 상식적 사실과 그에 따르는 무한한 예외 조항을 사람이 일일이 손으로 코딩하는 작업은 조합적 한계와 비단조 논리(Non-monotonic Reasoning)의 모순에 직면하며 실용적 결실을 맺지 못했다.
규칙 상충, 조합 폭발 및 기하급수적 유지보수 비용
전문가 시스템이 실무 환경에 안착하기 어려운 또 다른 원인은 복잡성 확장에 따른 공학적 유지보수의 붕괴였다. 시스템 초기에는 수백 개의 규칙으로 명확한 관리가 가능하지만, 현장의 복잡성을 반영하고 예외를 처리하기 위해 규칙이 점차 수천, 수만 개로 늘어나면서 제어가 불가능한 상태에 도달했다.
대표적 성공 모델이었던 DEC의 XCON은 이 유지보수의 덫을 극명하게 보여준다. 초기에 약 700개의 규칙으로 출발했던 XCON은 VAX 하드웨어 라인업의 지속적인 변경과 신제품 추가로 인해 규칙 수가 수천 개 단위로 폭증했다. 규칙 베이스가 거대해지자 새로운 예외 상황을 처리하기 위해 추가한 규칙 하나가 기존에 잘 작동하던 수십 개의 규칙과 논리적 충돌(Rule Conflicts)을 일으켰고, 특정 조건에서 여러 규칙이 동시에 격발(fire)될 때의 우선순위 판정이 극도로 복잡해졌다. 또한 새로운 정보가 주입되었을 때 기존에 유효했던 결론을 철회하고 메모리를 재정렬해야 하는 비단조 추론 과정에서 탐색 상태 공간이 기하급수적으로 폭발했다.
DEC는 시스템의 일관성을 검증하기 위해 15명 이상의 전문 지식 공학자 팀을 상시 유지해야 했으며, 제품 사양 변경에 따라 규칙을 수정하고 디버깅하는 인건비와 유지보수 비용이 시스템이 가져다주는 경제적 효용을 잠식하기 시작했다. 결국 시스템이 확장될수록 소프트웨어의 엔트로피가 급증하여 인간의 관리 한계를 넘어선다는 점이 전문가 시스템 쇠퇴의 결정적 요인이었다.
4. 대규모 언어 모델(LLM)의 계산적 기제와 성공 요인
전문가 시스템이 정밀한 하향식 규칙 주입을 시도하다 복잡성의 벽에 부딪힌 반면, 대규모 언어 모델(LLM)은 통계적 기계학습과 심층 신경망을 기반으로 지식 표상과 상식의 문제를 완전히 새로운 차원에서 해결했다.
트랜스포머 아키텍처와 자기지도 학습을 통한 압축된 세계 모델
대규모 언어 모델 성공의 계산적 기반은 트랜스포머(Transformer)의 자기주의(Self-Attention) 메커니즘과 비지도·자기지도 학습(Self-Supervised Learning) 패러다임이다. LLM은 인간 지식 엔지니어의 수동 규칙 정의에 의존하지 않고, 수조 개의 텍스트 토큰으로 구성된 방대한 데이터로부터 이전 문맥이 주어졌을 때 다음 토큰을 예측하는 통계적 목적 함수를 최적화한다.
인간 언어의 방대한 코퍼스는 단순히 문법적인 기호의 나열이 아니라, 인류가 물리적 세계 및 사회적 환경과 상호작용하며 축적해 온 상식, 물리적 직관, 심리적 인과관계, 전문적 논리가 고밀도로 압축된 산물이다. 따라서 임의의 복잡한 문맥에서 다음 단어를 지속해서 정밀하게 예측하기 위해서는 언어의 표면적 상관관계를 넘어, 언어 배후에 존재하는 세계가 어떻게 작동하는지에 관한 인과적 관계와 맥락적 상식을 신경망 내부의 잠재 공간(Latent Space)에 인코딩해야만 한다.
LLM은 지식을 상호 배타적인 이산적 기호(Discrete Symbols)로 취급하지 않고, 수천 차원의 연속적인 기하학적 벡터 공간(Continuous Vector Space) 속에 분산 표상(Distributed Representation)으로 저장한다. 이로 인해 물리적 세계의 연속성, 언어적 다의성, 맥락에 따른 유연한 개념 전이가 임베딩 공간의 거리와 방향으로 자연스럽게 부호화된다.
스케일링 법칙과 리처드 서튼의 '쓰라린 교훈'
인공지능 연구에서 LLM의 승리는 강화학습의 선구자 리처드 서튼(Richard Sutton)이 제창한 '쓰라린 교훈(The Bitter Lesson)'의 명백한 실증이다. 서튼은 지난 70년간의 인공지능 연구를 돌이켜볼 때, 연구자가 자신의 주관적 직관과 도메인 지식을 알고리즘에 정교하게 주입하려 했던 모든 시도는 단기적인 효과를 거두었을지언정 장기적으로는 막대한 계산량(Compute)을 기반으로 탐색(Search)과 학습(Learning)을 확장하는 일반화된 방법론에 의해 예외 없이 압도당했다고 설파했다.
전문가 시스템은 인간 지식을 기호 규칙으로 정교하게 짜 넣으려 했던 전형적인 '인간 지식 기반 주입 방식'이었으며, 이는 지식 베이스의 복잡도가 증가함에 따라 확장성의 한계에 부딪혀 침체했다. 반면 LLM은 복잡한 도메인별 추론 규칙을 사전에 강제하지 않고, 방대한 연산과 대규모 데이터를 바탕으로 신경망 스스로 지식의 통계적 패턴을 추출하도록 설계되었다.
파라미터의 규모, 데이터의 크기, 총 학습 연산량이 지수적으로 증가함에 따라 손실 함수가 멱법칙(Power Law)을 따르며 감소한다는 스케일링 법칙(Scaling Law)이 입증되었다. 특히 연산량이 특정 임계점을 통과하면서, 작은 규모에서는 전혀 관찰되지 않던 고차원적 상식 추론, 맥락 내 학습(In-Context Learning), 다단계 연역 능력이 자생적으로 발현되는 '창발적 능력(Emergent Abilities)'을 획득하게 되었다.
확률적 완충을 통한 문맥적 일반화
결정론적 논리(Deterministic Logic)에 기반한 전문가 시스템은 주어진 전제 조건이 지식 베이스의 규칙과 단 하나만 불일치해도 추론을 완전히 멈추거나 왜곡된 결과를 산출했다. 반면 LLM은 조건부 확률 분포(Conditional Probability Distribution)를 기반으로 작동한다.
현실 세계의 지식과 언어는 불완전하고 모호하며 노이즈로 가득 차 있다. LLM은 사용자 입력에 오탈자가 존재하거나 문법적 모순이 있더라도, 혹은 이전에 한 번도 경험하지 못한 새로운 형태의 질문이 주어지더라도, 거대한 매개변수 공간에 축적된 통계적 상관성을 통해 의도를 유연하게 복원해 낸다. 이러한 확률적 유연성은 외부 환경의 미세한 변화에도 전체 시스템이 무너지지 않는 '부드러운 성능 저하(Graceful Degradation)'를 보장하며, 전문가 시스템이 끝내 확보하지 못했던 견고한 범용성을 완성했다.
5. 기호주의와 연결주의의 패러다임 비교 및 인지적 역설
전문가 시스템의 몰락과 대규모 언어 모델의 부상은 기호주의(Symbolic AI)와 연결주의(Connectionist AI)가 지능의 구조와 작동 방식을 규정하는 근본적인 철학적 격차를 선명하게 드러낸다.
전문가 시스템의 하향식(Top-down) 연역 체계는 세계에 대한 완벽한 명제적 정의가 선행되어야만 추론이 작동할 수 있다는 전제에 갇혀 있었다. 반면 연결주의 기반의 LLM은 개별 데이터 인스턴스들의 통계적 규칙성을 집약하여 상위 개념을 형성하는 상향식(Bottom-up) 귀납 체계를 따름으로써 현실 세계의 모호성과 예외를 유연하게 포섭했다.
| 비교 범주 | 기호주의 전문가 시스템 (Symbolic AI) | 대규모 언어 모델 (Connectionist LLM) |
|---|---|---|
| 지식 획득 경로 | 전문가 인터뷰 및 지식 엔지니어의 수동 부호화 | 웹 스케일 텍스트 코퍼스의 비지도 자기지도 학습 |
| 지식 표상 형태 | 이산적 기호, 프로덕션 규칙(IF-THEN), 온톨로지 | 고차원 연속 벡터 공간 내 분산 가중치 매개변수 |
| 추론 연산 기제 | 결정론적 기호 조작 (전향/후향 연역 추론) | 확률적 차기 토큰 예측 (조건부 확률 분포 생성) |
| 상식(Common Sense) | 부재하거나 수동 코딩의 한계에 봉착 (CYC의 한계) | 대규모 언어 데이터 압축을 통해 암묵적으로 내재화 |
| 경계 조건 반응 | 극도로 취약함 (Brittleness, 규칙 외 입력 시 파국적 붕괴) | 통계적 완충 및 탄력적 일반화 (Graceful Degradation) |
| 확장성(Scalability) | 규칙 증가 시 조합 폭발 및 기하급수적 유지보수 비용 | 데이터와 컴퓨팅 스케일에 비례하는 선형적 역량 증대 |
| 설명 가능성 | 완전한 논리 추론 경로 추적 가능 (White-box) | 내부 메커니즘 해석 난항 및 통계적 환각 발생 (Black-box) |
모라벡의 역설 관점에서의 재해석
전문가 시스템이 실패하고 LLM이 성공한 인지적 근거는 한스 모라벡(Hans Moravec), 마빈 민스키(Marvin Minsky), 로드니 브룩스(Rodney Brooks) 등이 주창한 '모라벡의 역설(Moravec's Paradox)'을 통해 가장 명료하게 설명된다. 모라벡의 역설은 인공지능 연구에서 체스 두기, 의료 진단, 미적분 계산과 같이 성인 수준의 고도화된 논리적 추론을 요구하는 작업은 컴퓨터로 구현하기가 비교적 쉬운 반면, 얼굴을 인식하거나 방 안을 자연스럽게 걸어 다니고 사물을 식별하는 것과 같은 1세 유아 수준의 지각 및 일상 상식은 구현하기가 극도로 어렵거나 불가능에 가깝다는 관찰이다.
이러한 역설이 나타나는 이유는 인간의 진화사에서 기인한다. 추상적 논리 추론이나 전문 분야의 기호적 판단은 인류 문명의 진화 과정에서 가장 최근에 출현한 인위적이고 얇은 껍질(Veneer)에 불과하다. 따라서 이러한 영역은 규칙의 구조가 이미 기호화되어 있어 소수의 명시적 논리만으로도 흉내 내기가 비교적 수월했다. 반대로 일상적인 상식과 신체적 지각 능력은 수억 년에 걸친 생물학적 진화와 자연선택을 통해 인간 신경계 깊숙이 암묵적·무의식적 연산으로 최적화된 거대한 기반이다.
전문가 시스템 진영은 지능의 구조를 거꾸로 파악하는 치명적인 오류를 범했다. 그들은 전문 지식을 지능의 정점으로 보고 상식을 하찮고 단순한 부차적 요소로 간주하여, 상식의 거대한 암반이 없는 허공 위에 전문 지식이라는 피라미드의 꼭대기만을 축조하려 했다. 그 결과 상식적 기반이 결여된 시스템은 기초적인 맥락 변화에도 취약하게 무너질 수밖에 없었다.
대규모 언어 모델의 본질적인 승리는 모라벡의 역설에서 가장 까다로운 영역이었던 '광범위한 상식적 배경'을 웹 데이터의 통계적 압축을 통해 하부 지지대로 먼저 완벽하게 구축했다는 점에 있다. LLM은 상식이라는 거대한 인지적 바닥을 깔아놓은 후, 그 지평 위에서 전문 지식을 맥락화하여 해석함으로써 전문가 시스템이 도달하지 못한 견고한 추론의 안정성을 확보했다.
6. 대규모 언어 모델의 한계와 신경기호주의적 융합
상식을 확보한 LLM이 인공지능의 주류로 자리 잡았으나, 순수 연결주의 모델 역시 과거 기호주의 시스템이 제공했던 결정론적 신뢰성과 엄밀성을 완벽히 대체하지는 못했다. LLM은 미션 크리티컬한 전문 산업 영역에서 독자적인 구조적 취약성을 노출하고 있다.
LLM의 구조적 결함
LLM의 가장 중대한 취약점은 통계적 환각(Hallucination)이다. LLM은 진실성(Truthfulness)을 판별하도록 훈련된 엔진이 아니라 토큰 시퀀스의 통계적 그럴듯함(Plausibility)을 극대화하도록 최적화된 엔진이기 때문에, 매우 유창하고 논리 정연한 어조로 치명적인 허위 사실이나 왜곡된 전문 지식을 생성해 낸다.
더불어 대규모 언어 모델은 다단계 형식 연역, 정확한 산술 연산, 복잡한 그래프 탐색과 같이 엄밀한 결합성(Strict Compositionality)을 요구하는 과업에서 통계적 근사 계산의 한계로 인해 예기치 못한 논리적 비약을 일으킨다.
또한 모델의 파라미터에 저장된 지식은 사전 학습 시점에 고정되어 있어 실시간으로 개정되는 법률, 규정, 사내 보안 정책을 즉각적으로 반영하기 어려우며, 가중치 내부에 은닉된 특정 사실만을 선택적으로 수정하거나 삭제하는 지식 편집(Knowledge Editing)이 극도로 어렵다는 문제를 안고 있다.
시스템 1과 시스템 2의 이중과정 이론과 최신 융합 기술 동향
인지심리학자 대니얼 카너먼(Daniel Kahneman)의 이중과정 이론(Dual-Process Theory)은 현대 인공지능의 구조적 병목을 해결할 핵심 프레임워크를 제공한다. 카너먼은 인간의 인지를 빠르고 무의식적이며 패턴 매칭에 능한 직관 체계인 '시스템 1(System 1)'과, 느리고 의식적이며 논리적 연역과 수리적 계산을 수행하는 숙고 체계인 '시스템 2(System 2)'로 구분했다.
현재의 LLM은 전형적인 시스템 1에 해당한다. 유연한 언어 이해, 직관적 패턴 포착, 보편적 상식 인출에는 능하지만 엄밀한 단계별 논증에서는 오류를 범한다. 반면 과거 전문가 시스템이 추구했던 형식 논리와 프로덕션 규칙은 결정론적 시스템 2의 특성을 지닌다. 이에 따라 최근의 인공지능 연구는 시스템 1의 직관적 맥락 이해력(LLM)과 시스템 2의 엄밀한 기호 논리 엔진을 결합하려는 신경기호주의(Neuro-Symbolic AI) 및 복합 AI(Composite AI) 체제로 급속히 전환되고 있다.
이러한 신경기호주의적 융합은 현대 엔터프라이즈 환경에서 세 가지 주된 기술적 형태로 구체화되고 있다.
비정형 텍스트의 단순한 벡터 유사도 검색이 야기하는 단편성을 극복하기 위해, 과거 전문가 시스템의 유산인 온톨로지와 지식 그래프(Knowledge Graph)를 LLM의 배경 지식으로 결합한다. 모델은 지식 그래프에 구축된 엄밀한 엔티티 간 관계 경로를 탐색하여 사실에 기반한 추론(Fact-grounded Reasoning)을 수행함으로써 환각을 원천 차단한다.
LLM이 자연어 질의로부터 사용자의 의도를 분석하고 상식적 맥락을 파악하는 오케스트레이터 역할을 담당하되, 엄밀한 계산이나 비즈니스 규칙 판정이 필요한 순간에는 파이썬 인터프리터, SQL 데이터베이스, 또는 결정론적 규칙 엔진(Rule Engine)을 직접 호출하여 무결한 결과를 얻는다.
몬테카를로 트리 탐색(MCTS)이나 프로세스 보상 모델(Process Reward Model)을 도입하여, 모델이 중간 사고 과정(Chain-of-Thought)을 전개할 때 각 논리적 단계의 참·거짓을 기호적으로 검증하고 역추적하도록 유도하는 시스템 2 형태의 연산 기법이 정착하고 있다.
7. 결론: 지식 표상에서 지능적 종합으로의 진화
전문가 시스템이 실패하고 대규모 언어 모델이 성공한 본질적인 원인은 '지능의 기초가 어디에 있는가'에 대한 설계 패러다임의 승패에 있었다.
전문가 시스템은 지능을 고립된 영역의 정밀한 규칙들의 단순 총합으로 규정했다. 그러나 전문가의 암묵지를 형식화하지 못하는 지식 획득의 병목(폴라니의 역설), 상식의 결여로 인한 파국적 취약성(매카시의 경고), 규칙 폭증에 따른 기하급수적 유지보수 비용으로 인해 자멸했다. 반면 대규모 언어 모델은 리처드 서튼의 '쓰라린 교훈'을 바탕으로, 규칙 주입 대신 대규모 연산과 자기지도 학습을 통해 언어 코퍼스에 축적된 인간의 보편적 상식과 맥락적 관계성을 연속 벡터 공간에 상향식으로 학습해 냈다. 모라벡의 역설이 지적했듯, 가장 어렵고 방대한 기반이었던 '상식'의 하부 구조를 데이터 압축으로 먼저 장악한 것이 LLM 성공의 결정적 동인이었다.
역설적이게도 오늘날 인공지능 연구의 최전선은 전문가 시스템의 유산이었던 '결정론적 규칙'과 '명시적 논리'를 완전히 폐기하는 방향으로 나아가지 않는다. 오히려 LLM이라는 유연한 시스템 1의 상식적 지반 위에, 검증 가능하고 통제 가능한 시스템 2의 기호적 규칙 엔진을 재통합하는 신경기호주의적 종합(Neuro-Symbolic Synthesis)으로 진화하고 있다. 지능은 고립된 규칙의 나열도, 맹목적인 확률적 앵무새도 아니며, 방대한 상식적 직관 위에서 정밀한 논리적 규칙을 엄격하게 통제할 수 있는 복합적 인지 아키텍처의 완성으로 나아가고 있다.