인지심리학과 철학에서 규명한 인간 전문가의 직관적 암묵지부터, 규칙 기반 AI의 한계를 넘어 거대 언어 모델(LLM), MoE(Mixture of Experts), 추론형 AI(o1/R1)로 진화하는 '전문성(Expertise)'의 본질을 총체적으로 탐구합니다.
💡 expertise: 전문가적 의견, 전문적 지식, 전문적 기술 | expert: 특정 영역에서 직관과 메타인지를 갖춘 고도 숙련자
우리는 도처에서 새 문제에 부딪치는 것처럼 생각되는 경우가 많지만, 상당히 낯익은 영역인 말하기, 운전하기, 합산하기 등등에서 대체로 목표를 달성한다. 여기서 우리의 행동은 매우 자동적이어서 우리가 문제를 풀고 있음을 거의 깨닫기 어렵다. 그러나 낯선 언어로 소통하려는 사람, 처음 운전대를 잡은 사람, 또는 덧셈을 배우는 아이를 보면, 이 일들이 이들 초보자에게는 매우 어렵고 신기한 새로운 문제 영역임을 알 수 있다.
많은 사람들은 끊임없는 연습을 거쳐 이 영역들에서 어느 정도 전문가가 된다. 방금 언급된 기술에서는 많은 사람들이 전문가가 된다. 소수의 사람들만이 전문가가 되는 기술로는 장기 두기, 과학 연구, 주요 경기에서 안타를 때리기 등등이 있다. 그렇지만, 이 특정 영역의 전문성 발달은 일반 영역의 전문성 발달과 별다른 차이가 없어 보인다.
— John R. Anderson (1995), 전문성의 성질
우리가 걷고 말하고 자전거를 타고 자동차 운전을 할 때 보통 의식적으로 심사숙고해서 의사결정을 하는 것이 아닙니다. 전문가의 기술은 그 자신의 일부이므로 그 기술을 일일이 인지할 필요가 없다는 것은, 마치 그가 일상적 동작에서 그 자신의 몸을 움직이는 것을 낱낱이 알 필요가 없는 것과 마찬가지입니다.
실제로 도구나 기구들은 전문가의 신체를 확장한 것이 됩니다. 전문가 운전자는 일반적으로 어떠한 인지작용 없이도 서행이 필요한 때에는 느낌과 친숙함에 의해 알아차릴 뿐 아니라 대안들을 비교 평가하지 않고도 행동하는 방법을 일반적으로 알게 됩니다. 그는 그의 행동을 의식적으로 알려고 하지 않고도 적절한 때에 기어 변속을 능숙하게 수행합니다.
"초보자는 heuristic 으로 프로그램화된 컴퓨터처럼 규칙들과 사실들을 사용하는 추리를 하지만, 많은 경험과 재능을 갖게 된 전문가는 규칙들을 적용하지 않고도 무엇을 해야 할 것인지를 직관적으로 파악한다."
철학자 휴버트 드레이퍼스(Hubert Dreyfus)는 기술 습득의 5단계를 통해 '전문가의 전문성이 반드시 명제적 추론을 포함한다'는 전통적인 생각이 근본적으로 잘못되었음을 지적했습니다. 이 논지는 곧 소크라테스로부터 시작되어 현대 인공지능 전문가 시스템의 지식공학을 설계하는 공학자들이 그러한 편견에 사로잡혀 있다는 말이 됩니다.
우리가 전문가에게 엄밀한 규칙들을 요구한다면 그는 초보자의 수준으로 되돌아가서 기억나는 규칙들, 그러나 전문가로서는 이미 사용하지 않은 지 오래된 규칙들을 말하게 될 것입니다.
이리하여 Dreyfus는 "만약 그대가 그것을 설명할 수 없다면 그대는 그것을 이해하지 못한 탓이다"라는 소크라테스의 고전적 슬로건은 현대에 완전히 뒤바뀌어야 한다고 선언했습니다:
"누구든지 자기의 기술을 충분히 설명할 수 있다고 생각하는 사람은 전문가적인 이해를 하지 못한 것이다."
— 이런 의미에서 엄밀한 규칙으로만 구성된 전문가 시스템의 완전한 설계는 불가능합니다. (이초식 1993, 기술습득과 전문가시스템 비판)
"전문성(expertise)은 경험에 기초한 패턴 식별과 연관(pattern discrimination and association)이다. 그것은 직관적(intuitive)이다. 그것을 몇 개의 규칙과 이론으로 환원할 수 있다는 증거는 없다. 따라서 인공지능(AI)은 규칙들과 원리들(rules and principles)만을 사용하여 인간 수준으로 만들어지지는 않을 것이다. 지능(intelligence)이라는 것이 그렇게 만들어지지는 않는다."
규칙 의존적인 초보자 단계에서부터 상황에 대한 종합적 통찰과 직관적 몰입을 발휘하는 최고 전문가 단계에 이르는 인지적 전이 과정입니다.
맥락과 무관한 엄격한 규칙(Context-free Rules)에 맹목적으로 의존. 예외 상황 처리 불가.
과거 경험을 바탕으로 상황적 요소(Situational Aspects)를 인지하기 시작하나 우선순위 판단 미흡.
목표를 수립하고 계획에 따라 중요한 요소와 불필요한 요소를 의식적으로 선별 및 분석.
상황을 전체론적(Holistic)으로 직관 파악. 단, 수행할 행동 방안은 의식적으로 숙고함.
상황 인식과 행동 결정이 하나로 통합된 완전한 몰입과 직관적 행동(Fluid Action).
전문가는 그의 지식을 사용하여 문제를 해결할 수 있습니다. 물론 높은 적절한 성공률을 보여야 합니다. 의사는 정확한 진단을 할 수 있고 법무관은 적절하게 법의 조항들을 찾아낼 수 있습니다.
단순하게 문제를 해결하는 것으로는 충분하지 않습니다. 전문가는 문제들을 빠르고 효율적으로 해결할 수 있습니다. 보다 증명이 확실히 되는 해결책(provable solution)을 연역해 내고 빠르게 가장 적절한 정보를 결정해 냅니다. 자동차 수리공이 간단한 고장을 해결하는 데 1주일이 걸린다면 대가를 지불할 마음이 생기지 않을 것입니다. 의사가 어떤 병인지를 결정하기 위해 수십 가지의 부적절한 검사를 시행하기를 바라지는 않을 것입니다. 어려운 문제는 쉬운 문제보다 시간은 더 걸리겠지만 전문가는 그의 통찰력으로 문제들을 특징지을 것입니다.
전문가는 그가 아는 것을 압니다(메타인지). 그가 처리할 수 있는 것이 무엇인지를 알고 다른 사람에게 보내야 하는(referring) 것이 무엇인지를 압니다. 우리는 답을 아는 체하는 선생님을 존경하지 않습니다. 전문가가 그들의 전공에 대해 모든 것을 알지 못한다는 것은 오히려 합리적입니다. 또한 어떤 질문이 그에게 너무 복잡하다는 것을 올바르게 인식합니다. 우리는 그들이 추측해서 답변을 내어 부정확한 정보를 주는 것을 원치 않습니다. 일반의(general practitioner)가 항상 우리를 종합병원으로 refer하는 것은 비효율적이지만, 중병에 걸렸을 때 전문의에게 refer해 주는 것은 당연합니다. 의사는 그의 능력을 벗어나는(beyond his scope) 병의 증상을 반드시 인지해 낼 수 있어야 합니다.
전문가는 쉽게 이용 가능한 많은 지식을 가지고 있습니다. 우리는 가상의 사건이나 실제 문제에 대해 그에게 상세히 질문합니다. 질문과 답변 능력이 있는 인터랙티브한 책을 활용하듯이 전문가를 이용할 수 있으며, 특별한 질문에 대해 우리가 이해할 수 있는 용어(terms)로서 명확히 답변해 줍니다.
체계화된 전문 지식을 사용하여 복잡한 문제를 해결합니다. 충분한 증거와 증상들이 주어진다면 실행 가능한 해결책을 신속히 도출해 주며, 보다 더 정확한 결론에 도달하기 위해 필수적으로 요구되는 추가 단서와 부가 정보들을 선제적으로 알려줍니다.
때때로 전문가의 답변이 불충분할 때, 전문가는 그의 추론 경로를 설명할 수 있어야 하고(Why), 어떻게 해서 그런 결론에 이르게 되었는지(How)를 논리적으로 설명할 수 있어야 합니다. 그는 개념의 정의를 확대시킬 수 있어야 합니다. 우리가 전문가와 상담할 때 설명을 요구하는 이유는 바로 전문가에게 배우고 또한 그 답변에 대한 확신을 갖기 위함입니다.
'왜 그것을 알 필요가 있는가?' 하는 것은 민감하거나 개인적인 정보를 물었을 때 당연히 설명되어야 할 부분입니다. 또한 전문가가 어떻게 해서 그러한 답변을 냈는지를 투명하게 설명해야 신뢰가 형성됩니다.
"규칙의 조합"에서 "확률적 패턴 식별"과 "추론 시간 컴퓨팅(Inference-Time Compute)"으로 진화한 현대 인공지능의 전문성
기본 사전학습(Pre-training)을 마친 거대 언어 모델(LLM)은 인터넷상의 방대한 텍스트를 흡수하여 모든 분야에 그럴듯하게 답하는 '상급 초보자(Advanced Beginner) 혹은 백과사전식 제너럴리스트'에 가깝습니다. 그러나 의료, 법률, 반도체 제조공정 등 한 번의 오차가 치명적인 전문 영역에서는 범용 모델의 피상적 유창함이 오히려 치명적인 환각(Hallucination)을 야기합니다.
현대 AI 공학은 이를 극복하기 위해 전문 코퍼스를 주입하는 지속 사전학습(Continued Pre-training, CPT), 고난도 도메인 지침 미세조정(Domain Instruction Fine-Tuning), 도메인 전문가의 정밀 피드백을 반영하는 RLHF / DPO를 통해 모델에게 진정한 전문성을 이식하고 있습니다.
최신 대규모 언어 모델(GPT-4, Mixtral, DeepSeek 등)의 핵심 기반은 바로 MoE(전문가 혼합) 아키텍처입니다. 단일 거대 신경망이 모든 지식을 처리하는 대신, 수학 전문가, 코딩 전문가, 언어 전문가 등 서로 다른 가중치를 지닌 수십~수백 개의 전문가 피드포워드 신경망(Expert FFNs)을 분할 배치합니다.
입력 토큰마다 게이팅 라우터(Gating Router)가 가장 적합한 1~2개의 전문가 서브네트워크만을 선택적으로 활성화(Dynamic Sparse Activation)함으로써, 전체 파라미터 규모를 키우면서도 계산 비용은 획기적으로 낮추는 전문화 효율성을 구현합니다.
드레이퍼스가 지적했듯 인간 전문가는 직관(System 1)으로 즉각적인 판단을 내리지만, 전례 없는 복잡한 문제를 마주했을 때는 가설을 세우고, 대안을 시뮬레이션하며, 오류를 스스로 수정하는 심사숙고(System 2)를 수행합니다.
최신 추론 특화 LLM은 답을 즉시 생성하지 않고 보이지 않는 긴 사고 사슬(Chain of Thought)을 스스로 전개하며 검증을 반복합니다. 이는 Hart(1986)가 정의한 "복잡한 문제의 본질을 통찰하고 provable solution을 연역해 내는" 전문가의 고차원적 문제 해결 능력을 인공지능이 계산적으로 획득했음을 보여줍니다.
Hart(1986)가 지목한 전문가의 가장 위대한 자질인 "한계 인식(Awareness of Limitation)"은 현재 생성형 AI 연구의 최전선 과제입니다. 자신감 넘치는 말투로 거짓 정보를 지어내는 AI는 전문가가 될 수 없습니다.
현대 엔터프라이즈 AI 시스템은 불확실성 추정(Confidence Calibration)을 통해 신뢰도가 임계값 이하일 경우 솔직히 모른다고 인정하거나, 외부 사실 검색(RAG/GraphRAG)을 호출하거나, 인간 전문가에게 작업을 이관(Human-in-the-Loop Escalation)하는 능력을 필수적인 정렬(Alignment) 척도로 삼고 있습니다.
| 비교 항목 | 과거 전문가 시스템 (Rule-Based AI) | 현대 거대 언어 모델 (LLM & MoE) |
|---|---|---|
| 전문성의 본질 | 명제적 규칙(If-Then)과 명시적 논리 사실의 집합 | 수천억 파라미터 간 연속적 벡터 패턴과 잠재 표현 |
| 인간 전문가의 역할 | 지식공학자의 인터뷰를 통해 암묵지를 규칙으로 번역 제공 | RLHF 피드백 제공, 정답 데이터 검수 및 최종 판정자(HITL) |
| 인지 단계 (Dreyfus) | 초보자~유능자 (1~3단계의 엄격한 규칙 준수형) | 숙련자~전문가 (4~5단계의 직관적 패턴 식별 및 맥락 몰입) |
| 유효성 & 유연성 | 규칙이 정의된 좁은 닫힌 세계(Closed World)에서만 100% 동작 | 열린 도메인에서 비정형 데이터까지 유연하게 적응 처리 |
| 설명 가능성 (Explainability) | 규칙 발화 추적을 통한 완벽한 기계적 설명 가능(Why/How) | 사고 사슬(CoT) 및 주의집중 메커니즘을 통한 사후 언어적 설명 |
| 한계 인식 (Awareness) | 규칙이 없으면 단순히 실패(Fail)하거나 추론 중단 | 보정(Calibration) 미흡 시 그럴듯한 거짓말(Hallucination) 위험 |
고려대학교 남기춘 교수의 인지심리학 강의를 통해 기술 습득에 따른 뇌의 인지적 변화와 전문성의 본질을 탐구합니다.
기술 습득에 따른 뇌의 인지적 변화, 기술 습득의 일반적 특징, 전문성의 성질 (2014/05/20)
지식의 전이 가능성, 전문가 인지 전략, 한국어 특강 (2014/05/22)