Knowledge Acquisition (지식 획득)

전문가 시스템의 병목 현상(Feigenbaum's Bottleneck)에서부터 거대 언어 모델(LLM)의 사전 학습(Pre-training), 미세 조정(Fine-tuning), RAG(검색 증강 생성)에 이르기까지 인공지능이 지식을 추출·흡수·구조화하는 전 과정을 조망합니다.

💡 도메인 전문가(Domain Expert)의 경험적 암묵지를 기계가 읽을 수 있는 형태로 변환하고, 웹 스케일 빅데이터로부터 맥락적 패턴을 획득하는 인공지능의 핵심 관문

📑 빠른 목차 안내

1. 고전적 지식획득의 절차와 체계

지식획득(Knowledge Acquisition)은 지식공학자(Knowledge Engineer : KE)가 지식공학(Knowledge Engineering) 기법을 바탕으로 도메인 전문가(Domain Expert : DE)와의 깊은 상호작용을 통해 지식을 추출하고 이를 시스템에 적합한 형태로 구축하는 행위입니다.

👤 도메인 전문가 (Domain Expert)의 역할

문제 도메인에 대한 풍부한 경험과 직관적인 휴리스틱(Heuristics), 암묵지(Tacit Knowledge)를 보유하고 있는 실제 분야의 최고 권위자입니다.

🛠️ 지식공학자 (Knowledge Engineer)의 역할

전문가와의 면담, 사례 분석 등을 통해 전문 지식을 이끌어내고(Elicitation), 이를 논리나 규칙, 프레임 등의 지식표현(Knowledge Representation) 기법으로 정형화하여 지식베이스(Knowledge Base)에 구축합니다.

💡 전문가 지식 통합 시의 유의점

동일한 분야라도 여러 명의 전문가가 있을 경우 각자의 경험과 이론적 배경에 따라 의견 차이나 모순이 발생할 수 있습니다. 따라서 초기의 핵심 규칙 집합은 단 한 명의 주전문가(Chief Expert)로부터 체계적으로 추출한 뒤, 이후 다수의 보조 전문가 검토를 거쳐 지식을 확장·보완하는 것이 성공의 열쇠입니다.

2. 지식획득의 난점과 병목 현상

지식공학의 창시자 에드워드 파이겐바움(Edward Feigenbaum)은 지식획득이야말로 전문가 시스템 구축 전체에서 가장 많은 시간과 비용이 소요되는 "핵심 병목 현상(Feigenbaum's Bottleneck)"이라고 지적했습니다. 주된 난점과 오류 요인은 다음과 같습니다.

1) 사공이 많으면 배가 산으로 간다 (전문가 간의 상충)

지식 획득 초기부터 다수의 전문가가 참여하면 서로 다른 문제 해결 전략과 상충되는 규칙이 지식베이스에 유입되어 정합성을 무너뜨립니다.

2) 도메인 전문가(DE) 측면의 한계와 감정적 요인

  • 암묵지의 언어화 불능: 전문가는 오랜 경험을 통해 직관적으로 해답을 알지만, 자신의 사고 과정을 논리적 IF-THEN 규칙으로 조리 있게 설명하는 데 큰 어려움을 겪습니다.
  • 기분과 심리 상태: 전문가의 피로도, 면담 당시의 심리 상태, 혹은 시스템 구축에 대한 거부감에 따라 진술의 일관성이 저하될 수 있습니다.
  • 지식 공유의 두려움: 자신의 고유한 노하우가 기계에 흡수됨으로써 자신의 전문적 가치나 직무가 위협받을 수 있다는 잠재적 거부감이 작용합니다.

3) 지식공학자(KE) 측면의 오판과 확증 편향

  • 도메인 이해 부족: 해당 전문 분야의 전문 용어나 복잡한 맥락을 오해하여 완전히 왜곡된 규칙을 생성할 위험이 있습니다.
  • 단편적 과신: 전문가가 무심코 던진 일회성 발언이나 특수 예외 상황을 마치 절대적인 보편 규칙인 것처럼 일반화하는 과오를 범하기 쉽습니다.

3. 지식획득의 6단계 프로세스

Step 1

타당성 조사 (Feasibility)

해당 도메인이 전문가 시스템으로 구현하기에 기술적·경제적으로 적합한지 검토하고, 협력할 적절한 전문가와 자원을 확보합니다.

Step 2

지식추출 (Knowledge Elicitation)

전문가 인터뷰, 프로토콜 분석(생각 말하기 기법), 현장 관찰을 통해 전문가의 머릿속에 있는 비구조화된 지식을 끌어냅니다.

Step 3

개념화 (Conceptualization)

추출된 지식의 핵심 개념, 엔티티, 속성, 인과관계의 흐름을 정리하여 지식 모델의 청사진을 수립합니다.

Step 4

형식화 (Formalization)

개념화된 지식을 IF-THEN 규칙, 술어 논리, 의미망, 프레임 등 컴퓨터가 이해할 수 있는 지식표현 언어로 변환합니다.

Step 5

시스템 구현 (Implementation)

규칙과 사실을 지식베이스에 적재하고 추론 엔진(Inference Engine)과 연결하여 프로토타입 시스템을 개발합니다.

Step 6

테스트 및 검증 (Evaluation)

실제 현장 사례를 투입하여 시스템의 추론 결과와 전문가의 판단을 비교 평가하고, 누락되거나 왜곡된 규칙을 반복 교정합니다.

4. 지식획득의 4대 방법론

🤝 1) 지식공학자와 전문가의 공동 작업 (수동 획득)

가장 전통적인 방식으로, 인터뷰와 설문 및 사례 연구를 통해 KE가 DE의 지식을 직접 청취하고 정형화합니다. 높은 품질을 보장하지만 시간과 비용이 가장 많이 듭니다.

🖥️ 2) 전문가 직접 입력 지원 도구 (대화형 시스템)

TEIRESIAS 등과 같은 지식 습득 도구를 활용하여, 컴퓨터를 잘 모르는 전문가도 직관적인 인터페이스를 통해 직접 지식베이스에 규칙을 추가하고 모순을 진단받습니다.

🧠 3) 머신러닝 및 기계학습 기능 (귀납적 학습)

ID3, C4.5와 같은 의사결정나무(Decision Tree) 알고리즘을 활용하여 대량의 정형 데이터와 사례(Case)로부터 분류 규칙을 자동으로 유도(Induction)합니다.

📄 4) 문서 자동 독해 및 자연어 처리 (NLP 기반 획득)

전문 서적, 매뉴얼, 학술 논문 등의 텍스트를 컴퓨터가 구문 분석(Parsing)하여 주어-술어-목적어의 지식 트리플(Knowledge Triple)을 자동 추출하는 방식입니다.

Deep Research

5. 최신 LLM에서의 지식 획득 (Knowledge Acquisition) 상세 분석

수동적 규칙 추출의 한계를 뛰어넘어, 웹 스케일 데이터로부터 신경망 가중치(Weights)와 실시간 맥락(Context)을 통해 지식을 획득하는 패러다임의 대전환

📖 LLM 지식 획득의 개념적 정의

LLM(대규모 언어 모델)에서 지식 획득(Knowledge Acquisition)이란 모델이 세상에 대한 정보, 사실 관계, 개념, 패턴 및 언어 구조를 학습하여 내부 파라미터(가중치)에 저장하거나 외부에서 가져와 활용할 수 있는 상태로 만드는 과정을 말합니다.

인간이 책을 읽고 공부하며 지식을 쌓는 것처럼, LLM도 다양한 데이터와 방법론을 통해 지식을 습득합니다. LLM의 지식 획득은 크게 두 가지 관점(내부적 획득과 외부적 활용)으로 나뉩니다.

1. LLM이 지식을 획득하는 주요 방식 (3단계 생애주기)

LLM은 모델의 생애주기에 따라 크게 세 가지 단계에서 지식을 내부화(가중치에 저장)합니다.

Stage 1 대규모 코퍼스 흡수

사전 학습 (Pre-training)

가장 방대한 지식을 획득하는 단계입니다. 인터넷 웹문서, 책, 위키피디아, 학술 논문 등 수조 개의 토큰으로 구성된 데이터셋을 읽으며 세상의 일반적인 상식, 문법, 과학적 사실, 역사 등을 다음 단어 예측(Next-Token Prediction)을 통한 통계적 패턴으로 학습합니다.

핵심: 범용 상식 및 언어 표현 지식 기반 형성
Stage 2 도메인 특화 심화

미세 조정 (Fine-tuning)

특정 도메인(예: 의료, 법률, 금융, 코딩 등)의 정제된 데이터를 추가로 학습하여, 사전 학습된 일반적인 지식을 특정 분야의 전문 지식 및 지시어 수행(Instruction Following) 능력으로 심화시키는 과정입니다.

핵심: 전문가 도메인 지식의 내재화 및 정렬
Stage 3 인간 선호 정렬

인간 피드백 강화학습 (RLHF)

획득한 지식을 바탕으로 인간이 선호하는 방식(정확성, 안전성, 유용성, 무해성)으로 답변을 출력하도록 지식의 활용 조율 방식을 배우는 단계입니다. PPO 또는 DPO 기법을 적용합니다.

핵심: 안전하고 유용한 지식 인출 및 거부 능력

2. 가중치 기반 지식 vs 맥락 기반 지식 (Parametric vs Contextual Knowledge)

최근 LLM 연구와 실무에서는 지식 획득을 파라미터에 직접 저장하는 것에만 국한하지 않고, 외부 지식을 결합하는 방식까지 넓게 포함합니다.

구분 가중치 기반 지식 (Parametric Knowledge) 맥락 기반 지식 (Contextual Knowledge)
개념 모델 자체의 가중치(Weights)에 저장된 지식 프롬프트나 외부 데이터베이스를 통해 실시간으로 주어지는 지식
획득 시점 학습(Training) 단계 추론(Inference) 단계
대표 기술 사전 학습 (Pre-training), 파인튜닝 (Fine-tuning) RAG (검색 증강 생성), 인컨텍스트 러닝 (Few-shot Prompting)
장점 별도의 외부 시스템 없이 빠르게 직접 답변 가능 최신 정보 반영이 가능하며, 환각(Hallucination) 현상이 현저히 적음
단점 학습 데이터가 멈춘 시점 이후의 최신 정보를 알지 못함 한 번에 입력할 수 있는 컨텍스트 창(Context Window) 용량에 제한이 있으며 검색 성능에 의존

3. 지식 획득의 주요 도전 과제와 한계

LLM이 지식을 효율적으로 획득하고 활용하는 데는 몇 가지 고질적인 한계가 존재합니다.

한계 1

지식의 유효기간 (Knowledge Cutoff)

사전 학습을 통해 획득한 지식은 학습이 끝난 시점에 영구 고정됩니다. 이후에 일어난 사건이나 수시로 변하는 최신 정보는 RAG 등 외부 검색 메커니즘 없이는 알지 못합니다.

한계 2

환각 현상 (Hallucination)

LLM은 지식을 논리적으로 '이해'해서 기억하기보다 '확률적 언어 패턴'으로 기억하므로, 그럴듯하지만 완전히 거짓인 사실을 자신 있게 진술하는 환각 현상이 발생합니다.

한계 3

지식 편집의 어려움 (Knowledge Editing)

잘못 저장된 사실 하나를 수정하기 위해 수천억 개의 파라미터를 다시 학습시키는 것은 막대한 비용이 들며, 한 부분을 수정했을 때 다른 온전한 지식이 망가지는 '파국적 망각(Catastrophic Forgetting)' 현상이 발생할 위험이 있습니다.

🎬 전문가 추천 영상: LLM의 지식 획득과 학습 매커니즘

신경망이 대규모 토큰에서 어떻게 지식을 사전 학습(Pre-training)하고 지침을 획득(Fine-tuning / RAG)하는지 세계 최고 권위자의 강의를 통해 시각적으로 확인해 보세요.

[Andrej Karpathy] Intro to Large Language Models

인터넷 웹 코퍼스를 압축하여 사전 학습(Pre-training)하고 파인튜닝, RLHF를 거쳐 지식을 획득하는 전 사이클을 명쾌하게 해설합니다.

[IBM Technology] RAG vs Fine-Tuning: 지식 획득과 활용

가중치 내재화(Fine-tuning)와 외부 검색 결합(RAG)의 아키텍처 차이, 비용, 환각 제어 효과를 명쾌하게 비교합니다.

6. 학술 연구 논문 및 참고문헌

논문 1 PDF 원문

분수 덧셈의 오류 분석 및 지식 획득을 위한 전문가 시스템 연구

김성만, 전평국 (한국교원대학교, 1999) - 학습자의 오류 유형 진단과 교육적 지식 획득 메커니즘 규명

논문 2 PDF 원문

규칙과 사례기반 추론을 이용한 지식획득 프로세스의 개선

이계성 (한국경영과학회, 1996) - 규칙 생성 병목 해소를 위한 하이브리드 지식 추출 기법

논문 3 PDF 원문

세법 도메인 지식 획득 및 법률 자문 전문가 시스템 구축

김종원 (한국지능정보시스템학회, 2001) - 복잡한 법률 조항의 지식베이스화 및 전문가 인터뷰 분석

논문 4 PDF 원문

전문가 시스템에서의 지식 획득 자동화에 관한 고찰

서의현 (한국산업정보학회, 1998) - 대화형 획득 도구 및 귀납적 학습을 통한 지식베이스 정밀화

논문 5 PDF 원문

사회과학 영역에서의 정성적 지식 획득 방법론 연구

권재원 (사회과교육연구, 2004) - 사회 현상의 비정형 지식을 체계적으로 분류하는 프레임워크

논문 6 PDF 원문

기업 신용평가를 위한 다중 의사결정 지식 획득 모형

한인구, 박철수 (경영정보학연구, 1994) - 전문가 휴리스틱과 통계 데이터의 융합 지식 구축

논문 7 PDF 원문

공정 제어 시스템에서의 지식 획득 및 실시간 추론 규칙 최적화

김길룡 (제어·자동화시스템공학회, 1997) - 산업 현장 오퍼레이터의 암묵지 추출 및 실시간 적용

인지심리학 지능 이론

지식획득 요소와 삼원지능이론 (Triarchic Theory of Intelligence)

Robert J. Sternberg - 지식 획득의 세 가지 하위 요소: 선택적 부호화, 선택적 결합, 선택적 비교

고전 원전 AI Classic

Constructing an Expert System : Knowledge Acquisition Approaches

Bruce G. Buchanan et al. - 전문가 시스템 구축의 본질과 지식 획득 방법론에 관한 기념비적 논문

🔗 인공지능 지식공학 핵심 개념 둘러보기