개념 (Concept)
심리학적 범주화와 두뇌의 표상 기제, 그리고 AI·LLM 세계 모델과 잠재 공간의 의미론적 도약
💡 개념(Concept)의 인지적 중심축
개념(Concept)은 인간의 인지 체계가 무한한 감각 자극 속에서 불변하는 의미와 규칙을 추출해 내는 '사고의 기본 구성 단위(Building Blocks of Thought)'입니다. 사물을 범주화(Categorization)하여 인지적 경제성을 달성하고 미지의 대상을 예측하게 해주는 생물학적 기제이며, 현대 거대언어모델(LLM)에서는 단순한 토큰 확률 예측을 넘어 '기저의 세계 모델(World Model)'을 형성하고 고차원 잠재 공간에서 의미론적 조향(Steering)을 가능케 하는 인공지능의 가장 핵심적인 이정표입니다.
AI와 거대 언어 모델(LLM)에게 concept(개념)이란 단순한 단어나 기호가 아니라, 수많은 데이터 속에서 학습한 의미, 맥락, 속성, 그리고 다른 개념들과의 관계가
압축된 추상적 지식 표현을 의미합니다.
인간이 머릿속에 '사과'라는 개념을 떠올릴 때 빨간색, 과일, 달콤함, 먹는 것 등의 특성을 함께 연결 짓는 것처럼, AI도 고차원 수학적 공간 안에서 이와 유사한 방식으로
개념을 이해하고 다룹니다.
⚙️ 1. AI와 LLM이 Concept를 표현하고 다루는 방식
- • 벡터 공간의 위치 (Embedding): LLM은 단어나 문장을 수백에서 수천 차원의 숫자 배열(벡터)로 변환합니다. 의미가 비슷한 개념들은 이 가상 공간에서 서로 가까운 위치에 모이게 됩니다.
- • 방향성과 관계성 (Vector Arithmetic): 개념은 공간 속의 특정 방향(선형 표현)으로도 나타납니다. 예를 들어 '왕' - '남자' + '여자' = '여왕'처럼, 개념 간의 성별이나 속성 차이를 수학적 연산으로 포착할 수 있습니다.
- • 맥락에 따른 동적 변화: 같은 단어라도 문맥에 따라 다른 개념으로 활성화됩니다. 예를 들어 '배'라는 단어는 '먹는 배'와 '타는 배'로 구분되어 신경망 내부의 서로 다른 경로와 가중치를 자극합니다.
- • 추상화 계층 (Feature Hierarchy): 신경망의 초기 층에서는 단어의 철자나 문법 같은 단순한 특징을 처리합니다. 깊은 층으로 갈수록 '감정', '논리적 모순', '코딩 패턴', '역사적 배경' 같은 고차원적이고 추상적인 개념을 형성합니다.
📋 2. 인간과 AI의 Concept 차이
| 구분 | 인간의 Concept | AI / LLM의 Concept |
|---|---|---|
| 형성 기반 | 오감(시각, 촉각 등) 경험, 신체적 상호작용, 교육 | 방대한 텍스트, 이미지 등 데이터의 통계적 패턴 학습 |
| 저장 형태 | 뇌의 신경망과 생물학적 기억 | 모델의 가중치(Parameters)와 고차원 벡터 공간 |
| 이해 방식 | 실제 세계의 물리적 실체와 연결됨 (접지 문제 해결) | 기호와 데이터 간의 확률적·수학적 연관성으로 파악 |
🔬 3. 최근 AI 연구에서의 Concept 활용
최근 AI 분야(특히 기계적 해석 가능성, Mechanistic Interpretability 연구)에서는 모델 내부에서 특정 개념이 어떻게 작동하는지 찾아내는 데 집중하고 있습니다.
- • 개념 병목 모델 (Concept Bottleneck Models): AI가 결론을 내리기 전에 '줄무늬가 있음', '네 발이 있음' 같은 인간이 이해할 수 있는 중간 개념을 먼저 예측하게 만들어 판단 과정을 투명하게 합니다.
- • 활성화 조향 (Activation Steering): 모델 내부에서 '정직함', '유머', '특정 언어 스타일'에 해당하는 개념 벡터를 찾아내어, 그 강도를 조절함으로써 AI의 답변 성향을 직접 제어하는 기술로 활용됩니다.
🏛️ 1. 주의집중, 기억과 개념의 상태 변화 (Original Archive Preserved)
마음은 적어도 두 개의 부분으로 구성됩니다. 즉 주의집중 영역(focus attention)과 기억(memory)입니다. 개념들은 마음속에 있으며, 주의집중 영역에 있을 수도 있고 기억 속에 있을 수도 있습니다. 하나의 개념이 주의집중 영역에 있다는 것은 그 개념에 대해 의식적으로 생각하고 있다는 것과 같은 것입니다.
그 개념은 어떤 상태의 변화(change from a state)가 있을 때 기억 속에 저장(storage)됩니다. 마찬가지로 기억 속의 개념에 상태 변화가 있을 때에 주의집중 영역으로 읽어들여(retrieval) 생각에 활용하는 것입니다. 즉 무엇에 대해서 생각(thinking)한다는 것은 (즉 주의집중 영역에 개념을 가진다는 것은) 그것을 기억에 가지기 위한 전제조건입니다.
[그림 1] 주의집중 영역(Focus Attention)과 기억(Memory) 사이의 개념 상태 변화와 입출력 메커니즘
🔍 기억의 접근가능성(Accessibility)과 기억 역치(Memory Threshold)
우리가 "기억하기 어렵다", "기억에 실패하다"라고 하는 것은 무엇을 의미하는가? 이것은 기억 속의 개념의 이론 구조를 알 필요가 있습니다. 어떤 개념은 접근 가능(accessible)하고 어떤 개념은 그렇지 않은가?
어떤 시간에 기억 속의 개념은 접근가능성(Accessibility)을 가집니다. 접근가능성은 개념, 기억, 시간을 특별한 순서 속의 요소(an element in a partial ordering)로 사상(mapping)하는 기능입니다. 어떤 때는 기억할 수 없었던 것들이 조금 시간이 지난 후에 똑같은 것을 기억해 낸 경험들이 있을 것입니다. 개념들을 기억에서 읽어낼 수 없는 상태, 즉 접근가능성 값이 낮은 상태를 "기억 역치(memory threshold)" 아래에 있다고 합니다.
특별한 개념이 얼마나 오랫동안 특별한 접근가능성 값을 유지하는지에 대해서는 알지 못합니다. 그러나 접근가능성의 변화에 내재하는 원인이 되는 구조의 특징을 설명할 수는 있습니다. ....... (Andrew S. Gordon 2004)
[그림 2] 시간의 흐름에 따른 개념 접근가능성(Accessibility) 궤적과 기억 역치(Memory Threshold)
📚 2. 심리학에서 개념(Concept)의 정의와 4대 이론 모델
인지심리학에서 개념(Concept)이란 "사물, 사건, 사람, 아이디어들의 공통된 특성을 묶어 정신적으로 표상(Mental Representation)한 것"이며, 이 개념에 속하는 구체적 대상들의 집합을 범주(Category)라고 부릅니다.
인간이 세상을 개념화하는 이유는 두 가지 결정적 인지 기능 때문입니다:
- 인지적 경제성 (Cognitive Economy) : 세상의 무수한 개별 자극을 일일이 별개의 정보로 저장하지 않고, 소수의 범주로 묶어 두뇌의 작업기억과 연산 부담을 극적으로 절감합니다.
- 강력한 추론 및 예측력 (Inference & Prediction) : 처음 보는 동물이라도 "새(Bird)"라는 개념에 속한다는 것을 인식하면, 직접 관찰하지 않고도 "날 수 있을 것이고 알을 낳을 것이다"라고 즉각 예측할 수 있습니다.
🏛️ 심리학의 4대 개념 형성 이론
1. 고전적 관점 (Classical View)
필요충분조건(Defining Features) 모델
아리스토텔레스 이래의 전통적 관점으로, 개념은 명확히 정의된 '필요충분조건' 목록에 의해 규정된다고 봅니다 (예: '총각' = 성인 + 미혼 + 남성). 그러나 현실의 경계 모호성(예: 토마토는 과일인가 채소인가?)과 전형성 효과를 설명하지 못하는 한계가 있습니다.
2. 원형 이론 (Prototype Theory)
엘레노어 로쉬(Eleanor Rosch, 1970s)
개념은 그 범주에 속한 구성원들의 특징들의 통계적 평균치인 **'가장 전형적인 본보기(원형, Prototype)'**를 중심으로 조직됩니다 (예: '새'의 원형은 참새나 비둘기이며 타조나 펭귄은 원형과의 유사도가 낮음). 연속적 그라데이션과 가족 유사성(Family Resemblance)을 설명합니다.
3. 본보기 이론 (Exemplar Theory)
메딘 & 셰퍼(Medin & Schaffer, 1978)
단일한 추상적 원형을 저장하는 것이 아니라, 자신이 실제로 경험했던 수많은 **'구체적 사례(Exemplars)'**들을 에피소드 기억으로 보관하고 새로운 대상을 이 구체적 사례들과 직접 비교하여 범주화한다는 이론입니다.
4. 인과 이론 (Theory-based View)
머피 & 메딘(Murphy & Medin, 1985)
개념은 단순한 외형적 유사성만으로 결정되지 않고, 개인이 가진 배경지식과 **'인과적 설명 체계(Causal Theories)'**에 의해 통합됩니다 (예: 젖은 옷을 입고 물속에 뛰어든 사람을 보았을 때 단순히 '물에 젖은 사람'이 아니라 '물에 빠진 아이를 구하려는 사람'이라는 인과 이론으로 이해).
📊 [인포그래픽 1] 심리학의 4대 개념 모델 핵심 비교
| 이론 모델 | 개념의 본질적 표상 형태 | 새 대상 판단 기준 | 대표 장점 및 한계 |
|---|---|---|---|
| 고전적 관점 | 필요충분조건의 규칙 목록 | 모든 정의적 규칙의 일치 여부 | 명확한 정의 가능 / 경계 모호성 및 전형성 효과 설명 불가 |
| 원형 이론 | 통계적 평균치(가장 이상적인 대표체) | 원형과의 특징적 유사도 거리 | 전형성 효과 설명 탁월 / 맥락에 따른 원형 변동 설명 한계 |
| 본보기 이론 | 실제 경험한 개별 에피소드 기억 집합 | 저장된 기억 본보기들과의 유사성 | 비전형적 예외 사례 설명 강점 / 방대한 기억 저장 용량 요구 |
| 인과 이론 | 세계에 대한 배경지식과 인과적 망 | 인과적 메커니즘과 기능적 정합성 | 심층적 의미와 목적 설명 가능 / 직관적 즉각적 판단 설명 복잡 |
🧠 3. 두뇌에서 개념은 어떻게 표상되고 사용되는가? (신경생물학적 기제)
현대 인지신경과학 연구(fMRI, 뇌 병변 연구)는 물리적 두뇌가 개념을 단일한 사전처럼 저장하지 않고, 감각-운동 신경망과 통합 허브가 결합된 초연결망으로 구현하고 있음을 증명했습니다.
🌐 허브 앤 스포크 모델 (Hub-and-Spoke Model)
패터슨과 램본 랄프(Patterson & Lambon Ralph)가 제안한 허브-앤-스포크 모델은 대뇌 피질에서 개념이 형성되는 표준 신경 구조입니다:
🚲 스포크 (Spokes) : 분산된 감각-운동 피질
시각(후두엽), 청각(측두엽 청각피질), 촉각/운동(체감각 및 운동피질), 정서(편도체) 등 각 감각 양식별로 특화된 피질 영역에 개념의 감각적 세부 속성들이 물리적으로 분산 저장됩니다 (예: 사과의 '빨간색'은 시각 피질, '아삭한 식감'은 체감각 피질).
🎯 허브 (Hub) : 전방 측두엽 (Anterior Temporal Lobe, ATL)
양측 전방 측두엽(ATL)은 분산된 스포크들의 정보를 하나로 묶어 양식을 초월한(Amodal) 추상적 개념을 합성하는 중앙 허브 역할을 수행합니다. 실제로 ATL이 퇴행하는 **의미 치매(Semantic Dementia)** 환자는 시각이나 언어 능력은 유지되지만 사물이 무엇인지(개념의 본질)를 완전히 잊어버리는 현상을 보입니다.
🏃 체화된 인지 (Embodied / Grounded Cognition)
인간의 개념은 추상적 기호로만 존재하지 않고 신체 감각과 연동되어 있습니다. fMRI 실험에 따르면 사람이 "차다(Kick)"라는 단어를 읽을 때 뇌의 운동피질 중 '발'을 관장하는 영역이 점화되고, "집다(Grasp)"라는 단어를 읽을 때는 '손' 영역이 활성화됩니다. 즉, 개념을 인출하는 것은 과거의 신체 경험을 뇌 속에서 **신경학적으로 재현(Simulation)**하는 과정입니다.
⚡ 활성화 확산(Spreading Activation)과 작업기억의 주의 제어
두뇌의 의미 기억망(Semantic Network)은 연관된 개념들이 시냅스로 연결되어 있습니다. 콜린스와 로프터스(Collins & Loftus)의 모델처럼 하나의 개념(예: '의사')이 주의집중을 받아 점화되면, 그 활성화 신호가 신경망을 타고 연관된 개념(예: '간호사', '병원', '청진기')으로 번져나갑니다. 전전두피질(PFC)은 이 활성화 확산 중 당면한 과제에 꼭 필요한 개념만을 선택적으로 붙잡아 작업기억(Working Memory) 영역에 유지하고 조작합니다.
🚀 4. AI와 LLM에서 Concept이 핵심적인 의미를 갖는 이유 (Deep Research)
과거의 AI 연구자들은 거대언어모델(LLM)이 그저 인터넷의 글자들을 통계적으로 이어붙이는 "확률적 앵무새(Stochastic Parrot)"에 불과하다고 의심했습니다. 그러나 최신 기계학습 해석가능성(Mechanistic Interpretability)과 표현 학습(Representation Learning) 연구는 LLM의 내부 신경망이 고차원 잠재 공간(Latent Space) 안에 실재하는 세계의 개념적 표상(Conceptual World Model)을 스스로 구축하고 있음을 실증적으로 증명하고 있습니다.
1️⃣ 표면적 통계(Next-Token Prediction)를 넘어선 '세계 모델(World Model)'의 발현
하버드대 연구진의 기념비적 연구 Othello-GPT (Li et al., 2023)는 체스나 오델로의 착수 기보(텍스트 숫자열)만을 학습한 트랜스포머가 내부 은닉층에 8×8 바둑판의 물리적 돌 상태(흑/백/빈칸)라는 **기하학적 공간 개념(Spatial World Representation)**을 자생적으로 구축했음을 입증했습니다. 즉, 다음 토큰을 가장 잘 예측하기 위해 신경망은 필연적으로 텍스트 이면에 존재하는 실제 물리적·논리적 '개념'을 모델링하게 됩니다.
2️⃣ 중첩(Superposition)의 해소 : 희소 오토인코더(SAE)와 단일 개념(Monosemanticity)
기존 신경망 뉴런은 여러 개념이 얽혀 있는 다의성(Polysemanticity)을 보였습니다. 그러나 앤스로픽(Anthropic, 2024)은 **희소 오토인코더(Sparse Autoencoders, SAE)**를 통해 Claude 모델의 수백만 개 활성화 벡터를 분해하여, "금문교(Golden Gate Bridge)", "거짓말", "시냅스", "감정적 후회"와 같이 인간이 이해할 수 있는 **순수하고 독립적인 개념 단위(Monosemantic Features)**를 찾아내는 데 성공했습니다. 이는 기계 내부의 블랙박스가 인간의 개념 체계와 정확히 1:1로 대응될 수 있음을 증명합니다.
3️⃣ 선형 개념 표상 가설(Linear Representation Hypothesis)과 개념 조향(Activation Steering)
트랜스포머의 잠재 공간에서 개념들은 고차원 벡터의 방향(Direction)으로 선형 부호화됩니다 (Park et al., 2024). 이를 활용한 **표상 공학(Representation Engineering, Zou et al.)**은 모델을 재학습하지 않고도 추론 시점에 특정 '정직성(Honesty) 개념 벡터'를 은닉층에 주입함으로써 거짓말을 억제하거나, '창의적 연상 벡터'를 더해 혁신적 발상을 유도하는 정밀 조향(Steering)을 가능하게 합니다.
4️⃣ 기호 접지 문제(Symbol Grounding) 극복과 멀티모달 공유 개념 공간
순수 텍스트 AI의 치명적 한계였던 하르나드(Harnad)의 '기호 접지 문제'는 멀티모달 파운데이션 모델(CLIP, Gemini, GPT-4o)을 통해 해결되고 있습니다. "강아지"라는 단어와 강아지 사진, 짖는 소리, 로봇 촉각 데이터가 단일한 **공유 잠재 공간(Shared Semantic Embedding)**에 같은 개념 클러스터로 정렬됨으로써, 기계의 개념은 비로소 현실 세계의 물리적 감각과 확고히 결합(Grounded)됩니다.
⚖️ [인포그래픽 2] 인간 두뇌의 개념 표상 체계 vs LLM 잠재 공간 개념 아키텍처 비교 대조
| 구분 기준 | 인간 두뇌 (Human Brain) | 거대언어모델 (LLM / AI) |
|---|---|---|
| 개념의 물리적 거처 | 전방 측두엽(ATL 허브) + 감각피질(스포크) 연결망 | 트랜스포머 은닉층의 고차원 잠재 벡터 공간(Latent Manifold) |
| 표상 및 부호화 | 분산 신경 앙상블 점화, 시냅스 가소성 가중치 | 선형 개념 방향(Directions) 및 SAE 단일 개념 특징 |
| 신체성 및 접지(Grounding) | 신체 운동피질 시뮬레이션, 감각질(Qualia)과 직결 | 멀티모달(비전·오디오·행동) 임베딩 정렬을 통한 간접 접지 |
| 동적 조작 및 인출 | 작업기억 주의집중, 활성화 확산(Spreading Activation) | Self-Attention 메커니즘, 활성화 조향(Activation Steering) |
| 개념 진화 및 형성 | 경험과 상호작용 기반의 능동적 원형·인과 모델 갱신 | 대규모 데이터 비지도 사전학습 및 사후 정렬(Post-training) |
📚 5. 관련 핵심 용어 및 학술 논문 아카이브 (Original Preserved)
🏷️ 핵심 관련 용어 (Core Terms)
📄 보존 연구 논문 (Papers & Academic Literature)
Andrew S. Gordon and Jerry R. Hobbs (AI Magazine 25(4): Winter 2004, 49-62)