Associative Memory
우리 인간은 과거의 시간과 새로운 사건을 서로 연관시키고 기억된 사건들을 통합함으로써 새로운 개념을 창조해내는 능력을 가지고 있다. 예를 들면, 심한 노이즈 (noise) 를 가진 불완전한 패턴이나 왜곡된 (distorted) 패턴이 제시되었을 때, 우리는 주어진 패턴이 무엇인지를 판단하여 본래의 완전한 형태를 유추해낼 수 있다. 이러한 연상기억 능력은 경험과 학습을 통하여 점차적으로 개선되는 것이다. ......... 홉필드 네트워크 (Hopfield Network) 는 전역적, 지역적 최적화를 수행할 뿐만 아니라 연상 기억장치 (associative memory) 로서도 효과적으로 작동한다. 연상 기억장치는 순차적 컴퓨터에서 내용 주소 기억장치 (CAM: Content Address Memory) 라고도 하는데, 기억장치에 기억된 정보에 접근하기 위하여 주소를 사용하는 것이 아니라, 기억된 정보의 일부분을 이용하여 원하는 정보가 기억된 위치를 알아낸 후 그 위치에서 나머지 정보에 접근할 수 있는 기억장치이다 ........ (김대수 1992)
다음 그림의 회로망은 James McClelland (1981) 의 연구에 근거한 상호작용적 활성화 및 경쟁모형 (interactive activation and competition model) 이다. 회로망은 다섯 사람에 대한 정보와 관련되어 있으며, 각 사람은 그림 중앙에 있는 다섯개의 마디로 표상되어 있다. 이 마디들 속에는 아무 것도 들어 있지 않다. 이 마디들이 표상하고 있는 정보는 다른 마디들과의 연계 속에 들어 있다.
사람들에 대한 지식을 저장하는 경쟁적-상호작용 회로망. 각 원 속의 마디들은 상호간에 억제한다. 선분들은 양방향적 흥분을 나타낸다. 한 마디의 활성화는 동일원 속에 있는 다른 마디들을 억제시키며, 직접적이든 간접적이든 그 마디와 연계되어 있는 마디들을 활성화 시킨다.
...... 원 사이의 선분들을 추적해보면 회로망이 정보를 저장하고 있음을 알게 될 것이다 ; 예컨대, 회로망은 Joe 가 백인 남자교수이며 수바루 자동차를 몰고다니며 브리 치즈를 좋아한다는 것을 알고 있다. Fred 도 Joe 와 유사한 특징을 가지고 있다. Harold 와 Frank 는 흑인 주식중매인이다. 이들은 모두 날렵한 차를 몰고 다닌다. Frank 는 휘즈 치즈를 좋아하지만 Harold 는 브리 치즈를 선호한다. 회로망은 사람들이 실제로 사고하는 방식을 닮은 몇가지 특성을 가지고 있다. 첫째, 내용이 스스로 주소를 가질 수 있는 (content addressable) 기억이다. 회로망에 Claudia 에 대해 묻는 것은 그녀의 이름을 부호화하고 있는 마디를 활성화시키는 것이 된다. 곧이어서 그녀의 특성을 부호화하고 있는 마디들이 자동적으로 활성화된다. 그녀를 알기 위해서 기억을 탐색할 필요가 없다. 단지 물음을 던지기만 하면 자동적으로 정보가 인출된다. 즉, 그녀에 대한 정보를 포함하고 있는 마디가 활성화된다 .............. (Colin Martindale 1991)
컴퓨터 구조에서의 Associative Memory (연관 기억장치, 결합기억 장치, Content Addressable Memory) 의 개념은 다음과 같다. 일반적으로 대부분의 기억 장치에서는 정보가 저장되어 있는 주소를 입력하여, 입력된 주소에 저장되어 있는 기억 장치의 내용을 접근하게 된다. 하지만 연관 기억 장치에서는 주소를 사용하는 것이 아니라, 접근하려고 하는 자료의 내용을 사용하여 이러한 자료가 저장되어 있는 기억 장치를 접근할 수 있다. 일반적으로 기억 장치의 접근 속도를 빠르게 하기 위하여 사용되는 캐시 기억 장치에서 이러한 연관 기억 장치가 사용되는 데, 캐시 기억 장치를 구성하는 각각의 셀들을 병렬로 동시에 접근할 수 있다. 따라서 원하는 자료를 입력하여 캐시 기억 장치를 구성하는 각각의 셀의 내용과 입력된 자료를 비교하여 동일한 내용을 가지고 있는 셀을 선택하여 접근할 수 있다. 이러한 컴퓨터는 비 폰노이만 구조라고 한다.
term :
연상 (Association) 신경망 (Neural Network) 기억 (Memory) 마음 (Mind) 컴퓨터 (Computer) 뇌 (Brain) 인공지능 (Artificial Intelligence) 패턴인식 (Pattern Recognition) 사고 (Thinking) 심리학 (Psychology) 홉필드 네트워크 (Hopfield Network) 양방향 연상메모리 (Bidirectional Associative Memory) John J.Hopfield
site :
Wikipedia : Associative Memory Content-addressable memory
paper :
연상 기억장치 (Associative Memory) : 김대수
Backpropagation Network 의 Autoassociation Memory 기법을 통한 패턴인식에 응용 (Pattern Recognition Application Using Autoassociative Backpropagation Network) : 진성일, 김인철, 배건성, 경북대 전자기술연구지, 1990
PET과 fMRI를 이용한 기억의 기능해부학 연구 및 임상적 적용 (Functional neuroanatomy of associative memory in healthy normal and epilepsy patients: PET and fMRI studies) : 강은주, 한국심리학회, 2002