신경계 과학의 역사적 개요

 

뇌과학과 철학 : Patricia S. Churchland 지음, 박제윤 옮김, 철학과 현실사, 2006 (원서 : Neurophilosophy : Toward a Unified Science of the Mind-Brain, MIT Press, 1989), page 37 ~ 64.

 

1. 서론                            2. 역사적 개요

 

 

1. 서론

만약 유기체 (organisms) 가 땅에 뿌리를 내리고 살아가는 것이라면, 운동과 관련된 생각이 없어도 무방하다. 그러나 움직이며 살아가는 것이라면 활동과 관련된 어떤 장치를 가져야 하며, 주변 상황에 적절하게 움직여야 한다. 예를 들어 단순한 원색류 (protochordate) 멍게를 살펴보자. 갓 태어난 멍게는 엉성하게 유영하며 먹이를 구하다가 적절한 장소를 찾게 되면 그곳에 영구히 몸을 부착시킨다. 그렇게 정착한 뒤에는 더 이상 운동기관이 필요 없게 되므로, 그 장치를 먹어치워 영양을 보충한다.

동물이란 움직이는 것들이며, 그 중에 어떤 것들은 놀라울 정도로 민첩하게 행동한다. 밤하늘을 나는 올빼미가 폴짝폴짝 뛰어가는 쥐를 보고 소리 없이 날아와 발톱으로 낚아채는 일을 어떻게 할 수 있을까? 두 유기체 모두 움직이고 있지만 올빼미는 정확한 시점을 맞출 수 있어 땅에 곤두박질치거나 빈손으로 올라오는 일이 거의 없다고 한다. 유기체들은 어떻게 걸을 수 있으며, 속도를 바꾸어 장애물을 피해 걷는 일 또한 어떻게 할 수 있는가? 유기체의 신경계 (nervous system) 가 약물이나 질병, 혹은 내이 (inner ear) 의 외상 (trauma) 등으로 변형되어 정상적으로 행동하지 못하는 경우를 생각해 보라. 그러면 우리들이 당연하게 생각했던 여러 자연스러운 현상들이 실상은 굉장히 복잡한 것들이었음을 짐작할 수 있다. 카나리아가 노래 부를 때 그 내부에서 무슨 일이 일어나는가, 그리고 늑대들이 사슴을 쓰러뜨리기 위해 어떻게 협력해야 하는지 배울 때 그 내부에서 무슨 일이 일어나는가? 우리들은 어떻게 사물을 보고, 듣고, 알아볼 줄 아는가?

신경세포인 뉴런  (neuron) 은 흥분성 세포로서, 감각말단 (sensory periphery) 에 있는 뉴런은 광자 (photons) 혹은 진동 등에 의해 활성화되며, 운동말단 (motor periphery) 에 있는 뉴런은 근육수축을 일으킨다. 뉴런은 틈틈이 근육세포 수축을 조율함으로써 그 유기체를 움직이게 하여, 달아나고, 먹이를 잡는 등 신경계 밖의 세상을 적절히 다루도록 한다. 뉴런은 신경계의 기초 요소이며, 그 적응 동작 (adaptive movement) 의 문제를 진화로써 해결한다. 그렇다면 뉴런은 어떻게 작동하며, 흥분상태란 무엇일까? 뉴런이, 빛을 보거나 접촉을 느낄 경우와 같은, 서로 다른 효과들을 어떻게 만들어내는가? 뉴런이 어떻게 조화를 이루어 그 생명체가 세계 속에 번성하도록 하는가?

인간 신경계를 통제하는 '기능적 원리' 를 이해하기 위해 우리의 뇌가 초보적 수준의 뇌로부터 진화해 왔음을 상기할 필요가 있다. 즉 우리의 뇌는 우리들을 위해 특별히 고안된 것이 아니며, 역사적 기원에 따르는 역량과 한계를 가지고 있다. 신경계가 그렇게 진화하도록 한 것은 합리성이 갖는 '본질적인 아름다움' 이나 혹은 인지 (cognition) 에 따라다니는 어떤 '내재적 선 (goodness)' 이 아니며, 무엇보다도 동물들이 각자의 환경에 놓인 사건들을 (물론 다른 생명체에게 발생하는 사건들을 포함해서) 성공적으로 예측할 필요에서 비롯되었다 (Dawkins and Krebs 1978, Llinás 출판 중). 인지의 기초 본성은 생명체들이 표상적 도식 (representational schemas) 의 축적을 통해 경쟁에서 더욱 유리한 예측을 가능하게 하는 재능을 얻고자 함에 있다. '표상적 구조' 그 자체는 알고 있는 운동을 수행하여야 하며, 존재 이유를 담고 있어야 한다.

따라서 신경계의 통제 원리에 대한 새로운 이론을 만들려는 사람들은 신경계가 환경 적응을 위해 진화해 온 것임을 유념하고 있어야 하며, 동시에 신경생리학이 어떻게 발전해 왔는지 그 역사적 배경 또한 이해해야 한다. 뇌는 너무 복잡하고 섬세하기 때문에 우리를 질리게 하여 그 비밀을 포기하게끔 하는 면이 있다. 지식이 어떻게 얻어지며, 상충하는 이론들이 어떻게 해소되고, 기술적 진보가 어떻게 실현되는지 등등을 이해하려면 현대 신경과학에 닻을 내리고 살펴볼 필요가 있다. 그 역사적 조망을 통해 우리들은 현재를 이해하는 데 꼭 필요한 기본 가정들을 파헤쳐 내어 꼼꼼히 검토할 수 있을 것이다. 이를 통해서 우리가 가장 확신하던 것들이 사실은 오해였으며, 어쩌다 그렇게 되었는지도 알게 될 것이다. 만약 우리들이 어느 곳으로 나아가야 할지 알고 싶다면, 지금 있는 곳까지 오게 된 과정을 반드시 알아야 한다.

나는 앞으로 신경생리학에서 역사적으로 비중이 큰 부분만을 간략하게 살펴볼 것이다. 그 역사적 개요는 불가피하게 아주 선별적으로 이루어질 것이며, 주로 신경계의 기초 구조 요소들 (basic structural elements) 이 무엇인지 알려줄 줄기를 따라갈 것이다. 또한 그 요소들의 작동 방식에 대해서도 약간 언급하겠다. 그러나 역사적으로 신경생리학이 어쩌다가 심리학적 기능들을 다루게 되었는지에 대해서는 뒤로 미루겠다.

2. 역사적 개요

갈레노스 (Galen, B.C.200) 시기에는 수많은 신경계 해부학적 발견들이 육안으로 이루어졌다. 그리스 해부학자이며 의사이기도 했던 갈레노스는 운동이 근육 활동으로 일어나며, 근육 속에 있는 희끄무레한 줄이 왠지 중요하다는 생각을 했다. 그 줄은 바로 신경 (nerves) 을 가리키며, 신경은 실제로 축삭 (axon) 다발 줄기를 포함하는 연결선이다. 갈레노스 가설에 따르면, 신경이 혼백 (pneumata), 즉 심령 (psychic pneuma) 을 근육으로 전달하면 혼백이 근육을 부풀어오르게 하고, 그렇게 해서 동작이 이루어진다. 갈레노스의 개념에서 심령이란 날숨이나 공기였지만, 그렇다고 우리들이 지금 생각하는 것과 같은 물질은 아니었고, 생기 (vital spirit) 가 주입된 것이었다. 기계론 (mechanism) 과 생기론 (vitalism) 을  함께 끌어안는 곤경에도 불구하고, 갈레노스의 주장은 19 세기 생물학자들과 해부학자들에 의해 신경계 작용이 충분히 밝혀질 때까지 정설로 인정되었다.

데카르트 (1596 ~ 1650) 는 비록 오해되는 면이 있기는 하지만, 신체 운동의 개념에 대해 갈레노스보다 일관성 있는 유물론자 (materialist) 였다. 데카르트는 태엽 장치인 시계와 정교한 분수대 장치의 기묘한 재주에 넋이 나가서, 신체란 비록 정교하고 섬세하긴 하지만, 하여튼 단지 기계일 뿐이라고 믿었다. 근육에 생기가 주입되어 움직인다는 갈레노스의 생각에 동의하면서도, 데카르트는 '생기' 에 대해 다음과 같이 생각했다.

분명 데카르트의 '생기' 는 결코 영적인 (spiritual) 것은 아니었다. 그는 특히 반사작용에 대해 기계론적으로 말하고 싶어했으며, 다음과 같은 '순간적' 행동을 보았다.

반사작용의 무의식적 본성을 인식했던 데카르트는 '눈 깜박임' 을 그 증거로 제시하면서 아래와 같이 생각했다.

이런 생각은 명백히 기계론적이라고 할 수 있다. 다른 곳에서 그는 반사작용의 인과적 연결을 같은 방법으로 설명하는데, 그의 가설을 그림으로 보여주는 예는 그림 1.1 과 같다. 발의 피부가 불붙은 장작에 닿았다고 가정해 보라. 피부는 발에서부터 뇌까지 연결된 가는 실을 잡아당길 것이며, 그러면 그 실이 뇌 안의 기공을 당기고 열어, 영혼이 흘러 내려와 근육을 부풀려 운동을 일으킨다. 그의 관점에 따르면, 기계론적으로 설명할 수 없는 것은 인간의 '의도적 행동' 인데, 그 경우에 이성적이며 비물질적인 '영혼' 과 '의지' 의 자유로운 활동이 요구되기 때문이다. 이상이 바로 신체라는 기계를 장엄하게 표현하는 전설적인 유령이야기이다.

 

데카르트는 또한 다음과 같은 실로 충격적인 사실에 놀라워했다. 유기체들은 자신들의 근육과 감각기관으로부터 떨어져 있는 그 무엇, 즉 뇌 덕분에 움직이듯이, 뇌로 자신들이 한 행동과 움직임을 지각할 수도 있다. 신경은 본질적으로 뇌로 메시지를 보내고 전달받는 연결선이다. 데카르트는 다음과 같이 말했다.

쉽게 입증될 수 있는 사실로 영혼은 신체에 영향을 미치는 것들을 느낄 수 있는데, 이것은 영혼이 신체의 구성원이기 때문이 아니라, 오직 뇌 안에 있기 때문에 가능한 것이다. 신경은 그 자체의 움직임에 의해서 신체에 접촉한 외부 대상들의 다양한 활동을 뇌로 전달한다. (1644 ; Haldane and Ross 1911:293)

데카르트 의견에 따르면, 우리들이 환상지 (phantom limb) 라는 기괴한 경우를 통해 알 수 있는 경우처럼 손의 통증을 마음으로 느낄 수 있는 것은 그 통증이 손에 있기 때문이 아니라 뇌에 있기 때문이라는 것이다 (1644 ; Haldane and Ross 1911:294). (흔히 있는 일로써 수족이 절단된 후에도 환자는 마치 전달된 사지가 여전히 거기에 있는 것처럼, 즉 명확한 위치와 방향이 있고, 전형적인 통증을 느낀다고 호소한다. 이따금 환상지는 사라지기도 하며 끊임없이 지속되기도 한다.)

다른 사람들은 그런 기계론적 개념을 확장하여 비의도적 행동과 함께 인간과 동물에게 흔히 있는 모든 행동을 설명하려 했으며, 심지어 인간의 이성적 행동도 기계론적으로 설명하려는 모험을 하기도 했다. 특히 하 메트리 (La Mettrie) 는 저서 『기계 인간』(L'Homme machine, 1748) 에서 그 개념을 일반화시켜 인간과 동물 사이에는 어떠한 근본적인 차이도 존재하지 않는다고 주장하였다. 신경의 자극이 모든 행동, 즉 지능과 반사작용 모두를 설명할 수 있으리라 믿었다. 그러나 불행하게도 그 시기에는 그와 같은 급진전이고 이단적인 생각들을 허용할 준비가 되어 있지 않아서 성상파괴자 (iconoclast) 라는 가혹한 비난의 대가를 치러야 했다. 그는 성직자들에 의해 쫓겨다니다가 욕설을 들으며 프랑스에서 추방당했고, 마침내 자유로운 네덜란드에서조차 추방당했다. 결국 그를 받아준 곳은 볼테르 (Voltaire) 가 추방당해 머물고 있는 프러시아 왕국의 프리드리히 궁전이었다.

생기와 신체적 기능에 대한 기계론적 개념에서 데카르트는 의심할 바 없는 독불장군이었지만, 그는 자신의 생각이 어쩌면 틀릴 수 있으며 교회의 권위에 전적으로 복종한다는 끊임없는 탄원으로 단지 약간의 인정을 받을 수 있었다. 당시의 정설은 생기와 활력 (vital forces) 이 비물질적인 유령 같은 것이라고 천명해 왔으며, 신경의 활동에는 활력이 필요하다고 생각했다.

그럼에도 불구하고 '신경이 생기를 전달하는 도관' 이라는 생각은 점차 그 설자리를 잃게 되었는데, 네덜란드의 위대한 생물학자 스왐머담 (Jan Swammerdam, 1637 ~ 1680) 에 의해서 특별히 주목할 만한 실험이 이루어졌기 때문이다. 한 실험에서 그는 개구리 다리 근육을 신경이 붙어 있는 채로 떼어내, 다른 사람들이 전에 생각했던 대로 신경을 꼬집거나 흥분시키면 근육이 수축되는지 알아보았다. 그는 그 실험을 통해 단지 신경의 기계적 변형이 근육 수축을 일으키기에 충분하다면, 동작을 위해 뇌로부터 '혼백' (pneuma) 이 꼭 요구될 필요가 없으며, 보통의 물리적 속성들 역시 그 인과적 요인이 될 수 있다고 추론했다.

두 번째 설득력 있는 실험에서 스왐머담은 "근육이 움직이는 것은 근육에 혼백이 유입되어 부풀어오르기 때문이다" 는 주장을 실험해 보았다 (그림 1.2). 그는 깔끔한 방법을 이용하여 혼백 이론의 예상과는 달리 "신경 자극으로 근육이 수축되는 동안에 그 부피가 증가하지 않는다" 는 사실을 발견하였다. 스왐머담은 물이 담긴 튜브를 연결한 밀폐 유리관에 근육을 담그고, 근육이 수축할 때 물방울이 한 방울이라도 넘치는지 관찰해 보았다. 그런데 전혀 없었다. 이 사실로부터 그는 근육의 모양이 변할 뿐 "신경을 통해 근육으로 흘러 들어가는 감지할 만한 부피 변화는 전혀 없다" 고 추론했다 (Biblia naturae, 1738 사후에 출판됨). 다른 사람들은 이 실험에 대한 조잡한 대안 실험으로 살아 있는 피검자들의 팔을 물 속에 담그고 근육을 수축시켜, 물이 밖으로 흘러나오는지 측정하기도 했다. 물론 그런 실험들이 모든 사람들에게 생기 가설을 포기하도록 확신시키지 못했지만, 신경과 근육의 물리적 속성에 대해 연구를 촉진시키는 면은 있었다.

 

1822 년 마장디 (Francois Magendie) 에 의해 중요하게 진일보한 새로운 이해가 있었다. 동물에 대한 실험을 통해서, 척수 (spinal cord) 의 배측 (dorsal : 등쪽) 신경근 (nerve roots) 은 말초로부터 척수로 감각정보를 전달하고, 척수 복측 (ventral : 복부쪽) 신경근은 운동신호를 근육으로 전달한다는 것을 발견했다 (그림 1.3). 신경의 분리된 기능에 대한 이 발견은 '신경계의 다른 부분에서 각기 다른 기능들이 수행된다' 는 원리를 세우는 데 각별히 중요했다. (공교롭게도 이것은 사실 재발견에 불과하다. 과학 학회에 잘 알려지지 않았지만, 마장디의 실험으로부터 약 2 천 년 전에 헤로필루스 (Herophilus) 와 에라시스트라투스 (Erasistratus) 가 이미 그 구분을 인식하고 있었기 때문이다.) 등쪽의 배근 (dorsal roots) 이 감각정보를 안으로 전달하고, 복부쪽의 복근 (ventral roots) 이 운동정보를 밖으로 전달한다는 이 일반적 규칙은 사실은 벨 (Charles Bell) 이 배근의 기능을 올바로 규정하지 못했음에도 불구하고 (아래를 계속 읽어 보라), '벨 - 마장디 법칙' (Bell - Magendie law) 으로 알려졌다.

벨 (Charles Bell, 1774 ~ 1842) 은 감각질 (sensory quality) (역주 : '감각질' (sensory quality) 이란 '생생하게 감각된 느낌 자체' 를 가리키는 말이다.) 에서 차이가 나는 원인을 실험적으로 연구한 선구자였다. 자신의 혀를 날카로운 바늘로 찔러보니 어떤 곳에서는 아픈 감각을 느낄 수 있었지만, 다른 곳에서는 단지 금속성 맛을 조금 느낄 뿐 어떤 통증도 느낄 수 없다는 것을 알아냈다. 자극들이 같았음에도 불구하고 그 결과는 현저하게 달랐으며, 이 사실은 벨로 하여금 그 차이가 신경이나 뇌에서 기인하는 것이지 자극의 본성에서 기인하는 것이 아니라고 믿게 하였다. 그는 또한 안구 주위를 누름으로써 빛을 지각하는 것과 같은 효과를 만들어낼 수 있음을 알아내었다.

당시에 지배적인 견해로는, 망막과 같은 기관은 피부보다 더 민감하여 빛과 같은 민감한 진동을 감지할 수 있지만 피부는 그렇지 못하다고 생각했음에도 불구하고, '감각질은 본질적으로 자극의 본성에 의해 결정된다' 고 생각했다. 벨뿐만 아니라 마장디도 그런 견해가 분명 틀렸다는 점을 알았으며, 마장디는 그런 점을 백내장 환자들을 치료하는 과정에서 더욱 극적으로 증명해 보여주었다. 그는 임상 진료에서 눈속에 날카로운 바늘을 삽입하였는데, 바늘이 각막을 관통할 때 매우 고통스러울 것이라고 생각했지만, 과거 이론의 예측과 달리 탐침 바늘이 망막에 접촉할 때까지 통증을 유발하지 않는다는 것을 발견했다. 정말 아무런 통증도 일으키지 않았다. 대신에 빛 감각을 일으켰다.

뮐러 (Johannes Müller, 1801 ~ 1858) 는 마장디의 연구를 확장시켰다. '특수 신경에너지 법칙' 으로 알려진 그의 연구 결과에 따르면, 개별 신경은 자신의 특별한 '에너지' 혹은 특질을 가지고 있으며, 따라서 각 신경은 하나의 결정된 종류의 감각만을 만드는 시스템의 일부이다. 뮐러는 감각 기관들을 철저히 조사하여, 다양한 방법으로 오직 한 감각만을 만들 수 있는지 알아보았다. 예를 들어 촉각이 기계적 영향, 화학적 영향, 열, 전류 그리고 (충혈과 염증에서) 혈액의 자극에 의해 일어날 수 있음을 발견했다. 뮐러의 결론에 따르면, 뇌가 '어떻게' 그리고 '무엇을' 표상하는지에 대한 이해에 변화가 있었다.

이것은 일찍이 데카르트의 반성적 사고에 대한 메아리라고 할 수 있는데, '신경계가 외부세계를 어떻게 표상하는지' 에 대한 우리의 이해에 주목할 만한 발전이 되기도 했다. 왜냐하면 어떤 의미에서 뇌는 신경의 효과를 재구성하며, 따라서 세계의 본성이 우리에게 '온전하게 주어지지' 않는다는 점이 분명해졌기 때문이다. 어느 정도 '세계' 는 우리 '뇌의 산물' 이다.

뮐러는 생물학 역사에서 현대 생리학의 아버지로 꼽히는 대표적 인물이다. 그는 놀라운 정도로 많은 논문을 썼던 인물로 19 세부터 죽을 때까지 매 7 주마다 한 편씩 썼을 정도였다. 그는 '조직학' (histology) 을 포함하여, '발생학' (embryology), '운동 생리학', '태아 생애' (foetal life), '신경', '시각' 그리고 '척추동물과 무척추동물의 해부학' 을 포함한 넓은 영역을 탐구하였다. 베를린에서 해부학과 생리학 교수로 있었으며, 대단히 많은 유명한 학자들이 그의 현명하고 영감 있는 지도 아래 연구를 시작하였다. 그런 반면에 그는 여전히 '생기' 라는 비물질적 개념을 고수하였으며, 그것이 신경을 통해 측정할 수 없을 정도로 빠르게 나아간다고 믿었다. 그의 뛰어난 학생들 중에 하나였던 헬름홀츠는 풍부한 상상력과 커다란 포부를 가지고 그 생기론의 가정에 도전했으며, 결국 신경에서 임펄스 (impulse) 전도 속도를 실제로 측정해 냄으로써 세상을 놀라게 하였다.

헬름홀츠 (Hermann von Helmholtz, 1821 ~ 1894) 는 신경 효과의 원인에 대한 생각에서 완고한 유물론자였다. 물리학을 전공한 그는 '에너지 보존의 법칙' 과 '그 법칙이 생물학에 주는 일반적 함축 (implication)' 에 대해 흥미를 느끼고 고무되었다. 그의 추론에 따르면, 만약 에너지 보존의 법칙이 옳다면 에너지가 변환될 뿐 창조되거나 파괴되지 말아야 하며, 따라서 스스로 작용하고 나서 사라지는 '활력' 과 같은 것이 존재할 여지가 없었다. 따라서 그는 에너지 보존의 법칙이 살아 있는 생명체에 적용될 수 있는지 알아보는 일에 착수했으며, 신체의 신진대사 과정과 근육에서 발생된 열 사이의 관계를 탐구하기 시작했다.

그는 '근육의 활동 중에 일어나는 변화' 를 유기체가 흡수한 '영양분의 산화' 로 단순하게 설명할 수 있음을 보여주는 것에서 출발하였다. 그래서 유기체의 생성에 필요한 모든 물리적 활동과 열이 일반적인 화학 반응들을 통해서 생산될 수 있음을 보여주었다. 에너지 문제에 관련해서, 신체가 어떤 '에너지 상태' 를 다른 상태로 변화시키는 기계 장치로 간주될 수 있음을 보여주었다. 따라서 신체에 '특별한 힘' 이나 '생기' 가 개입할 필요는 없었다. 물론 그 연구도 생기론에 결정타를 주지는 못했다. 왜냐하면 그는 단지 유기체의 에너지 출력을 에너지 입력과 관련해서 설명할 수 있음을 밝혔을 뿐, 어떻게 그렇게 되는지 설명하지는 못했기 때문이다. 그럼에도 불구하고 그의 연구방법과 세심한 관심은 기계론적 방법론에 대한 사람들의 태도에 영향을 주었고, 그가 사용한 물리학과 정량 분석은 폭 넓은 인정과 지지를 받았다.

그 다음으로 헬름홀츠는 "신경 임펄스 (nerve impulse) 는 측정 불가능한 속도로 움직인다" 는 뮐러 주장을 실험하였다. 그의 방법은 우아할 정도로 단순하며 계량적이었다. 실험 대상이 된 신경의 서로 다른 위치를 자극하고 근육이 수축하는 데 시간이 얼마나 걸리는지 기록함으로써 신경 전도 속도를 측정하였다. 매우 놀랍게도 그 속도가 음속보다도 느리다는 사실이 발견되었다. 그는 표본에서 전도 속도가 단지 1 초에 30 미터라는 것을 계산해 내었다 (그림 1.4).

 

그의 실험 결과는 사람들의 생각과 차이가 있었다. 왜냐하면 일반적으로 신경 효과는 순간적이라고 생각되었기 때문이다. 다시 말해서 어떤 물체에 닿는 순간 그 촉감을 느끼며, 손을 뻗으려고 마음먹는 순간 손을 뻗을 수 있다고 생각해 왔다. 모든 일들에 시간이 걸린다는 생각은 아주 충격적인 것이었다. 헬름홀츠의 아버지는 아들의 발견에 대한 자신의 생각을 다음과 같이 표현하였다.

뮐러의 또 다른 제자 레이몬드 (Emil du Bois - Reymond, 1818 ~ 1896) 는 "신경 효과는 사실 전기 현상이며, 전기 활동 파동이 신경을 통과한다" 는 것을 증명해 보인 (1843) 최초의 사람이다. 신경이 직류전기에 의해 흥분될 수 있다는 것은 널리 알려져 있었지만, '전기' 가 정상적인 '신경 기능의 본질적 요소' 라는 확신은 매우 중요한 사실이었고, 이 사실은 이후 생리학 연구에 기초를 확립시켜 주었다. 그 무렵에 '비물질적' 이건 혹은 어떤 다른 '유동체' 이건 간에 그것들이 신경 내부에 전달되어 신경 효과를 유발한다는 생각은 확실히 흥미를 잃게 되었다.

이제 질문의 방향은 '신경이 어떤 구성요소를 가지고 있으며', '그 구성요소들이 어떻게 전기적 효과를 발생시키는지' 에 모아졌다. 기초 구성원이 뉴런, 즉 긴 섬유가 뻗어 나온 몸체를 가진 세포라는 생각이 서서히 나타나기 시작했지만, 그 가설은 몹시 받아들이기 어려운 것이었으며, 다양한 기술적 발견에 상당히 의존했다. 그 점에서 연구를 가로막는 상당히 많은 어려움이 있었다. 그 중에 하나는 초기 현미경의 색수차 (chromatic aberration) 에 의한 인공산물 때문에 관찰이 방해를 받았으며, 그래서 신경 조직을 신뢰할 정도로 관찰할 수 있는 색수차 제거복합현미경 (achromatic compound microscope) 의 발전이 있을 때까지 그 연구는 불가능했다.

또한 다른 인공산물 문제도 연구를 방해했는데, 신경 조직이 올바르게 고정되지 않으면 변질되고, 새 표본과 오래된 표본 사이에 차이가 너무 심할 경우 오래된 표본들은 쓸모 없게 되었다. 물방울을 떨어뜨린 슬라이드는 삼투압의 변화로 세포를 급격히 변화시키기 때문에 피해야 한다는 사실은 아주 어렵게 알게 되었다. 더구나 지금 우리가 알고 있듯이 신경 조직은 세포들로 가득 차 있는데, 그 중 일부는 뉴런에서 몇몇 세포들을 선택해서 보여줄 수 있는 정교한 염색법이 개발되었다 (그림 1.5, 그림 1.6). 매우 중요한 발전이긴 하지만, 염색은 고난도의 기술이었으며, 표본 염색 결과는 누구나 명확하게 판독할 수 있을 정도로 잘되지 않았다. 표본에 대한 관찰은 해석을 필요로 했으며, 종종 본 것이 무엇인지에 관한 논쟁이 벌어지곤 하였다. 결국 현미경 상에서 전체 모양을 관찰할 수 있는 적혈구 세포와 달리 뉴런은 세포체 (cell body, soma) 에서 먼 곳까지 가지를 뻗고 있다는 사실이 더디고 힘들게 발견되었다.

 

푸르키니에 (Purkyn 1837) 와 같은 조직학자들은 현미경을 통해 세포체를 보았으며, 다른 표본에서 우리가 오늘날 '축삭' (axon) 이라고 부르는 길고 가느다란 섬유 (fiber) 를 관찰하였다. 그러나 사람들은 1838 년에 레마크 (Remak) 가 축삭이 세포체의 연장일지 모른다는 의견을 과감히 표명하고 나서야 신경세포의 모양이 혈액세포와 근본적으로 다르다고 생각하기 시작했다. 그 사실은 결국 염색과 고정 방법이 발달함에 따라 분명히 밝혀졌다 (Hannover 1840). 디이터스 (Deiters 1865) 는 카민 염색 (carmine stain) 과 새로운 고정 방법을 사용하여 최초로 세포체에서 뻗어 나온 매우 가늘고 정교한 수상돌기 (dendrite) 의 복잡한 수지상 구조를 관찰하였다. 그리고 관찰된 구조적 차이에 기초해서 '원형질 돌기' (protoplasmic process) 인 축삭과 '신경 돌기' (nervous process) 인 수상돌기를 구분했다.

그러한 일련의 발견들은 다음과 같은 질문을 낳았다. 뉴런들 사이의 연결이 어떻게 이루어지는가? 명백히 반사작용 (reflex action) 은 들어가는 '감각 작용' 과 나오는 '운동 작용' 사이의 연결을 필요로 하였고, 마장디 (Magendie) 에 따르면 '감각 신경' 은 '운동 신경' 과 구분되는 연결선이었으므로, 어떤 종류의 연결이든 존재해야만 했다.

골지 (Camillo Golgi, 1843 ~ 1926) 는 뉴런들이 붙어 있거나 연결되어 있어야만 신경계가 제대로 작용할 수 있을 것이므로 신경계는 하나의 연속된 신경망 (nerve net) 이거나 망상체 (reticulum) 이어야 한다고 주장했다. 이러한 주장은 '망상체설' (Reticularist theory) 로 알려졌다. 골지는 은 (silver) 을 이용한 새로운 염색법을 개발했는데, 그 발견은 특히 세포 관찰에 있어 중요한 방법으로 부상했다. 신경계 구성 (organization) 의 기본 원리를 이해하기 위해서는 필수적으로 무엇이 기본구조인지를 알아야 했으므로, 연구자들은 전체 구조 속에서 하나의 세포만을 염색할 수 있는 방법을 절실히 필요로 했다. 골지에 의해 발견된 염색법은 몇 가지 주목할 만한 특징을 가지고 있었다. 그 방법은 검사하려는 조직에서 단지 몇 개의 세포만을 선택적으로 염색하였으며 (1 ~ 10 %), 그 선택된 세포들은 연구자들이 원하던 바로 그 모습으로 나타났다. 염료는 세포체와 수상돌기 그리고 축삭으로 스며들었으며, 이로 인해 연구자들은 최초로 기본적인 신경 단위를 관찰할 수 있었다. 골지 염색법은 더욱 강력하고 새로운 방법으로 신경계 탐구를 가능하게 만들었고, 골지 자신 역시 자신의 염색법과 주의 깊은 관찰을 통해 뉴런들 사이의 구조적 관계에 대한 문제에 몰두했다. 그는 확실히 축삭과 다르게 수상돌기는 연결되어 있지 않다고 결론을 내렸다. 또한 그는 수상돌기가 신경 기능보다 영양공급 역할을 할 것이라고 틀린 억측을 내놓기도 했는데, 그 이유는 표본에서 수상돌기가 혈관에 닿아 끝나는 것으로 보인다고 생각했기 때문이었다.

뉴런이 독립적 단위이며 연결된 집합체를 이루기 위해 붙어 있지 않다는 주장을 '신경원설' (neuron theory : 뉴런설) 이라고 한다. 이런 주장은 현대 사람들이 듣기에 아주 이상할 것이다. 망상체주의자와 신경원주의자는 똑같이 뉴런들이 존재한다고 믿지만 뉴런들의 본성상 세포질끼리 붙어 있는지 혹은 분리된 단위로 있는지에 대해서만 다를 뿐이기 때문이다. 그런데 '뉴런' (neuron) 이라는 말은 1891 년 발다이어 (Waldeyer) 가 망상체설과 신경원설 논쟁에 대한 논문에서 채택하였으며, 그는 이것을 '독립적 세포' (주석 : 'neuron' 이란 말은 그리스어에서 기원하는데, 그리스인들은 이 말을 '신경' (nerve), 즉 '커서 보이는 줄' 이란 뜻으로 사용했다. 그럼에도 그들은 이따금 이 말을 '힘줄' (tendon) 이란 뜻으로 사용하기도 해서 혼란을 준다.) 란 의미로 사용하였다. 발다이어의 보고가 있기까지는 뉴런에 대한 지칭으로 여러 다양한 표현들이 사용되었으며, 사실상 그 학명은 혼용되고 있었다. 물론 이것은 당시 신경조직 해부에 대한 이해가 겨우 시작 단계에 있었다는 사실을 반영한다.

망상체주의자들이 가정했던 축삭 연결은 점차 찾을 수 없는 것으로 밝혀지게 되었다. 축삭 말단과 인접한 세포체나 수상돌기 사이의 간극이 매우 미세할 것이라는 점이 고려되었음에도 불구하고, 어떤 사람들 (예를 들어, Held 1897) 은 여전히 말단과 세포체가 결합되어 있는 것을 관찰했다고 발표했고, 당시로서 그것은 그리 놀랄 일은 아니었다. 골지 염색법은 지금까지도 매우 섬세하고 숙련된 솜씨를 요하는 방법이다. 그 중에 하나는 염색이 끝나는 시점을 정확히 알아내려면 노련한 솜씨가 있어야 한다는 점이다. 염색을 너무 빨리 끝내 불완전했을 경우에는 신경 돌기에서 멀리 뻗어나간 끝까지 완전히 염색되지 않을 것이고, 자칫 끝내는 시점을 놓칠 경우에는 인접 신경 아교세포까지 염색될 수 있기 때문이다. 게다가 골지 염색한 표본을 그림으로 그릴 경우에 적지 않은 추측과 억측이 첨가되기도 하였으며, 특히 그 점은 초보자들로서 피하기 어려운 일이었다 (주석 : 보겐 (James Bogen) 이 내게 골지 염색법의 섬세함과 곤란함에 대해 일깨워주었고, 이에 대한 인식으로 망상체주의자들의 입장을 더욱 잘 이해할 수 있었다. 만약 그렇지 않았다면 이해하기 어려웠을 것이다.). 따라서 단순히 골지 염색법을 이용한 현미경 관찰만을 통해서 망상체주의자들과 신경원주의자들간의 불화가 깨끗하게 해결되기 어려웠다. 그들의 논쟁은 신경계의 근본적인 특성에 관한 것이었으므로 그 결과가 미칠 파장은 엄청난 것이었다. 또한 오랫동안 양 진영이 확보한 증거들은 두 입장 모두를 설명하는 것들이었으므로 한동안 논쟁의 열기는 식을 줄 몰랐다. 그런데 세기가 바뀔 즈음에 망상체주의자들의 가설은 점차 그 세력을 잃기 시작했고, 그쪽 진영에는 고집불통들만 남게 되었다.

뉴런의 발달과 퇴화에 관한 실험들은 뉴런의 독립성을 색다르게 보여주었다. 히스 (Wilhelm His 1888) 는 일련의 실험을 통해 배아 뉴런이 확실히 독립적 개체로부터 시작하여 축삭과 수상돌기를 뻗는 것을 관찰했다. 그러나 그 결과 신경 가지들이 붙어 있다는 증거는 나타나지 않았다. 히스의 실험과 비슷한 포렐 (Forel 1887) 의 실험을 통해서 밝혀진 바에 따르면, 세포체가 손상되었을 경우에는 그곳에 붙은 축삭들만이 퇴화하며, 역으로 축삭이 손상되었을 경우에는 전형적으로 그 세포체만 퇴화하는 징후를 보여주었다.

더구나 신경근 연결부위 근육 섬유가 특수하게 함몰된 구역에서 축삭들이 발견되었는데, 축삭이 근육 막을 뚫고 들어가 있지 않다는 것이 밝혀졌다 (Kühne 1862). 이러한 사실은 축삭이 신경 신호를 근육에게 전달할 때 근육세포 자체와 직접 접촉하지 않고 근육에 효과만을 전달하여 근육을 수축시킨다는 점을 시사하기 때문에 매우 중요한 발견이 아닐 수 없었다. 드디어 골지 염색법을 뛰어나게 사용했던 라몬이 카할 (Santiago Ramón y Cajal, 1852 ~ 1934) 의 해부학적 연구에 의해 축삭에는 다른 세포막과 아주 가까운 곳에 종말 팽대부 (terminal bulb) 가 있으며, 다른 세포들과 붙어 있지 않다는 것이 드러났다. 라몬이 카할의 말을 보자.

골지가 망사체에 대해 굳건한 확신을 가지게 된 분명한 이유는 '만약 뉴런들이 연결망을 형성하지 않는다면 뉴런의 신호전달 방법을 설명할 수 없으며, 그러면 결국 신경의 상호 작용을 설명하기 위해 낡은 생기론이 다시 고개를 들고 살아 나올 것이라는' 예측 때문이었다. 골지가 본 것과 같이 '협동된' 감각의 본성이 운동을 유발한다는 것은 신경들이 한 시스템의 일부라는 것을 의미하며, 이것은 곧 뉴런들이 개별 활동을 한다는 것에 대한 반박이기도 하다. 1906 년 의학 노벨상을 수락하는 연설에서 그는 다음과 같이 밝혔다.

라몬 이 카할은 1888 년  가장 앞장섰던 '신경원주의자' (neuronist) 였으며, 동시에 '기계론자' 이기도 했다. (그는 '생기론자들' 을 '보기 Borghese 왕자의 자동차가 그 안에 들어 있는 말에 의해 추진된다' 고 믿었던 당시의 시골 사람들에 비유했다.) 라몬 이 카할은 골지가 뉴런의 신호전달에 대해 염려했던 것에 무심하지 않았지만, '전기 유도가 뉴런들 사이의 정보전달을 잘 설명할 수 있다' 는 추측만은 주장할 만한 것으로 생각했다. 밝혀진 바와 같이 그 추측은 틀린 것이었지만, 그럼에도 불구하고 뉴런들은 명백히 전기적 양태로 신호를 전달한다. 그러나 라몬 이 카할의 연구에 따르면, 뉴런들 사이의 정보전달은 고도로 복잡한 '생화학적 작용' 에 의해 일어나며, 한 뉴런에서 다른 뉴런으로 정보 전달하는 것은 복잡한 '분자 활동' 이다 (2 장 3 절). 뉴런들이 분명한 단위들을 갖는다는 사실로부터 골지는 뉴런의 상호 작용을 밝혀내는 일이 엄청나게 어렵다고 예감했지만, 그럼에도 불구하고 최소한 세포들의 신호전달에 관련해서 어떤 신비로운 힘과 실체에 호소하겠다는 어두운 기대를 갖지는 않았다.

뉴런 연결의 본성에 관련해서 그들은 서로 이론이 달랐음에도 불구하고, 또한 그 논쟁을 통해 그들이 파악한 진홍빛 예측이 달랐음에도 불구하고, 라몬 이 카할과 골지는 1906 년에 생리학과 의학으로 노벨상을 함께 수여했다. 뉴런들이 독립적 존재임을 확신했지만 라몬 이 카할은 그 실험이 아직 끝나지 않았음을 인식했다. 왜냐하면 시원찮은 현미경 검사 방법으로는 누구라도 섬유들을 끝까지 추적할 확신을 가질 수 없었기 때문이었다. 더구나 망상체주의자들의 생각이 만약 참이라면 골지의 생각이 문제를 쉽게 설명한다는 점에 동의했음에도, 라몬 이 카할은 망상체주의자들의 가설이 증거에 의해 뒷받침되지 않는다는 결론을 내렸다. 그에 의하면,

또한 1906 년에 셰링턴 (C. S. Sherrington, 1857 ~ 1952) 은 그의 대표적 저서인 『신경계의 통합 활동』(The Intergrative Action of the Nervous System) 을 출판하였는데, 여기에서 그는 한 뉴런에서 틈새를 넘어 인접 뉴런으로 신호를 전달할 수 있게 하는 구조를 '시냅스' (synapse) 라고 처음 표현했다. 뉴런 체계가 시냅스를 가진다는 그의 주장은 시냅스 연접 (synaptic junctions) 을 직접 관찰하고 나온 것은 아니며, 개 (dog) 의 단순 반사반응을 주의 깊게 연구한 결과 추론을 통해 얻어낸 것이었다.

그의 추론은 간결하고 신빙성이 있었다. 그는 동물의 반사궁 (reflex arc) 길이 (2 feet) 와 신경전도 (nerve conduction) 속도 (200 feet/sec) 를 알고 있었다. 이것은 만약 신경 섬유의 전도가 단지 한 가지 신호 전달 방식을 가진다면, 반응 잠복기는 약 10 밀리 초 (milliseconds) 가 되어야 한다는 것을 의미한다. 그러나 그는 실제 반응 잠복기가 그보다 훨씬 긴 약 1 초 (1,000 밀리 초) 임을 발견했다. 따라서 그는 신경 섬유의 전도가 한 가지 방식으로 일어나는 것이 아니며, 신경 신호가 감각뉴런과 운동뉴런 사이의 틈새를 더 느리게 전달되어야 한다는 점을 추론해 내었다. 뉴런들 간의 신호 전달이 일어나는 이 특별한 구역은 '시냅스' 로 알려지게 되었다.

이 시냅스 연접은 마침내 1950 년대에 전자현미경을 통해 직접 관찰할 수 있게 되었다. 연구자들은 염색 처리 후 현미경 사진으로 얻은 마이크론 (micron : 1/100 만 미터) 단위로 단절된 조각들을 끈기 있게 연속적으로 이어 붙임으로써 세포막을 관찰하고 그 주변부를 추적할 수 있었다. 이를 통해 뉴런들 사이에 신호를 보내고 받는 특별한 구조가 있다는 점이 명백해졌다. 이러한 구조들은 전자현미경 사진에서 세포막에 검은 (전자밀도가 높은) 얼룩으로 나타났는데, 신호를 보내는 뉴런 쪽 얼룩 주변에 깔린 작고 둥근 소포 (vesicles) 무리가 모여 있는 것도 관찰되었다. 뉴런들 사이 시냅스 틈새는 약 200 옹스트롬 (angstroms : 1/100 억 미터) 으로 측정되었다 (그림 1.7).

 

 

망상체설이 거의 잊혀져 갈 즈음에 전자현미경을 통해 (그 간극이 약 20 옹스트롬이며 소포가 있는) 전형적인 모습과 다른 형태의 시냅스 연접이 발견되었다. 최근에서야 이것이 골지의 심장을 뛰게 했던 일종의 시냅스 연접임 밝혀졌다. 왜냐하면 (그림 1.8 에서 볼 수 있듯이) 그 연접에는 한 뉴런과 다음 뉴런을 연결시켜 주는 작은 단백질 통로가 존재하기 때문이다 (Furshpan and Potter 1959, Llinás, Baker, and Sotelo 1974). 그럼에도 그 발견이 망상체설의 승리를 선언하지 못했다. 왜냐하면 뉴런의 회로에서 단절이 존재한다는 것은 그 이론의 입장을 난처하게 만들었으며, 당시 연구의 압도적인 평가에 따르면 모든 신경계 내에 존재하는 뉴런이 '비록 뉴런들 사이에 서로 지속적이고 미묘한 신호전달이 이루어지기는 하지만' 단절되고 구별되는 '단위' (units) 였기 때문이다.

신경계가 어떻게 동작하는지 이해하려면, 그 기초 기능 단위들을 발견해서, 그 단위들이 어떻게 작용하는지 밝혀내야만 하는데, 그런 연구에는 '구조적' 발견과 '기능적' 발견이 상호 의존하게 마련이다. 헬름홀츠가 신경에서 신호전도 속도를 측정한 시기와 전자현미경을 통해 뉴런과 미세구조를 처음 관찰한 시기에는 백여 년의 간격이 있었다. 그 동안 밝혀진 것은 뉴런이 고도로 전문화된 독특한 형태를 가지며, 신호전달을 가능하게 하는 세포 구조를 갖는다는 점이다. 그 신호전달의 본성에 대한 연구는 오징어 연구를 통해 심화되고 상당한 도움을 받았는데, 그것은 오징어가 특이할 정도로 직경이 크고 긴 축삭이 있는 운동뉴런을 가지고 있기 때문이었다. 자비로운 오징어의 '거대한' 축삭은 어떻게 뉴런들이 신호를 전달하며 다른 뉴런들의 신호에 반응하는지에 관련한 복잡한 문제에 접근하게 해줄 첫 번째 참여자였다. 백여 년 간의 연구 결과로 우리들이 '뉴런 패러다임' (neuron paradigm) 이라고 부를 만한 것이 성취되었으며, 그런 의미에서 그 후의 기초적 연구 방향은 뉴런에 맞춰줘야 한다는 생각이 넓게 퍼져 나갔다.

이상의 역사적 개괄을 통해서 나는 초기 신경과학의 몇몇 역사적 사건들만을 다루었으며, 점차 뉴런에 대한 연구로 초점을 좁혀 나갔다. 물론 동시에 강조되어야 할 것은, 뇌 속에서 수많은 기능들이 어떻게 구현되는지 알아내기 위해 상당한 노력이 있었다는 점이다. 뇌속에 '여러 기능들이 어떻게 국소화되고 (localized) 분산되어 있는지 (distributed)' 그리고 '신경조직이 어떻게 구성되어 있는지' 에 관한 가설들이 탄생되엇다. 예를 들어 뇌졸중이나 총상에 의한 손상과 같은 경우에, 뇌 손상의 행동 효과를 연구하는 신경학자들로부터, 신경계의 다양한 부위를 자극하고 신경신호를 기록하는 전기생리학자들로부터, 그리고 축삭 다발의 이동 경로와 회로를 연구하여 다른 부분과 뚜렷이 구별되는 뇌의 특정부위를 조사하는 해부학자들로부터 신경계의 유기적 구조의 특성들이 탐구되어 왔다. 이러한 연구들은 극히 중요했음에도 불구하고 상호적 '뉴런 집합체 패러다임' (neuronal ensemble paradigm) 으로 발전하지 못했는데, 그 패러다임에서는 뉴런 집합체 (neuronal ensemble) 로 여겨야 할 것이 무엇이며, 그것이 어떻게 기능하는지에 관한 원리를 밝힐 수 있다는 기대를 갖게 한다. 1950 년대에 이미 개별 뉴런의 구조와 기능에 대한 원리와 관련해서 일반적인 합의가 이루어졌지만, 반면에 수많은 기능들과 그 구현에 대해서는 아직 많은 이견과 난제들이 풀리지 않은 채로 남아 있었다. 신경과학의 역사에서 이러한 발달에 대한 논의는 4 장에서 간략하게 다뤄질 것이다.

헬름홀츠의 연구에서부터 실험실에 전자현미경이 도입되기까지 100 여 년 동안 신경과학을 꽃피울 만한 기초가 마련되었다. 정말로 화려하고 풍성하게 그리고 이따금은 몹시 난해한 방식으로 꽃을 피웠다. 역사를 외면한 지적 발견이 갑자기 나타날 수는 없다. 따라서 '뉴런 기능' 과 뉴런 조직' 의 본성을 밝혀온 현대 인정받는 이론들을 계속 추적하는 일은 틀림없이 우리를 더 나은 길로 안내할 것이다.