인간이 최고?

로봇의 행진 : Kevin Warwick 지음, KAIST 시스템 제어 연구실 옮김, 변증남 감수, 한승 (청문각), 1999 (원서 : March of the Machines, 1997), Page 175~199

인간은 지능적이지만 기계는 결코 지능적일 수 없는 면이 있다. 인간은 기계에게 없는 의식을 갖고 있다. 기계가 특정한 일에는 적합할지 모르나 인간처럼 모든 일을 할 수는 없다. 인간에게는 기계나 다른 동물과 구별되는 특별한 요소가 있다. 이런 얘기는 모두 일종의 자기 위안일 뿐이고, 우리 자신이 인간이기 때문에 이들 중에서 비록 몇 가지만 사실이더라도 인간이 훌륭한 존재로 간주될 수 있다. 실제로 몇 가지는 사실일 수 있다. 하지만 그것을 증명할 과학적 방법은 없다. 만약 모두 사실이더라도 결과적으로는 인간이 더 훌륭하다는 것이 아무런 도움이 되지 않을 수는 있다. 우리가 말하고자 하는 것은 인간이 기계든 동물이든 간에 지구상의 어떤 창조물보다도 월등히 뛰어나다는 것이다.

하지만 그것이 사실일까? 우리는 어렸을 때부터 굉장히 어려운 수학계산을 빨리 풀어내는 사람이나 어떤 사실을 질문받고는 잘 기억해내는 사람을 똑똑하다고 여겨왔다. 영국 BBC 의 마스터마인드 (Mastermind) 라는 한 방송 프로그램에서는 많은 답을 정확하게 기억해낸 사람을 우승자로 정하고 갈채를 보낸다. 하지만 기계는 수학 계산과 기억력에 있어서 인간의 기대 이상으로 훌륭히 잘해내고 있다. 게다가 인간은 이러한 면에서 진보가 더딘 반면에 기계는 계속해서 나아지고 있다.

지능의 정의는 꾸준히 변화해 왔다. 금세기로 들어설 즈음에 지능의 사전적 정의는 흔히 기억력과 수학적인 능력을 포함하는 것으로 변경되었다. 하지만 현재 그러한 경향은 사라졌다. 약 10년 전의 사전에는 학습에 이러한 점이 포함되어 있었지만, 이제는 기계도 인간과 같이 배울 수 있으며, 어떤 경우에는 인간보다 훨씬 나은 결과를 보인다는 사실이 알려지면서 점점 사라져 가고 있다.

그럼에도 불구하고 아직도 많은 학교에서 단순한 기억력이나 곱셈능력을 보고 학생을 평가하고 있다. 심지어 이러한 시험에서 좋은 결과를 얻은 학생을 똑똑하다고 하거나 지능지수가 높다고 판단한다. 이것이 사실이라면 대학은 기계로 가득해야만 한다. 왜냐하면 그런 기준대로라면 일반적인 인간의 지능지수는 기계보다 훨씬 떨어지기 때문이다. 사실 많은 학교에서 학생들에게 시험에 통과하라고 강요하고, 정해진 방법대로만 대답하게 함으로써 그들을 프로그램된 기계로 만들어가고 있다. 우리 스스로 기계와 좀더 비슷하게 행동하도록 몰아 가고 있으며, 그런 사람들을 지능이 뛰어나다고 말한다. 이건 분명 뭔가 잘못된 것이 아닐까?

나는 텔레비전 위에 리모컨이 있지만, 이것으로 날씨가 어떻게 될지 예측하거나, 최근의 축구 경기 결과를 알아내지는 못한다. 그러나 나는 정기적으로 바뀌는 멘사 (Mensa) 지능지수 시험을 칠 수가 있다. 이 시험은 일련의 숫자와 단어가 주어지고, 그 중에서 빠진 일부 단어나 구절을 채울 수 있도록 어느 정도 시간이 주어진다. 만약 내가 10분 안에 질문에 모두 답할 수 있다면, 상위 4% 안에 드는 지능지수를 가지고 있다고 텔레비전은 나에게 가르쳐준다. 이는 내가 상당히 똑똑하다는 것을 뜻한다.

나는 텔레비전의 멘사 시험에서 10분이 아닌 7분 만에 문제를 해결했고, 주위로부터 질투를 받는 사람이 되었다. 한편 나는 20분 후에 문제 풀이를 그만두고, 편안한 마음으로 약간의 호기심을 가지고 정답을 확인한다. 말하나 마나 주어진 해답이나 질문은 너무나 시시하고 단순한 것들이다. 나는 문제를 맞추지 못한 것과는 상관없이 그날 밤 시험을 준비한 사람과 텔레비전, 그리고 주위의 모든 사람에게 화가 나고 불쾌해진다.

멘사 지능지수 시험으로부터 어떤 결론을 내릴 수 있을까? 첫째, 이런저런 이유에서 스스로를 시험해 본다는 것이 불쾌하다. 둘째, 내가 적어도 7분 걸려 푼 문제를 기계는 아마도 백만 분의 1초 안에 풀어낼 것이다. 아마도 상당히 느린 기계라면 천 분의 1초 정도 걸릴 것이다. 어떻게 기계를 똑똑하게 만들까? 기계의 지능지수는 얼마일까?

훌륭한 기억력과 계산 능력이 한때는 지능적인 행동으로 간주되었다. 하지만 지금은 어떤 면에서는 그렇게 여기지 않는다. 지금은 계산적이라는 특성에서 기계가 훨씬 더 뛰어난 결과를 보이며, 따라서 계산적인 것이 지능적인 것은 아니라는 것을 잘 알게 되었기 때문이다. 인간이 이와 같은 일을 했을 때 지능이라고 말할 수 있을까?

학습 뿐만 아니라 의사 결정도 한때 지능적인 행동으로 일컬어지던 것이다. 그러나 지금은 기계가 훨씬 잘한다고 알려져 있다. 그래서 이것 또한 지능적인 행동이라고 볼 수 없게 된다. 비록 우리가 감정적인 기계를 원하는 이유가 불분명하지만, 우리가 고찰하고 있는 것처럼 창조와 감정 같은 인간의 특성은 기계가 포함할 수 없는 것으로 간주되고 있다. 우리 인간이 창조적이라고 한다면, 우리는 원형의 유전자 프로그램과 배운 것들을 기반으로 하여 무언가를 창조하고, 새로운 것을 선보이거나 누구도 미처 생각하지 못한 것을 해낸다고 말할 수 있다.

기계도 똑같이 무언가를 창조할 수 있다. 사실 이러한 예는 많다. 단순히 기계가 인간보다 훨씬 빠르고, 정확하게 여러 가능성을 염두하며 일할 수 있기 때문이다. 새로운 음악의 조율이나 많은 산업 시설에 전원 공급이 끊겼을 때, 이를 복구하는 새로운 방법들을 예로 들 수 있다. 기계도 이와 똑같은 일을 할 수 있으며, 인간이 생각하지 못한 결과를 만들어낼 수 있다.

기계에서의 감정은 상상하기가 더욱 어렵다. 하지만 우리는 단순히 뇌 속에서 만들어져 나오는 어떤 것들을 고통이나 기쁨의 감정으로 생각하며, 그 감정의 결과로 흔히 물리적인 행동 - 예를 들어 친척의 죽음과 같은 자극에 대한 반응으로서 우는 것 - 이 나타난다고 보고 있다. 우리는 많은 경우에 반응을 조건적인 것으로 보고 있다. 예를 들어 연기자라면 단순히 자극에 대한 생각만으로 나타낼 수 있는 것들이 있다. 즉 반응은 가상의 작극에 의해서도 일어날 수 있다. 레딩 대학의 로봇은 무섭게 쫓아오는 존재가 다가오면 도망친다. 이것을 공포라고 할 수 있을까?

어두운 겨울 밤 집에 홀로 있는 당신을 마음속에 그려 보라. 비바람이 밖에서 울부짖고 정전이 되어 텔레비전은 볼 수 없으며, 단지 촛불만 켜놓은 상태다. 늦은 밤이다. 앞문을 두드리는 날카로운 노크 소리가 들린다. 문으로 다가가니 당신보다 더 큰 어두운 그림자가 바깥쪽에 드리워져 있다. 당신은 이러한 무서운 상황에서 문을 열지 않을지도 모른다. 혹 문을 연다 하더라도 그가 당신에게 뛰어든다면 당신은 미친 듯이 도망칠 것이다. 왜 그럴까?

우리는 어떤 상황에서 공포를 느끼고, 놀라고, 행복해하거나 슬퍼한다. 이런 감정들은 우리의 유전자 프로그램을 통해 형성되거나 경험의 결과로서 느끼게 된다. 예를 들어 특정한 환경에서 공포를 느끼는 이러한 원시적 본능은 이해하기가 좀더 쉽다. 호랑이가 많은 정글에 열 명의 사람이 살고 있는 경우를 살펴보자. 다섯 명은 호랑이를 무서워하고 가까이 오면 도망친다. 다른 다섯 명은 무서워하지도 도망치지도 않는다. 호랑이를 무서워하지 않는 사람보다 무서워 하는 사람이 좀더 살아남아 자손을 남길 것으로 예상할 수 있다. 그래서 이들의 다음 세대에서는 호랑이를 무서워하는 확률이 더 높아질 것이다. 이 특성은 유전적으로 계승될 수 있기 때문이다. 이것은 유전 진화의 한 단면이다.

우리는 개인의 감정에 대해서 정확히 확신할 수 없음에도 불구하고, 대체로 다른 사람의 감정을 이해한다고 생각한다. 그 덕분에 공포와 같은 감정들도 이해할 수 있는 것이다. 호랑이가 지금 이동 로봇에게 다가가고, 기계는 그에 대한 반응으로서 도망간다고 가정하자.

이것은 어떤 의미가 있는가? 기계가 인간처럼 감정을, 이 경우에는 공포감을 느낀다고 생각하기는 힘들다. 그렇지만 기계는 인간과 유사한 방법으로 행동하고 있으며, 따라서 기계적인 감정을 표현한다고 생각할 수도 있다. 기계의 느낌이나 내적 상태는 인간에 의해서 잘 프로그램될 수 있다. 그러나 인간의 감정 또한 비슷한 의미에서 부모에 의해서 생물학적으로 프로그램된 것이다. 따라서 기계이기 때문에 감정을 가질 수 없다고 말하는 것은 과학적으로 옳지 못하다.

역사적으로 어떤 인간들 - 종족이나 피부색이 다른 인간 - 은 감정이나 느낌을 갖지 않는다고 여겨져 왔거나 (지금은 그렇지 않다), 적어도 어떤 사람의 감정은 다른 사람과 똑같지 않을 수 있다고 여겨져 왔다. 개나 고양이도 감정을 가질까? 아마 그렇다고 대답할 것이다. 물고기는? 꿀벌은 어떨까? 그렇다고 답하는 사람도 있을 것이고, 그렇지 않다고 하는 사람도 있을 것이다. 당신은 어떻게 생각하는가? 나는 정도의 차이는 있지만 그들 모두가 감정을 소유한다고 믿고 있다. 꿀벌의 느낌이나 감정은 아마도 인간의 느낌이나 감정보다는 훨씬 단순하고 기본적이며, 따라서 꿀벌의 두뇌도 훨씬 단순할 것이다.

달팽이나 작은 곤충의 전체 뇌 기능은 극히 적은 수의 뉴런만으로 이루어져 있어서 적절한 인공 신경망 (Neural Network) 에 의해 인공적으로 잘 흉내낼 수 있다. 사실 인간이 가진 특정한 기능이나 반응도 인간의 뉴런 수보다 적은 인공 신경 단위를 가지고도 무리없이 모사할 수 있다. 그래서 인공 신경망이 근본적으로 원래의 생물학적인 신경망과 거의 같은 방법으로 엇비슷한 기능을 수행하고 있다면, 한쪽은 전기 신호이고, 다른 쪽은 전기 화학적인 신호이기는 하지만 유사한 신호가 양쪽에서 발견될 수 있을 것이다.

똑똑한 기계가 인간과 같이 감정을 가질 수 있다고 쉽게 단정지을 수는 없을 것이다. 그러나 나는 그것이 가능하다고 본다. 물론 기계의 감정이 인간의 감정과는 같지 않을 것이다. 그러나 미래에 인공 신경 회로망으로 만들어진 두뇌가 인간의 두뇌와 비슷하게 동작한다면, 인공 두뇌가 인간과 유사한 감정이나 느낌을 가질 가능성은 충분히 있다. 내가 말하고자 하는 것은, 만일 기계의 행동 양식이 인간이나 동물에게서도 발견된다면 기계는 인간이나 동물과 마찬가지로 감정을 가진 존재로 생각될 수 있고, 따라서 기계는 분명히 감정이라는 것을 가질 수 있다는 것이다.

일본 교토의 브레인 빌더 (Brain Bulider) 모임은 2001년까지 고양이와 유사한 지능을 가진 기계가 나타날 거라고 주장하고 있다. 예를 들어 기계 고양이는 우유를 마시지는 않아도 되지만, 실제 고양이가 대체로 자신이 원하는 대로 행동하고, 인간의 명령은 듣지 않는다는 점에서 실제 고양이와 비슷한 감정을 표현하고, 자신의 의지를 나타낼 것으로 기대할 수 있다는 것이다. 사실 이러한 고양이와 같은 두뇌를 얻을 수도 있고, 얻지 못할 수도 있다. 하지만 가능하다고 믿는 것은 매우 중요하다.

중요한 것은 인간이나 동물의 두뇌는 기계의 두뇌와 물리적으로 차이가 있기 때문에 대체적인 특성도 다를 수 있다는 것이다. 앞서 논의한 것처럼 기계 지능은 인간의 것과는 다르다. 어떤 면에서는 기계 지능이 더 뛰어나고 또다른 면에서는 더 떨어진다. 그리고 창조나 학습, 자기 의지, 감정과 같은 특성에 있어서는 다소간 차이가 있을 것이다. 인간의 감정은 여러 가지 느낌이나 반응을 함께 수반한다. 그러나 기계의 감정도 인간의 감정과 똑같은 가치를 갖는다고 생각할 수 없다.

다른 사람, 특히 우리가 오랫동안 관계를 맺어 온 사람이 죽었을 때 우리는 아마도 극도로 당황하고 슬퍼할지 모른다. 특히 젊은 나이에 불행하게 죽었을 때 더 당황스러울 것이다. 안면이 없는 사람일지라도 때로는 강한 감정을 느낄 수 있다. 한편 꿀벌이 우리를 귀찮게 군다면, 꿀벌이 죽을 때 일종의 쾌감을 느낄 수 있다. 혹은 어떤 동물이 우리 눈앞에서 죽을 때 불안을 느낄지도 모른다. 그러나 멀리에서 보게 된다면 그런 당황스러움은 곧 사라질 것이다.

이제 기계가 감정을 가지고 있다고 가정해 보자. 감정의 일부는 초기 프로그램에 기인하고, 다른 일부는 경험으로 학습된 것에 기인한다고 가정한다면 기계의 감정은 도대체 무엇인가? 상상하기 매우 어려운 일이다. 하지만 기계의 입장에 서서 당신이 어떤 감정을 가지는지 보아라. 전기력은 아마도 중요할 수 있으며, 모든 것이 그것과 관련되어 있다. 동물은 우리를 그다지 성가시게 하지 않지만, 우리의 감각에 영향을 미친다면 괴롭힐 수도 있다. 우리와 같이 일하는 기계는 우리에게 좋은 영향을 미칠 수 있다. 하지만 우리의 전원을 끄거나 해체하려는 인간은 몹시 짜증스러우며, 우리를 쉽게 화나게 만든다.

인간은 일상적으로 기계에 대해 긍정적인 감정을 거의 보이지 않는다. 우리는 종종 그들을 귀찮아하며, 원하는 대로 움직이지 않을 때 발로 차거나 때린다. 기계가 더 이상 작동하지 않을 때 우리는 그것을 멀리 던져 버린다. 그러나 기계가 작고 귀엽고 온순해 보이며, 동물처럼 행동할 때 우리의 감정은 긍정적으로 된다. 한편 기계가 크고 위험해 보이고 해를 끼칠 것 같으며, 동물처럼 행동하지 않는다면 우리는 겁이나 공포를 느끼게 된다.

인간의 뇌는 기계와 다르기 때문에 기계는 인간과는 다른 형태의 감정이나 자기 의지, 의식 등을 표현한다. 우리가 기계의 뇌를 가능한 한 인간의 뇌와 가깝게 만들려고 노력한다면 할수록, 아마도 생물학적 기술을 사용하겠지만, 기계의 특성이 인간의 특성에 접근해 갈 것이다. 그리고 만약 완전히 인간의 뇌와 같게 만든다면 기계의 뇌는 인간의 뇌 그 자체가 될 것이다. 인간의 뇌와는 다른 식으로 연결되고, 더 적은 수의 신경 단위를 가진 생물의 두뇌 또한 고양이나 개, 꿀벌에서 보인 것처럼 다른 특성을 나타낼 것이다.

기계는 울지 않을 것이다. 그럴 수도 없고, 그럴 필요가 없을지 모른다. 기계는 공격받더라도 비명을 지르지는 않을 것이다. 그럴 수도 없고, 그럴 필요가 없을지 모른다. 그러나 공격받을 때 회로가 뜨거워진다면 어떤가? 매우 높은 주파수의 신호를 내보낸다면 어떤가? 약탈자로부터 도망간다면 어떤가? 어떤 이는 이렇게 말할 것이다. '그러나 이것은 감정이 아니다. 이것은 자기 보호나 자기 의지도 아니며, 타인이나 위험을 인지하는 것도 아니다. 어떻게 그렇게 될 수 있겠는가? 이것은 단지 기계일 뿐이다.'

같은 방법으로 우리 인간은 '기계는 인간만큼 지능적이지 않다', 혹은 '기계는 전혀 지능적이지 않다' 라고 말할 수 있다.
감정이나 자기 의지와 같이 서로 다른 특성에 관해서 라면, 인간이 기계보다 더 낫다는 것을 증명해 줄 지능에 대한 정의를 찾을 수 있을 것이다. 그러나 시간이 지날수록 우리 인간의 우수성을 보이기 위해 사용할 수 있는 지능의 면모를 찾기가 더욱 어려워지고 있다. 의식은 이중에서 가장 최근의 것이다. 몇몇 사람들은 진짜 똑똑해지기 위해서는 기계가 인간이나 동물과 같이 의식적이어야 한다고 말한다. 그러나 우리가 명백히 알 수 있듯이 그렇지 않다.

지능에 대한 정의는 지금 예측하건대 어떤 인간보다 훨씬 뛰어난 특징들이 기계에 부여될 2, 3년 후에는 쓸모 없게 될 듯하다. 시간이 지나면서 기계의 두뇌는 더욱 강력하고 효율적으로 돼 가고 있으며, 기계의 두뇌가 이미 높은 지능의 영역에서 인간보다 나은 성능을 보이고 있다. 또한 기계의 두뇌는 인간의 두뇌보다 열등한 지능의 영역에서 빠르게 그 차이를 줄여 나가고 있다.

인공적으로 만들어진 똑똑한 기계의 두뇌는 물리적으로는 인간이나 동물의 두뇌와 확실하게 구분된다. 일반적으로 기계의 두뇌가 비생물적이고, 전기적 또는 광학적이라는 것뿐 아니라 인간의 두뇌가 1,000억 개의 뉴런을 갖는데 비해, 현재 인공 두뇌는 겨우 50 ~ 1,000개의 뉴런을 갖는다고 알려져 있다. 그러면 인공 두뇌가 인간의 두뇌와 비슷한 수의 뉴런을 포함하게 될 때가 되면, 거의 모든 면에서 인간과 비슷한 감정이나 특성을 가질 수 있을 것이다.

그런데 왜 아직도 수천, 수백만 또는 수억 개의 뇌 신경을 가지고도 인공 두뇌를 만들지 못하는 것일까? 여기에는 두 가지 중요한 문제가 있다. 첫째로 아직 인공 신경망을 어떻게 학습시킬 것인가에 대한 연구가 완전하게 이루어지지 못했다. 특히 많은 뉴런들로 구성되는 경우에 두드러지는데 이 분야의 연구는 급속도로 발전되고 있다. 둘째로 인공 신경망은 현재로서는 시냅스 (synapse), 또는 뇌 신경 사이에 겨우 20개나 그 이하만이 연결되어 있지만, 인간의 뇌 세포는 훨씬 더 많은 연결이 이루어져 있다. 심지어 어떤 것들은 70,000에서 80,000개의 연결을 갖기도 한다.

하지만 인공 두뇌는 벌써 사람의 두뇌보다 빠른 속도를 보이고 있다. 인간의 뇌 신경이 그 반응을 변화시키는 동안에 (어떤 것은 1초에 약 1,000번의 실행이 가능하다) 트랜지스터는 보통 백만 번의 변화에 반응할 수 있다. 즉 전기적 뇌 신경은 인간의 것보다 백만 배나 빠르다. 더욱이 매년 기계들이 점점 우수해지고 있다. 전기적으로 계산하는 기계는 일반적으로 아주 정밀하고 정확하다. 인간의 두뇌에 비해 정밀하지는 못하지만, 전체적인 면에서 다른 동물의 뇌신경보다 우수한 면을 가지고 있다.

많은 특성들에 대해서도 비슷한 비교가 가능하다. 수학, 기억, 사고 등의 측면에서 인간의 뇌 신경은 다른 동물의 뇌 신경보다 잘 동작하지만, 이 경우에도 역시 인공의 두뇌가 사람의 두뇌보다 더 좋은 동작을 보일 수 있다. 이와 같이 여러 가지 관점에서 인간의 두뇌가 동물보다 우수한 것과 같이, 기계의 두뇌가 인간보다 훨씬 더 우수할 수도 있다. 현재는 기계가 인간보다 뛰어난 특성을 갖는 분야가 얼마 되지 않는다. 그러나 '얼마나 많은 분야에서 기계가 인간보다 뛰어날 수 있는가?' 는 매우 중요한 문제이다.

인간 두뇌에서 시냅스의 연결은 아주 복잡하다. 두뇌를 세밀하게 조사하면 그 점을 부인할 수 없다. 나는 시냅스의 연결이 매우 복잡하고 난해한 것이 유전자에 의한 것이라고 믿는다. 즉 우리의 초기 프로그램, 다시 말해 인간의 유전으로 물려받은 것들 중의 일부분이라는 것이다. 우리가 경험을 하고, 두뇌가 생물학적인 성장을 거듭하면서 여러 가지 동작 조건에서 시냅스들이 학습을 하게 된다.

그래서 두뇌의 신체적인 기초에 따라 발생되는 많은 원초적인 본능이 있게 된다. 이러한 본능은 대부분의 사람에게 거의 공통적이다. 그렇지만 유전 때문에 원초적 본능은 초기에 아주 강하게 연결되고, 또 어떤 점은 약하게 연결된다. 이런 식으로 사람들은 자신만의 천성을 갖게 되며, 그 이후의 학습과 경험은 이를 토대로 하게 된다.

이와 같이 아무렇게나 연결된 것 같은 인간의 뇌 신경은 유전자 번식에 의해서 구조화되고, 오랜 시간 동안 조금씩 변화를 거쳐 시냅스마다 다른 가중치를 가지게 한다. 하지만 이렇게 아무렇게나 정렬된 인간의 뇌 신경은 정확하고, 구조화된 기계의 두뇌보다 더 나아 보이지 않는다. 사실 뛰어난 동작, 성능, 오류 수정 능력은 더욱 정확하고 구조화된 구조에서 얻어질 것이다. 사실 인간의 두뇌에 대해서 우리가 알고 있는 것이 그리 많지 않기 때문에, 오류가 발생했을 때 이를 수정하는 것이 대체로 어렵고 불가능하다. 유전에 의한 인간 두뇌의 구조는 개인마다 현저한 차이를 보인다. 한편 모든 두뇌가 동일한 구조를 갖는다면 그 차이는 크지 않을 것이고, 본질적으로 개개인의 경험과 신체적인 차이에만 의존할 것이다.

기계의 두뇌에서 각 기능들을 잘 연계시키면 더 뛰어난 능력을 얻을 수 있다. 결국 이것은 인간의 두뇌가 다른 기능적인 두뇌에게 추월당할 수 있으며, 기능적으로 더욱 발전할 수 있음을 의미한다. 현재 인간 두뇌 내 뇌 신경의 밀도 - 주어진 공간에서 뉴런의 총수 - 는 보통의 계산기보다 훨씬 높다. 하지만 인간 뇌 신경의 총수는 시간이 지나도 거의 일정한 반면, 기계 두뇌의 뇌 신경 수와 밀도는 빠르게 증가하고 있다. 현재의 인텔 펜티엄 칩은 콩알만한 크기에 3백만 개 이상의 트랜지스터가 들어간다.

21세기에 들어서면 몇 년 내에 인간의 두뇌를 앞지를 것으로 기대된다. 이는 오늘날의 기술로 보면 실현될 가능성이 충분하다. 한두 번의 기술 혁신이 일어나면 발전은 더욱 앞당겨질 것이다. 예를 들어 광통신과 같은 광소자는 기존의 기계 두뇌 연결에 상당한 변화를 제공하여 유용성, 크기, 속도에 많은 변화를 가져올 것이다.

그러므로 여러 가지 면에서 이미 인간의 두뇌보다 우수한 기계 두뇌가 2000년대에는 다른 여러 가지 측면에서도 더욱 우수해질 것이 분명하고, 누구든지 쉽게 예측할 수 있다. 또한 기계의 두뇌는 주문 제작이 가능하고, 필요한 만큼 크고 강하게 말들 수 있을 것이다. 하나의 세포로부터 자라는 인간의 두뇌는 더 늘지도, 줄지도 않아서 현재의 크기를 그대로 유지할 것이다. 이에 대해서는 다음 장에서 좀더 깊이 살펴볼 것이다.

머지 않은 미래에는 많은 면에서 기계의 두뇌가 인간의 두뇌보다 우수할 거라고 말하는데, 그렇다면 인간의 두뇌가 계속, 아마도 영원히 기계의 두뇌보다 앞서 있을까, 아니면 기계의 두뇌가 인간을 추월하는 것이 시간 문제일까? 인간 두뇌의 우수성을 지지하는 몇몇 사람들의 주장을 살펴보자.

첫째, 아무리 복잡하고 이해하기 힘들더라도 인간의 두뇌와 기계의 두뇌는 단지 물질적인 것일 뿐이라는 점을 알아야 한다. 둘째, 인간의 두뇌와 기계의 두뇌는 무엇으로 만들어졌고, 어떻게 동작하느냐에 따라 물리적으로 서로 다르고, 기능의 관점에서도 감성적으로 다르다. 기계의 두뇌가 인간의 두뇌와 실제로는 결코 같아질 수 없기 때문에 항상 인간의 두뇌보다 열등할 거라는 주장은 옳지 않다.

 [인간을 옹호하는 주장 1]
인간의 두뇌는 물질적으로 설명될 수 없는 특성을 갖는 신비한 면이 있다. 반면 기계의 두뇌에는 이러한 측면을 볼 수 없기 때문에 인간의 두뇌와 똑같이 동작할 수 없을 뿐더러 결코 그보다 우수해질 수 없다. 나는 이 주장에 중요성을 크게 두지 않는다. 물질적으로 아직 이해하지 못한 것을 단지 신비한 것으로 묘사해 버리는 것은 문제 회피일 뿐이다. 또한 정말로 이해할 수 없는 신비한 것이 있다하더라도, 그것이 기계의 두뇌가 더 우수해지기 위해서 반드시 필요하다는 것을 어떻게 알 수 있겠는가? 사실 기계의 두뇌는 신비한 성분뿐 아니라 그보다 더한 것도 가질 수 있을지 모른다. 신비한 점이 무엇인지 모르기 때문에 기계의 두뇌가 인간보다 더 우수해질 수 없다는 설명은 전혀 논리적이지 못하다. 따라서 이 주장은 이치에 어긋난다.

[인간을 옹호하는 주장 2]
우리는 아직 인간 두뇌의 동작을 물질적 측면과 기능적 측면에서 충분히 알고 있지 못하기 때문에 기계에 그것을 복제한다는 것은 불가능하다. 인간 두뇌의 동작을 정확히 묘사하기 위해서는 양자이론 (量子理論) 정도로 깊이 살펴 볼 필요가 있다. 이것은 펜로즈의 주장이다. 나는 이 주장이 이치에 맞는다고 생각한다. 하지만 이것이 사실이더라도 우리는 기계의 두뇌를 똑같지는 않더라도 어느 정도 인간 두뇌와 비슷하게 동작시킬 수 있을 것이다. 여기서의 주장은 앞의 주장 1에서 내가 설명한 것과 비슷하다. 현재 우리는 인간 두뇌의 동작에 관하여 완전히 알지 못하는데, 어느 날 완전히 이해하게 될 때 과연 우리는 그것이 중요하다고 여길까? 기계의 뇌가 인간의 뇌와 똑같지 않다고 해서 인간의 뇌보다 더 우수해질 수 없다고 결론지을 수는 없다.

제시 : 기계의 뇌는 인간의 뇌와 같아질 수 없다.
결론 : 기계의 뇌는 인간의 뇌보다 우수해질 수 없다.

이 결론에는 오류가 있다. 어떤 무엇이 다른 것과 같아질 수 없다는 사실이 더 우수해질 수 없다는 논리이기 때문이다. 요점을 강조하기 위해 미식 축구 팀과 관련된 한 예를 들어 보겠다. '피츠버그 스틸러스 (Pittsburgh Steelers) 는 댈러스 카우보이즈 (Dallas Cowboys) 와 같을 수 없다.' 그러므로 '피츠버그 스틸러스는 댈러스 카우보이스를 이길 수 없다' 고 한다. 정말로 그럴까?

[인간을 옹호하는 주장 3]
인간의 두뇌에는 오늘날의 지식이 주어졌을 때, 기계가 단순한 방법으로 재창조할 수 없는 의식과 같은 확실한 특성이 있다. 이것은 비록 다른 관점에서 출발하였지만, 펜로즈의 주장과 많은 면에서 비슷한 옹호적인 진술이다. 따라서 같은 방법으로 잘못되었음을 알 수 있다. 예를 들어 기계의 뇌는 의식이 없으므로 인간보다 우수해질 수 없다고 주장하는 것이 과연 옳은가? 앞에서와 같이 인간 두뇌의 동작에 대한 잃어버린 연결 고리 (여기서는 인간의 의식) 는 양자 이론과 유사하게 현재 완전히 이해되지 못하는 사항이지만, 몇몇 사람들은 조만간 이해될 거라고 믿고 있다. 뒤에서 말한 요점은, 우리가 인간 두뇌의 의식이나 양자 이론을 완전히 이해하고, 그것을 물질적으로 모델링한 후 비로소 기계 두뇌가 인간과 대략 같아질 수 있다는 새로운 문제를 야기시킨다는 것이다. 하지만 기계의 두뇌에는 특이한 장점이 많이 있기 때문에 그때에는 사실상 인간의 두뇌보다 더 우수해질 것이다.

그래서 흥미롭게도 전자의 주장 2 와 3 은 일단 인간 뇌의 활동을 더 잘 이해하기만 하면 기계의 두뇌가 인간을 능가할 것임을 암시하고 있다. 이것을 증명하는 데에는 몇 백 년 또는 몇 달의 시간이 걸릴 수 있다. 그러나 누가 이것을 증명할 수 있겠는가? 매일 인간의 뇌를 연구하는 의학 박사, 신경외과 의사 혹은 정신과 의사가 할 수 있을까? 기계의 두뇌를 만드는 공학자는 어떤가? 사실 이들이 아니라, 이러한 주제로 학회에서 발표되어 온 수많은 논문들과 관련 연구의 도움을 받아 언젠가 다가올 이 문제에 대하여 생각하고자 하는 사람들일 것이다. 보통 사람들은 인간의 의식이라는 장애물이 있을 거라고 생각한다.

나는 전자의 모든 중요한 주장은 여기에 주어진 세 가지 주장 중 적어도 한 가지로 결론지을 수 있다고 생각된다. 사실 나 자신도 주장 2 를 믿고 주장 3 이 가능하리라 믿지만, 확실히 이 결론들은 옳지 않으며, 특히 주장 1 은 전혀 옳지 않다.

소의 뇌는 인간의 뇌와 다르고, 그래서 인간과는 다른 방식으로 의식한다. 소는 인간의 방법으로 공포, 즐거움, 자기 의식을 보인다. 두 개의 뇌는 본질적으로 다르지만, 대체로 인간의 뇌가 소의 경우보다 훨씬 우수하게 작동한다. 이와 같은 주장은 동물을 비롯해 지상의 모든 창조물에게 적용될 수 있다. 그리고 이와 유사하게 기계의 뇌는 인간의 뇌와 다르다. 기계와 인간의 뇌는 서로 다른 방법으로 의식한다. 다시 말해 두 개의 뇌는 본질적으로 다르다. 나는 여기서 특별한 기계 - 보통 책상 위에 있는 컴퓨터는 이렇게 동작하지는 않는다 - 를 말한 것이다. 하지만 한 마리의 소가 다른 소와 아주 다르지 않은 것처럼 사람도 다른 사람과 크게 다르지 않다. 두 가지 경우 모두 자신들만의 종에 속하는 것이다. 하지만 기계는 두뇌의 활동이 서로 다르고, 또 다양한 작업을 수행하기 때문에 서로 크게 다를 수 있다. 기계는 단지 하나의 예외적인 종이라기보다는 여러 가지의 종, 또는 새로운 생물의 형태를 갖는 것으로 본다.

인간, 동물, 그리고 기계는 하나의 존재에서 다른 형태를 가진 거라고 믿는 사람도 있다. 예를 들어 모노드 (Monod) 는 그의 저서 「우연과 필연 (Chance and Necessity)」에서 '세포는 하나의 기계다. 동물도 하나의 기계다. 인간 역시 하나의 기계다' 라고 말했다. 사이몬스 (Simons) 는 '사람은 행동하도록 프로그램된 로봇이고 기계 장치이지만, 놀랄 만한 통찰력, 재능 및 감수성을 가진다' 라고 했다. 맥도널 더글라스 (McDonnel Douglas) 와 함께 1995년 중반까지 연구학자였던 탈러 (Thaler) 는 다른 방법으로 표현했다. "사람들은 '내가 이러한 기계들과 어떻게 구분되는가?' 라고 묻기 시작할 것이고, 그 필연적인 답은 '우리는 같다' 라고 생각한다."

그렇다면 인간은 생물학적, 전지 화학적인 형태의 기계 중 하나의 종류에 지나지 않는다고 여겨질 수 있다. 이와 같은 방법으로 보면 인간은 단지 하나의 모형, 일을 하는 하나의 방법, 자연적으로 생성된 하나의 시도로 볼 수 있다. 우리는 우리의 방법으로 생각하고 행동하며, 기계도 그들만의 방법으로 생각하고 행동할 것이다.

비록 나는 인간을 기계의 한 형태로 생각하는 입장을 이해할 수 있지만, 이 책의 의도와 같이 그들을 구분하기 바란다. 아주 간단한 기계적인 스위치로부터 극도로 복잡한 인공 신경망에 이르기까지 기계 그 자체는 거대하고 다양한 가능성을 가진다. 인간의 능력도 아주 고아대하지만 그다지 넓지는 않다. 따라서 무엇이 기계이고 아닌지에 대한 나의 정의는 더 제한적이므로, 우리는 인간과 기계를 다르게 여길 것이다.

하지만 지적하고 넘어가야 할 것이 하나 있다. 우리가 잘 아는 특별한 기계를 사용하여 작업을 빨리 수행할 수 있다고 할 때, 더 많은 일을 더 빨리 처리할 수 있는 기계가 등장해 곧 사용할 수 있다면, 현재 뛰어난 기계라 할지라도 어느 정도 시간이 흐르면 뒤떨어지고 쓸모 없게 될 것이다. 우리는 우리 자신을 이렇게 보고 싶지는 않을 것이며, 실제로도 그렇지 않다.

의식과 양자 이론의 예를 통해서 우리는 인간 두뇌의 한 측면, 또는 다른 측면을 볼 수 있기는 하지만, 기계의 두뇌가 똑같은 방법으로 동작하지 않을 거라는 결론을 내린다. 왜냐하면 기계는 사람의 뇌와 똑같은 방식의 의식이 있는 것이 아니고, 우리가 아직 인간 뇌의 작동을 실제로 알지 못하므로 그러한 기계의 뇌는 구성될 수 없기 때문이다. 이러한 특징들이 기계의 두뇌가 인간의 두뇌보다 더 우수한 방법으로 작동하지 못하게 하는 이유는 아니다.

인간의 뇌가 신비한 요소를 가진다고 생각하는 사람들은 기계의 두뇌가 그 성능에 있어서 인간을 능가하지 못할 거라고 믿는다. 양자 이론과 의식의 관점을 이용해 이해할 수 있는 과정이 남아 있지만, 나는 그러한 과정이 존재하든 그렇지 않든 간에 실제로는 중요하지 않다고 믿는다. 우리는 양자 이론과 인간과는 다른 의식에 의존하지 않고도 이미 인공의 신경망을 만들 수 있고, 많은 면에서 인간의 뇌보다 더 좋은 성능과 특성을 보인다. 미래에 그것들은 보다 강력한 성능을 보일 것이고 오래지 않아 인간 뇌의 모든 성능을 능가할 것이다.

틀림없이 기계 두뇌의 성능이 인간 두뇌의 성능에 가까워지고 있고, 아직 뒤떨어져 있지만 기술이 발달함에 따라 향상될 것이다. 전체적인 성능은 지능이 핵심적인 역할을 수행하는 넓은 범위의 특성을 포함한다. 시간이 지남에 따라 몇몇 기계의 지능은 인간과 대략적으로 같아질 것으로 믿는다. 일단 이 상태에 이르면, 인간의 뇌는 여전히 지금과 같은 반면, 기계의 뇌는 더 지능적으로 될 것이 자명하다.

남은 하나의 문제는 크기를 키우는 것이다. 지금은 50개 내지 1,000개의 뉴런을 가지고 작동하는 인공의 신경망뿐이지만, 인간의 두뇌와 경쟁하기 위해서는 신경망이 100만 개 정도의 뉴런을 가져야 하고, 각종 기능을 수행하기 위하여 여러 가지 기능과 동작에 따라 구분해 주어야 한다. 이렇게 많은 뉴런을 연결시키고, 신경망 구성의 본질적인 문제인 크기의 확대가 문제 해결의 가장 큰 장애물이라고 생각된다. 결과적으로 기계의 두뇌는 수백 억, 수천 억의 뉴런을 가질 수 있고, 따라서 인간의 뇌보다 우수하게 작동할 수 있다.

과거에는 학습 능력이 있고, 창조적이며, 의식이 있고, 자유 의지를 보이는 기계 두뇌를 구현하는 일이 중요한 문제였다. 탈러를 비롯한 여러 사람들처럼 나는 이러한 특징이 오늘날에는 적절한 수준에 이르렀다고 생각하며, 크기를 증가시키는 것만이 문제로 남아 있다고 생각한다. 이러한 특징 중 많은 것은 다음 세 장에 걸쳐서 설명하게 될 로봇에 의해서 충분히 실현된다. 중요한 사실은 사람과 기계 모두 지적인 상태는 바로 최초의 유전과 그 이후의 경험에 의존한다는 점이다.

그렇다면 기계의 지능이 언젠가는 인간의 두뇌를 능가해 더 똑똑하고 걍력해질 수 있다고 할 수 있을까? 물질적인 요소들은 다음과 같은 상황으로 전개될 것이다. 계산 능력, 기억 용량, 학습, 창조 등에서 볼때 모든 면에서 기계의 지능이 빠른 속도로 인간의 수준에 접근해 가고 있다. 인간의 두뇌가 가진 신비한 면을 제외하고는 어떤 이론이나 물질적인 면도 기계의 지능이 처음에는 인간의 지능과 가까워지다가 나중에는 그 수준을 능가하는 것을 막지 못한다. 기계의 지능이 인간의 지능과 똑같은 형태로 구현되지는 못하지만, 그것은 다른 문제이며 혼돈되어서는 안 된다. 나는 기계의 지능이 인간의 지능을 능가할 수 있다고 확신한다. 왜냐하면 과학적인 증거가 이를 뒷받침해 주고 있을 뿐만 아니라 우리가 그것을 부인할 만한 아무런 근거도 없기 때문이다.

그것은 그러한 기계가 인간의 지능으로부터 아무런 도움도 받지 않은 채 그들 자신만의 방법으로 똑똑해질 수 있음을 의미한다. 그 다음에는 기계가 어떤 권한을 갖게 되고, 다른 주제에 대하여 조언할 수 있으며, 인간에 의하여 야기된 많은 문제를 아주 빨리 해결할 수 있을 것이다. 그들은 탈러의 '창조 기계' (Creativity Machine) 와 같이 본질적으로는 컴퓨터, 즉 독립적인 기계의 뇌 내에 자리잡은 신경망을 이용해 새로운 교통 수단을 구상하고, 부드러운 음료수를 만들어내고, 음악 악보를 고안하거나 새로운 물질을 발견할 수 있을 것이다.

이 신경망은 입력시 'on' 또는 'off' 의 형태로 정보를 받아들이고, 모든 출력을 또다른 'on' 또는 'off' 의 형태로 내보낼 것이다. 흥미롭게도 어떤 특징이 입력되면, 신경망 내의 특정한 뉴런들이 더욱 자극되는 것을 볼 수 있다. 언제쯤 이런 일들이 실현될까? 현실적으로 그 대답은 어디까지나 추측일 뿐이다. 어떤 사람은 100년 정도 후, 혹은 몇 세기 후의 일이라고 말한다. 하지만 기술의 변화율과 기계의 지능에 대한 빠른 진보를 현실적으로 고려해 보면, 이같은 생각은 상당히 낡은 관점이라는 것을 알 수 있다. 만약 기계의 지능이 인간의 지능을 언젠가 능가할 수 있다고 인정한다면, 좋지 못한 일이 생길 것이고, 그렇다면 최소한 한 세기 정도로 가능한 한 그 시기를 늦추려할 것이며, 아예 기계가 없어지기를 바라는 것이 인류를 안락하게 하는 행동이 될 것이다.

어떤 과학자는 10년 내지 20년이라는 짧은 시간 내에 기계의 지능이 인간과 비슷해질 것이라고 주장한다. 모라벡 (Moravec) 이 지적한대로 기술의 변화율이 가속된다는 점을 바탕으로 추론해보거나 기계의 시뮬레이션을 통해 살펴보면, 약 2030년에는 이루어질 거라고 전망하였다.

기계의 향상된 능력, 속도, 성능은 유일하게 남아 있는 크기의 증가문제를 해결할 수 있기 때문에, 백만 개의 뉴런을 가진 기계의 두뇌가 천억 개의 뉴런을 가진 인간의 두뇌와 엇비슷하게 동작할 수 있을지도 모른다. 또한 인간의 두뇌는 기계는 필요로 하지 않는 걱정이라든가 꿈과 같은 쓸모 없고 무익한 것들을 처리하기도 한다는 것을 알아야 한다. 또한 뇌의 많은 부분은 손을 움직이거나 보는 것과 같은 인간의 물리적인 동작이나 감각을 다루는데, 이러한 것들은 기계와는 관계 없을 수도 있다. 이러한 점들을 감안하면, 기계는 적은 수의 신경망을 통해 인간과 비슷한 능력을 분명히 가질 수 있다. 사실 인간의 진가와 개개인간의 기술은 기계에게는 필요하지 않다.

대부분의 경우 인간이 만물의 영장이라는 기본적인 공리를 지금 어떻게 인정하는지, 또는 앞으로도 그러할 것인지 하는 것은 재미있는 문제다. 앞서 언급된 인간의 두뇌에는 신비한 요소가 있다는 개념은 이러한 공리에 기초한다. 만약 기계의 두뇌가 인간 두뇌의 모든 특징을 가질 수 없고, 속도, 용량, 논리적 구성에서 아무리 발전해도 인간보다 항상 열등한 존재로 남게 된다면 위와 같은 결론을 내릴 수 있다.

모라벡의 지적과 같이 인간은 자신의 '생각하는 프로그램' 을 인공의 금속체로 변환시킬 수도 있다. 이와 같은 방법으로 우리는 우리의 몸을 새로운 번쩍이는 로봇으로 교체할 뿐만 아니라 우리의 뇌를 더욱 강력하고, 빠르고, 정확한 기계의 뇌로 교체하는 등, 영생 불사의 형태를 우리에게 부여할 수 있을 것이다. 즉 특정한 시간에 그때까지의 모든 경험과 기억을 그대로 유지한 채, 우리 뇌의 형태를 기계의 뇌로 옮길 수 있다는 것이다. 달리 말해 인간 원래의 유전적으로 프로그램된 뇌를 가지고 태어나서 인간이 하는 경험의 형태로 훈련을 한다. 그 후 뇌의 상태와 정렬은 온전하게 변환되어, 새로운 기계의 뇌에서 더욱 배우고 경험하도록 프로그램을 시작한다. 사실 두뇌의 형태가 복제되므로, 인간의 복사본으로 작동하는 기계의 뇌가 원래의 인간 뇌와 완전히 똑같게 작동하지 못하는 이유가 없다.

이 모든 것은 인간 뇌의 동작에 대한 더 깊은 이해를 필요로 하고, 뇌에 손상을 입히지 않고 뇌를 열어서 그 상태, 즉 시냅스의 연결과 정렬을 완전히 세밀하게 기록할 수 있느냐에 달려 있다. 실제로 현재 우리는 결코 그런 수준에 있지 못하다. 게다가 전체적인 개념은 인간과 기계의 뇌가 양립할 수 있다는 것이지만, 사실 이를 이루어내기에는 아주 많은 시간이 필요하다.
사실 기계의 두뇌는 인간의 뇌를 흉내내거나 복사하는 것이고, 개선된 능력과 용량 때문에 더욱 많은 것을 할 수 있을 것이다. 이것의 마지막 결론은 비록 지능의 수준이 아주 빠르게 인간의 능력을 능가할지라도, 인간의 지능에서 시작된 지능을 가지는 새로운 형태의 기계가 등장한다는 것이다.

나는 인간 뇌의 형태가 이러한 직접적인 방법으로 옮겨질 실현 가능성에 대하여 아주 회의적이다. 왜냐하면 인간의 뇌를 건드리지 않고 그 내부의 것을 얻을 수 없을 뿐 아니라, 인간과 기계의 뇌가 서로 달라서 인간의 뇌가 기계에게는 적합하지 않기 때문이다. 하지만 인간의 어떤 특성이 기계의 뇌로 옮겨지는 것은 생각할 수 있다. 이는 기계의 초기 프로그램 또는 기계를 인간이 수행하는 방법대로 작동하도록 학습시키면 되는데, 특히 후자의 방법은 전문가 시스템을 만드는 방법과 같은 형태이다. 인간 뇌의 형태를 기계의 뇌로 옮기는 것은 흥미로운 문제들을 많이 발생시킬 것이다.

첫째로 기계의 뇌의 용량이 인간의 뇌보다 클 수 있기 때문에, 사람들의 갖가지 뇌의 형태가 하나의 기계 뇌에 옮겨질 수 있고, 다중 인격을 갖는 뇌를 만들 수 있다. 남편과 아내의 뇌 형태가 하나의 기계 뇌에 함께 옮겨질 수 있다. 그러면 이들은 서로 내부적으로 직접 의사 소통을 할 수 있을 것이다. 여러 명의 남편과 아내의 뇌의 조합이 하나의 기계 뇌에 자리잡을 수 있어 정신적인 파트너 교환이 이루어질 수 있고, 내부에서 언쟁이 일어날 수도 있다. 그러나 싸우더라도 파트너를 떠난다는 것은 어려울 것이다.

어쨌든 우리가 주도권을 가지고 있기를 바라는 것은 인간이 가지는 특성이다. 우리는 인간이 여전히 다른 것을 조정하는 방법을 찾을 것이다. 기계의 뇌가 인간의 뇌보다 더 지능적이 될지라도 우리는 여전히 그들에게 명령을 내리는 입장에 설 것이라고 생각한다. 정신 프로그램의 복제를 통하여 우리는 강력한 기계의 뇌를 가지며, 번쩍이는 금속으로 이루어진 인간과 흡사한 로봇의 형태를 생각할 수 있다. 그러면 우리 자신에 대한 붕괴를 적게 하거나 아예 없애버리고 인간 두뇌의 구조를 로봇으로 옮기는 것이다.

이러한 관점에 대한 도전으로서 인간의 뇌보다 더 지능적으로 여겨질 수 있는 최초의 기계는 학습을 하고 직업을 바꾸거나, 시각이나 청각 기능 없이도 재무 업무를 처리하는 능력을 가지는 거대한 컴퓨터로 구현될 수 있다. 그러한 기계는 10년 정도 지나면 충분히 가능할 것으로 보인다. 어렵지 않은 재무 업무를 홀로 처리하는, 상자 내에 자리잡은 두뇌의 삶은 그다지 긍정적으로 보이지는 않는다. 기본적인 시작점을 갖는다는 것이다. 더욱이 로봇이라 할지라도 인간이 하는 모든 일을 할 수 있을 것으로 기대되지는 않는다. 그럴 필요가 있겠는가? 결국 그것은 사람이 아닌 기계이다.

또다른 중요한 점은 일단 인간의 지능보다 뛰어난 지능을 지닌 기계가 등장한다면, 그 기계는 자신의 뛰어난 두뇌 형태를 지워버리고, 덜 지능적인 인간의 뇌 형태를 받는 것을 달가워하지 않을 거라는 점이다. 특히 더 지능적인 원래의 기계 뇌는 아마도 특별한 상황에 더 잘 어울릴 수 있을 것이므로, 인간의 뇌 형태로 교체되어 질이 저하되는 것을 원하지는 않을 것이다.

기계와 인간은 다르다. 기계의 뇌와 인간의 뇌도 다르다. 기계의 지능이 인간의 지능을 능가한다면 이것은 기계 자체의 형태, 모양과 크기의 측면에서도 그러할 것이다. 하지만 기계들이 더욱 지능적이기 때문에 그들이 어떻게 작동하고, 무엇을 하고 하지 말아야 하는지, 언제 작동하고, 언제 멈추어야 할지를 결정하는 것은 바로 그들 자신이 될 것이다. 그들은 중요한 결정을 할 수 있을 것이고, 우리보다 한 단계 앞서 있을 것이다.

이 장에서 토론한 바와 같이, 인간 외의 신비한 요소를 제외했을 때, 기계가 인간보다 더 지능적이 되는 것을 막는 단 한 가지는 양자 이론을 해결하는 것과 같은, 인간 뇌의 작동과 인간이 가진 의식에 대한 실질적인 이해가 없다는 것이다. 이 중 첫번째, 즉 실질적인 이해가 없다는 점은 기계의 발전을 저해하는 원인이 되기 때문에, 만약 우리가 이에 대한 완전한 지식을 갖춘다면 기계는 인간보다 더 똑똑해질 수 있다. 그렇다면 인간의 두뇌에 존재하는 의식이 인류의 장점이 되는 것일까?

개인적으로, 인간의 의식이 기계의 뇌에 방해가 된다고 느끼지는 않는다. 기계가 인간의 방법과 똑같이 의식해야 할 이유가 없다. 어떤 형태의 지능적인 기계는 기계의 방법으로 의식을 실제로 가질 것이다. 결국 그들은 인간의 뇌와 유사하게 신호나 메시지에 기초한다. 그러나 우리 인간은 외부에서 안을 들여다보듯 기계의 뇌를 주시해야만 한다. 일단 우리 자신이 기계의 뇌를 얻기만 하면, 우리와 같은 방법으로 그들이 의식을 하는지 여부를 말할 수 있을 것이다. 그러나 그렇게 되면 우리는 더 이상 인간이 아니다. 우리는 무엇인가? 기계인 것이다.

많은 생각들을 묶기 위하여 4장의 끝부분에서 시도된 바 있지만, 도대체 '인간의 의식이란 무엇인가' 라는 것은 매우 어려운 질문이다. 우리는 의식이 인간의 두뇌 속에 있음을 알고 있다. 인간에게 의식이 있다는 사실은 알고 있지만, 의식이 무엇인지 실제로 묘사할 수는 없다.

아마 기계는 의식이 없다고 생각할 것이다. 현실적으로 그들에게도 의식이 있긴 하지만, 인간과 유사한 형태로 존재하지는 않을 것이다. 아직까지 확실히 인간과 똑같지는 않더라도, 지능적인 기계의 경우 아무 의식도 없다고 말하기는 힘들다. 그것은 다른 동물과 곤충에서도 마찬가지다. 그러나 의식은 인간의 뇌의 기능 중에서 단지 하나의 특징이고, 다른 것들도 많이 있다는 사실을 우리는 안다. 이러한 특징들은 좀더 구체화되고 측정이 가능해질 것이다. 우리가 측정할 수 있는 것들 중에서 기억, 속도 등은 이미 기계가 인간보다 더 우수하다는 것을 우리는 알고 있다. 또한 크기에 대한 능력의 대배에서 머지 않아 그들이 더 논리적으로 우수해질 거라는 사실을 알 수 있다.

인간과 기계의 축구 경기를 통해서 이해를 도울 수도 있다. 사람으로 구성된 팀 (인간 연합이라고 부르자) 은 대체로 열등한 선수들로 이루어졌지만, 일각에서 세계 최고의 선수로 여겨지는 의식이라는 선수가 속해 있다. 한편 그 대항자 (바이에른 기계라고 부르자) 들은 기억 소자와 빠른 처리 속도, 수학 능력을 가진 뛰어난 순수들로 구성된다. 사실 그들은 지금 막 창의성이라는 순수를 영입했다. 세계 최고의 순수를 가지고 있다고 해서 인간 측이 반드시 이긴다는 것을 의미하지는 않지 않은가?

바이에른 기계는 자주 뛰어난 선수들을 새로 보충한다. 실제로는 인간 연합으로부터 많은 것을 배운다. 대항자들은 시간이 지날수록 더욱 강해진다. 어쨌든 인간은 여전히 의식을 가지고 있고, 만일 우리가 기계를 이용하여 인류에게 초의식을 부여할 수 없다면, 이 의식은 우리의 최고의 순수로 생각될 것이다.

세계 축구 경기에서는 결승전이 없거나, 아니면 가까운 미래에는 결승전을 하지 않기 때문에 2010년까지 우리가 계속해서 우위를 유지할 수 없으며, 이겼다고 느긋하게 있을 수 없다. 하지만 경기는 계속되고, 계속해서 기계 편은 더욱 우수해지고 강해질 것이다. 현재 인간 연합은 5대 3 정도로 이기고 있다. 그러나 만약 우리가 초의식을 가질 수 없다면 더 이상의 득점을 할 수가 없다. 그 동안 바이에른 기계는 우위를 차지할 때까지 득점을 계속할 것이다. 그 동안 바이에른 기계는 우위를 차지할 때까지 득점을 계속할 것이다. 그렇기 때문에 인간 팀이 새로운 선수를 보충할 수 없다고 가정하면, 그 반대 편은 점점 자신의 팀을 강하게 만들게 되므로 인간 연합이 잠시 동안이라도 다시 우위를 차지할 가능성은 희박하다. 일단 바이에른 기계 팀이 경기를 이끌기만 하면, 아마도 그것을 계속 유지할 것이다.

우리가 의식을 가진다고 하여 우리가 이길 것이고 대항자에 대해서 근심할 필요가 없다라고 말할 수 없고, 또 그렇게 해서도 안 된다. 바이에른 기계는 '그래, 인간 연합은 의식을 가지고 있으니 경기 중에 그들을 괴롭히지 말자' 라고 말하지 않을 것이다. 의식은 좋은 점과 나쁜 점을 가진 단지 한 선수이고, 사실 그것은 전혀 경기의 승리 요인이 되지 못할 것이다.

기계 팀은 그보다 더 우수한 선수를 찾을지 모른다. 아마도 기계 의식이라는 이름에 굴복하게 될 것이다. 그들은 이미 인간 팀의 대부분의 선수들보다 우수한 선수를 찾았다. 따라서 왜 의식을 가지지 않겠는가? 만약 그러한 일이 발생한다면, 인간은 더 이상 승리할 기회를 가질 수 없을 것으로 보인다. 바이에른 기계가 그러한 스타들과 경쟁하지 않는다 하더라도, 그들은 줄곧 강해져서 여전히 극도로 강한 팀을 가진다. 경기에 지기까지 얼마나 오래 인간 연합이 버틸 수 있을까?

축구 경기에서와 유사하게 의식은 단지 인간 두뇌의 동작이 가진 하나의 특징에 불과함을 알 수 있다. 그것은 기계의 지능이 인간을 능가한다는 측면에서 중요한 사항일 수도 아닐 수도 있다. 그것은 아무런 문제가 되지 못하겠지만, 당분간 중요한 요소라고 가정하더라도 기계가 극복해야 할 마지막 장애물에 지나지 않는다.

양자 이론의 문제와 같이 의식은 언젠가는 정복될 것이다. 우리가 그것을 어떻게 생각하든지 간에 단지 하나의 결론만이 있을 수 있다. 기계가 인간보다 더 지능적이 되는 것을 막기 위하여 인간이 할 수 있는 것은 아무것도 없고, 다만 시간만이 문제가 될 뿐이다.