Artificial  Consciousness

 

의식 (Consciousness) 이 있는 장치를 만들수 있다는 생각을 인공의식 (artificial consciousness, AC) 라고 부른다. 이것은 고대 그리스 promethean 신화로 거슬러 올라가 보면, 당시에는 도자기 굽는 기술이 발달하여 진흙을 이용하여 의식을 가진 인간을 만들수 있을 것이라고 생각했었다. 현대의 과학소설에서는 인공인간 또는 의식이 있는 존재는 전자공학적 구성요소로 만들어진다고 묘사된다.

term   site   paper   fiction   lab   history   

인공의식 (artificial consciousness 또는 machine consciousness 또는 synthetic consciousness) 은 21 세기의 흥미로운 철학적 문제가 되었는데, 그것은 유전학, 신경과학, 정보처리에 대해 더 많이 이해하게 되면서 의식있는 존재를 창조하는 것이 곧 가능해 질것이라고 생각됐기 때문이다.

인간의 두뇌에 필요한 유전자 (gene) 를 가진 유전물질 (genome) 을 제조하고, 그것을 적당한 숙주 미생물 세포 (host germ cell) 에 주입하여 생물학적인 존재를 만드는 것이 가능할수 있다. 그것이 이식되어 적절한 자궁 (womb, 성장하는 장소) 에서 태어나면 그러한 창조물은 의식적이고 인공적 이라고 할수 있을 것이다. 그러나 이러한 유기체의 어떠한 성질들이 의식 (consciousness) 을 만드는 원인이 되는 것일까? 그러한 존재는 비생물학적 구성요소로부터도 만들어 질수 있을까? 그 기술이 컴퓨터의 설계에 사용되어 의식을 가진 개체를 만드는데 적용될수 있을까? 그런 것을 만드는 데 윤리적인 문제는 없을 것인가?

신경과학 (Neuroscience) 에서는 "의식이란 두뇌의 여러 부분들의 상호작용을 통해 생성되는 상승효과 (synergy)" 라는 가설을 내세우며, 그것은 의식의 신경적 상호관계 (neuronal correlates of consciousness, NCC) 라고 불리운다. 두뇌는 Homunculus fallacy 에서 묘사되는 문제를 피하고 아래의 의식의 본성에서 묘사되는 문제를 극복함으로써 그 과정을 수행하는 것 같다. 따라서 인공의식을 제안한 학자들의 탐구는 이러한 상호작용을 모방하는 기계를 만들려고 하는 것이지만, 아직 아무도 완전히 이해한다고 주장하지는 못한다.

의식의 본성

일원론 (Monism) (naïve realism, direct realism, direct perception) 에 따르면 인간은 두뇌 (Brain) 에서 직접 사물을 지각하고 정보를 처리한다. 반면에 이원론 (Dualism) (indirect realism, dualism, indirect perception) 에 따르면 두뇌는 정보처리에 의해 얻은 데이타를 보관하지만 인간이 지각하는 것은 일종의 정신 (mental model or state) 으로서, 정신은 객관적인 기하학 (projective geometry, 데카르트 이원론에서의 point observation 같은) 의 결과로서의 물리적인 것들을 압도하는 것이다. 의식에 대한 이러한 일반적인 접근방식중 어느것이 올바른 것인지는 해결되지 않았으며 첨예한 논쟁거리다.

일원론 (theory of direct perception) 은 두뇌 밖의 세계에 대해 직접 부수적으로 생기는 (supervene,  수반 (Supervenience)) 의식 경험을 허용하는 새로운 물리이론을 필요로 하는것처럼 보이기 때문에 문제가 있다. 반면에 우리 두뇌속의 세계에 대한 모델을 통해 사물을 간접적으로 지각하게 되면 (이원론), 그때는 데이타의 끝없는 흐름과는 다른, 그 모델이 어떻게 경험이 되는지를 설명하기 위해 어떤 새로운 물리현상이 필요하게 될것이다.

사물을 직접적으로 지각하게 되면 (direct perception), 자각 (self-awareness) 은 설명하기가 어렵다. 왜냐하면 직접 지각 (direct perception) 을 주장하는 주요한 원인중의 하나는 Ryle's regress (내부 처리가 무한 loop 또는 반복 (recursion) 이 되는) 를 피하기 위한 것이기 때문이다. 즉 직접 지각에서는 꿈, 상상, 생각속의 영상, 내적인 생활 (inner life) 에 대해 '사실상 (really)' 알것을 요구하지 않는다. 왜냐하면 반복 (recursion) 을 포함하기 때문이다.

자각 (self awareness) 은 간접적으로 지각하는 (indirect perception) 개체에는 덜 문제가 된다. 왜냐하면 용어에서 알수있듯이 그것은 그 자신의 상태를 지각하고 있기 때문이다. 그러나 위에서 언급한 대로, 간접 지각의 제안자들은 어떤 현상을, 물리적이든 Ryle's regress 을 방해하는 이원론이든, 제안해야 한다.

만일 우리가 어떤 사물을 간접적으로 지각한다면, Immanuel Kant, William James, René Descartes 가 묘사한 대로, 자각 (self awareness) 은 시간에 따른 경험의 확장 (extension of experience in time) 으로부터 생길수 있다. 불행히도 이러한 시간에 따른 확장은 물리학의 최신 이론과는 일치하지 않을수 있다.

정보처리와 의식

정보처리는 전자의 흐름과 같은 전달매체 (carrier) 상에서 영상 (geometry of an image) 같은 어떤 상태를 부호화 (encoding) 하고, 그것을 프로그램이라 불리는 일련의 명령어 집합으로 특별하게 변형시키는 과정으로 구성된다. 원칙적으로 carrier 는 심지어 철공이나 양파 (steel balls or onions) 같은 어떤 것일수도 있으며, 명령어를 구현하는 기계는 반드시 전자 (electronic) 일 필요가 없으며 기계나 유체 (mechanical or fluidic) 일수도 있다. 디지탈 컴퓨터는 정보처리를 구현한다. 디지탈 컴퓨터가 처음 발명되었을때 사람들은 언젠가는 의식을 가지게 될것이라고 주장해왔다. 이러한 생각을 가진 사람중에는 Alan Turing 도 포함된다.

기술자들이 의식을 가진 존재를 창조하는데 디지탈 컴퓨팅 원리만을 사용한다면 그 문제는 강 인공지능 (Strong AI) 의 철학과 연관될 것이다. 그 가장 중요한 문제는 John Searle 의 중국어방 논변에 나오는 것으로, 그것은 정보처리의 내용 (content) 은 어떤 내부적인 의미 (meaning) 도 가지고 있지 않으며 어떤 순간에도 단지 일련의 전자 또는 철공 (steel balls) 등등 뿐이라는 것을 보여주었다. Searle 의 반대는 직접 지각론자 (direct perception, 일원론을 주장하는 사람들) 들을 납득시키지 못했는데, 그들은 '의미 (meaning)' 란 지각의 대상 (objects of perception) 에서만 발견되는 것이며, 그들이 믿는 것은 세계 그 자체이기 때문이다. 그 반대는 또한 창발론 (emergentism) 의 개념에 직면하게 되는데, 그것은 매우 복잡한 처리기 (processors) 에서 그 복잡성의 결과로서 어떤 특별히 지시하지도 않은 새로운 물리현상 (unspecified new physical phenomenon) 이 일어난다는 주장이다.

잘못된 명칭인 디지탈느낌 (digital sentience) 이 인공지능 (Artificial Intelligence) 연구의 맥락에서 가끔 사용된다는 것은 흥미롭다. 느낌 (sentience) 은 깊이 생각하지 않고 내부 언어로 그냥 느끼거나 지각하는 (feel or perceive) 능력을 의미한다. 그것은 처리기에서 발생하는 어떤 처리 (process) 보다는 하나의 상태를 그냥 의식적으로 경험하는 방법으로 주의집중 (Attention) 을 하게 한다.

정보처리를 넘어선 인공의식

어떤 환경에서 기계가 의식적일수 있는지에 대한 논쟁은 물리주의 (physicalism) 과 이원론 (Dualism) 간의 논쟁으로 보통 묘사된다. 이원론자는 의식에 대한 비물리적인 (non-physical) 무언가가 있다고 믿지만 물리주의자는 모든것이 물리적 (physical) 이라고 주장한다.

의식이 물리적이라고 믿는 사람들은 의식이란 일종의 전달 신호에 대해 암호화된 정보 (encoded information on carrier signals) 의 성질을 갖는다는 주장에 제한이 없다. 그러나 이원론을 주장하는 철학자와 과학자들은, 정보처리가 의식의 내용을 전달하는 것은 사실이지만, 의식하는 상태는 어떤 다른 물리적 현상때문이라고 주장한다. 저명한 신경학자 Wilder Penfield 는 이 의견에 동의하며 Arthur Stanley Eddington, Roger Penrose, Herman Weyl, Karl Pribram, Henry Stapp 외 많은 과학자들은 의식이란 단순한 정보처리 이상의 미묘한 물리적 현상을 포함하고 있다고 주장한다. Daniel Dennett 과 같이 정보처리기로서의 의식에 대한 가장 열렬한 지지자들 조차도 의식을 설명하기 위해서는 어떤 새로운 창발적인 과학적인 이론이 필요하다고 주장한다.

위에서 언급한대로 직접적인 지각을 포함한다는 아이디어도 두뇌속에 세계 모델을 포함하고 있다는 아이디어도 모두 현대 물리이론과 일치하는 것 같지는 않다. 새로운 물리이론이 필요한 것으로 보이며, 아직까지는 이원론의 가능성은 배제되지 않고 있다.

디지털 컴퓨터에서의 의식

인공의식 분야에서 일하는 몇몇 기술자들은 의식이 나타나는 장치를 발명하려고 시도하고 있다. 이러한 장치들은 의식을 시뮬레이션하는 것이거나 실제로 의식적일수도 있는데, 만일 원하는 결과 (desired result) 가 얻어지면 의식이 나타난 것이라고 보았다.

컴퓨터과학에서 디지털 느낌 (digital sentience) 라는 용어는 디지털 컴퓨터가 언젠가는 홀로 사고 (thinking) 할수 있을 것이라는 개념을 묘사하는데 사용된다. 만일 그것이 존재하게 된다면 digital sentience 는 아마도 인공지능의 형태일 것이다. 느낌 (sentience) 의 일반적인 영역은 자각 (self-awareness) 이며 그것은 의식에 대한 정의의 일종이다. 자각의 개념을 보조하기 위해 의식 (conscious) 의 정의가 인용될수 있다 : "환경과 스스로의 존재, 감각, 사고에 대한 자각을 가지는것"

보다 더 일반적인 용어로서 인공의식 시스템은 증명가능하고, 잘 알려지고, 객관적이며, 관찰가능한 의식의 다양하고 확실한 측면을 이론적으로 보일수 있어야만 하고 그 때에야 그 장치에 의식이 나타난다고 할수 있을 것이다. 의식 (conscious) 의 또다른 정의 : " 내부적인 의식경험 또는 외부적인 관찰에 의해 지식을 소유하는것 ; 인식하고 있는 (cognizant) ; 자각 (aware) ; 감각 (sensible)"

인공의식의 상황 (aspects)

인공의식 시스템을 위해 일반적으로 고려되는 상황 또는 인공인식 시스템이 배워야만 하는 능력들이 있다 ; 이것들은 어떤 기계가 인공적으로 의식을 가진것인지를 결정하는 범주로서 매우 유용하다. 이것들은 가장 많이 인용되지만, 여기서는 다루지 않는 많은 다른것들이 있다.

앞으로 발생할 사건들을 예측 (Prediciton) 하는 능력은 인공의식의 아주 바람직인 속성으로서 고려된다고 Igor Aleksander 는 주장하였다. 그는 Artificial Neuroconsciousness: An Update 에서 "예측은 의식의 핵심이 되는 기능중의 하나이다. 예측 능력이 없는 생물은 큰 장애가 있는 의식을 가진것이다." 라고 주장했다. Daniel Dennett 은 'Consciousness Explained' 에서 제안한 새로운 multiple drafts principle 는 예측을 위해 유용한 것이다 : 예측은 현재 환경에 맞추기 위해 가장 적절한 (appropriate) "초안 (draft)" 의 평가와 선택을 포함한다.

의식은 때로는 자각 (self-awareness) 이라고 정의한다. 자각은 매우 중요한 반면에, 주관적일수 있고 대개 테스트 하기가 어렵다.

어떤 견해로는, 인공의식의 또다른 테스트는, 기계가 환경에서 어떤 자극 (stimuli) 을 걸러서 촛점을 맞추고 주의집중을 하는 능력을 학습할수 있다는 demonstration 을 포함해야 한다. 인간의 주의집중 (attention) 이 어떻게 추진되는지에 대한 메카니즘은 과학자들이 아직 완전하게 이해하지 못하고 있다. 이러한 지식이 부족한 것은 인공의식 공학자들이 탐색할수 있다 ; 인간에서의 주의 (attentiveness) 을 이해하지 못하기 때문에, 기계에서 그것을 측정할 특별히 알려진 영역을 갖고있지 못하다.

인간에서의 무의식 (unconsciousness) 은 전체적인 부주의 (inattentiveness) 와 같다고 할수있기 때문에, 인공의식은 그 주의집중이 촛점을 맞춘 곳을 정확히 지적하는 결과를 가져야 한다. 앞에서 언급한 테스트 중에는 어떤 순간에도 .... Antonio Chella (University of Palermo) 은  Is Our Robot Self Conscious? 에서 "개념적인 것과 언어적인 영역간의 사상 (mapping) 은 개념적인 구조로써 언어적 기호를 해석하는 것이다. 그것은 내부 상태를 가진 적절한 recurrent neural networks 로 구현된 주의집중 (attention) 메카니즘을 통해 성취될수 있다. 사전 지식에 기초해서 생성된 가설에 따라, 연속적인 주의집중 메카니즘은 개념적인 표현을 적절하게 조사하여 새로운 가설로 만든다. 그것은 영상에서 발생하는 흥미로운 사건들을 예측하고 감지한다. 그러므로, 들어오는 정보에서 시작해서, 그러한 메카니즘은 기대 (expectations) 를 낳고 가설이 증명될수 있는 문맥 (context) 를 만들고, 필요하다면 조정된다.

자각 (awareness) 도 인공의식에 필요한 요소이다. 그러나 자각의 정확한 정의에는 어떤 문제들이 있다. 이러한 점을 실증하기 위해 철학자 David Chalmers (1996) 는 '자동온도조절장치 (thermostat) 도 의식이 있다고 할수있다' 는 범심론자 (panpsychist, 만물에 마음이 깃들어 있다는 주장) 적인 주장을 하여 논란이 되었다 : 그것은 너무 뜨겁거나 너무 차갑거나 정확한 온도를 가지는 것과 같은 상태를 가진다. 원숭이의 neuroscanning 실험결과는 어떤 상태 또는 대상이 아니라 어떤 과정 (process) 이 신경세포 (neuron) 를 활성화 시키는 것을 보여준다 (Read my mind). 신경세포의 활성화를 위해서는 감각을 통해 들어온 정보에 기초한 과정의 모델 (model of the process) 이 창조되어야 하며, 그러한 방법으로 모델을 창조하는 것은 많은 유연성을 필요로 하며 또한 예측 (making prediction) 하는데도 유용하다.

개성 (Personality) 도 의식있는 기계를 위한 중요하게 고려되는 특징이다. 행동심리학에서는 개성이라는 것이 다른 사람과 교류하기위해 두뇌에서 만들어지는 하나의 환상 (illusion) 이라는 다소 일반적인 이론이 있다. 다른 사람과 교류가 없다면 인간 (또는 다른 동물들) 은 개성이 필요하지도 않을 것이며, 인간의 개성이 진화되지도 않을 것이라는 주장이다. 인공의식을 가진 기계는 인간과 교류하여 그 의미있는 방법으로 표현할수 있는 개성을 가질 필요가 있다 ; 기계의 개성을 측정하는 튜링테스트는 일반적으로 더이상 사용되지는 않는다.

학습 (learning) 이 또한 인공의식에게는 필요한 조건이다. Ron Chrisley (University of Sussex) 가 요약한 "Engineering consciousness" 에 의하면 의식은 self, transparency, learning (of dynamics), planning, heterophenomenology, split of attentional signal, action selection, attention, timing management 를 포함한다.

Daniel Dennett 은 그의 글 "Consciousness in Human and Robot Minds" 에서 다음과 같이 언급했다. "우리 모두가 하는 방법보다도, 처음에 무의식 또는 비의식적인 (unconscious or nonconscious) "유아 (infant)" 로봇을 만들고 그것이 의식을 가지도록 "성장 (grow up)" 하게 내버려 두는 것이 훨씬 더 쉬울것이다. 거기서 묘사된 로봇 Cog 는 그 크기가 성인과 같지만 처음에는 성인은 아닐것이다. 그러나 실세계의 매우 거친 환경에서 얻는 경험을 통해 학습을 하면서 연장된 인공유아기 (period of artificial infancy) 를 지나도록 설계되었다. 인간의 언어로 인간과 지능적으로 상호작용을 하려는 어떠한 에이전트도 논리적으로 독립적인 수백만개의 (수십억 개는 아닐지라도) 실세계 지식에 접근해야만 한다는 것은 의심의 여지가 없을 것이다. 이것들 각각은 인간 프로그래머 각자가 수작업으로 해야한다 - Douglas Lenat 가 Dallas 에서 그의 프로젝트 CYC 에서 추구한 악명높은 전략 - 그렇지 않으면 인공적인 에이전트가 실세계와의 실질적인 상호작용을 통해 지식을 학습하는 어떤 방법을 찾아야만 한다."

학습에 대한 흥미로운 글은 Axel Cleeremans (University of Brussels) 과 Luis Jiménez (University of Santiago) 가 요약한 Implicit learning and consciousness 에서 "학습이란 복잡하고 예측불가능한 환경에서 에이전트가 그 행동에 유연한 제어를 할수있도록 주관적인 경험에 진화된 감수성 (evolved sensitivity to subjective experience) 에 전적으로 의존하는 일련의 계통발생학적으로 (philogenetically) 진보된 적응과정이다" 라고 정의하였다.

기계가 의식이 있는 것으로 만들수 있는 마지막 특징은 예상 (기대, Anticipation) 이다. 인공의식을 가진 기계는 어떤 사건을 정확하게 예상하여 그 사건이 발생하였을때  반응을 할수 있어야 한다. 여기서 의미하는 것은 기계가 실시간 (real-time) 구성성분을 필요로 하며, 과거가 아니라 바로 현재에 인공의식을 가지고 있다는 것을 보일수 있어야 한다는 것이다. 이렇게 하기위해서 테스트 되는 기계는 실세계를 시뮬레이션 하기위해 예측할수 없는 환경속에 밀착하여 (coherently) 작동해야만 한다.

사고의 학파 (school of thought)

인공의식의 그럴듯함과 가능성 (plausibility and capability) 에 대한, 실제 의식이 될 가능성 (likelihood) 이 있는가에 대한 몇개의 흔히 언급되는 관점이 있다. Genuine 과 Not-genuine 라는 용어는 인공의식의 가능성 (capability) 이 아니라 진실 (reality, 실제 의식에 얼마나 근접할 것인가) 을 언급한 것이라는 사실에 주목하자. Genuine 인공의식을 믿는 사람들은 인공의식이 언젠가는 실제 (real) 할수 있다고 생각한다. Not-genuine 인공의식을 믿는 사람들은 결코 실제할수 없다고 생각한다. 예를들면 Genuine 인공의식을 믿는 일부 사람들은 자동온도조절장치 (thermostat) 가 실제로 의식을 가지고 있다고 말하지만 그러나 그들은 thermostat 이 음악을 감상 (appreciation of music) 할수 있다고 주장하지는 않는다. 한 인터뷰 에서 Chalmers 는 thermostat 는 의식을 가진 "매우 사변적인 (speculative)" 것이라고 주장하고, 그는 panpsychism (범심론) 에 강한 지지자는 아니라고 주장한다 (whither panpsychism, page 298, Chalmers (1996)  참조).

객관적인 덜 진짜같은 인공의식 (Objective less Genuine AC)

"less Genuine" 이라는 것은 "Genuine" 만큼 리얼하지는 않지만 "Not-genuine" 보다는 리얼한 것을 의미한다. "Genuine 인공의식" 의 다른 관점으로서, 인공의식 연구가 과학적 방법을 요구할 만큼 객관적이어야 한다는 요구 때문에 less genuine 인 것이다. Thomas Nagel 에 따르면 의식은 객관적으로 관찰될수 없는 주관적 경험을 포함한다. 그것이 어쨋든 인공의식을 제한하려는 의도는 아니다.

의식이 있는 인공의식 시스템이라면 능력있는 인간이 가진 것처럼 모든 알려진 객관적으로 관찰된 의식의 능력을 이론적으로 성취할수 있어야 한다. 비록 그것이 어떤 순간에 그런 능력을 모두 가질 필요는 없지만.... 따라서 인공의식은 객관적이고 항상 인공적이며, 우리가 그 주제에 대해 객관적으로 이해하는 것 만큼은 의식과 닮은 것이다. 이러한 모든 능력을 성취할수 있어야 한다는 요구 때문에 의식을 가진 컴퓨터는 strong AI 라고 생각되는 인공의식의 형태를 가지지만, 이것은 또한 strong AI 라는 것이 어떻게 정의되는 지에 달려있다.  

가짜 인공의식 (Not-genuine AC)

인공의식은 결코 진짜 의식이 될수 없을 것이며 단지 그 근사치일 뿐이다 ; 그것은 인간 (또는 느낌 (sentient) 을 가진 존재) 만이 진실로 경험하거나 분명하게 할수있는 어떤것을 흉내낼 뿐이다. 이것이 최근의 인공지능의 현주소이며 가짜 인공의식 가설을 주장했던 학자들이 항상 믿어왔던 것이다. 지금까지 어떠한 컴퓨터도 다소 모호하다고 할수있는 튜링테스트를 통과할수 없었다 ; 그 테스트는 "개성 (personality)" 을 가진 인공지능으로 가는 첫번째 단계라고 할만한 것으로서, Genuine AC 로 가는 한 통로일 것이다. 더욱 엄격한 관점으로 보자면, 인공지능같은 다른 분야의 주제가 인공의식의 주제가 되어서는 안된다. 따라서 인공감정 (artificial emotions) 같이, 그밖의 다른 분야로 분류될수 없는 학문만이 ""Not-genuine AC" 로 생각해 볼수 있다.

인간같은 진짜 인공의식 (Genuine AC) : 강 인공지능 (Strong AI)

허무주의적 관점 (Nihilistic view)

어떤것이 의식을 가졌는지를 테스트하는 것은 불가능하다. 온도계에게 음악을 감상하라고 요구하는 것은 인간에게 5차원에서 생각하라고 요구하는 것과 같다. 온도계가 음악을 이해하는 것이 엉뚱한 것과 같이 인간이 5차원에서 생각하는 것은 불필요하다. 의식이란 말은 어떤 것을 스스로 선택을 할때 나타나는, 너무 복잡해서 우리 마음이 이해할수 없는 어떤 것을 나타내는 용어이다. 어떤 물체가 의식이 있는것처럼 보이지만, 그것은 우리의 도덕성이 그것을 믿으라고 말해주기 때문이며, 다른 물체에 대한 우리의 느낌 때문이다. 의식은 환상이다.

다른 관점 (Alternative Views)

인간은 그 자신의 존재를 부정하는, 따라서 그 자신의 의식을 부정하는 것이 가능하다는 것이 또다른 관점이다. 어떤 기계가 Descartes 의 "나는 생각하다. 고로 존재한다" 라는 말을 설득력있게 토론한다면 그것은 기계의 의식을 가졌다고 인정하는 증거가 될것이다. 의식을 가진 기계라면 스스로 자신은 기계이기 때문에 의식을 가질수 없다고 까지 주장할수 있을 것이다. 의식은 항상 성공만하는 논리적인 능력을 의미하지는 않는다. 사전적 정의를 보면 의식은 "자각 (self-awareness) : 사고와 경험의 총체" 라고 되어있다. 의식의 풍부함 또는 완전함 (richness or completeness), 의식의 정도 (degree), 그외 많은 다른 주제들이 논의중에 있으며, 한동안은 (어쩌면 영원히) 논의 될것이다. 어떤 개체의 의식이 다른것 보다 덜 "진보적 (advanced)" 이라는 것이 각자가 그 자신의 의식이 풍부하고 완전하지 못하다고 하는 것은 아니다.

오늘날의 컴퓨터는 의식을 가진 것은 아니다. 명령어 wc -w (단어의 수를 text file 로 나타내는 명령어) 에 대한 Unix 컴퓨터의 반응은 특별하게 의식을 억지로 발현시킨것이 아니다. 그러나 명령어 top (실시간 작업중에 바쁜것과 상관없이 여분의 CPU power 를 얼마나 많이 이용가능한지를 나타내는 명령어) 에 대한 반응은 정의 (definition) 된 대로 매우 제한된 자각 (self-awareness, 따라서 의식) 이 발현된 것이다.

연구분야 로서의 인공의식

인공의식은 자연적인 의식의 메카니즘을 이해하기 위해 인공적으로 의식을 가진 시스템을 창조하고 연구하는 것을 목적으로 한다. "인공의식" 이란 용어를 처음 사용한 과학자 중의 한 사람인 런던의 Imperial College 의 Igor Aleksander 는 그의 저서 'Impossible Minds' 에서 "의식을 가진 기계를 만드는 원리는 이미 존재하지만 그 기계를 언어를 이해할 정도로 훈련시키려면 40 년은 걸릴것이라고 주장하였다. 어떤 언어를 이해한다는 것은 당신이 사용하고 있는 언어를 이해한다는 의미가 아니다. 개 (dog) 는 200 개의 단어를 이해할수 있지만 그렇게 할수있다는 것을 사람들에게 보여줄 (demonstrate) 수는 없다.

디지탈 느낌 (sentience) 이라는 것은 매우 어려운 (elusive) 목표였고 또한 모호하고 전혀 이해가 안되는 것이었다. 1950 년대 이후 컴퓨터과학자, 수학자, 철학자, 과학소설 저자 등등이 그 의미와 가능성에 대해 논쟁을 벌여왔고 디지탈 느낌을 구성하는 것은 무엇이 될것인가에 대한 의문을 가져왔다. 지금에 이르러서는 인간을 모델링한 아날로그 느낌 (analog holographic sentience) 가 더 성공적인 접근방식이 될것으로 보인다.

실제적 접근방식 (practical approaches)

인공의식 연구는 철학 영역을 뛰어넘었다 ; 기계에 의식을 부여하려는 몇가지 중요한 시도가 수행되고 있다. 그 시도중에서 2개를 아래에 소개한다 ; 다른 것들도 틀림없이 계속 뒤따를 것이다.

Franklin 의 Intelligent Distribution Agent (IDA)

Stan Franklin (1995, 2003) 은 자율에이전트 (autonomous agent) 를 기능적 의식 (functional consciousness) 를 소유한 것으로 정의하여 Bernard Baars 의 Global Workspace Theory (1988, 1997) 에서 구분한 대로 몇가지 의식의 기능을 수행한다고 하였다. 그가 발명한 IDA (Intelligent Distribution Agent) 은 GWT 를 소프트웨어로 구현한 것으로서, 용어에서 알수있듯이 기능적으로 의식을 만드는 것이다.

IDA 의 작업은 미 해군에서 의무항해를 끝낸 항해사에게 각자의 기술과 선호에 따라 해군의 요구사항을 매칭시켜서 새로운 작업의 할당을 협상하는 것이다. IDA 는 해군 데이타베이스와 연결되며 많은 해군정책들을 준수하면서 자연어 email 대화를 통해 항해사와 대화한다. IDA 컴퓨터 모델은 Stan Franklin 의 "Conscious" Software Research Group (University of Memphis) 에서 1996-2001 에 개발되었다.

IDA 는 약 25 만 라인 Java code 로 구성되어 있으며, 2001 high-end workstation 자원을 거의 완전히 소모한다. 그것은 codelets (분리된 thread 로 실행하는 작은 크기의 code 로 구현되었으며 특별한 목적의, 상대적으로 독립적인, 작은 에이전트) 에 전적으로 의존한다. IDA 의 하향식 구조에서는 높은 수준의 인지기능 (cognitive functions) 이 명확하게 모델링되었다 (Franklin (1995, 2003) 참고).

IDA 가 용어에서 알수있듯이 기능적으로 의식을 가진 반면에, Franklin 은 "스스로의 '의식을 가진' 소프트웨어 에이전트 IDA 가 많은 인간과 같은 행동에도 불구하고 자연적인 의식 (phenomenal consciousness) 에 공헌하지 못한다." 라고 말한다. IDA 가 작업을 수행하는 내부 외부 동작을 보고나서 몇몇 미 해군 전문가들이 '됐어 그것이 내가 하는 방법이야' 라고 말하면서 고개를 끄떡이는 것을 봤음에도 불구하고......

Haikonen 의 Cognitive Architecture

Pennti Haikonen (2003) 은 전통적인 rule-based computing 으로는 인공의식을 성취하기에는 부적당하다고 생각한다 : "두뇌는 확실히 컴퓨터는 아니다. 사고 (thinking) 는 프로그램된 명령어의 실행이 아니다. 두뇌는 또한 수치 계산기가 아니다. 인간은 숫자로 사고하지 않는다. 잠재적인 계산 규칙 (underlying computational rules) 을 식별하고 구현하여 마음과 의식을 성취하려고 노력하기 보다는, 지각, 내부영상 (inner imagery), 내부언어 (inner speech), 통증 (pain), 즐거움 (pleasure), 감정, 그리고 이것들의 배후에 있는 인지함수 (cognitive functions) 의 과정들을 재생하는 특별한 인지구조 (cognitive architecture) 를 사용해야 한다. 이러한 상향식 (bottom-up) 구조는, 알고리즘이나 프로그램이 없어도, 기본적인 처리단위인 인공 신경세포 (artificial neuron) 의 능력으로 높은 수준의 함수를 만들것이다". 충분한 복잡성 (sufficient complexity) 을 가지고 구현된다고 하면 의식을 개발할수 있을것이라고 Haikonen 은 믿는다. 그 복잡한 구조는 "distributed signal representation, perception process, cross-modality reporting, availability for retrospection 를 특징으로 하는 스타일과 동작방법" 이라고 생각된다.

의식의 과정에 대한 이러한 관점, 또는 적절하게 신경에서 보여주는 복잡성 (neuro-inspired architecture of complexity) 구조를 가진 자율에이전트 에서 인공의식이 점차로 출현한다 (emerge) 는 관점은 Haikonen 혼자만 가진것은 아니다 : 그러한 관점은 Freeman (1999) 과 Cotterill (2003) 등을 비롯한 많은 학자들이 주장하고 있다. Haikonen (2004) 이 제출한 낮은 복잡성 (low-complexity implementation of the architecture) 구조에서는 인공의식을 보일수 없었고, 기대한 만큼의 감정도 보여주지 못했다고 알려져 있다.

인공의식의 테스트

인공의식이 형식적으로 증명될수 없다면, 어떤 구현의 성공여부를 판단하는 것은 관찰 (observation) 에 달려있다.

튜링테스트 (Turing Test) 는 인간과 기계가 대화를 할수 있는지를 결정함으로써 기계지능을 확인하기 위해 제안된 것이다. 튜링테스트에서는 관찰자에게 대화하고 있는 대상이 기계인지 사람인지를 구분할것을 요구한다. 인공의식을 가진 존재라면 관찰자의 상상력을 뛰어넘어 대화하고 그들과 의미있는 관계를 형성하고 그들의 동료로서 상대할수 있을때 그 테스트를 통과할수 있을 것이다.

고양이나 개는 이 테스트를 통과할수 없을 것이다. 의식이라는 것이 인간만이 가진 특별한 성질이 아니라는 것은 확실하다. 아마 기계도 마찬가지로 의식이 있을수 있지만 튜링테스트를 통과할수는 없을 것이다.

위에서 언급한 대로, 중국어방 논변 (Chinese Room Argument) 은 어떤 기계가 그 테스트를 통과할수 있으나 아직 의식을 가진것은 아니라는 것을 보여줌으로써 (사실은 그 반대이다) 튜링테스트의 효용성을 평가절하 하려는 시도이다.

인간행동은 광범위한 범위를 가지며 그것들 모두가 의식적이라고 생각된다. 기계가 의식을 구현하는 지를 결정하기 위해서 모든 영역을 설계하기는 어렵다.

사실 이원론 (indirect preception) 을 주장하는 사람들에게는, 행동에 대한 어떤 테스트도 의식의 존재를 증명도 반증도 할수없다. 왜냐하면 의식을 가진 존재는 꿈을 가지고 있고 다른 양상의 내면 생활을 하기 때문이다. 이러한 점은 Thomas Nagal 같은 의식 경험의 주관적 성격을 강조하는 사람들에 의해 만들어 진 것으로서, 그는 What is it like to be a bat?  에서 "주관적인 경험은 환원될수 (reduced) 없다. 왜냐하면 주관적인 경험은 객관적으로 관찰될수 없지만 그것이 물리주의 (physicalism) 과 모순되지 않기 때문이다." 라고 주장한다.

객관적인 영역 (objective criteria) 이 기계의 의식을 테스트하는 전제조건으로 제안되고 있지만, 어떤 특별한 테스트의 실패가 의식을 반박하지는 못할것이다. 궁극적으로는 의식에 대해 일반적으로 받아들여지는 이해를 하고 나서야 그 바탕에서 기계가 의식을 가졌는지 여부를 추정하는것이 가능해 질것이다.

인공의식의 윤리

의식에 대한 진실한 물리적 이해가 없는 상황에서 연구원들은 그들이 왜 의식을 가진 기계를 만들기를 원하는지 조차 알지못한다. 어떤 특정 기계가 의식이 있다는 것이 확실해 진다면 그것은 아마 법률상의 권리가 주어질 것이며 노예로서 사용될수는 없을 것이다.  ............................ (Wikipedia : Artificial Consciousness)