Chinese Room Argument

 

30년 가까이 전개되어 온 인공지능에 대한 철학적 비판으로서 가장 괄목할 만한 것은, John R. Searle 이 '중국어 방' 이라는 사고실험에 의해 비판한 것이다. 썰에 의하면, 인공지능을 지배해 온 사상을, '강한 AI' 의 기본사상, 즉 '인간의 마음과 두뇌와의 관계가 컴퓨터의 프로그램과 하드웨어와의 관계와 같다' 는 생각은 근본적으로 잘못되었다는 것이다. 중국어 방 논변은 바로 그 주장이 거짓임을 논박하기 위해 마련된 것이며, 1980년대 이후로 인공지능의 본성과 그 범위나 한계의 문제를 논의할 때마다 이 논변은 자주 언급되었는데 그 줄거리는 다음과 같다.

썰이 이 중국어 방 사고실험을 통해서 보이고자 하는 것은 이렇게 요약된다. "당신이 형식적 컴퓨터 프로그램을 작동함으로써,밖에 있는 관찰자가 보기에, 마치 중국어를 정확하게 이해한 것처럼 기호처리를 잘하지만 실상 당신이 중국어를 한 자도 이해하지 못하고 있다는 점에서는 아무것도 달라진 것이 없다는 것이다. 그러므로 중국어 이해에 적절한 컴퓨터 프로그램의 수행이 당신에게 중국어를 이해시키는데 충분하지 못하다면, 그것은 다른 어떤 디지털 컴퓨터에게 중국어를 이해하도록 하는 데에도 충분하지 않다." 이 주장은 디지털 컴퓨터 프로그램이 아무리 발달한다고 해도 그것은 형식적 (formal, empirical (경험적) 의 반대의 의미) 이고 구문론적 (syntactic) 이므로 중국어를 이해하는, 즉, 의미론 (semantic) 을 포함하는 인간의 마음과 같이 될 수 없음을 함축한다. 따라서 강한 AI 는 잘못된 것이다.

썰의 중국어 방 논변은 50년대 이래로 인공지능 분야에서 지능을 판가름하는 기준으로서 널리 채용해 온 튜어링 검사 (Turing test) 에 대한 반증 논변으로 간주되어 왔다 ......... (이초식 1993)

가령 내가 어떤 방에 갇혀 있고, 중국어로 된 커다란 책이 한 권 주어졌다고 하자. 그리고 나는 중국어를 전혀 몰라서 읽을 수도 말할 수도 없다고 (실제로도 그렇지만) 하자. 심지어 나는 중국어로 쓰인 글이 중국어인지 일본어인지, 아니면 아무런 뜻도 없는 곡선인지조차 식별할 수 없다고 하자. 따라서 내게 중국어로 씌어진 글자는 단지 뜻없는 곡선들의 무더기에 불과한 것이다. 그러면 이번에는 한 발 더 나아가서, 이 첫 번째 중국어 책이 주어진 후, 다음 두 번째 책은 첫 번째 책과 두 번째 책의 상호 연관에 대한 규칙 집합과 함께 주어졌다고 하자. 그 규칙은 영어로 적혀 있기 때문에 나는 영어를 모국어로 삼는 다른 사람들과 같은 정도로 그 규칙을 이해할 수 있다. 그 규칙 덕분에 나는 한 집합의 형식 기호를 다른 형식 기호와 연관시킬 수 있게 되었다. 또한 여기에서 <형식> 이라는 말은 내가 기호를 그 형태에 의해 완전히 식별할 수 있다는 것을 의미한다. 이번에는 세 번째, 즉 중국어 기호로 씌어진 책과 영어로 씌어진 지시가 함께 주어졌다고 하자. 그 지시에 의거해 나는 세 번째 책의 여러 가지 요소를 앞의 두 책과 관련지을 수 있으며, 특정형식의 질문에 대해 특정 형식을 갖는 종류의 중국어 기호열에 의해 대답하는 방법을 알게 되었다고 하자. 나는 그 사실을 모르지만 내게 이러한 기호를 준 사람들은 최초의 책을 <스크립트 (script)>, 두 번째 책을 <스토리>, 그리고 세 번째 책을 <질문> 이라고 부른다. 게다가 그들은 세 번째 책에 대해 내가 대답할 때 사용하는 기호를 <질문에 대한 대답> 이라고 부른다. 그리고 그들이 내게 준 영어로 씌어진 규칙의 집합을 <프로그램> 이라고 부른다. 그러면 이야기를 조금 복잡하게 만들어보자. 그들이 내게 영어로 된 스토리를 주었다고 하자. 그리고 나는 그것을 이해할 수 있다. 그런 다음 그들이 내게 그 스토리에 대한 질문을 영어로 하고 나도 영어로 대답을 한다. 또한 얼마 후 내가 중국어 기호를 지시에 따라 처리하는 데 익숙해졌고, 프로그래머도 프로그램을 작성하는 데 익숙해져서 그 결과 외부의 관점에서, 즉 내가 갇혀 있는 방 바깥에 있는 누군가의 관점에서 볼 때 질문에 대한 나의 대답이 중국어가 모국어인 사람의 대답과 구별할 수 없을 정도가 되었다고 하자. 그렇게 되었을 때 내가 한 대답을 보고 내가 중국어를 한 마디도 할 수 없다고 주장할 수 있는 사람은 아무도 없을 것이다. 가정을 조금 더 진전시키면 영어 질문에 대한 나의 대답은 나 자신이 영어를 모국어로 사용한다는 단순한 이유 때문에 영어가 모국어인 다른 사람의 대답과 구별할 수 없을 것이다. 외적 관점, 즉 나의 <대답> 을 읽는 방 밖의 누군가의 관점에서 볼 때, 중국어 질문에 대한 대답과 영어 질문에 대한 대답은 똑같이 훌륭하다. 그러나 영어와는 달리 중국어의 경우 나는 내용을 전혀 이해하지 못하고 단순히 형식 기호를 처리함으로써 대답을 작성한다. 중국어에 관한 한 나는 그야말로 컴퓨터처럼 행동한 것이다. 나는 형식적으로 지정된 요소들에 대해 단순한 계산 처리를 한 것에 지나지 않는다. 중국어에 대해서 나는 단지 컴퓨터 프로그램을 실행한 것에 지나지 않는다.

나는 영어로 씌어진 스토리를 이해한다. 또한 영어만큼은 아니지만 나는 프랑스어로 씌어진 스토리도 이해할 수 있다. 그리고 그보다 더 못하지만 독일어 스토리도 이해할 수는 있다. 그러나 중국어로 된 스토리는 전혀 이해할 수 없다 .......... 컴퓨터의 이해는 (내가 독일어를 이해하는 경우처럼) 부분적이거나 불완전한 것도 아니다. 그것은 제로 (0) 이다. .............. (John R. Searle 1980)

term :

John R. Searle   언어학 (linguistics)   자연어처리 (Natural Language Processing)   이해 (Understanding)   중국어방 논변 (Chinese Room Argument)    문맥 (Context)    의미망 (Semantic Network)   인공지능 (Artificial Intelligence)    인공의식 (Artificial Consciousness)   강 인공지능 (Strong AI)   컴퓨터 (Computer)    마음 (Mind)    창발 (Emergence)    인공생명 (Artificial Life)    로봇 (Robot)   

site :

Wikipedia : Chinese room

Online papers : The Chinese Room : David Chalmers

paper :

Minds, Brains, and Programs : John Searle (★★★)

기호처리와 의미론적 비판 - 썰의 중국어방 논변

기호처리와 의미론적 AI 비판 - John Searl 의 중국어 방 논변 

중국어방 논변과 인공지능 (The Chinese Chamber Argument and the Artificial Intelligence) : 송하석, 한국분석철학회 철학적분석 2권 단일호, 2000 

 

chinese_rapaport

source : William J. Rapaport

video :

Chinese Room : 60-Second Adventures in Thought : 2011/10/03

 

Minds vs, Machines : The Turing Test and thhe Chinese Room : Edinburgh INTROPHIL : 2014/05/23

 

Searle's Chinese Room Argument Against Artificial Intelligence : 2014/10/27