신연결주의

 

학습심리학 : Winfred F. Hill 저, 이영애 역, 을유문화사, 1998 (원서 : Learning : A Survey of Psychological Interpretations, 5th ed, HarperCollins, 1990), page 279 ~ 291.  

 

컴퓨터 모형의 문제들

망조직 모형

     두 접근

     예 : NET 토크

     NET 토크는 그 일을 어떻게 하는가?

적용과 평가

 

앞 장에서 살펴본 문제 해결의 분석은 규칙에 기반을 둔 연속 행위를 포함하였다. 규칙들은 연산법이나 추단법 (heuristics) 일 수 있고, 지식 기반을 분명하게 활용하거나 그렇지 못할 수도 있으며, 사람이나 컴퓨터가 사용할 수 있다. 그러나, 어떤 경우이든, 그 규칙들은 합리적이고, 목표 지향적이며 합목적적이었다. 규칙들은 고도로 인지적이어서, 톨만과 피아제의 마음을 끌 것으로 예상되는 조작들이었다. 이 규칙들은, 어떤 다른 학습 이론들과 마찬가지로, 인지 접근에 큰 추진력을 주었다.

이것이 바로 컴퓨터가 작동했던 방식이었고, 학자들은 사람들도 이와 마찬가지 방식으로 작동한다고 기대하게 되었다. 오랫동안 많은 학자들은 인지 접근을 연결론주의자 해석의 과학적 체면을 손상시키는 다소 불명예스럽고 위험한 접근이라고 생각하였다. 이제 여기에 인지적 방법으로 '생각' 하고 행위하도록 프로그램되었지만, 근본적으로 연결론적 '유기체' 인 컴퓨터가 있다. 인지 접근에 공감하는 학자들이 이제는 컴퓨터 모형이 인간 사고의 유추물로 사용될 때가 도래하였음을 느끼고, 인지 혁명이라고 간주될 사건을 선도하게 된 것은 이해할 만하다.

컴퓨터 모형의 문제들

1980 년대쯤 되어, 의심이 생기기 시작하였다. 여러 출처가 이 의심의 진원지였다. 그 하나는 전문가가 규칙을 단순히 따른다고 해서 문제를 풀 수 없다는 발견이었다. 실상, 맹목적으로 규칙을 따르는 사람들은 초보자들이고, 전문가들은 경험 기반을 활용하여 문제 해결 경로를 자세히 분석하지 않고 어떤 행위를 선택하거나 배제하는 식으로 보다 직관적으로 해결한다. 전문가들은 원리로부터 어떤 행위를 추론하기보다는 자극에 대하여 학습된 반응을 하는 것 같았으며, 아마도 이 둘 중 어느 것도 아닐 수 있다.

의심의 두 번째 출처는 신경계를 고려해 볼 때 생긴다. 뉴런들은 트랜지스터보다 훨씬 느리게 작동하며, 사람들이 컴퓨터와 마찬가지로 한 단계씩 작동한다면 (아마 그들이 아무리 "효과적으로 생각한다" 고 말해도) 그들이 효과적으로 생각할 가능성은 점차 희박해질 것이다. 그러나 뇌의 뉴런들은 하나가 여러 개의 다른 뉴런들과 연결되어 복잡하게 조직되어 있으므로, 뇌는 다양한 여러 세트의 뉴런들이 각각의 복잡한 방식으로 동시에 한 문제를 붙들고 작업하게 하여 그 효율성을 높일 수 있다. 더욱이, 심리학자들과 생리학자들이 자세히 분석할 수 있을 정도로 간단한 동물 신경계를 연구하면서, 동물 신경계는 컴퓨터의 단일 중앙 처리 장치와 같지 않고, 오히려 망조직처럼 작용한다는 증거를 발견하였다. 아마도 컴퓨터의 하드웨어와 사람이나 동물의 '젖은 뇌 (wetware)' 간의 차이가 큰 차이를 만드는 듯하다.

학자들로 하여금 다른 견해를 갖도록 부추긴 제3의 요인은 컴퓨터 과학 그 자체에서 나왔다. 컴퓨터 과학자들은 좀더 강력한 기계를 고안하고자 끊임없이 노력한다. 제한된 공간에 집중될 수 있는 계산력은 컴퓨터가 처음 만들어진 이후 40 년 이상 온갖 기술적 변화 때문에 극적인 증가를 가져왔다. 진공 튜브로 만들어진 처음 컴퓨터를 첫 세대로 부르게 되었고, 트랜지스터로 된 것은 두 번째 세대로, 트랜지스터 칩을 가진 것은 세 번째 세대로, 그리고 축소판 칩으로 된 것은 네 번째 세대로 부른다. 다섯 번째 세대인 돌파구는 병렬 처리 (parallel processing) 를 포함하는데, 이 처리 과정에서는 한 체계의 여러 성분들이 한 문제의 여러 부분에 동시에 작용한다. 바로 이것이 인간의 뇌가 하는 일이라고 앞서 지적하였다. 한동안 사람들을 마치 컴퓨터인 양 분석하였으나, 이제는 사람들을 닮은 컴퓨터를 만들려 한다고 말해야 하겠다.

망조직 모형

이 세 흐름의 주장을 종합해 보면, 신경계는 상호 연결된 뉴런들의 망조직이며, 그 안에서 신경 흥분이 수없이 복잡한 고리를 통과하면서, 한 상황을 다루기 위해 함께 작용하는 것으로 분석되어야 한다. 이런 생각들이 전적으로 새롭다고 할 수 없지만, 앞서 언급된 흐름 때문에 주로 부추김을 받았다.

이러한 입장과 관련된 또 다른 입장이 제안되었다. 초기의 컴퓨터 지향적인 입장들은 주로 한 체계, 즉 인간, 동물, 또는 컴퓨터가 문제를 풀기 위해 어떻게 작용하는가에 초점을 두었다. 이 입장의 학자들은 그 체계가 그런 식으로 어떻게 작용하게 되었는지, 즉 학습 과정에는 관심이 없었다. 그러나 새 접근은 학습 과정을 가장 중요하게 여겼다. 각각의 접근이 전문가 체계 (expert system), 즉 전문가가 하는 일을 하도록 계획된 컴퓨터 프로그램 (예컨대, 전문의처럼 진단하거나 장기 고수처럼 장기 두거나)을 어떻게 구성하는 지에서 그 접근의 차이를 볼 수 있다. 과거의 접근은 전문가가 결정할 때 쓰는 규칙을 발견한 다음, 컴퓨터로 하여금 같은 규칙을 따르도록 프로그램을 짠다. 전문성은 이처럼 처음부터 프로그램으로 짜여진다. 새 접근은 프로그램으로 하여금, 작용하는 절차들은 그대로 두고 작용하지 않는 절차들을 빼버리면서,경험으로부터 학습하게 한다. 이 체계가 처음에는 매우 초보적일 수 있지만, 경험을 완벽하게 기억하므로, 무엇이 작용하고 무엇이 작용하지 않는지 곧 배울 수 있다. 경험에서 주먹구구식의 규칙을 만들어 나가겠지만, 규칙으로 프로그램되기보다 예들을 중심으로 배운다. 그래서, 어떤 점에서 이 체계가 상당히 인지적으로 조작되지만, 손다이크가 생각한 어떤 것과 여전히 유사하다.

이 새 견해는 최근에야 구체적인 접근으로 인정되었지만, 아직은 이론 또는 학파라고 불릴 만큼 충분히 기초를 닦아 놓지 못하였다. 이 접근의 가정을 신경계의 일반적 용어로 말하면 병렬 분산 처리 (parallel distributed processing) 이다. 이런 해석은 망조직 모델을 언급할 때 사용되며, 이 접근은 일반적으로 연결주의 (connectionism) 라고 한다.

이런 현대의 연결주의는 분명히 전통적 의미의 연결론과 관련되지만, 그 차이는 대단하다. 옛 연결론은 자극과 반응간의 연결을 언급하면서 비교적 간단하고 직접적인 연결을 가정했으나, 새 연결론은 망조직의 전반적인 상호 연결성을 언급해다. 망조직에서 일어난다고 가정되는 학습 과정은 헐이 가정한 것보다 더욱 복잡 미묘할 분만 아니라, 옛 연결론자들이 생각했던 그 어떤 이론보다 더 인지적이다. 따라서 이 새 연결론은 손다이크 또는 헐이 끌렸던 강화에 의한 학습과 구체적 연결을 강조하면서 또한 형태주의 심리학자가 끌렸던 전 체계의 체제화된 조작을 또한 강조한다.

두 접근

이러한 일반적인 틀에서 학자들은 상당히 다른 두 접근을 따랐다. 어떤 학자들은 간단한 유기체의 실제 신경계에 초점을 두었다. 그들은, 예컨대, 바다 달팽이의 각 뉴런이 조건 형성되기 위해 함께 어떻게 작용하는지를 분석한다. 이 접근의 장점은 살아 있는 뉴런을 가진 실제 유기체를 다루고 있다는 점이다. 그러나, 단점은 그들이 단순한 형태의 학습만을 드러내는 유기체를 연구하고 있다는 점이다. 만일 여러 사람들이 고등 심적 과정에 관해 어떤 재미있는 것을 말해 주기에 쥐조차도 너무 간단하다면, 바다 달팽이의 학습을 연구하는 방법에 관해서 어떻게 생각할지 짐작이 간다.

다른 접근은 더 복잡한 망조직을 연구한다. 그러나 인간을 직접 연구하는 것이 그다지 실용적이지 못함이 드러났다. 사람의 행동을 연구하고, 그들에게 질문을 하고, 그들의 인지적 매개 변수를 추론할 수 있지만, 그들의 신경계를 연구할 수 있는 기회는 제한되어 있다. 뇌손상자와 뇌수술을 받은 환자 연구로부터 그리고 뇌의 전기적 활동의 기록으로부터 인간의 뇌과정에 관해 많은 것들을 알 게 되었지만, 연구자들은 그들이 하등 동물에게 할 수 있는 그런 연구들을 사람들을 대상으로 철저히 하지 못한다. 부분적으로 그들은 인간 뇌의 엄청난 복잡성 때문에 한계를 갖는다. 전 세계의 인구보다 한 인간의 뇌에 더 많은 뉴런들이 있으며, 그 뉴런들 간의 연접의 전체 수는 상상하기가 어렵지만 약 1,000,000,000,000,000 개로 추정된다. 또 다른 중요한 한계는 순수한 연구의 목적으로 인간의 뇌를 실험하는 것이 윤리적으로 또 실제적으로 불가능하다는 점이다. 따라서 한 대안은 인간의 사고를 닮은 물리적 모형을 만들어서 그것을 연구하는 것이다.

연결주의 접근은 신경망의 주요 특징이 뉴런과 연접의 생화학이 아니라 신경망을 형성하는 연접 방식에 따른 뉴런의 상호 연결 패턴이라고 가정한다. 이러한 망조직의 성질을 명세하고, 그 가정에 따라 행동하는 장치를 만든 다음, 그 장치가 예상되는 '학습' (즉 그 출력이 예언대로 달라지는지) 을 보여 주는지를 확인할 수 있다. 여기서의 논리는 이론이나 모형을 만들고 검증하는 방식과 똑같다. 그 치이는 모형이 단순히 종이 위에 씌어진 것이 아니고, 구체적인 조작을 통해서 기능하는 물리적 모형이므로 예언된 방식으로 행동 변화를 보일 수도 있고 그렇지 않을 수도 있다. 로봇처럼, 그 모형은 이론 모형의 적합성을 기술적으로 검증한다.

만일 그 장치나 작동하는 모형이 사람이 하는 학습을 보여 준다면, 인간과 이들간에 많은 차이가 있지만, 인간의 뇌도 이 모형과 같은 형식 원리에 따라 조작된다는 생각을 확신하게 된다. 그러나, 아무도 이를 확신할 수 없다. 헐의 이론에서 주목하였듯이, 뇌와 컴퓨터 모형이 다른 과정에 의해 똑같은 결과를 낼 가능성이 항상 있다. 연결주의자 접근의 독특성은 그 논리가 아니고 그 모형의 구체적 가정이다.

이 모형들의 작용 원리는 전통적인 컴퓨터 모형을 개발한 사람들보다는 손다이크 또는 헐에게 더 친숙한 느낌을 준다. 우선, 전통적인 자극-반응 이론처럼, 모형들을 사람들이 구체적인 자극에 알맞은 반응을 하도록 하는 학습 과정에 관심을 가진다. 더욱이, 이런 학습이 발생하도록 만드는 조작은 다름이 아닌 강화 효과이다. 어떤 반응이 옳은지 가르쳐 주는 메커니즘이 이런 모형들에 포함되어 있다. 망조직에서 각각의 '연접' 을 횡단하는 흥분 경향은 어떠한 값이든 초기의 값에 의해 정해지며, 이 값은 나중에 '강화' 기제 때문에 변한다.

예 : NET 토크

그런 체계의 한 예로 NET 토크를 살펴보자. 존 홉킨스 대학의 세노우스키 (Terrence J. Sejnowski, 1947 출생) 와 그의 동료들 (Sejnowski & Rosenberg 1986 ; Heppenheimer, 1988) 이 개발한 이 체계는 소리내어 읽기를 학습하는 체계이다. 자극들은 글로 씌어진 구절들로서, 26개의 알파벳 철자와 그 틈으로 구성되어 있다. 반응은 사람의 말과 비슷한 소리인데, 국제 음성 알파벳 (International Phonetic Alphabet) 의 55 개 음소 (말소리) 로 구성되어 있다. 언어학자는 문어체 구절을 가장 잘 발음하기 위해 음소를 어떤 순서로 배열할 것인지를 결정한다. 이 발음은 '정확한' 반응이며, 바로 이것이 이 기계가 학습하려는 과제이다.

학습을 시작할 때, NET 토크의 모든 연결에 정확한 발음과는 아무런 관계없이, 무선적 값이 매겨진다. 그러므로, NET 토크가 처음에 만드는 소리는 문어체 구절과는 관계없는 횡설수설이며 보통 이해할 수 있는 말과는 매우 다르다. 이런 노력이 매번 이루어진 후에, NET 토크의 몇몇 연결이 강화되고 다른 연결들은 약화되면서 씌어진 구절을 정확하게 읽는 것과 비슷하게 바뀌어진다. 구절을 여러 번 '읽은' 후  그 프로그램은 알아듣기는 어렵지만, 정말로 말하는 것 같은 소리를 내기 시작한다. 이런 방향으로 나아가는 첫 단계는 구절의 틈이 단어들을 나누는 침묵 기간임을 기계가 학습하는 것이다. 일단 그것을 학습하면, NET 토크의 말은 횡설수설이라기보다는 외국어와 같은 소리를 낸다.

그 다음 출력은 실제로 씌어진 구절과 더욱 유사한 소리를 내기 시작한다. 첫째로, NET 토크는 어떤 글자가 모음 소리와 일치하고 어떤 글자가 자음 소리와 일치하는지를 구분한다. 다음에 NET 토크는 개개 글자들의 소리에 관해 더 많이 배운다. 결국, 몇 시간이 지나면, 컴퓨터는 그 구절을 잘 이해하면서 읽게 된다. NET 토크의 이러한 성공은 대부분의 다른 컴퓨터 프로그램처럼 이미 프로그램이 된 규칙을 따르기보다는 시행, 오류 및 수정을 통해 규칙을 스스로 만들고 글자와 소리의 연결 강도를 바꾸어 가능하게 된다.

NET 토크가 이런 성공을 거두었을 때, 이 체계는 영어 알파벳 26자 각각을 국제 음성 알파벳의 하나 또는 그 이상의 음소와 단순히 연결하였겠는가? 그렇지 않다. 사람들은 영어 철자가 이 일을 하기에 상당히 불규칙적임을 잘 알고 있다. NET 토크는 소위 영어 철자법을 배워 c 가 어떤 자음앞에 오면 k 처럼 발음되고 그것이 다른 자음 뒤에 오면 s 처럼 발음된다는 것을 알았겠는가? NET 토크는 상당한 정도로 그것을 학습했지만, 이런 관례적인 규칙은 모두 복잡하고 불완전하다. 더욱이, NET 토크의 반응은 어떤 기술 가능한 규칙과 일치하든 안 하든, 새롭게 씌어진 구절을 만나면 계속 어느 정도 변한다. NET 토크는 단순히 어떤 일이든 학습하는가? 그렇기는 하지만, 그것도 그렇게 간단하지 않으며, 그 결과는 정도의 차이는 있지만 여러 익숙한 규칙과 잘 맞을 수 있고 아직까지 그 누구도 규칙이라고 감히 말하려고 하지 않았던 다른 규칙성까지도 잘 보여 준다.

NET 토크는 그 일을 어떻게 하는가?

말할 필요도 없이, 그런 학습을 보여 주는 기계를 만들기는 쉽지 않다. 1950 년대 후반과 1960 년대에 그런 기계를 만들려 했으나 성공하지 못하였으며, 실패가 너무 커서 모든 노력이 10 년간 방치된 상태였다.그러나 1980 년대에 이런 노력이 다시 시작되어, NET 토크가 입증하였듯이 어느 정도의 성공을 거둘 수 있었다.

성공을 가능하게 했던 한 요인은 자극 요소들 (NET 토크에서는 인쇄된 글자들) 이 반응 요소들(말소리)과 직접 연결되지 않았다는 점이다. 그 대신에, 자극 요소들은 한 세트의 '숨겨진 단위들' 과 결합되어 있으며, 이것이 나중에 반응 요소들과 연결되도록 되어 있다. 각각의 숨겨진 단위는 모든 자극과 반응에 연결되어 있다. 기계의 이 단위들 하나하나는 자극을 받았을 때 흥분하거나 또는 흥분하지 않으면서 마치 뇌의 뉴런처럼 작용한다.

NET 토크가 어떤 글자를 읽으면, 그 글자는 그것과 연결된 숨겨진 단위 각각을 흥분시키기도 하고 흥분시키지 않기도 한다. 그 결과, 각각의 숨겨진 단위는 상이한 글자들을 포함하고 있는 여러 연결들을 통해 몇 가지 '신경 메시지' 를 받는다. 이렇게 받은 자극은 숨겨진 단위를 흥분시키는데 충분할 수도 있고 그렇지 못할 수도 있다. 만일 숨겨진 단위가 정말 흥분하면, 그 단위는 몇몇의 반응 단위들(상이한 소리) 에게 메시지를 보낸다. 가장 강한 메시지를 받은 반응 단위는 흥분하는 단위이며, 바로 그 말소리를 만들고 있다.

한 단위와 다른 단위의 연결은 실제로 신경계내의 뉴런 간의 연접에 비교할 만하다.이러한 연결 각각은 어떤 무게를 가지는데,그 무게는 신경흥분 강도이다. 어떤 한 자극으로부터 주어진 숨겨진 단위까지의 연결이 큰 무게를 가지면, 그 연결은 강하게 흥분되지만,그 연결이 작은 무게를 가지면, 그 연결은 단지 약하게 흥분한다. 한 숨겨진 단위의 흥분 여부는 흥분되고 있는 모든 연결의 합친 무게가 그것을 흥분시킬 정도로 충분한지에 달려 있다.

이와 같은 계획이 숨겨진 단위와 반응의 연결에도 적용된다. 한 숨겨진 단위가 흥분할 때, 여러 반응과 연결된 각각의 숨겨진 단위는 그 연결의 무게에 따라 어떤 강도로 흥분한다. 한 반응을 자극하는 모든 연결 무게의 합은 그 반응의 활성화 강도를 정한다. 어떤 반응이든 가장 강하게 활성화된 반응이 소리로 산출된다.

NET토크가 매번 소리를 내고 그것이 옳은지 틀린지를 알 때마다, 여러 연결들의 무게가 변한다. 학습을 가능하게 하는 것은 바로 이러한 변화이다. 그러나, 옳은 반응을 내는 모든 연결들이 단순히 강해지는 것은 아니다. 그 대신에, 그 체계 전반에 걸쳐서, 그 체계내에 구축된 학습 규칙에 따라, 어떤 연결들의 무게는 증가하고 어떤 연결들의 무게는 감소한다. 학습은 따라서, 단일 연결이 아니고, 전체 체계의 특성을 가진다.

NET 토크를 도와 주는 또 다른 요인은 그것이 단순히 글자 하나하나를 읽지 않는다는 것이다. 그 대신에, 실제의 자극은 글로 씌어진 구절에서 앞의 세 글자와 뒤의 세 글자 맥락에서 제시된다. 이 체계의 이러한 특징 때문에 NET 토크는 앞에서 언급되었듯이 e 전의 c 발음과 o 전의 c 발음 간의 차이와 같은 복잡성을 잘 다룬다. NET 토크는 ough 와 같은 특수한 발음을 갖고 있는 영어 철자의 특수성을 잘 다룬다.

적용과 평가

이런 새 연결주의자 모형은 확실히 자극-반응 연결론과 매우 닮았다. 그러나, 이것은 이 새 이론들이 옛 이론들과 매우 유사함을 뜻하지 않는다. 어떤 자극을 어떤 반응과 직접 연결시키는 습관보다는 연결주의자 모형들은, 입력 및 출력 단위는 물론 이를 연결하는 숨겨진 단위들을 포함하는, 전체적으로 상호 연결된 망조직을 명세한다. 더욱이, 강화받는 몇몇의 상이한 통로가 있는 것이 아니고, 강화는 많은 병렬적 연결의 무게들을 변화시켜 상호 연결된 망조직의 전반적인 흐름의 패턴을 변화시킨다. 이런 면에서, 새 연결주의자 모형은 고전적 형태주의자들이 생각했던 것과 비슷하다. 이처럼, 헐 이론의 두 특징인 강화에 의한 학습과 매개 변수의 사용 (숨겨진 단위) 이 베르트하이머, 쾰러, 그리고 코프타의 마음에 들었을 법한 전 체계를 초래한다고 말할 수 있다.

새 연결주의자 모형을 가장 잘 적용한 예는 지각에서 찾을 수 있다. 컴퓨터가 많은 문제들을 사람들보다 더 빨리 정확하게 풀 수 있지만, 복잡한 패턴을 잘 다루지 못한다. 대부분의 사람들이 장기를 두거나 수리 함수를 평가할 때는 컴퓨터보다 못하지만, 개개의 얼굴을 재인하는 능력은 컴퓨터보다 훨씬 앞서 있다. 사람들은 어떤 대상이 다른 물체들로 둘러싸여 있거나 부분적으로 숨겨져 있어도 컴퓨터보다 훨씬 더 정확하게 그 물체를 알아본다. 이 사실은 컴퓨터를 사용하여 전쟁터에서 다른 큰 물체들은 배제하고 탱크만을 명중시키는 '머리 좋은 미사일'을 설계하기 힘들 게 만든다.

관례적으로 컴퓨터 전문가들이 보기에, 패턴 재인에서 컴퓨터의 빈약한 수행은 당혹스럽다. 그러나 신연결주의자들은 이 사실을 곧 자신들의 접근이 필요하다는 신호로 생각한다. 분산된 망조직에서 자연스럽게 발달하는 패턴의 분류는 지각 패턴을 분석하는 데 안성맞춤이다. 연구 문제가 물체의 회전과 관계없이 그것을 어떻게 재인하는지, 큰 그림에서 숨겨진 그림은 어떻게 발견하는지, 또는 한 얼굴을 다른 얼굴과 어떻게 구분하는지를 가리지 않고, 연결주의자들은 열성적으로 자기들의 방법론을 적용하였다.

이 목적을 달성하는 연결주의자의 기계를 보통의 프로그램보다 더 효과적으로 만드는 것은 그 기계가 요소들의 패턴화에 작용하기 때문이다. 많은 사람들이 고통스러운 경험으로부터 잘 알고 있듯이, 컴퓨터는 너무나 고지식하다. 단어의 철자가 틀리거나 쉼표의 위치가 틀리면 컴퓨터는 곤란해 한다. 이것은 어떤 사람의 얼굴 그림을 컴퓨터의 형판에 맞추기 위해, 이 둘 간에 점 대 점의 정확한 일치가 있어야 함을 뜻한다. 사람들이 거의 주목하지 못하는 작은 차이가 컴퓨터로 하여금 그 둘이 똑같음을 탐지하지 못하게 한다. 컴퓨터는 이런 문제를 우회해서 푸는 방안을 가지고 있지만, 두 얼굴이 공통적으로 가지고 있는 특징 (긴 코, 간격이 좁은 눈 등등) 의 수를 셀 정도로 고지식한 방법을 여전히 쓰고 있다. 그러나 연결주의자의 망조직은, 점 대 점의 일치가 없어도,사람들이 하듯이 두 얼굴 간의 패턴의 전체 유사성에 반응할 수 있다. 여기서 또 다시 모든 고전 학습론자들중 이 새 접근에 가장 동조하는 사람들이 바로 형태주의 학자들인 이유를 알 수 있다.

연결주의자의 망조직 모형은 학습 연구의 한 접근으로서 모델링 기법을 상당히 많이 쓰고 있다. NET 토크와 같은 모형은 학습 이론이기보다 어떤 유형의 학습이 발생할 수 있음을 어떤 구체적인 방식으로 예시하는 모형이다. 일반 이론은 다름이 아니라 여러 분산된 연결을 가진 망조직에서 연결의 강도가 변해서 학습이 일어난다는 것이다. 구체적 모형은 그런 학습이 어떤 유기체 또는 어떤 상황에서 어떻게 발생하는지를 반드시 의미하지 않고, 어떻게 그런 학습이 발생하는지를 예시하는 한 예에 지나지 않는다. 모형 그 자체는 입력 (자극) 의 성질에 따라 그리고 출력의 성공 (강화에 일치하는) 에 따라 연결의 무게를 어떻게 변화시킬 것인가에 관한 규칙 세트에 지나지 않는다. 만일 이런 규칙들을 따른 결과 실제 유기체에서 실제의 학습을 닮은 변화가 발생한다면, 이것은 첫째 그 모형이 어떤 상황에서 학습이 어떻게 발생하는지를 정확히 표시하며, 둘째, 이런 전반적인 접근이 유용함을 시사한다.

현재 이 모형들은 아직도 발달의 초기 단계에 있다. 이 모형들의 지지자들은 적어도 두 가지 가치를 이 모형들에서 찾고 있다. 그 하나는 실용적이라는 점이다. 연결주의자의 망조직으로 학습하도록 설계된 기계는 궁극적으로 전문가 체계가 될 잠재력을 가진다. 사람들이 만든 전문가 체계가 그 기계 안에 내장된 지식보다 더 나을 수가 없는 데 비해, 자기 교수 체계 (self-teaching system) 는 기존 지식을 능가하여, 경험에 의해 학습하고, 또 어떤 방식으로도 생성된 어떠한 체계보다 전문가가 될 잠재력을 더 많이 가진다. 컴퓨터화된 문제 해결에 대하여 이 모형들의 함의는 대단하다.

이 접근의 다른 잠재적 가치는 학습이 사람 그리고 다른 유기체들에게서 어떻게 일어나는지를 발견하는 데 있다. 이 모형들은 생화화적 수준에서 학습이 어떻게 발생하는지 말해 주지 않으며, 연결주의자 기계들도 생체들의 세포들로 만들어지지 않는다. 그러나, 이 모형들은 실제의 뇌에서 뉴런들이 학습하려고 함계 어떻게 작용하는지를 보여 준다. 연결주의자 모형의지지자들은 실제의 신경계가 작용할 수 있는 모든 방법 중에서, 이 모형들은 그들이 실제로 어떻게 작용하는지에 관해 가장 그럴듯한 추측을 나타낸다고 말한다.

이 새 접근을 비평하는 사람들은 다소 회의적이다. 모형들은 아직도 초보적인 발달 단계에 있다. 그들 중 어느 것도 아직 경쟁이 될 만한 모형, 즉 컴퓨터 프로그램 제작자들이 제공한 정보를 논리적으로 추론하도록 계획된 컴퓨터 프로그램만큼 훌륭하게 일을 해내지 못했다. 여러 이유에서 연결주의자 모형들은 아마 이 일을 결코 해낼 수 없을 지 모른다. 현재 그들은 높은 희망을 걸고 흥미있는 새 접근을 제시하므로, 연결주의자와 인지적 접근의 가장 좋은 점들을 조합할 가능성이 그 어느 때 보다 크다. 이런 희망이 어느 정도 실현될 것인지 두고 보아야 할 것이다.