복잡성 (Complexity)

과학사상24호(1998년-봄) : 양형진 (고려대 교수ㆍ물리학), 범양사 출판부, Page 142~147

근대과학의 패러다임은 결정론과 환원주의를 기반으로 하여 구축되었다고 생각된다. 결정론이란 세계 안에서 일어나는 모든 사건은 처음부터 변경될 수 없도록 결정되어 있으므로 동역학의 법칙에 따라 선택의 여지없이 필연적으로 전개되어 간다는 것이다. 이는 라플라스가 주장하였듯이 자연에 관계하는 모든 힘과 어떤 순간의 모든 상태를 알기만 한다면 불확실성 없이 우주에서 일어나는 과거와 미래의 모든 사건을 원칙적으로 계산할 수 있다는 것이다. 근대과학의 전반에 널리 퍼져 있는 결정론에 대한 이러한 신념은 과학이론이 자연의 상태에 대한 예측을 제시하여야 한다는 요구를 포함하므로 검증이라는 자연과학의 실증적 기반을 마련해 주기도 하였다. 환원주의는 원자론과 맥을 같이하는 것으로서 거시 세계를 미시 세계로 환원하고, 거시 세계의 운동을 그 구성 요소의 운동으로 환원하며, 모든 것을 간단한 근본 법칙으로 환원시킴으로써 가장 낮은 수준의 단계에서 세계에 대한 설명을 찾고 세계를 기술하고자 한다. 환원적 방법이 적용되는 수학에서의 예가 선형계를 다루는 선형방정식이다. 푸리에 급수에서 모든 주기 함수가 사인파와 코사인파로 분해되듯이, 선형 방정식 해는 기본 함수로 분해될 수 있으며 또 역으로 이 해는 기본함수의 합으로 재구성될 수 있다. 이처럼 선형성이 보장되기만 한다면 전체는 그 요소로 분해될 수 있고 또 역으로 그 요소의 합으로 전체가 손상되지 않고 온전하게 재구성될 수 있다. 현대과학의 자연에 대한 이해의 많은 부분은 선형성이 보장되거나 완전히 보장되지는 않아도 근사적으로 보장되는 경우에 국한되는 경우가 많다. 환원주의는 또한 현실 세계의 문제를 다룸에 있어서 문제를 단순화 내지 이상화시켜 그 해를 구함으로써 하나의 원인이 그 결과와 어떤 인과관계를 맺는지를 추적하는 노력과 연관된다.

근대과학의 방법론이 괄목할 만한 성공을 거두기는 하였지만, 세계는 결정론과 환원론만으로 설명할 수 있을 만큼 간단하지 않다는 점을 과학자들은 서서히 깨닫게 되었다. 그리고 대폭발 이후의 아무런 질서나 형태도 없던 혼돈으로부터 복잡성과 구조, 자기조직화가 나타났다는 것을 믿게 되었다. 이는 과거의 과학이 문제를 이상화시키면서 애써 외면해 왔던 귀찮은 영역에 관심을 돌리기 시작하였다는 것을 의미하는데, 이러한 문제를 해결하기 위한 것이 복잡성의 과학이다.

복잡성의 과학이 대상으로 하는 영역은 결정에서와 같이 완벽한 대칭성이 내포되어 있는 질서 정연한 계도 아니고 기체 분자에서와 같이 완벽하게 혼란스러워 통계 역학의 법칙이 효과적으로 적용될 수 있는 혼돈의 계도 아니다. 복잡성의 세계는 완벽한 질서와 완벽한 혼돈이라는 두 극단의 중간에 위치한 방대한 영역을 차지하며, 이런 까닭에 '혼돈의 가장자리'라고도 불린다. 이러한 영역에 대한 이해를 정량적으로 시도할 수 있게 된 것은 많은 경우 컴퓨터의 계산 용량이 비약적으로 향상되었기 때문이다. 현미경의 발달로 세포의 존재를 확인하고 산란 실험을 통하여 원자의 존재를 확인하였던 것이 환원주의 신념의 기반을 공고히 하여 주었듯이, 컴퓨터를 통한 계산 능력의 향상과 시늉내기 simulation 기법의 발달은 복잡성의 체계를 탐구하는 것을 가능하게 만들어 주었다. 여태껏 탐색되지 않았던 복잡성의 영역과 그 특징이 어떤 것인지를 몇 개의 예를 통하여 알아보도록 하자.

우선 어떤 계산이라도 무한한 정밀도를 가질 수는 없는데, 세계에 대한 계산이 임의의 정밀도까지 언제나 가능하다는 전제가 없다면 결정론은 그 근거를 잃게 된다. 이는 어느 경우에나 성립하지만, 특히 계의 행동을 설명하는 미분 방정식이 비선형적인 경우에는 처음 값의 작은 차이가 나중 값의 큰 차이를 일으키게 된다. 이는 조건만 맞으면 약간의 불확실성이 소멸되지 않고 계의 미래를 전혀 예측할 수 없는 불확실성으로 증폭시킨다는 것을 말하며, 이렇게 본질적으로 혼돈의 좋은 예가 되는 것은 소위 나비효과를 포함하는 기상 예측의 경우이다.

이는 프리고진이나 얀치가 말하는 비평형 상태와 자기조직화 self-organization 에 대한 논의와 연관된다. 열역학 제 2 법칙에 의하면 고립계의 평형 상태는 최대 엔트로피 상태여야 하므로, 최대 엔트로피가 아닌 상태의 고립계는 자발적으로 더 큰 엔트로피의 상태로 이동하여 마침내 평형 상태에 이르게 된다. 여기서 ' 자발적 '이란 외부와의 에너지 출입이 수반되므로, 에너지의 유입이 충분하기만 하면 부분 계의 엔트로피는 얼마든지 증가할 수 있다. 이는 평형 상태에서의 멀어짐이 열역학 제 2 법칙에 의하여 언제나 소멸되는 것이 아니라, 자기 촉매를 통한 양의 되먹임 feedback을 통하여 더 큰 것으로 증폭되면서 질서와 구조를 갖게 될 수 있다는 것을 의미한다.

무작위적이고 미세한 분자 운동이 대류 운동이라는 구조의 질서를 갖는다거나, 온순한 바람이 점점 그 강도를 더하면서 태풍으로 발전되는 것, 어린아이가 어른으로 자라는 것, 결정이 성장하는 것, 간단한 원시 생명체가 고도의 정보를 지닌 고등 생명체로 진화하는 등의 모든 것이 자기조직화의 예가 된다. 그리고 이는 자연계뿐 아니라 경제에서의 증시 폭등이나 폭락 등에도 연관된다. 물리학의 열역학적 평형 상태는 수요와 공급 곡선이 교차하는 점에서 가격이 결정되는 시장의 평형 상태에 대응하지만, 시장이 언제나 평형 상태에 있는 것도 아니고 주식 시장은 때로 폭등이나 폭락을 하며 때로는 어떤 회사가 시장을 독점하기도 하므로 시장 경제는 양의 되먹임이 살아 움직이는 계라고 생각할 수 있기 때문이다.

이러한 자기조직하는 계는 훨씬 간단한 계에서 출발하여 이보다 복잡하고 잘 조직되어 있는 계로 이행한다는 자기 초월의 특성을 갖는다. 이러한 논의는 특히 생명의 기원과 관련하여 아주 중요한 단서를 제공하는 것으로 보인다. 유기물에서 고분자 화합물을 거쳐 최초의 원시 생명체가 탄생할 수 있었다고 생명의 기원을 설명하지만, 각 단계에서 이전의 요소들이 마구잡이로 결함하여 다음 단계의 어떤 것을 형성해 냈다고 믿기에는 그 확률이 너무도 작다는 것을 인정하지 않을 수 없다 (그래서 임의적인 분자 결합을 주장하였던 모노는 이를 우연이라 하였다). 무작위적인 화학 반응을 통하여 생명이 탄생하였다면 이를 위한 평균 시간은 우주의 나이보다도 훨씬 더 길어야 한다. 하지만 하나의 고분자가 다른 고분자의 생성을 촉진시켜 연속적인 반응들을 유발시킨다면 결국 그 계는 활동적인 고분자와 촉매 반응에 의하여 지속되는 패턴으로 정착하게 되고, 이렇게 활성화 자체 촉매의 도움을 받아 생명 기원의 과정이 진행되었다면 생명 탄생의 기간은 훨씬 단축되었을 것이다.

이처럼 생명 탄생이나 진화는 이전 단계에서의 여러 요인들이 환경에 일방적으로 적응하면서 그저 단순하게 다음 단계로 전이하는 것이 아니라, 서로가 서로에게 의지하면서 역동적이고 개방적으로 진행되어 가는 끊임없는 과정이다. 이와 같이 자신이 환경에 적응하면서 또한 환경을 바꾸어 나가는 것을 진화 생물학자들은 공진화라고 부른다. 유기체는 이처럼 공진화의 관계 속에서 서로 협동하고 경쟁하면서 절묘하게 동적인 균형을 이루는 생태계를 만든다. 이러한 현상은 미시 세계에서 거시 세계에 걸쳐 일어난다. 원자는 화학 결합을 통하여 분자 구조를 발현시키고 인간은 교역을 통하여 시장이라는 구조를 발현시킨다.모든 부분들은 끊임없이 상호 작용하고 상호 적응하면서 자신들의 상태를 초월하여 진화한다. 열역학적 제 2 법칙이 제시하는 것처럼 보이지만 방향과는 달리, 멈추는 일없이 계속되는 진화는 이전보다 더 복잡하고 정교하며 더 구조화된 사물이 끊임없이 만들어진다.

이상에서의 논의의 맥락은 환원주의적 관점이 복잡한 계의 경우에 부족한 면을 드러내 준다는 것을 보여준다. 선형 계에서와 같은 전체 계를 요소들의 합으로 표현한다는 것은 요소들 사이의 상호 작용이 없는 경우에만 정당화될 수 있으므로, 자기조직화와 작용, 발현, 공진화의 과정을 거치면서 모든 요소가 서로 얽혀 상호 작용하는 복잡한 계의 경우에는 전체를 부분의 합으로 환원시키는 것이 불가능하다. 모든 것을 그 구성 요소로 분해하는 것은 가능할지 모르지만 요소의 합으로 전체를 재구성하는 것은 또 다른 문제이기 때문이다.

복잡한 계는 엄청나게 많은 요소들이 아주 밀접하게 상호 작용하면서 만들어 낸 것이다. 간단한 법칙에 의해 지배되는 단순한 입자들이 자발적으로 자신들을 조직하여 별, 은하, 눈송이, 산맥, 해안선 등의 예측 불가능한 성질을 지는 복잡한 구조를 만들어 가며, 하나의 개체는 진화의 과정을 통해 자신을 초월한다. 단백질과 지질, 핵산이 모여 무수한 화학 반응을 하면서 하나의 세포를 이루고, 수 십억 개의 신경 세포들이 상호 연결의 망을 구성하여 신경망과 뇌를 이루며, 무수한 사람이 모여 인간 사회를 이루면서 하나의 전체를 이룬다. 모든 경우에 이들 계의 요소 사이에는 밀접한 상호 작용이 매개되며, 이에 의하여 자기조직화를 이루고 적응, 발현하면서 구조를 형성하고 공진화의 과정을 거치면서 시간적으로 공간적으로 발전하여 간다. 우리의 우주는 거대한 시계 장치로 환원되어 오차없이 계획을 수행하는 라플라스의 우주가 아니라, 매 순간 창조되면서 계속하여 이룩되어 가는 우주인 것으로 보인다.

복잡성의 과학을 연구하는 사람들은 여기서 논의한 것 외에도 매우 광범위한 분야의 현상에 관심을 가진다. 구소련의 붕괴가 왜 그렇게 급작스럽게 이루어 졌는지, 오랜 기간 유지되어 왔던 고대의 생물종이나 생태계가 어떻게 아주 짧은 시간 동안에 멸종되거나 다른 것으로 변형되었는지, 뇌와 정신은 어떤 것이며 어떻게 발현하는지 등이다. 이러한 질문들을 처음 접하면 그들 사이에는 아무런 관련도 없는 것처럼 보이지만 그러한 질문들은 거로 많은 공통점을 가지고 있다는 것이 그들의 관점이다. 이러한 대상들은 정적인 대상과는 질적으로 구별되는 동역학적 측면을 지니고 있으며, 살아 움직이는 전체로서 적응하고 발현한다. 이처럼 상이해 보이는 계를 관통하는 공통점을 찾는다는 것은 그 계의 구성요서에 주목해서가 아니라 그 구성요소의 전체가 이루는 상관관계의 맥락에 주목하려는 것이며 구성 요소가 이루는 전체의 역학적 구조가 어떤 것인지에 주목하려는 것이다.

끝으로 복잡성과 관련하여 국내에 소개된 책으로는 《자기 조직하는 우주》(범양사 출판부, 신과학 충서 22), 《이성의 꿈》(신과학 총서 30),《우주의 청사진》(신과학 총서 38 , 《카오스에서 인공 생명으로》(신과학 총서 47) 등이 있다.

양형진 (고려대 교수 · 물리학)