카오스 이론의 특징

Chaos 이론의 특징

카오스 이론은 최근 20년 사이에 발전하기 시작한 학문 분야로, 상대성 이론, 양자역학과 함께 20세기 과학의 3대 혁명으로 일컬어지고 있다. 국내에도 일반 대중을 위한 책이 일부 번역되어 소개된 바 있다. '카오스(chaos)'는 '혼란'을 뜻하는 단어로, 어떤 계(系, system)가 일정한 법칙에 따라 변화하고 있음에도 불구하고 그 나타나는 양상이 매우 복잡하고 불규칙하여 미래의 상태를 예측할 수 없는 경우를 이른다. 예를 들어 하늘에 떠 있는 구름의 운동, 파도의 출렁임, 물에 떨어뜨린 잉크방울의 퍼짐 등과 같이 대부분의 자연현상이 카오스적인 특성을 보인다. 그러나 인간이 이러한 운동을 이해하기 시작한 것은 얼마 되지 않는데, 그 이유는 기존 학문의 주류를 이루고 있는 뉴턴역학으로는 이러한 현상들을 설명하기가 거의 불가능하기 때문이다.

뉴턴역학은 초기 조건이 정확하게 설정되면 그 결과를 예측할 수 있는 선형계(線形系)를 바탕으로 발전된 것이기 때문에 결정론적 세계관이 그 기본이다. 이러한 세계관에서는 주관과 객관의 분리가 당연한 것으로 받아들여졌고, 이 둘은 서로 영향을 미치지 않는 것으로 이해되었다. 그러다가 양자역학에서 주관과 객관은 분리가 불가능하며 실험자가 어떻게 의도하느냐에 따라 실험 결과가 바뀔 수도 있다고 하는 결론, 즉 실험 결과를 예측할 수 없다고 하는 결론에 의해 이러한 결정론적 세계관은 크게 흔들리게 되었다. 그 후 미시세계에서의 비예측성의 문제는 확률론으로 어느 정도 극복되었으나, 거시세계에서의 비예측성은 여전히 문제로 남아 있었다.

1960년대 초에 미국의 기상학자인 매사추세츠공과대학(MIT)의 로렌츠(Edward N.Lorenz)가 물을 데울 때 일어나는 난류에 대해 연구를 하면서, 난류에서 얻어진 신호를 3차원 위상공간에서 기하학적으로 재구성한 결과 나비모양의 로렌츠 attractor 를 발견하게 되었다. attractor의 가장 간단한 형태는 '점 attractor'인데, 이것의 예는 좌우로 흔들리는 추를 들 수 있다. 추가 왔다갔다하면서 나타내는 궤적을 그림으로 그려보면 한 점에 이르러 정지하게 된다. 처음 어느 위치에서 흔들림이 시작되더라도 종국에는 한 점에 끌려가듯이 점으로 귀결되어 멈추는 것으로 나타난다. 점을 기준으로 보면 점이 자신의 힘이 미치는 영역안에 있는 것들을 모두 자신에게 끌어당기는 것과 같은 것이다. 따라서 초기 값으로 어느 정도 다른 수치가 입력되더라도, 다시 말해 운동을 시작할 때의 초기 위치나 속도 등이 다르더라도 종국에는 attractor에 의해 끌려들어가면서 한 점에 고정되어 끝나거나 일정한 형태의 곡선을 따라 반복되면서 끝나는 것이다.

그런데 로렌츠가 발견한 attractor는 오른쪽 페이지의 그림처럼 나비모양의 이상한 형상을 하고 있어 '기묘한 attractor(strange attractor)'라고 불린다. 이러한 형용사가 붙은 이유는 그때까지 알려진 attractor와 다른 형상이면서 초기 값에 대해 매우 예민하게 변함으로 인해 생겨나는 불안정성이 내포되어 있기 때문이다. 대류현상을 해석하기 위해 세운 미분방정식이 초기 값에 민감하게 반응하기 때문에, 두 개의 초기 값이 서로 거의 차이가 없더라도 나중에는 그 미묘한 차이가 계속적인 반복과정을 거치면서 크게 증폭되어 서로 전혀 다른 결과를 얻게 되는 것을 로렌츠는 '나비 효과(butterfly effect)'라고 불렀다. 이 불안정성 때문에 계(系)의 운동은 초기 조건에 민감하게 영향을 받게 되며, 이것이 비예측성이 나타나게 되는 원인이다. 따라서 카오스는 결정론적인 뉴턴역학과 달리 매우 불규칙하고 예측이 불가능하며, 대표적인 비선형계(非線形系)에 해당한다. 자연계의 운동은 대부분이 비선형적이며, 생물체는 대표적인 비선형계이다.

그림의 오른쪽과 왼쪽의 나비 날개에 해당하는 부분은 물이 데워지면서 나타나는 대류현상의 두 가지 회전방향에 대응한다. 즉, 물의 흐름이 어지러운 듯이 보여도, attractor의 영향력이 작용하는 범위를 벗어나지 못하고 그 안에서 뱅뱅 돌 듯이 움직인다. 나비모양의 바깥에서 출발해도 종국에는 나비모양의 attractor에 끌려가서 헤어나지 못하는 것이다. 기묘한 attractor를 단면으로 잘라보면 비슷한 모양의 무수히 많은 기하학적 형상이 층을 이룬 형태로 나타난다. 이 반복되는 현상을 '프랙탈(fractal)'이라고 하는데, 이 말은 부서진다는 의미의 라틴어에서 따온 것으로 미국의 만델브로트(Benoit Mandelbrot)가 1975년에 처음 사용한 용어이다.

프랙탈구조의 예로는 나무, 혈관, 해안선, 산, 구름, 꽃, 눈송이 등으로, 자연계에 존재하는 것들이 대부분 이에 해당한다. 눈송이를 예로 든다면 먼저 삼각형을 그리고 이 삼각형의 세 변에 또다시 작은 삼각형을 그린 다음 이 작은 삼각형의 튀어나온 양변에 또 더 작은 삼각형을 그리는 작업을 반복하면 눈송이 모양이 그려진다. 프랙탈은 부분 이라고 할 수 있으며, 부분이 계속적으로 반복되어 전체를 구성한다고 볼 수 있다. 따라서 부분에는 전체의 모든 정보가 수록되어 있으며, 부분을 알면 전체를 알 수 있다.

전체를 구성하는 부분들이 한몸처럼 일사분란하게 움직이려면 부분들 간의 동기화(同期化, synchronization)가 필수적인데, 자연계에서는 이것이 공명(共鳴)을 통해 이루어지는 것으로 파악된다. 심장박동 세포, 정글의 반딧불, 뇌세포 등의 동기화를 예로 들 수 있다. 공명을 통해 부분들은 전체를 구성하는 조직공동체로서의 상호 존재를 인지하며 협동하는 것이다. 사람의 뇌는 수많은 뇌세포들이 연결된 대표적인 비선형체이다. 감각기관으로부터 신호가 오면 순간적으로 뇌에 있는 수백만 개의 뇌세포들이 상호작용하는 총체적 협동을 통해 인지작용이 일어나게 된다. 이 과정에서 신경세포들의 동기화가 일어나며, 그 과정은 카오스적이라는 것이 밝혀졌다. 반딧불 하나하나는 프랙탈에 해당하며, 반딧불의 집단은 이 프랙탈이 모여 이루어진 것이고, 이 집단이 움직이는 형태는 카오스적인 것으로서 어떤 범위 내에서, 즉 attractor가 작용하는 범위 내에서 결코 똑같이 되풀이되는 일 없이 반복적으로 움직이는 것이다.

현재로서는 부분들이 모여서 서로 어떻게 협력하여 전체로서 작동하는가에 대해 깊이있게 이해하지 못하고 있는 상황이지만, 홀로그램적으로 정보를 공동으로 인지하여 동기화가 되면서 움직이는 것이 아닌가 추정된다. 또한 생물의 감각기관 등과 같은 비선형계에서는 잡음이 있는 것이 오히려 약한 신호를 감지하는 데 유리하다는 사실이 보고되고 있다. 이것을 '확률적 공명'이라고 부르는데, 약한 주기적 신호가 환경적 요동과 맞물려 중복되면서 일어나는 현상으로 알려져 있다. 이것은 뒤에 설명될 미약에너지에 의한 부분들 간의 정보 수수 과정에서 세포간의 통신수단인 생체광자(生體光子, biophoton)가 어떻게 하여 증폭되는가에 대한 실마리를 제공하는 것일 수도 있다. 개(個)와 전(全)의 연결고리를 찾지 못한 채 따로따로 연구가 진행되어왔던 학문세계에 프랙탈과 카오스 이론이 등장하면서 비로소 우리는 전(全)과 개(個)를 연결짓는 메커니즘을 이해하기 시작했다. 자연을 구성하는 요소들 가운데 어느 하나 서로 영향을 미치지 않는 것이 없으므로, 우리는 하나의 공동운명체로서 함께 비선형적으로 공진(共振)하면서 사는 것이다.