로버트 사폴스키의 『Determined』 를 읽었다. 자유의지의 존재에 대한 의문을 던지는 헤드라인을 보았을때 내 생각과 비슷해보여서 덜컥 집어들었다.
자유의지란 무엇일까. 그것을 생각해보기전 기저를 이루고 있는 세상에 대해 생각해본다 우리 세계는 인과로 이루어져있다. 어떤 사건,현상이 발생했다면 그것을 일으킨 원인이 있을 것이고, 그 원인에도 또 다른 원인이 있을 것이다. 그 인과관계들을 끝없이 거슬러 올라간다면 어디로 수렴할까?
틱으로 나뉜
여기서 한 가지 가능성을 상상해본다. 우리가 양자역학에서 확률적으로 기술하는 현상조차, 그 기저에는 아직 알지 못하는 더 근본적인 상태와 인과관계가 존재할 수 있지 않을까? 우리가 관찰하는 확률은 세계 자체의 근본적인 무작위성이 아니라, 그 세계의 일부인 우리가 기저의 상태를 온전히 알지 못하기 때문에 나타나는 것일 수도 있다.
그러한 세계를 가정하고, 우리가 존재하는 이 세계를 게임 속처럼 아주 작은 시간 단위인 틱으로 나누어 생각해본다. 다음 틱은 현재의 틱의 상태로 부터 전이된다. 이전 틱이 없었으면 다음 틱도 없었을 것이다.
물론 실제 우주가 이런 이산적인 틱으로 이루어져 있다는 과학적 주장은 아니다. 다만 인과를 이해하는 과정에서는 유효한 비유라고 생각한다. 그 틱을 거슬러 올라가면 최초의 빅뱅 시점으로 수렴할 것이라고 가정해보자. 모든 변수와 이 상태머신의 전이 규칙이 주어진다면 다음 틱도 하나로 정해질 것이다. 여기서 말하는 것은 우리가 미래를 실제로 계산해낼 수 있다는 뜻이 아니라, 이론적으로 다음 상태가 정해져 있다는 뜻이다. 그다음 틱도 같은 방식으로 이어질 것이고 미래라고 불리는 것들은 이미 연쇄적으로 다 정해져있다고도 볼 수 있다. 이러한 기저의 상태와 전이가 결정론적이라면, 우리가 관찰하는 세계가 아무리 확률적으로 보이더라도 그 미래는 존재론적인 수준에서 이미 결정되어 있다고 볼 수 있다.
인간도 특별한 것이 아닌 그저 우주의 현상이니 이 세상의 규칙을 거스를 수는 없다.
우리는 어떤 인과로 이뤄져있을까? 단순한 우리 객체로만 보면 현재 우리를 이루는 것은 태어날때부터 주어진 생물학적 조건과, 성장하며 겪는 경험, 학습 과 사회화 그리고 그과정에서 변화해온 신경세포들의 연결까지 모두 이전 상태로 부터 이어져온 인과관계의 일부이다.
의식이라는 블랙박스
그렇다면 인간의 의식은 무엇일까?
우리는 의식이 고귀하고 특별한 무언가로 생각하곤 한다. 어쩌면 그 구체적인 기작과 동작을 아직 충분히 이해하지 못했기 때문에 마법 처럼 보이는 것일 수도 있겠다.
생물학적, 화학적 수준에서 바라보면 뇌는 수많은 신경세포가 복잡하게 연결된 하나의 거대한 생체 신경망이다. 경험과 자극은 신경세포의 가중치와 동작 방식을 점진적으로 변화시키고, 그 변화는 다시 우리의 다음 행동,생각에 영향을 준다. 물론 단순히 인공신경망의 가중치와 동일하게 볼 순 없겠지만, 학습 결과가 물리적인 구조와 상태에 반영된다는 점에서 비슷한 부분이 있다.
우리는 이러한 시스템의 출력을 의식적인 선택으로 경험한다. 하지만 아직까진 그 선택이 만들어지기까지의 모든 연산을 의식적으로 관찰 할 수는 없다. 어쩌면 자유의지는 그 블랙박스속에 있다고 믿는 것 아닐까?
스피노자는 『에티카』 제1부 부록에서, 사람들이 자신의 욕망은 의식하면서도 그 욕망을 결정한 원인은 모르기 때문에 스스로를 자유롭다고 여긴다고 설명한다.[1] 다만 불투명성은 설명의 일부일 뿐. 그 불투명성이 자유의지를 설명하진 못한다. 자유의지라는 감각에는 다른 팩터가 더 필요하다. 사고실험을 하나 해보자.
복제된 나
동일한 구조와 상태를 가진 오토마타(automata)가 수백 대 있다고 가정해보자. 동일한 환경에서 동일한 입력을 받는다면, 이들은 모두 동일한 출력을 낼것이다. 몇번을 반복하더라도 결과는 같을 것이다.
그 오토마타를 인간으로 치환해보자. 이번에는 우주 자체가 완전히 동일한 상태로 복제되어 있다고 가정해본다. 단순히 관측 가능한 환경이나 양자 상태만 같은 것이 아니라, 우리가 아직 알지 못하는 기저의 존재론적 상태까지 모두 동일하다. 그 상태에서 동일한 인과적 규칙이 작동한다면, 각 우주의 인간들이 만들어내는 행동과 생각 역시 같을 것이다.
그렇다면 그 오토마타들, 혹은 그 인간들은 자유의지를 가지고 행동한다고 할 수 있을까? 물론 결정하는 행위 자체를 자유의지라고 본다면 그렇다고 할 수 있을 것이다. 하지만 모두 동일한 생각과 행동을 보인다면, 그 선택에서 ‘나’만의 의지는 어디에 있는 걸까?
자유의지는 나에게서 비롯되는 것인데, 그 환경에서는 ‘나’를 다른 개체와 구별할 수 있는 요소가 전무하다. 그럼 거기서 ‘나’는 어떤 의미를 지니는가?
그런 환경에서는 자유의지를 논하는 것이 의미가 있을지 모르겠다. 모두가 동일한 결과를 내뱉으니 고유성이 없다. 여기서 나의 의지가 곧 타인의 의지다. 그 행동은 내가 한 것이 아니라 그 종류가 한 것이다. 그렇다면 자유의지는 고유성에 대한 인지가 수반되어야 존재 할 수 있는 것일까?
이번에는 이 오토마타들이 서로 다른 환경에서 오랜시간 자극에 반응하고 학습하고 변화한다고 가정해보자. 각자가 마주한 자극과 경험이 다르니 내부상태도 점차 달라질 것이다. 그렇게 수많은 틱을 지나온 뒤에는 동일한 입력에도 서로다른 출력을 내는 시스템이 될 것이다.
여기서 중요한 것은 이 차이가 비결정론적으로 만들어진 것이 아니라는점이다. 서로 다른 환경에 놓이게된 이유도, 그 환경에서 어떤 경험을 했는지도, 그 결과 내부 구조가 어떻게 변화했는지조차 이전 틱의 인과관계로 거슬러 올라 갈 수 있다. 고유성 자체가 결정론적인 결과인것이다.
우리가 현실에서 관찰 하는 것은 각기 다른 출력을 만들어내는 개체들이다. 그러나 그 개체들이 어떤 인과적 역사를 거쳐 지금의 상태가 되었는지까지는 알기는 어렵다. 너무나 복잡하고, 서로다른 결과들이 나타나기에 우리는 그것을 각자 독립적인 선택으로 받아 들이는 것아닐까?
개체들의 출력은 관찰자들에게 확률적으로 다양한 분포처럼 나타낼 수 있다. 하지만 그것이 각각의 출력이 아무런 원인없이 선택되었다는 뜻은 아니다.
물론 고유성이 자유의지라는 이야기는 아니다. 고유한 결과가 나타난다 해서 반드시 자유롭게 행동한다고 인식하는 것도 아니다. 그저 우리가 자유의지라고 느끼는 현상의 일부가, 이렇게 결정론적으로 만들어진 고유성과 그차이를 인식하는 과정에서 비롯되는 것은 아닐까 하는 생각이다.
고유성은 어떤 개체가 혼자 가지고 있는 성질이 아니라, 다른 개체와의 차이, 델타다. 복제본이 완전히 같으면 델타는 0이고, 역사가 갈라질수록 델타는 커진다. 현실에는 완전히 동일한 역사를 가진 두 사람이 없으니 델타가 0인 경우는 없다. 복제 실험은 델타가 0으로 수렴하면 어떻게 되는지를 보여주는 극한 사례일 뿐이다.
‘나’를 타인과의 관계 속에서 이해한다는 점에서는 헤겔(G. W. F. Hegel)의 인정(Anerkennung) 논의도 떠오른다. 헤겔은 자기의식을 다른 자기의식에게 인정받는 관계 속에서 설명한다.[2] 내가 여기서 말하는 개체 간 차이와 같은 개념은 아니지만, ‘나’를 고립된 개체만으로 설명하기 어렵다는 점에서 연결해볼 수 있겠다.
자유의 조건은 결정론에 맞서는 것이 아니라 결정론의 산물이다.
자유라는 말
그렇다면 애초에 여기서의 자유라는 것은 무엇일까? 완벽한 무작위성일까? 하지만 무작위로 발생한 결과가 어째서 자유로운 선택이 되는 것일까? 원인으로부터 독립적인 선택을 자유라고 정의한다면, 결정론적 세계에서는 성립하기 어려운 개념이다. (그건 세계의 규칙으로 설명할 수없는 마법과도 같은게 되기때문이다!) 반면 자신의 판단과 의도에 따라 행동하는 것을 자유라고 정의한다면, 그 의도 역시 인과적 결과라는 사실과 반드시 모순되지는 않는다.
결국 우리가 자유라고 부르는 것이 정확히 무엇인지부터 어려워진다. 모든것은 사실 결정되어있고 우리는 그길을 걷는 것뿐이라는 사실을 안다면 우리가 자유롭다고 판단할 수있을까?
물론 세계의 미래가 결정되어 있다는 것과 우리가 그 미래를 계산할 수 있다는 것은 별개의 문제다. 우리 자신도 그 거대한 상태머신의 일부이기에 세계의 모든 기저 상태를 외부에서 관찰하는 메타적인 존재가 아니다. 우리가 관찰하고 이해할 수 있는 것은 언제나 제한적이며, 그 안에서 미래는 여전히 확률적으로 기술될 수 있다. 그렇다고 그 확률이 반드시 세계의 근본적인 비결정성을 의미하는 것은 아닐 것이다.
그렇다면 왜 인간은 자유의지가 있다고 믿고 싶어하는 걸까? 자유의지를 정의하는 것 조차 쉽지 않은데, 우리는 왜 그것이 자신의 일부이기를 바라는 것일까?
자신의 고유성을 보장받고 싶은 욕망 때문일까. 자신이 다른 개체와 구분되는 존재이기를 바라고, 그 고유성을 후세에 전달하고 싶은 생물학적 욕구가 기저에 있는 것일까
혹은 억압에 대한 반발이 자유에 대한 욕망으로 표현되는 것은 아닐까? 인간은 사회화 과정을 통해 공통의 규범과 행동 양식을 학습하지만, 각자의 인과적 역사는 서로다르다. 그렇게 형성된 고유한 욕구와 사회의 요구가 충돌하는 상황에서 우리는 자유라는 개념을 더 강하게 의식하는 것일 수도 있다.
여기에 더해, 자유의지라는 개념을 본능적으로 고수하는 데에는 인간 두뇌의 연산적 한계도 작용하고 있지 않을까?
어떤 행동의 원인을 이해하기 위해서는 이전틱의 인과관계를 끝없이 거슬러 올라가는것은 생물학적으로 너무나 비용이 큰 일이다. 그래서 우리의 뇌는 모든 인과 사슬을 온전히 계산하는 대신, 적당한 지점까지만 끊어 생각한다거나 그동안 학습된 본인 뇌속의 모델로 추론될 뿐이다
인간이라는 집단이 사회화를 통해 공통으로 학습한 베이스 레이어 위에서, 각자의 고유한 경험이 더해진 모델을 바탕으로 세계를 확률적으로 추정하는 것이다. 마치 트랜스포머 모델이 세상의 모든 물리법칙을 시뮬레이션 하는 대신, 지금까지 주어진 문맥만으로 다음 단어를 예측 하듯이 말이다.
우리의 뇌는 패턴화를 좋아한다. 내 안의 복잡한 신경망이 어떻게 다음 출력을 만들어 내는지 전부 관찰할 수 없으니 그 모호한 블랙박스에 ‘자유의지’라는 이름을 붙이고, 타인의 모든 역사를 알 수 없으니 눈앞의 행동에 ‘선과 악’이라는 라벨을 붙인다. 복잡한 인과관계를 일종의 손실압축(Lossy Compression)을 통해 처리하는 셈이다.
물론 이 역시 추측일 뿐이다. 이런 심리와 인지 기작의 기원은 진화생물학이나 신경과학, 뇌과학의 영역일 것이라 쉽게 단정 짓기는 어렵다. 어쩌면 나중에 인간의 뇌가 작동하는 구체적인 로직을 지금보다 훨씬 깊이 이해하게 된다면, 자유의지에 대한 갈망이 어떤 기작에서 발생하는지도 설명할 수 있지 않을까?
결정론적 해상도
결정론적 세계에서 자유의지란 존재 할 수 없다고 내가 주장하는 것은 어떤 의미가 있는가? 별로 도움되는 주장이라 생각하지 않는다. 그래서 나는 자유의지의 존재 여부를 단정하기보다, 우리가 왜 그러한 개념을 만들었고 갈망하게 되었는지가 더 궁금하다.
그렇다면 모든 것이 결정론적인 세계에서, 우리가 무언가를 고민하고 판단하는 것은 어떤 의미가 있을까? 결정론적이다라는 의미는 해석 가능하다는 의미지 살아가는 데 있어서 무언가에 끌려간다는 의미가 아니다. 우리의 생각이란 레이어는 이미 그 위에 있는 레이어이기 때문에 인과과정의 파생이면서도 동시에 참여하고 있는 개체이다. 내가 지금 하는 생각도 물론 과거에 의해 결정된거지만 이 play 를 하고 있는 나라는 입장에서는 어찌 되었건 그걸 넘어선 메타적으로 바라볼 수 없기에 참여자로서 끊임없는 인과를 만들어낸다. 각기 다른 레이어에서 자유의지에 대해 생각하다보니 복잡하게 느껴졌던 것 같다
결정론적 세계에 살아간다는것이 우리의 미래의 인과에 어떤 의미를 줄 수 있을까? 나의 자유의지에 대한 기저의 욕망은 유효한걸까? 어떤 의미를 가져야할까?
나는 그래서 살아가는데 중요한 것이 결정론적 해상도를 높이는 것이라고 생각한다. 예전에 사고의 감옥이라는 글에서 우리는 세상의 모든 변수를 이해하지 못하기 때문에 각자가 샘플링한 물리엔진으로 세계를 해석한다는 이야기를 한 적이 있다.
위에서도 말한 것 처럼 우리가 해석할 수 있는 변수와 계산할 수 있는 연산에는 한계가 있다. 물론 그 한계를 지금 쓰고 있다고 생각하진 않는다. 이전 짤막한 글에서도 언급했던 것처럼 우리는 해석 가능한 세상을 만들고 싶어한다. 해석력을 높이는 것은 우리가 파악하고 있는 인과에 대해서 좀더 디테일한 이해를 할 수 있다는 걸 의미한다. 해석 가능한 것을 늘리고 나에게 주어진 우리에게 주어진 것들을 더 선명하게 인식하고 계산하는것이 이 결정론적 세상에서 해야하는 것들이 아닐까?
무엇이 옳고 그른지를 판단하는 것만큼, 내가 어떤 해상도의 세계를 보고 그런 판단을 내리고 있는지 아는 것도 중요하지 않을까? 과거의 틱을 얼마나 더 이해할 수 있는가. 압축되어 생략되었던 변수가 무엇이며, 어떤 인과적 기작들이 현재의 상태를 만들어 냈는가. 원인을 모른 채 끌려가면 예속이고, 원인을 적합하게 이해하면 같은 필연 속에서도 자유다. 자유가 정도의 문제라는 것, 그 정도를 올리는 것이 원인에 대한 이해라는 것. 나는 그것을 해상도라고 부른다.
끝으로
여기까지 생각하다 보니 조금 허무한 느낌도 있다. 결정론적인 세계에서 모든 것이 인과적 결과라는 주장은, 어떻게 보면 너무나 당연한 이야기처럼 느껴진다. 그리고 그 사실만으로 우리가 무엇을 해야 한다는 구체적인 메시지가 만들어지는 것도 아니다.
나 역시 내 고유한 생각을 드러내고, 조금은 잘난 척하고 싶어서 이런 논리를 펼치고 있는 것일지도 모른다. 그런 욕망조차 지금까지의 경험과 학습에 의해 형성된 결과일 테고. 어찌 보면 우스운 이야기다. 이 글의 논리대로라면 그 욕망이야말로 고유성을 확인받고 싶은 것이고, 그 고유성은 결정론이 만든 것이다.
그렇지만 나는 꼭 무언가의 결론에 도달해야만 이런 고민이 의미 있다고 생각하지는 않는다. 세상은 복잡하고, 우리가 이해하는 세계는 언제나 제한적이다. 그러니 지금의 판단이 온전한 답이라고 확신하기보다, 더 많은 맥락을 이해하려는 노력이 필요하지 않을까? 그것이 타인의 행동일 수도 있고, 사회의 어떤 현상일 수도 있고, 나 자신의 생각과 판단일 수도 있다.
우리가 이해하는 해상도가 높아질수록 이전에는 보이지 않았던 인과관계가 드러날 것이다. 그리고 새로운 인과관계를 이해하면 이전에 내렸던 판단도 달라질 수 있을 것이다.
물론 해상도를 높인다고 해서 모든 문제의 답이 주어지지는 않을 것이다. 하지만 더 넓은 맥락을 이해할 수 있게 된다면, 적어도 이전과는 다른 질문을 던질 수 있지 않을까?
그렇게 질문하고, 이야기하고, 판단을 수정하는 과정 역시 세계의 다음 틱을 구성하는 일일 것이다.
결국 내가 중요하게 생각하는 것은 어떤 완결된 진리에 도달하는 것이 아니라, 내가 이해하고 있는 세계의 해상도를 끊임없이 높여가는 과정인 것 같다. 우리는 이미 그 안에서 살아가고 있으니 말이다.
그저 끝없는 이야기와 훈련이 필요할 뿐이다.
덧붙임으로 넘어가며
이 글은 처음부터 세계가 존재론적으로 결정론적이라고 가정하고 출발했다. 현대 물리학이 그 가정을 보장해주지는 않는다. 양자역학은 측정 결과를 확률로 기술하고, 그 예측은 실험적으로 매우 정확하다. 다만 확률로 기술된다는 것과 세계가 근본적으로 비결정론적이라는 것이 같은 말인지는 따로 물어야 한다. 아래 덧붙임은 그 질문을 붙들고 결정론을 포기하지 않았던 해석들, 즉 드브로이–봄, 어후프트의 세포 자동자, 팔머의 불변집합이론이 벨의 정리 앞에서 무엇을 내주고 무엇을 지켰는지 정리한 것이다. 본문의 틱과 상태머신이 그중 어디에 가까운지도 거기서 다시 본다.
덧붙임: 오토마타 우주와 결정론적 양자 해석들
보통 주류 양자역학의 코펜하겐 해석에서는 파동함수의 붕괴에 따른 개별 측정 결과를 근본적으로 확률적인 것으로 해석한다. 하지만 아인슈타인을 비롯해 이러한 ‘원인 없는 결과’를 받아들이기 어려워했던 물리학자들은 양자 현상 이면에도 결정론적 인과가 작동할 수 있다는 대안적인 해석들을 내놓았다.
아인슈타인은 “신은 주사위 놀이를 하지 않는다”라는 말로 양자역학의 확률적 해석에 대한 생각을 표현한 바 있다.
그가 중요하게 생각했던 것은 결정론만이 아니라 국소성(Locality)이라는 원칙이었다. 멀리 떨어진 두 물리적 시스템이 있을 때, 한쪽에서 일어난 일이 빛보다 빠르게 다른 쪽의 물리적 실재에 영향을 줄 수 없다는 생각이다.
1935년 아인슈타인은 보리스 포돌스키, 네이선 로젠과 함께 이른바 EPR 논문[3]을 발표했다. 이 논문에서 제기한 문제는 오늘날 양자 얽힘(Quantum Entanglement)이라고 부르는 현상과 관련되어 있다. 원래 논문에서는 입자의 위치와 운동량을 다뤘지만, 이해하기 쉽게 스핀을 이용해 생각해 볼 수 있다.
EPR 논문예측이 맞는다는 것과 설명이 완전하다는 것
EPR은 Einstein·Podolsky·Rosen, 세 저자의 성을 딴 약칭이다. 논문의 질문은 ‘양자역학의 설명이 물리적 실재를 빠짐없이 담고 있는가?’였다.
양자역학이 실험 결과를 잘 예측한다는 것과, 그것이 자연에 대한 완전한 설명이라는 것은 같은 말일까? 실제로 존재하는 성질을 이론이 담고 있지 못하다면, 예측이 맞더라도 설명에는 아직 빠진 부분이 있을 수 있다. 세 사람이 문제를 제기한 지점은 여기였다.
두 입자가 상호작용한 뒤 멀리 떨어져 있다고 가정해 보자. EPR이 다룬 이상적인 상태에서는 두 입자의 위치 차이와 운동량의 합이 정해져 있다. 그래서 한쪽의 위치를 측정하면 다른 쪽의 위치를 계산할 수 있고, 한쪽의 운동량을 측정하면 다른 쪽의 운동량을 계산할 수 있다.
그런데 국소성을 받아들인다면, 이쪽에서 무엇을 측정하든 멀리 있는 입자의 실제 상태가 그 선택 때문에 즉시 바뀌지는 않아야 한다. 상대 입자를 바꾸지도 않았는데 그 값을 확실히 알 수 있다면, 그 값은 측정으로 새로 생긴 것이 아니라 원래 그 입자가 가진 성질이라고 볼 수 있지 않을까? 이것이 EPR이 제시한 실재의 판단 기준이었다.
이제 내가 측정할 것을 위치와 운동량 중에서 고른다고 생각해 보자. 위치를 고르면 상대 입자는 이미 정해진 위치를 가진다고 보게 되고, 운동량을 고르면 이미 정해진 운동량을 가진다고 보게 된다. 실제로 측정하는 것은 둘 중 하나다. 하지만 멀리 있는 입자가 어떤 성질을 가지는지가 내 선택에 달려 있지 않다면, 그 입자는 두 값을 모두 가지고 있어야 한다는 것이 EPR의 생각이었다.
하지만 양자역학의 파동함수는 한 입자의 위치와 운동량을 동시에 정확한 값으로 지정할 수 없다. 앞의 생각을 그대로 따르면, 실제 입자는 두 값을 가지고 있는데 파동함수에는 그 정보가 모두 담겨 있지 않은 셈이다. 그래서 세 사람은 파동함수만으로는 물리적 실재를 완전히 설명할 수 없다고 결론 내렸다.
다만 이 결론에는 멀리 떨어진 입자가 내 측정에 의해 즉시 바뀌지 않는다는 국소성과, 확실히 예측할 수 있는 값은 실제 성질로 보아야 한다는 판단이 함께 들어가 있다. 이후 벨의 정리는 국소적인 설명을 유지하면서도 양자역학이 예측하는 상관관계를 모두 재현할 수 있는지 묻는 데서 출발한다.
서로 얽힌 두 입자가 멀리 떨어져 있다고 가정해 보자. 두 입자의 전체 스핀이 0인 상태라면, 같은 방향을 기준으로 스핀을 측정했을 때 한쪽에서 위쪽이 나오면 다른 쪽에서는 아래쪽이 나온다. 각각의 측정 결과는 확률적이지만, 한쪽의 결과를 알게 되면 다른 쪽의 결과를 확실하게 예측할 수 있는 것이다.
그런데 두 입자가 충분히 멀리 떨어져 있다면, 한쪽에서의 측정이 다른 쪽의 물리적 상태를 즉각적으로 바꾼다고 생각하기는 어렵다. 그렇다면 다른 쪽 입자는 관측되기 전부터 이미 그 결과를 결정하는 어떤 물리적 속성을 가지고 있었던 것은 아닐까?
이것이 EPR 논증의 출발점이다. 아인슈타인은 양자역학의 파동함수가 자연에 대한 완전한 설명이 아니라, 아직 파악하지 못한 물리적 정보가 존재할 수 있다고 생각했다.
이러한 접근은 이후 국소적 숨은 변수(Local Hidden Variables)의 문제로 발전하게 된다. 입자들이 처음부터 결과를 결정하는 정보를 가지고 있었고, 멀리 떨어진 뒤에는 서로 영향을 주지 않는다면 양자 얽힘을 설명할 수 있지 않을까 하는 것이다.
하지만 이 생각에는 중요한 문제가 있었다.
1964년 물리학자 존 스튜어트 벨(John Stewart Bell)은 벨의 정리[4]를 통해, 국소적 인과성과 측정 설정의 통계적 독립성 등의 조건을 만족하는 이론이 만들어 낼 수 있는 상관관계에는 수학적인 한계가 있다는 사실을 보였다.
벨의 부등식상자 속 동전의 설명은 측정 방향을 바꿔도 통할까
벨의 부등식은 자연이 우리가 생각하는 고전적인 인과관계만으로 설명될 수 있는지 시험하는 수학적 조건이다. 멀리 떨어진 두 입자가 미리 가진 정보만으로 답한다면, 두 결과의 관계에는 넘을 수 없는 한계가 생긴다.
1964년 존 스튜어트 벨이 제안했고, 1969년에는 CHSH가 실험에 더 널리 적용할 수 있는 형태로 발전시켰다. 먼저 왜 이런 부등식이 필요했는지부터 살펴보자.
상자 속 동전으로 설명할 수 있을까?
동전 두 개를 하나는 앞면, 다른 하나는 뒷면이 보이게 상자에 넣었다고 생각해보자. 그 상태가 바뀌지 않도록 해서, 상자 하나는 지구에 두고 다른 하나는 화성에 보내는 것이다.
지구에서 상자를 열었더니 앞면이 나왔다면?
화성의 상자는 열어 보지 않아도 뒷면이라는 것을 알 수 있다. 상자를 열기 전부터 두 결과가 정해져 있었기 때문이다.
아인슈타인은 양자 얽힘도 이런 식으로 설명할 수 있지 않을까 생각했다. 입자들이 처음부터 우리가 모르는 정보를 가지고 있고, 그 정보에 따라 측정 결과가 나온다는 것이다. 이런 추가 정보를 ‘숨은 변수’라고 부른다.
그런데 벨은 여기서 한 가지 질문을 더 던졌다.
입자들이 미리 가진 정보로 답하고, 멀리 떨어진 상대편의 측정 선택이 그 답을 바꾸지 않는다면, 반드시 지켜야 하는 수학적 규칙이 있지 않을까?
그리고 실제로 그 규칙을 찾아냈다.
세 방향으로 스핀을 측정해 보자
얽힌 두 스핀 1/2 입자를 앨리스와 밥에게 하나씩 보낸다고 하자. 여기서는 같은 방향으로 측정하면 항상 반대 결과가 나오는 상태를 사용할 것이다. 전체 스핀이 0인 단일항 상태이며, 다음처럼 적는다.
각자는 아래 세 방향 중 하나를 골라 자기 입자를 측정한다. 결과는 +1 또는 −1이다.
국소적인 숨은 변수로 설명한다면, 입자는 각 방향의 질문에 어떤 답을 할지 미리 정해 놓았다고 생각할 수 있다. 예를 들면 이런 답안이 가능하다.
| 측정 방향 | 앨리스 입자 | 밥 입자 |
|---|---|---|
| A (0°) | +1 | −1 |
| B (60°) | +1 | −1 |
| C (120°) | −1 | +1 |
같은 방향을 물으면 항상 반대여야 하니 밥의 답은 앨리스와 반대다. 다른 답안도 얼마든지 가능하지만, 어느 경우든 세 질문에 대한 답이 하나의 일관된 표를 이뤄야 한다.
이 답안표에는 피할 수 없는 제약이 있다
우선 앨리스의 답만 보자. A와 C의 답이 다르다면, 다음 둘 중 적어도 하나는 반드시 성립해야 한다.
- A와 B의 답이 다르다.
- B와 C의 답이 다르다.
A와 B가 같고 B와 C도 같다면, A와 C도 같을 수밖에 없기 때문이다. 위의 표에서도 A와 C가 다른데, 그 사이의 B는 A와 같고 C와는 다르다.
그런 답안들을 많이 모아도 마찬가지다. A와 C가 다른 경우는 반드시 나머지 두 경우 중 하나에 포함되므로, 그 확률은 두 확률의 합을 넘을 수 없다.
이 식의 A, B, C는 앨리스가 각 방향에 미리 정한 답이다. 실제로 한 입자를 세 방향으로 한꺼번에 측정한다는 뜻은 아니다.
그렇다면 이 관계를 두 입자의 실험에서 어떻게 확인할까?
위 표에서 앨리스의 A는 +1, C는 −1이다. 그런데 밥의 C는 +1이다. 그래서 ‘앨리스의 A와 C가 다르다’는 것은 ‘앨리스에게 A를, 밥에게 C를 물으면 두 답이 같다’는 말로 바꿀 수 있다.
같은 방향에서 두 사람의 답이 반대라는 조건을 다른 쌍에도 적용하면, 실제 측정 기록을 비교하는 부등식이 된다.
P의 ‘같음’은 두 사람이 같은 결과를 얻을 확률이다. 매번 새 입자쌍으로 실험하고, 어떤 방향을 고를지는 입자의 숨은 정보와 독립적으로 정한다고 가정한다. 이 조건에서 사전 답안 모형은 위 관계를 반드시 지켜야 한다.
그런데 양자역학은 이 한계를 넘어선다
앞에서 준비한 단일항 상태 |Ψ⁻⟩를 양자역학으로 계산해 보자. 두 측정 방향 사이의 각도를 θ라고 하면, 이 상태에서 결과가 같을 확률은 다음과 같다.
앞의 세 방향을 넣어 보면 다음과 같다.
| 측정 방향 | 각도 차이 | 결과가 같을 확률 |
|---|---|---|
| A · B | 60° | 25% |
| B · C | 60° | 25% |
| A · C | 120° | 75% |
이 숫자들이 앞의 부등식을 만족하려면 아래 관계가 성립해야 한다.
하지만 0.75는 0.50보다 크다. 이 관계는 성립하지 않는다.
이것이 벨 부등식 위반의 핵심이다. 사전 답안표를 어떻게 만들고 어떤 비율로 섞어도 이 세 확률을 함께 만들어 낼 수는 없다. 그런데 양자역학은 이런 상관관계가 가능하다고 예측하는 것이다.
그래서 자연에 대해 무엇을 알게 된 걸까?
부등식이 위반됐다고 해서 곧바로 ‘측정 전에는 아무것도 정해져 있지 않다’고 결론 내릴 수는 없다. 정확히는 다음 조건들을 모두 지키는 설명으로 관측된 상관관계를 재현할 수 없다는 것이다.
- 국소적 인과성. 각 장소의 측정 결과와 두 결과의 관계를 그곳의 원인과 공통의 과거에 있던 정보로 설명한다.
- 측정 선택의 독립성. 어떤 방향으로 측정할지의 선택은 입자에 주어진 숨은 변수와 통계적으로 독립이다.
- 측정에 기록 가능한 결과가 있고, 통상적인 확률 규칙을 적용한다.
어느 조건을 유지하고 어느 조건을 바꿀지는 별개의 문제다. 비국소적인 결정론적 해석도 있고, 부등식의 위반이 빛보다 빠른 통신을 가능하게 해주는 것도 아니다.
흥미로운 것은 ‘우리가 아직 답을 모를 뿐’이라는 설명에도 실험으로 확인할 수 있는 한계가 생겼다는 점이다. 숨은 정보가 있다는 생각 자체보다, 그 정보가 국소적으로 작동하면서 모든 양자 상관관계를 설명할 수 있느냐가 문제인 것이다.
단순히 같은 방향에서 서로 반대되는 결과가 나오는 것만으로는 문제가 되지 않는다. 입자들이 미리 결과를 결정하는 정보를 가지고 있었다고 생각할 수도 있기 때문이다.
문제는 두 입자를 서로 다른 방향에서 측정했을 때 나타나는 상관관계다. 측정 방향을 여러 조합으로 바꿔가며 얻은 결과들을 비교해 보면, 국소적 숨은 변수로 설명할 수 있는 상관관계에는 한계가 생긴다. 대표적인 CHSH 부등식에서 그러한 국소적 모형의 상한은 2지만, 양자역학은 특정 조건에서 약 2.83까지 예측한다.
CHSH 부등식미리 맞춘 답안은 왜 75%가 한계이고, 얽힘은 어떻게 다를까
CHSH 부등식은 벨의 부등식의 한 종류다. 두 입자가 미리 가진 국소적인 정보만으로 반응한다는 설명을 실험으로 시험할 수 있게 해준다. 흥미로운 것은 양자역학에서는 그 한계를 실제로 넘어선다는 것이다.
이름은 1969년 논문의 네 저자, Clauser·Horne·Shimony·Holt에서 따왔다.
벨의 부등식에서 CHSH로
앞의 벨 예시는 같은 방향에서 결과가 완벽하게 반대라는 조건을 이용했다. 1969년에 나온 CHSH 부등식은 이 조건 없이도 검증할 수 있도록 벨의 논의를 확장했다.
| 비교 | 앞의 벨 부등식 예시 | CHSH 부등식 |
|---|---|---|
| 측정 선택 | 세 방향 A, B, C | 각 관측자에게 두 방향 |
| 같은 방향의 결과 | 항상 반대라고 가정 | 그 조건이 없어도 적용 |
| 검증하는 것 | 국소적 숨은 변수로 설명할 수 있는 상관관계의 한계 | |
CHSH는 별개의 현상이 아니라 같은 문제를 더 널리 실험할 수 있게 만든 형태다. 실제 실험에서도 이런 국소적 모형의 한계를 넘는 결과가 관측됐다.
왜 이런 한계가 생기는지, 아주 간단한 게임으로 살펴보자.
두 사람에게 질문하는 게임
앨리스와 밥이라는 두 사람이 있다고 가정해보자. 둘은 멀리 떨어져 있어서 게임 도중에는 서로 소통할 수 없다. 대신 시작 전에는 얼마든지 작전을 짤 수 있다.
각자는 무작위로 두 질문 중 하나를 받는다.
- 앨리스에게는 A₀ 또는 A₁
- 밥에게는 B₀ 또는 B₁
질문을 받으면 0 또는 1로 답해야 한다. 각자는 자기 질문만 알고, 상대가 무슨 질문을 받았는지는 모른다.
이기는 규칙은 다음과 같다.
| 앨리스 질문 | 밥 질문 | 승리 조건 |
|---|---|---|
| A₀ | B₀ | 두 답이 같아야 함 |
| A₀ | B₁ | 두 답이 같아야 함 |
| A₁ | B₀ | 두 답이 같아야 함 |
| A₁ | B₁ | 두 답이 달라야 함 |
네 질문 조합은 같은 확률로 나오고, 질문 선택은 둘이 미리 공유한 정보와 독립적이다.
여기서 재미있는 문제가 생긴다. 미리 어떤 답을 정해 놓아도 네 조건을 모두 만족시킬 수는 없다.
왜 최대 75%밖에 이길 수 없을까?
첫 번째 조건을 맞추려면 A₀의 답과 B₀의 답이 같아야 한다.
두 번째 조건은 A₀와 B₁이 같아야 하고, 세 번째 조건은 A₁과 B₀가 같아야 한다.
아래 그림에서 실선 세 개를 따라가보자. 결국 네 질문의 답이 모두 같아야 한다. 그런데 마지막 점선은 A₁과 B₁의 답이 달라야 한다고 요구한다. 두 요구를 한꺼번에 맞출 수 없는 것이다.
진한 선은 지금 답안에서 실패하는 조합이다.
네 칸을 누르면 답이 0과 1 사이에서 바뀐다. 먼저 ‘A₁만 1’을 눌러보자. 마지막 조건을 고치면 실패가 어디로 옮겨 갈까? 다른 답도 바꾸면서 네 선을 모두 만족시킬 수 있는지 확인해보자.
실제 게임에서는 네 질문 조합 중 하나만 나온다. 위 그림은 같은 답안을 네 경우에 모두 적용해 본 것이다.
어떤 답안을 골라도 적어도 한 조건에서는 실패한다. 네 조합이 같은 확률로 나온다면, 가장 잘해도 3/4, 즉 75%를 이길 수 있다는 뜻이다.
매번 다른 답안을 쓰거나 미리 난수를 공유해도 마찬가지다. 어느 답안도 75%를 넘지 못하니, 그 답안들을 섞은 평균도 75%를 넘을 수 없다.
그런데 양자역학에서는 약 85.4%가 가능하다
이번에는 둘이 사전 답안 대신 얽힌 입자를 하나씩 가지고 있다고 생각해 보자.
각자는 받은 질문에 따라 자기 입자를 어느 방향으로 측정할지 정하고, 나온 결과로 답한다. 이 게임의 ‘질문’은 측정 방향이고 ‘답’은 측정 결과인 셈이다.
그렇다면 약 85.4%라는 숫자는 어디서 나오는 걸까? 얽힌 상태에도 여러 종류가 있다. 앞의 벨 예시에서는 같은 방향에서 반대 결과가 나오는 |Ψ⁻⟩를 썼지만, 이 게임에서는 아래의 |Φ⁺⟩ 상태를 준비한다.
이후의 측정축은 모두 X–Z 평면 안에서 고른다. |Φ⁺⟩는 이 평면에서 같은 방향으로 측정하면 같은 결과가 나오는 상태다. 두 측정축 사이의 각도를 θ라고 하면, 이 상태에서의 확률은 다음과 같다.
앞의 sin²(θ/2)와 여기의 cos²(θ/2)가 다른 이유는 준비한 얽힘 상태가 다르기 때문이다. 같은 방향인 θ = 0°에서 앞의 상태는 결과가 항상 다르고, 이번 상태는 위 평면에서 항상 같다.
이제 Z축을 0°로 두고, 앨리스의 측정축은 A₀에서 0°, A₁에서 90°로 정하자. 밥은 B₀에서 45°, B₁에서 −45°로 정해보자. 앞의 세 조합은 측정축이 45° 차이이고, 마지막 조합만 135° 차이가 난다.
| 질문 조합 | 각도 차이 | 승리 조건 |
|---|---|---|
| A₀ · B₀ | 45° | 같은 답 |
| A₀ · B₁ | 45° | 같은 답 |
| A₁ · B₀ | 45° | 같은 답 |
| A₁ · B₁ | 135° | 다른 답 |
앞의 세 조합은 같은 답이어야 하므로, 첫 번째 확률 식에 45°를 넣으면 된다. 삼각함수의 반각 공식을 이용해 정리하면 다음과 같다.
마지막 조합은 다른 답이어야 하므로, 두 번째 식에 135°를 넣는다. 67.5°와 22.5°의 합은 90°이므로 이 확률도 앞과 같아진다.
결국 네 조합 모두 약 85.4%의 확률로 승리한다. 네 조합이 각각 1/4의 확률로 선택되므로, 전체 승률도 이 네 확률의 평균인 약 85.4%가 되는 것이다.
그렇다면 앞의 논리가 틀린 걸까?
그렇지는 않다. 앞에서는 묻지 않은 질문의 답까지 하나의 표에 미리 써 놓을 수 있다고 가정했다. 양자 측정으로 얻는 통계는 그런 국소적 답안표들을 아무리 섞어도 재현할 수 없다는 것이다.
위에서 조작한 그림은 사전 답안의 한계를 보여준다. 85.4%는 그 그림에서 더 좋은 답안을 찾아 얻은 수가 아니라, 양자역학의 측정 규칙으로 계산한 값이다.
이 게임을 수식으로 쓰면 CHSH 부등식이 된다
측정 결과를 0과 1 대신 +1과 −1로 표시해 보자. 두 결과를 곱한 평균을 E라고 하면, 같은 답이 자주 나올수록 E는 +1에 가까워지고 반대 답이 자주 나올수록 −1에 가까워진다.
아래 첨자는 질문 조합이다. 앞의 세 조합은 같은 답이어야 하니 더하고, 마지막 조합은 반대 답이어야 하니 빼는 것이다.
국소적 숨은 변수 모형에서는 S가 2를 넘지 못한다. 하지만 양자역학에서는 다음 값까지 가능하다.
이 상한을 ‘치렐손 경계’라고 부른다. 게임에서 얻을 수 있는 최대 승률과도 연결된다.
국소적 전략의 상한 2를 넣으면 75%, 양자 전략의 상한 2√2를 넣으면 약 85.4%가 나온다. 앞에서 본 게임과 부등식이 같은 한계를 다른 방식으로 나타내는 것이다.
이 게임이 자연에 대해 알려주는 것
두 입자가 미리 가진 국소적인 정보만으로 답하고, 측정 선택이 그 정보와 독립적이라면 넘을 수 없는 한계가 있다. 실제 실험에서는 그 한계를 넘는 상관관계가 관측됐다.
그렇다고 빛보다 빠른 통신이 가능해지거나 모든 결정론이 틀렸다는 뜻은 아니다. 어떤 전제들을 함께 유지할 수 있는지를 따져야 한다.
CHSH의 흥미로운 점은 여기에 있다. ‘서로 미리 답을 맞춰 놓았을 뿐’이라는 설명이 어디까지 통하는지를 숫자로 시험할 수 있게 만든 것. 그리고 자연은 그 설명이 허용하는 한계를 넘어서는 것이다.
그리고 실제 실험에서는 벨의 부등식을 위반하는 결과가 반복적으로 관찰되었다. 2015년에는 주요 실험적 허점들을 차단한 벨 실험[5]까지 수행되었고, 이 연구 계열은 2022년 노벨 물리학상[6]으로 이어졌다.
결국 아인슈타인이 기대했던 방식, 즉 입자들이 미리 가진 국소적인 정보만으로 양자 현상의 모든 상관관계를 설명하려는 시도는 실험 결과와 양립하기 어려워졌다.
그렇다고 결정론 자체가 반증된 것은 아니다. 벨의 논증에는 여러 전제가 함께 들어간다. 그중 무엇을 유지하고 무엇을 포기하느냐에 따라 여전히 서로 다른 물리적 해석이 가능하다.
또한 벨의 부등식 위반이 빛보다 빠르게 정보를 전달할 수 있다는 뜻도 아니다. 여기서 문제가 되는 국소적 인과성과 상대성이론에서의 신호 전달 가능성은 구분할 필요가 있다.
결정론을 유지하려는 해석들
대표적인 예가 드브로이–봄 이론(De Broglie–Bohm Theory)[7]이다. 1927년 루이 드브로이가 제안하고 1952년 데이비드 봄이 발전시킨 이 이론에서는 입자가 관측되기 전에도 실제 위치를 가지고 있으며, 파동함수가 그 움직임을 결정론적으로 안내한다.
일반적인 양자역학에서는 파동함수를 통해 각 위치에서 입자를 발견할 확률을 계산한다. 반면 드브로이–봄 이론에서는 파동함수 외에도 입자의 실제 위치라는 변수가 존재한다.
파동함수는 슈뢰딩거 방정식에 따라 변화하고, 입자의 위치는 별도의 유도 방정식(Guiding Equation)에 따라 변화한다. 따라서 파동함수와 모든 입자의 초기 위치가 주어진다면 이후의 운동 역시 결정된다.
유도 방정식현재의 파동함수와 위치가 다음 움직임을 정하는 방법
드브로이–봄의 유도 방정식(Guiding Equation)은 입자가 실제 위치와 궤적을 가지며, 그 움직임이 파동함수에 의해 결정된다는 생각을 수학적으로 표현한 방정식이다.
이 이론이 흥미로운 것은 다음 세 가지를 함께 주장하기 때문이다.
- 입자는 측정하기 전에도 실제 위치를 가지고 있다.
- 입자의 운동은 근본적으로 결정론적이다.
- 그런데도 양자 평형에서는 일반적인 양자역학과 같은 실험 결과를 예측할 수 있다.
앞서 살펴본 벨의 부등식을 떠올리면 모순처럼 느껴지지 않을까? 하지만 벨의 정리가 배제하는 것은 모든 결정론이 아니라, 양자역학의 상관관계를 국소적 숨은 변수만으로 설명할 수 있다는 생각이다. 봄 이론은 비국소성을 명시적으로 받아들이기 때문에 이 결과와 모순되지 않는다.
이 접근은 드브로이가 1927년에 제안했고, 봄이 1952년에 독립적으로 다시 발견해 체계화했다. 그렇다면 입자의 움직임을 어떻게 정하고, 결정론적인 운동에서 어떻게 양자역학의 확률이 나타나는지 살펴보자. 앞의 세 번째 주장에 붙은 ‘양자 평형’이라는 조건도 그 과정에서 다시 보게 될 것이다.
파동함수에 입자의 실제 위치를 더한다
보통 양자역학에서는 입자의 상태를 파동함수 ψ로 표현한다. 이 파동함수를 이용해 각 위치에서 입자를 발견할 확률을 계산한다.
드브로이–봄 이론은 여기에 입자의 실제 위치 Q(t)를 추가한다. 입자는 측정할 때에만 어떤 위치에서 발견되는 것이 아니라, 측정하기 전에도 실제로 어디엔가 있다고 보는 것이다.
이제 파동함수와 입자의 위치를 구분해서 생각해보자. 파동함수는 슈뢰딩거 방정식에 따라 변한다. 입자의 위치는 그 파동함수에서 계산한 속도에 따라 변한다. 이 두 번째 규칙이 유도 방정식이다.
| 요소 | 역할 |
|---|---|
| 파동함수 ψ | 입자가 어떻게 움직일지 정하는 정보를 담는다. |
| 실제 위치 Q(t) | 시간 t에 입자가 실제로 어디 있는지 나타낸다. |
| 유도 방정식 | 파동함수와 실제 위치로 그 순간의 속도를 계산한다. |
핵심은 파동함수가 입자를 발견할 확률을 계산하는 데에만 쓰이는 것이 아니라, 실제 입자의 운동까지 정한다는 점이다. 다만 입자를 밀어내는 물결처럼 생각하면 부정확하다. 파동함수는 위치마다 복소수 값을 부여하는 수학적 대상이다.
유도 방정식은 무엇을 계산할까?
우선 스핀이 없는 입자 하나를 생각해보자. 여기서는 상대론적 효과와 자기장은 제외한다. 이 경우의 유도 방정식은 다음과 같다.
기호가 많아 복잡해 보일 수 있다. 우선 식이 무엇을 구하는지부터 보자. 왼쪽의 dQ/dt는 입자의 속도다. 오른쪽은 그 속도를 파동함수와 현재 위치로 계산하는 방법이다. 각 기호의 뜻을 나누면 다음과 같다.
| 기호 | 의미 |
|---|---|
| Q(t) | 시간 t에서 입자의 실제 위치 |
| dQ/dt | 입자의 위치가 시간에 따라 변하는 속도 |
| ψ | 파동함수 |
| ∇ψ | 위치에 따라 파동함수가 어떻게 변하는지 나타내는 공간 미분 |
| Im | 복소수에서 허수 부분을 취하는 연산 |
| ℏ | 플랑크 상수 h를 2π로 나눈 값 |
| m | 입자의 질량 |
| x=Q(t) | 오른쪽의 계산을 실제 입자가 있는 위치에서 한다는 뜻 |
결국 이 식은 입자가 지금 있는 곳에서 파동함수를 살펴보고, 그곳의 속도를 계산한다는 뜻이다.
익숙한 뉴턴역학과 비교해보자. 뉴턴의 운동 방정식에서는 힘으로 가속도를 구한다.
유도 방정식은 가속도가 아니라 속도 자체를 직접 정한다.그 속도를 따라 위치가 변하고, 다음 위치에서는 다시 그곳의 파동함수로 속도를 계산한다. 따라서 초기 위치와 초기 파동함수, 파동함수의 변화 규칙이 주어지면 이후의 궤적이 결정된다.
위 식은 ψ가 0이 아닌 곳에서 쓴다. ψ가 0인 곳에서는 식의 나눗셈을 그대로 적용할 수 없으므로 별도의 수학적 검토가 필요하다.
파동함수를 진폭과 위상으로 나눠보자
그렇다면 파동함수의 어떤 정보가 입자의 속도를 정하는 걸까? 이를 보려면 파동함수를 두 요소로 나눠보는 것이 좋다.
복소수는 평면 위의 점처럼 크기와 각도로 표현할 수 있다. 파동함수에서도 그 크기를 진폭, 각도를 위상이라고 한다. 이를 식으로 쓰면 다음과 같다.
- R은 파동함수의 진폭이다.
- S는 위상을 나타내는 함수다. 이 표기에서 실제 위상각은 S/ℏ이다.
이제 이 표현을 유도 방정식에 대입해보자. 먼저 오른쪽에 있던 ∇ψ/ψ를 계산하면 두 항으로 나뉜다.
유도 방정식은 여기서 허수 부분만 취한다. 앞의 ∇R/R은 실수이므로 사라지고, 뒤의 항에서 ∇S/ℏ가 남는다. 여기에 식 바깥의 ℏ/m을 곱하면 ℏ가 약분된다. 그래서 속도 식은 다음처럼 정리된다.
결국 입자의 속도를 정하는 것은 파동함수의 위상이 공간에서 어떻게 변하는가이다. ∇S는 같은 시각에 옆 위치로 옮겨갔을 때 S가 얼마나, 어느 방향으로 변하는지를 나타낸다. 그 기울기를 질량으로 나눈 값이 현재 위치에서의 속도가 되는 것이다.
여기서 위상이 크다는 것과 위상의 기울기가 크다는 것은 구분해야 한다. 모든 위치의 위상에 같은 값을 더하면 위상 값은 바뀌지만, 이웃한 위치 사이의 차이는 그대로다. 따라서 기울기도, 그 순간의 속도도 바뀌지 않는다.
한 방향의 간단한 예를 보자. 진폭 A가 일정한 평면파를 아래처럼 쓸 수 있다. k는 위상이 위치에 따라 변하는 정도이고, ω는 시간에 따라 변하는 정도다.
앞의 표현과 비교하면 이 파동함수의 S는 ℏ(kx−ωt)다. 이를 x에 대해 미분하면 ℏk가 남으므로, 속도는 다음과 같다.
이 평면파의 운동량이 p=ℏk이므로, 익숙한 고전역학의 속도와 운동량 관계가 나오는 것이다. 이제 아래 그림에서 위상의 변화를 직접 비교해보자.
먼저 기울기를 ‘증가 → 일정 → 감소’로 바꿔보자. 속도의 방향과 크기가 어떻게 달라질까? 그다음 기울기를 고정하고 전체 위상에 π/2를 더해보자. 그래프의 높이가 달라져도 속도는 바뀌지 않는다는 것을 확인할 수 있다.
점은 x=0에서의 위상 값이다. 위상을 더하면 점선으로 원래 그래프를 함께 보여준다.
그렇다고 진폭 R이 운동과 무관하다는 뜻은 아니다. 진폭과 위상은 슈뢰딩거 방정식에 따라 함께 변한다. 위상만 속도 식에 직접 남는다는 것과, 진폭이 이후의 운동에도 아무런 영향을 주지 않는다는 것은 다른 이야기다.
입자가 한 슬릿만 지나도 간섭무늬가 생길까?
이중 슬릿에서는 입자와 파동함수의 역할이 더 분명하게 드러난다. 이 이론에서 입자는 실제 위치를 가지므로 두 슬릿 중 하나를 통과한다. 하지만 두 슬릿이 열려 있고 어느 쪽을 지났는지 기록하지 않는 실험에서는, 파동함수가 두 슬릿을 모두 통과한 성분의 중첩으로 변한다.
두 성분이 간섭하면 진폭과 위상의 공간적인 모양도 달라진다. 입자는 그렇게 바뀐 파동함수에서 계산한 속도를 따라 움직인다. 어느 슬릿을 지났는지만으로 이후의 경로가 정해지는 것이 아니라, 두 슬릿이 만드는 파동함수 전체가 운동에 관여하는 것이다.
여러 번 반복해 도착 위치를 모으면 양자역학의 간섭무늬를 얻을 수 있다. 다만 정확한 통계를 얻으려면, 시작 위치들의 분포에 대해서도 설명해야 한다.
결정론적인데 왜 확률이 나타날까?
한 입자의 초기 위치가 정해져 있다면 경로도 정해진다. 하지만 실험에서 그 정확한 위치를 매번 아는 것은 아니다. 그렇다면 시작 위치가 어떻게 분포하는지도 함께 주어져야, 반복 실험에서 어떤 통계가 나올지 말할 수 있다.
위치의 확률 밀도를 ρ라고 하면, 통상적인 ‘양자 평형’에서는 다음 분포를 사용한다. ψ의 크기를 제곱해 위치의 확률 밀도를 얻는 보른 규칙이다.
유도 방정식의 중요한 성질은 처음에 위치들이 |ψ|²에 따라 분포했다면, 이후에도 변해가는 |ψ|²에 맞춰 분포한다는 점이다. 파동함수의 변화와 입자들의 움직임이 같은 위치 통계를 유지하는 것이다. 이를 등변성(equivariance)이라고 부른다.
이것은 유도 방정식과도 직접 연결된다. 슈뢰딩거 방정식에서 얻는 확률의 흐름을 j라고 하면, 유도 방정식의 속도는 그 흐름을 밀도 |ψ|²로 나눈 값이다. ψ*는 ψ의 복소켤레를 뜻한다.
입자들이 이 속도로 움직이기 때문에, 위치 분포의 변화가 슈뢰딩거 방정식이 주는 확률의 변화와 일치한다. 측정 장치까지 포함해 이 관계를 적용하면, 비상대론적 양자 평형의 범위에서 일반적인 양자역학의 측정 통계를 재현한다.
다만 어떤 초기 분포든 저절로 |ψ|²가 된다는 뜻은 아니다. 왜 양자 평형 분포를 사용해야 하는지는 별도의 통계적 논의가 필요하다. 결정론적인 운동 법칙만 적었다고 보른 규칙까지 자동으로 증명되는 것은 아닌 셈이다.
벨의 부등식과 모순되지 않는 이유
그런데 앞에서는 국소적인 사전 정보로 양자역학의 상관관계를 설명할 수 없다고 하지 않았을까? 봄 이론은 결정론을 유지하면서 국소성은 유지하지 않는다. 이 차이는 입자가 두 개일 때 식에 드러난다.
여러 입자의 파동함수는 각 입자의 위치를 함께 입력받는다. 입자 두 개에는 위치 좌표 여섯 개가 필요하고, 가능한 좌표 조합 전체를 ‘구성 공간’이라고 부른다. 이 공동 파동함수로 첫 번째 입자의 속도를 계산해보자.
Ψ는 두 입자의 위치를 함께 입력받는 공동 파동함수이고, ∇₁은 첫 번째 입자의 위치에 대해 공간적인 변화를 구한다는 뜻이다. 첫 번째 입자의 속도를 계산하는 곳에 두 번째 입자의 실제 위치 Q₂도 들어간다.
파동함수가 각 입자의 함수로 분리된다면 상대 위치에 대한 의존성이 사라지지만, 얽힌 상태에서는 일반적으로 그렇게 분리할 수 없다. 멀리 떨어진 입자의 위치나 그곳의 측정 장치가 이쪽 운동에 관여할 수 있는 것이다. 이것이 이 이론의 비국소성이다.
여기서 쓴 식은 스핀이 없는 경우다. CHSH처럼 스핀을 다루려면 파동함수를 여러 복소수 성분을 가진 스피너로 확장한다. 이 이론은 입자의 실제 위치를 기본 변수로 삼지만, 모든 방향의 스핀 결과를 장치와 무관한 사전 답안으로 정해두지는 않는다. 측정 결과는 입자와 장치를 포함한 전체의 상호작용에 따라 결정된다.
또한 양자 평형에서는 이 비국소적 의존성으로 원하는 초광속 메시지를 보낼 수 없다. 운동 법칙이 멀리 있는 변수에 의존한다는 것과, 그 의존성을 통신 수단으로 제어할 수 있다는 것은 구별해야 한다.
양자 퍼텐셜은 무엇일까?
봄은 같은 운동을 ‘양자 퍼텐셜’로도 표현했다. 파동함수를 진폭과 위상으로 나눠 슈뢰딩거 방정식에 넣으면, S의 변화에 대한 식에 아래 항이 나타난다. ∇²R은 진폭의 공간적인 굽음을 나타내는 이차 미분이다.
고전역학에서 운동을 에너지와 S의 변화로 적는 해밀턴–야코비 방정식에 이 항을 더한 형태로 정리할 수 있다. 이는 앞의 두 운동 방정식을 다시 표현한 것이며, 별도의 독립적인 힘이나 장을 새로 가정해야 한다는 뜻은 아니다. 입자의 움직임을 이해하는 데에는 파동함수의 변화와 유도 방정식만으로도 충분하다.
그렇다면 이 이론이 옳다고 밝혀진 걸까?
여기까지의 설명이 실제 우주의 운동 방식을 확정해주는 것은 아니다. 비상대론적 양자 평형에서 일반적인 양자역학과 같은 실험 결과를 낸다는 것은, 그 결과만으로 두 설명을 구별하기 어렵다는 뜻이기도 하다. 상대성이론과 결합하는 확장에도 추가적인 어려움이 있다.
이 접근이 보여주는 것은 양자역학의 확률적인 관측 결과와 결정론적인 운동 법칙이 반드시 모순되지는 않는다는 점이다. 다만 그 운동을 각 입자 주변의 원인만으로 설명하는 대신, 비국소적인 의존성을 명시적으로 받아들인다. 결정론을 유지할 수 있다는 것과 국소성까지 함께 유지할 수 있다는 것은 같은 주장이 아닌 것이다.
이중 슬릿 실험에서도 입자는 두 슬릿 중 하나를 실제로 통과하지만, 파동함수가 입자의 경로를 안내하기 때문에 여러 입자의 도착 위치를 모아보면 간섭무늬가 만들어진다는 것이다. 우리가 관찰하는 확률은 이러한 입자들의 정확한 초기 위치를 알지 못하기 때문에 나타나는 것으로 설명한다.
다만 이 이론은 아인슈타인이 중요하게 생각했던 국소성을 유지하지 않는다.
앞서 EPR 논증에서는 멀리 떨어진 입자들이 서로 즉각적인 영향을 주지 않고, 각자 가지고 있던 물리적 속성에 따라 측정 결과가 결정될 수 있다고 생각했다.
하지만 드브로이–봄 이론에서는 얽힌 입자들이 하나의 공동 파동함수로 기술된다. 이 파동함수는 각각의 입자를 독립적으로 설명하는 것이 아니라, 여러 입자의 위치를 함께 변수로 가지는 함수다.
그렇기에 한 입자의 운동이 멀리 떨어진 다른 입자의 실제 위치에도 의존할 수 있다. 또한 한쪽 측정 장치의 설정이 다른 쪽 입자의 운동을 결정하는 과정에 비국소적으로 관여할 수도 있다. 즉, 입자들의 결과가 결정되어 있기는 하지만 그 결정 과정이 각 입자의 주변 환경에만 의존하는 것은 아니라는 것이다.
물론 이러한 비국소적 의존성을 이용해 빛보다 빠르게 원하는 정보를 전달할 수 있다는 의미는 아니다. 결국 드브로이–봄 이론은 결정론을 유지하는 대신 국소적 인과성에 대한 요구를 포기하는 접근이다.
이와는 조금 다른 접근도 있다.
1999년 노벨 물리학상 수상자인 헤라르뒤스 어후프트(Gerard ‘t Hooft)는 세포 자동자 양자 해석(Cellular Automaton Interpretation)[8]을 제시했다. 이 접근에서는 우리가 양자역학으로 설명하는 세계의 기저에 훨씬 더 근본적인 결정론적 상태들이 존재할 가능성을 탐구한다.
어후프트는 결정론적인 시스템도 양자역학의 수학적 언어로 표현할 수 있다는 점에서 출발한다.
예를 들어 여러 개의 구별 가능한 상태가 있고, 그 상태들이 정해진 규칙에 따라 다음 상태로 전이되는 오토마타를 생각해 보자. 각 상태를 힐베르트 공간의 기저 벡터로 표현하면, 상태 전이는 기저 벡터들의 순서를 바꾸는 순열 연산자로 표현할 수 있다. 그런데 이러한 순열 연산자 역시 유니터리 연산자의 일종이므로, 슈뢰딩거 방정식에서 사용하는 수학적 형식으로 다룰 수 있다는 것이다.
힐베르트 공간과 기저 벡터같은 상태도 기준에 따라 다르게 표현되는 이유
힐베르트 공간(Hilbert Space)과 기저 벡터(Basis Vector)는 양자역학을 이해하는 데 중요한 개념이다.
특히 앞서 이야기한 드브로이–봄 이론, 파동함수, 벨의 부등식은 모두 힐베르트 공간이라는 수학적 구조를 사용해 설명할 수 있다.
핵심부터 이야기하면 다음과 같다.
- 힐베르트 공간: 양자 상태를 벡터로 표현할 수 있는 수학적 공간
- 기저 벡터: 그 공간에서 임의의 상태를 표현하기 위한 기준 벡터
- 파동함수: 양자 상태 벡터를 특정 기저로 표현했을 때 얻는 수학적 표현 중 하나
하나씩 살펴보자.
먼저 기저 벡터부터 이해해보자
우리가 익숙한 2차원 좌표평면을 생각해보자.
2차원에서는 보통 다음 두 기저 벡터를 사용한다. 가로로 한 단위인 e₁과 세로로 한 단위인 e₂다.
이 두 벡터만 있으면 어떤 2차원 벡터든 표현할 수 있다. 예를 들어 (5, 4)라는 벡터는 다음과 같이 쓸 수 있다.
즉, 기저는 공간 안의 모든 벡터를 조합해서 표현할 수 있도록 선택한 독립적인 벡터들의 집합이다. 여기서 독립적이라는 것은 어느 하나를 다른 기저 벡터들의 조합으로 대신할 수 없다는 뜻이다.
기저 벡터가 반드시 수평과 수직일 필요는 없다. 서로 평행하지 않은 두 벡터를 선택해도 2차원 공간을 표현할 수 있다. 다만 서로 직각이고 길이가 1인 벡터를 고르면 계산이 편리하다. 이런 기저를 정규 직교 기저라고 한다.
힐베르트 공간은 무엇이 다를까?
이제 이 개념을 양자역학으로 확장해보자.
앞의 좌표평면에서는 실수 계수로 벡터를 표현했지만, 양자역학에서는 복소수 계수도 사용할 수 있어야 한다. 또한 벡터끼리 얼마나 겹치는지 계산하는 내적(Inner Product)이 정의되어 있어야 한다.
수학적으로 힐베르트 공간은 내적이 정의되어 있고 완비성을 만족하는 벡터 공간이다. 양자역학에서는 보통 복소 힐베르트 공간을 사용한다.
완비성은 간단히 말해, 벡터들을 차례로 나열했을 때 뒤로 갈수록 서로 한없이 가까워진다면, 그 벡터들이 다가가는 극한도 같은 공간 안에 존재한다는 성질이다.
어려운 정의처럼 느껴지지만, 지금은 다음처럼 이해해도 충분하다.
힐베르트 공간은 양자 상태를 벡터로 표현하고, 벡터를 더하거나 내적을 계산할 수 있도록 만든 수학적 공간이다.
중요한 것은 이 공간이 반드시 우리가 사는 3차원 물리적 공간을 뜻하지는 않는다는 점이다. 가령 전자의 스핀 상태만 표현한다면 2차원 복소 힐베르트 공간을 사용할 수 있다.
전자 하나의 스핀으로 이해해보자
전자의 스핀을 특정 축을 따라 측정하면 결과는 두 가지로 나온다. 이 축을 Z축이라고 하고, 위쪽에 대응하는 상태를 |0⟩, 아래쪽에 대응하는 상태를 |1⟩로 적어보자. | ⟩는 상태 벡터를 적는 표기다.
이를 벡터로 쓰면 다음과 같다.
여기서 |0⟩과 |1⟩을 기저 상태(Basis States)라고 부른다. 앞의 좌표평면과 벡터의 모양은 같지만, 이번에는 두 스핀 상태를 표현하는 기준이다.
그렇다면 전자는 이 둘 중 한 상태에만 있어야 할까?
그렇지 않다. 양자역학에서는 두 상태의 중첩이 가능하다.
여기서 α와 β는 복소수 계수다. 각 기저 벡터를 얼마씩 조합하는지 나타낸다.
정규화된 상태라면 다음 조건을 만족해야 한다. 두 결과가 나올 확률을 모두 더하면 1이 되도록 상태 벡터의 길이를 맞춘 것이다.
예를 들어 다음 상태를 생각해보자.
이 상태를 Z축을 따라 측정하면 위쪽 |0⟩은 75%, 아래쪽 |1⟩은 25%의 확률로 나온다. 각 계수의 절댓값을 제곱하면 이 확률을 얻는다.
이것이 보른 규칙(Born Rule)이다. 여기서 핵심은 α와 β가 확률 자체가 아니라 확률진폭(Probability Amplitude)이라는 점이다. 확률은 각 계수의 절댓값을 제곱해서 얻는다.
이 차이를 그림에서도 확인해보자. 아래에서는 두 계수가 0 이상의 실수인 경우를 다룬다.
‘75:25’와 ‘50:50’을 차례로 선택해보자. 기준축은 고정되고 상태 벡터가 바뀐다. 50:50에서는 계수가 각각 약 0.707인데, 확률은 각각 0.5다. 점선으로 읽은 계수와 그 제곱인 확률을 비교해보자.
일반적인 상태에서는 두 계수에 복소수 위상도 들어간다. 지금 그림은 그중 실수 계수만 사용한 일부 상태를 보여준다. 그 추가 정보를 구면 위에서 표현하는 방법이 뒤에서 살펴볼 블로흐 구면이다.
기저를 바꾸면 같은 상태도 다르게 표현된다
앞에서는 |0⟩과 |1⟩을 기저로 사용했다. 그런데 다른 기저를 선택할 수도 있다.
이 두 벡터도 서로 직교하고 길이가 1인 정규 직교 기저 벡터다.
이제 |0⟩을 새로운 기저로 표현하면 어떻게 될까?
원래는 |0⟩이라는 하나의 기저 상태였는데, 새로운 기저에서는 두 상태의 중첩으로 표현된다. 위의 |+⟩와 |−⟩를 더해보면 |1⟩ 성분은 상쇄되고 |0⟩ 성분만 남는 것을 확인할 수 있다.
하지만 실제 양자 상태가 바뀐 것은 아니다. 상태를 표현하는 좌표계만 달라진 것이다.
여기서 실제 측정 방향까지 바꾸면 관측 확률도 달라진다. 같은 |0⟩ 상태를 Z축으로 측정하면 |0⟩이 100% 나오지만, X축으로 측정하면 |+⟩와 |−⟩가 각각 50%로 나온다. 단순히 같은 실험을 다른 좌표로 적는 것과, 서로 다른 기준을 구분하는 측정을 실제로 하는 것은 구별해야 한다.
아래에서는 준비한 상태를 |0⟩로 고정하고 Z축·X축 측정 기준만 바꾼다. 검은 상태 벡터가 그대로 있는지 보자. 바뀌는 것은 회색 기저와 그 기준의 계수, 그리고 해당 측정을 했을 때의 확률이다.
계수 평면의 그림이다. 점선은 같은 상태를 새 기저에 내려 읽은 계수를 보여준다.
이것이 양자역학에서 측정 방향이 중요한 이유다. 앞서 CHSH 부등식에서 앨리스와 밥은 서로 다른 측정 방향을 선택했다. 그 선택은 수학적으로는 서로 다른 기저 상태들을 구분하는 측정을 고르는 것과 연결된다. 같은 얽힌 상태를 준비해도, 둘이 어떤 방향을 선택하는지에 따라 결과의 상관관계가 달라지는 것이다.
두 입자를 함께 다루면 힐베르트 공간도 커진다
전자 하나의 스핀 상태는 2차원 복소 힐베르트 공간으로 표현할 수 있었다. 그럼 두 전자의 스핀을 함께 표현하려면 어떻게 해야 할까?
두 공간의 텐서곱(Tensor Product)을 사용한다. 첫 입자의 두 기저와 둘째 입자의 두 기저를 조합하면, 두 입자를 함께 표현할 네 기저 벡터를 얻는다.
두 입자 각각 2차원이므로 전체는 2×2인 4차원이다. 예를 들어 |01⟩는 첫 입자가 |0⟩, 둘째 입자가 |1⟩인 상태를 나타낸다. 일반적인 두 입자 상태는 위의 네 기저 벡터의 조합으로 표현할 수 있다.
그중 특별한 상태가 바로 벨 상태(Bell State)다.
이 상태는 한 입자의 상태와 다른 입자의 상태를 단순히 곱해서 표현할 수 없다. 각각의 상태에 0과 1 성분을 넣어 곱하면 |00⟩와 |11⟩뿐 아니라 |01⟩와 |10⟩ 성분도 생기기 때문이다. 위 식처럼 앞의 두 성분만 남길 수는 없다. 이런 순수 상태를 양자 얽힘 상태라고 한다.
다만 Z축에서 00과 11이 반씩 나온다는 사실만으로 얽힘을 확인할 수 있는 것은 아니다. 00 또는 11을 확률적으로 준비한 경우와 구별하려면, 다른 측정 기준에서 얻는 통계도 함께 봐야 한다.
여기서 중요한 점이 있다. 입자를 함께 다루는 힐베르트 공간의 차원은 입자 수에 따라 빠르게 커진다. 전자 스핀처럼 두 기저 상태를 갖는 큐비트가 n개라면, 각 큐비트의 두 기저를 조합하므로 차원은 다음과 같다.
| 큐비트 수 | 상태 공간의 차원 |
|---|---|
| 1개 | 2차원 |
| 2개 | 4차원 |
| 3개 | 8차원 |
| 10개 | 1,024차원 |
| 20개 | 1,048,576차원 |
여기서 차원은 독립적인 복소 기저 벡터의 수를 뜻한다. 물리적인 공간의 차원이 늘어난다는 의미는 아니다.
양자컴퓨터를 설명할 때 힐베르트 공간이 자주 등장하는 이유이기도 하다. 다만 상태 공간의 차원이 빠르게 커진다고 해서 그 모든 정보를 측정 한 번으로 읽어낼 수 있는 것은 아니다. 한 번의 측정에서 얻는 것은 선택한 기저에 대응하는 결과 중 하나다.
드브로이–봄 이론과는 어떻게 연결될까?
이제 앞서 살펴본 드브로이–봄의 유도 방정식과 연결해보자.
앞에서는 전자의 스핀 상태를 다뤘다. 이번에는 입자의 공간적 상태를 생각해보자.
양자 상태를 적는 |ψ⟩는 추상적인 힐베르트 공간의 상태 벡터다. 입자의 공간적 상태를 위치 기저(Position Basis)로 표현하면 어떻게 될까?
바로 우리가 흔히 이야기하는 파동함수가 된다. 오른쪽의 ⟨x|ψ⟩는 상태 |ψ⟩를 위치 x에 대해 표현한 계수라는 뜻이다.
스핀 상태를 |0⟩과 |1⟩의 계수로 표현한 것처럼, 입자의 공간적 상태는 각 위치에 대응하는 계수로 표현할 수 있다. 이번에는 위치가 연속적으로 바뀌므로, 두 개의 계수 대신 위치에 대한 함수가 되는 것이다.
엄밀하게는 정확한 위치 하나를 가리키는 |x⟩가 일반적인 정규화 가능 벡터는 아니다. 위치가 연속적이기 때문에 사용하는 일반화된 기저다.
스핀이 없는 입자 하나가 3차원 공간에서 움직인다면 파동함수는 ψ(x, t)로 표현한다. 이때 x는 세 위치 좌표를 묶은 벡터다. 가능한 위치 전체에서 확률을 더하면 1이 되어야 하므로, 정규화 조건은 다음과 같다.
앞에서는 두 계수의 절댓값 제곱을 더했지만, 여기서는 연속적인 위치 전체에 대해 적분한다. 이런 파동함수가 속하는 대표적인 힐베르트 공간이 L²(ℝ³), 즉 제곱적분 가능한 복소 함수들의 공간이다.
드브로이–봄의 유도 방정식에 등장하는 ψ도 이렇게 위치 표현으로 나타낸 파동함수다. 즉, 힐베르트 공간의 추상적인 상태 벡터를 위치 기저로 표현한 뒤, 그 표현의 위상 기울기에서 입자의 속도를 계산하는 것이다.
지금까지의 개념을 하나로 연결하면
힐베르트 공간은 양자 상태를 표현하는 추상적인 수학적 공간이다. 입자가 돌아다니는 물리적 공간과 같은 것은 아니다.
기저 벡터는 그 상태를 표현하는 좌표계 역할을 한다. 같은 상태도 기저에 따라 하나의 기저 상태로 표현되기도 하고, 여러 기저 상태의 중첩으로 표현되기도 한다.
파동함수는 그 상태 벡터를 표현하는 방법 중 하나다. 스핀 기저로 표현하면 스핀 측정 확률을, 위치 기저로 표현하면 위치 측정 확률을 구할 수 있다. 물리적 상태와 그것을 표현하는 좌표를 구별하는 것이 중요하다.
본문의 오토마타와는 어떻게 연결될까?
이제 오토마타의 구별되는 상태마다 기저 벡터를 하나씩 붙인다고 생각해보자. 상태 A에는 |A⟩, 상태 B에는 |B⟩를 대응시킨다. A와 B가 서로 다른 상태라는 것을 두 기저가 직교하는 것으로 표현할 수 있다.
A에서 B로, B에서 A로 바뀌는 전이라면 그 규칙을 아래처럼 적을 수 있다. U는 이 상태 전이를 벡터에 적용하는 연산이다.
이 연산은 두 기저 벡터를 맞바꾸는 순열이다. 조합된 벡터에도 같은 규칙을 선형적으로 적용하면 길이와 내적을 보존한다. 이런 성질을 가진 가역적인 연산이 유니터리 연산이다. 여러 상태를 하나로 합쳐 되돌릴 수 없게 만드는 전이는 이런 순열이 아니다.
결정론적인 상태 전이도 이렇게 양자역학에서 사용하는 수학적 언어로 표현할 수 있다. 다만 이 표현이 가능하다는 사실과, 실제 자연이 그 오토마타의 규칙으로 움직인다는 주장은 별도로 검토해야 한다.
즉, 실제 시스템은 매 순간 하나의 결정된 상태를 가지며 전이하고 있지만, 그것을 기술하기 위해 양자역학의 수학적 도구를 사용할 수도 있다.
어후프트는 이러한 기저의 실제 상태를 존재론적 상태(Ontological State)라고 부르고, 우리가 양자역학에서 사용하는 중첩 상태들은 이를 기술하기 위한 템플릿(Template State)으로 해석한다.
그렇다면 우리가 사용하는 파동함수는 반드시 세계의 근본적인 실재를 그대로 표현하는 것일까? 아니면 기저의 결정론적인 상태들을 다루기 위해 사용하는 수학적 표현일 수도 있는 것일까?
특히 이산적인 상태들이 규칙에 따라 전이되는 세포 자동자를 통해 이러한 가능성을 탐구한다는 점이 흥미롭다. 내가 본문에서 상상했던 틱과 상태머신의 구조를 떠올리게 한다.
다만 결정론적 오토마타를 양자역학의 수학적 형식으로 표현할 수 있다는 사실과, 실제 우주가 그러한 오토마타라는 주장은 다르다.
어후프트 역시 모든 오토마타가 실제 양자 현상을 설명할 수 있다고 주장하는 것은 아니다. 우리가 알고 있는 입자와 상호작용, 상대론적 대칭성 등을 재현할 수 있는 근본적인 시스템을 찾아야 한다는 과제가 남아 있다. 실제 우주가 플랑크 시간마다 업데이트되는 거대한 오토마타라는 사실이 증명된 것도 아니다.
그럼에도 결정론적인 시스템을 양자역학의 언어로 기술할 수 있다는 접근 자체가 흥미로웠다. 본문에서 이야기한 손실압축과 완전히 같은 개념은 아니지만, 우리가 사용하는 모델과 세계의 기저 상태를 구분한다는 점에서 비슷한 생각을 하게 된다.
초결정론과 불변집합이론
또 하나의 접근이 초결정론(Superdeterminism)이다.
벨의 부등식을 유도할 때는 실험자가 선택하는 측정 방향과 입자의 숨은 변수 사이에 통계적 독립성이 있다는 측정 독립성(Measurement Independence) 가정을 사용한다. 초결정론은 이 가정에 의문을 던진다. 측정 대상인 입자뿐만 아니라 실험 장치와 관찰자의 선택 역시 동일한 우주의 인과적 역사 속에 속하는데, 두 변수가 완전히 독립적이라는 보장이 있는가?
물론 공통의 과거를 가진다는 사실만으로 통계적 독립성이 자동으로 깨지는 것은 아니다. 실제 양자 현상을 설명하려면 왜 그런 상관관계가 만들어지는지 구체적인 기작을 제시해야 한다. 이 때문에 초결정론은 필요한 상관관계가 지나치게 인위적인 ‘미세조정(Fine-tuning)‘이라거나 검증하기 어렵다는 비판을 받으며 주류 물리학계에서 널리 받아들여지지는 않는다.
이에 대해 사빈 호센펠더와 팀 팔머는 2020년 논문[9]을 통해 이러한 비판이 초결정론 전체를 배제하는 이유는 아니며 구체적인 모형으로 검증 가능성을 탐구할 수 있다고 주장했는데, 그 대표적인 모형이 바로 팔머가 발전시켜 온 불변집합이론(Invariant Set Theory)이다.
팔머는 2009년 발표한 The Invariant Set Postulate[10]에서 기존의 동역학처럼 방정식의 변화를 묻기 전에, 애초에 우주의 상태 공간(State Space)에서 어떤 상태들이 물리적으로 가능한가를 기하학적으로 정의하는 데서 출발한다.
혼돈이론(Chaos Theory)을 보면, 결정론적인 규칙을 따르는 비선형 시스템의 상태들은 시간이 흐르며 특정한 영역으로 모여들어 그 안에서만 궤적을 그리는 경우가 있다. 이를 끌개(Attractor)라고 부르며, 그중에는 확대해도 자기유사적인 구조가 반복되는 프랙탈 형태의 ‘기묘한 끌개(Strange Attractor)‘가 존재한다.
끌개와 기묘한 끌개같은 구조에 모여도, 왜 장기 예측은 어려울까
끌개(Attractor)와 기묘한 끌개(Strange Attractor)는 결정론과 예측 가능성이 서로 다르다는 것을 이해하는 데 도움이 되는 개념이다.
가장 먼저 핵심을 정리하면 다음과 같다.
- 끌개: 시간이 흐르면서 여러 초기 상태가 가까워지는 점이나 궤도, 또는 집합.
- 기묘한 끌개: 흔히 프랙탈 구조를 가진 끌개. 대표적인 예인 로렌츠 끌개에서는 그 안의 운동도 복잡하고 비주기적이다.
흥미로운 점은 운동이 일어나는 영역은 제한되어 있는데, 그 안에서 앞으로 정확히 어떤 궤적을 따라갈지는 장기적으로 예측하기 어려울 수 있다는 것이다. 어떻게 이 두 가지가 동시에 가능할까? 먼저 단순한 예부터 생각해보자.
끌개란 무엇일까?
공이 그릇 안에서 굴러가는 상황을 생각해보자. 공을 어느 위치에서 놓든, 마찰이 있다면 시간이 지나면서 그릇의 바닥으로 내려와 정지한다. 시작 위치와 속도가 달라도 최종적으로 도달하는 상태는 같다.
이때 바닥에서 정지한 상태를 끌개라고 부를 수 있다. 단지 바닥이라는 위치만 뜻하는 것은 아니다. 공이 바닥에 있고 속도가 0이라는 상태 전체를 가리킨다.
그렇다고 끌개가 반드시 하나의 정지 상태여야 하는 것은 아니다. 운동이 반복되는 궤도 전체도 끌개가 될 수 있다. 이 차이를 이해하려면 먼저 움직임을 그리는 방법부터 살펴볼 필요가 있다.
움직임을 상태 공간에 그려보자
우리는 보통 물체의 움직임을 실제 공간에서 생각한다. 하지만 동역학에서는 시스템의 상태를 하나의 점으로 표현한다.
예를 들어 진자의 상태를 알려면 위치만으로는 부족하다. 같은 위치에 있어도 오른쪽으로 움직이는지 왼쪽으로 움직이는지에 따라 다음 움직임이 달라진다. 따라서 위치뿐 아니라 속도도 알아야 한다.
여기서 θ는 진자의 각도, ω는 각속도다. 이 두 값을 축으로 하는 공간이 상태 공간(Phase Space)이다. 시간이 흐르면 상태를 나타내는 점이 움직이고, 그 점이 그리는 선을 궤적(Trajectory)이라고 한다.
앞의 공이 바닥에 멈추는 상황을 이 공간에 그리면, 여러 시작점의 궤적이 하나의 점으로 모인다. 반면 일정한 진동을 계속한다면, 상태는 한 점에 멈추는 대신 같은 닫힌 궤도를 반복해서 돈다.
앞서 살펴본 힐베르트 공간과도 구별해야 한다. 그쪽은 양자 상태를 벡터로 표현하는 공간이었고, 지금은 고전적인 시스템의 위치·속도 같은 상태 변수들을 좌표로 삼고 있다.
한 점에 모이는 것과 같은 궤도를 반복하는 것은 다르다
마찰만 있는 진자는 결국 멈추지만, 에너지를 공급받아 진동을 유지하는 시스템은 주변의 여러 상태에서 출발해 같은 주기 궤도로 접근할 수도 있다. 이런 안정된 주기 궤도를 극한 주기 궤도(Limit Cycle)라고 한다.
수학적으로는 여러 초기 상태가 시간이 지날수록 가까워지는 불변 집합을 생각한다. 불변이라는 것은 그 집합 안에서 출발하면 이후에도 그 안에 머문다는 뜻이다. 어떤 끌개로 접근하는 초기 상태들의 영역은 끌림 영역(Basin of Attraction)이라고 한다.
고정점에서는 어디에 멈출지, 주기 궤도에서는 어떤 움직임을 반복할지 비교적 쉽게 파악할 수 있다. 그런데 다음 종류는 이야기가 달라진다.
기묘한 끌개의 대표적인 예, 로렌츠 끌개
아래의 나비 날개처럼 생긴 구조가 로렌츠 끌개(Lorenz Attractor)다. 1963년 에드워드 로렌츠가 대류 현상을 단순화한 수학 모형을 연구하면서 발견했다.
선 하나하나는 시간이 흐르면서 상태가 이동한 흔적이다. 상태는 왼쪽 날개를 몇 번 돌다가 오른쪽으로 넘어가고, 다시 왼쪽으로 돌아온다. 전체적으로는 한정된 영역에 머물지만, 전형적인 궤적은 같은 운동을 주기적으로 반복하지 않는다.
이 복잡한 운동을 만드는 규칙은 세 개의 미분방정식이다.
왼쪽의 dx/dt 같은 표기는 각 상태 변수가 시간에 따라 얼마나 변하는지를 뜻한다. σ, ρ, β는 모형의 계수이고, 위 그림에서는 고전적으로 널리 쓰는 다음 값을 고정했다.
여기에는 난수도, 다음 순간을 고르는 확률적 선택도 없다. 현재 상태가 정확히 주어지면 다음 변화가 정해진다. 그런데도 장기적인 운동은 몹시 불규칙해진다. 그렇다면 예측을 어렵게 만드는 것은 무엇일까?
왜 같은 끌개에 모이는데도 예측이 어려울까?
서로 거의 같은 초기 상태에서 출발하는 두 시스템을 생각해보자. 처음에는 궤적이 거의 일치하지만, 시간이 지나면서 큰 차이가 생길 수 있다. 이것이 초기 조건에 대한 민감성이다.
아래에서는 같은 로렌츠 방정식으로 두 궤적을 계산했다. 두 시작 상태는 x값만 0.000001만큼 다르고, y와 z는 같다. 계산 중에는 방정식의 계수나 외부 조건을 바꾸지 않는다.
시간을 0 → 10 → 20으로 옮겨보자. 실선과 점선은 각각 두 궤적의 최근 움직임이고, 채운 점과 빈 점은 같은 시각의 상태다. 처음에는 겹쳐 보이지만 나중에는 서로 다른 곳에 있다. 전체적으로 비슷한 영역을 돈다는 것과, 같은 시각에 같은 상태에 있다는 것은 다르다는 점을 비교해보자.
그림은 x–z 투영이며, 거리는 생략한 y를 포함한 세 변수로 구한다.
이 차이는 매 순간 똑같은 비율로 커지는 것은 아니다. 다만 차이가 충분히 작은 동안에는 다음과 같은 지수적 증가로 그 경향을 설명할 수 있다.
δ₀는 초기 상태의 차이, δ(t)는 시간 t가 지난 뒤의 차이다. λ는 차이가 얼마나 빠르게 늘어나거나 줄어드는지 나타내는 리아프노프 지수(Lyapunov Exponent)다. 가장 큰 지수가 양수이면 가까운 궤적 사이의 작은 차이가 평균적으로 증폭되는 방향이 있다.
이것이 나비효과(Butterfly Effect)의 수학적 핵심이다. 다만 전체 운동이 한정된 영역에 머무르므로, 두 상태의 차이가 무한히 커지는 것은 아니다. 위 그림도 방정식의 유한한 시간 동안을 수치 계산한 예이며, 혼돈을 수학적으로 증명한 그림은 아니다.
서로 벌어지는데, 어떻게 같은 끌개에 머물 수 있을까?
여기서 중요한 의문이 생긴다. 서로 가까운 궤적들이 벌어진다면, 어떻게 전체적으로는 같은 끌개에 모일 수 있을까?
답은 서로 다른 방향에서 수축과 팽창이 동시에 일어나기 때문이다. 어떤 방향에서는 가까운 상태들이 벌어지지만, 다른 방향에서는 간격이 줄어든다. 또 펼쳐진 궤적이 되돌아오며 접히기 때문에 전체 운동은 한정된 영역에 머물 수 있다.
즉, 끌개라는 집합에 가까워진다는 것과 그 집합 안의 두 상태가 서로 가까워진다는 것은 다른 이야기다. 한 점으로 모이는 끌개에서는 둘이 함께 일어나지만, 로렌츠 끌개에서는 집합으로 접근하면서도 그 안의 서로 가까운 궤적은 벌어질 수 있다.
여기서 왜 프랙탈 구조가 등장할까?
늘어나고, 압축되고, 접히는 과정을 반복하면 어떤 구조가 남을까? 매끈한 선이나 한 장의 곡면 대신, 더 작은 규모에서도 층 사이에 또 다른 층과 틈이 나타나는 구조가 생길 수 있다.
프랙탈(Fractal)은 이렇게 확대할수록 세밀한 구조가 드러나는 기하학적 대상이다. 일부 프랙탈은 크기를 바꿔도 정확히 같은 무늬가 반복되지만, 모든 프랙탈이 그런 완벽한 자기유사성을 갖는 것은 아니다.
로렌츠 끌개는 3차원 상태 공간 안에 있지만 그 공간을 꽉 채우지는 않는다. 얇은 층들이 겹친 구조에서 프랙탈적인 성질이 나타난다. 다만 화면에 그린 몇 바퀴의 선만 확대한다고 그 구조를 그대로 확인할 수 있는 것은 아니다. 다음 보충 설명의 칸토어 집합은 작은 규모에 구조가 계속 남는다는 뜻을 더 단순한 예로 보여준다.
기묘한 끌개라는 용어의 엄밀한 정의에는 여러 방식이 있다. 여기서는 로렌츠 끌개처럼 프랙탈적인 구조와 혼돈적인 운동이 함께 나타나는 대표적인 사례를 생각하면 된다.
그렇다면 결정론과 예측은 어떻게 다를까?
이제 처음의 질문으로 돌아가보자. 모든 사건이 이전 상태에 의해 결정된다는 것과, 관찰자가 모든 미래를 정확히 예측할 수 있다는 것은 같은 주장일까?
로렌츠 모형에서는 운동 규칙이 결정론적이어도 초기 상태의 작은 오차가 나중에는 큰 차이가 된다. 초기 상태를 더 정밀하게 알면 예측할 수 있는 시간을 늘릴 수 있지만, 유한한 정밀도로 먼 미래의 개별 상태까지 계속 정확히 맞힐 수 있다는 보장은 없다.
그렇다고 아무것도 예측할 수 없다는 뜻은 아니다. 정확히 어느 순간 왼쪽 날개에 있을지는 맞히기 어려워도, 운동이 어떤 영역에 머무르는지나 오랜 시간 동안 어떤 통계적 성질을 보이는지는 연구할 수 있다. 개별 상태의 미래와 전체 운동의 구조에 대한 예측은 구별할 수 있는 것이다.
혼돈이론이 우주 전체가 결정론적이라고 증명한 것은 아니다. 결정론적인 수학적 규칙만으로도 복잡하고 장기적으로 예측하기 어려운 운동이 생길 수 있다는 것을 보여준다. 본문에서 이어지는 우주 불변집합 역시 이 사례에서 곧바로 도출되는 결론이 아니라, 별도로 검토해야 할 물리적 가설이다.
팔머는 우주 전체의 상태 공간 역시 모든 변수 조합이 임의로 실현될 수 있는 연속적인 공간이 아니라, 시간이 흘러도 시스템이 그 내부에만 머무르는 프랙탈 구조의 불변집합(Invariant Set) 위에 놓여 있다는 가설을 제시했다.
프랙탈 구조의 특징은 선분의 가운데를 끝없이 덜어내어 만드는 칸토어 집합(Cantor Set)을 떠올리면 이해하기 쉽다. 무한히 많은 점들이 남아 있지만, 동시에 곳곳에 수많은 빈틈(집합 바깥의 영역)이 존재한다.
프랙탈과 칸토어 집합길이는 0인데 점은 남고, 작은 부분에 전체 구조가 반복된다
칸토어 집합(Cantor Set)은 선분의 가운데 1/3을 지우는 일을 끝없이 반복해 만드는 프랙탈의 한 예다. 복잡한 그림 없이도 작은 부분에 전체와 같은 구조가 나타난다는 뜻을 살펴볼 수 있다.
앞에서는 기묘한 끌개가 프랙탈 구조를 가질 수 있다고 했다. 그런데 ‘확대해도 세밀한 구조가 나타난다’는 것은 구체적으로 어떤 모습일까? 이번에는 움직이는 궤적 대신, 선분 하나에서 시작해보자.
프랙탈은 단순히 복잡한 모양을 뜻할까?
그림이 복잡해 보인다는 것만으로 프랙탈이라고 하지는 않는다. 작은 규모에서도 구조가 계속 드러나고, 그 구조가 확대 비율과 어떤 관계를 갖는지가 중요하다.
그중 작은 부분을 확대했을 때 전체와 같은 구조가 나오는 성질을 자기유사성(Self-similarity)이라고 한다. 칸토어 집합은 이 성질을 정확하게 보여주는 예다. 먼저 만드는 규칙을 살펴보고, 실제로 어떤 부분이 반복되는지 확인해보자.
선분에서 가운데 부분만 지워보자
길이가 1인 선분, 즉 0부터 1까지의 모든 점에서 시작한다. 이를 세 등분한 뒤 가운데 1/3의 내부를 지운다. 그러면 0부터 1/3까지와 2/3부터 1까지, 두 구간이 남는다. 경계인 1/3과 2/3은 지우지 않고 남겨둔다.
이제 남은 두 구간에도 같은 규칙을 적용해보자. 각각의 가운데 1/3을 지우면 길이가 1/9인 네 구간이 남는다. 다음에는 그 네 구간 각각에서 가운데를 지운다. 규칙은 처음부터 끝까지 같다.
‘한 단계 진행’을 두 번 눌러보자. 한 구간이 두 구간으로 나뉠 때마다 구간 수는 늘지만, 남은 전체 길이는 줄어든다. 검은 구간과 그 아래의 수치를 함께 비교해보자. 각 줄은 같은 0~1 범위를 보여준다.
이 일을 끝없이 반복했을 때, 어느 단계에서도 지워지지 않는 점들을 모은 것이 칸토어 집합이다. 특정 단계에서 남아 있는 구간들과, 무한한 과정을 거쳐 정의하는 최종 집합은 구별해야 한다.
길이가 0이면 아무것도 남지 않는 걸까?
전체 길이는 1, 2/3, 4/9, 8/27 순서로 줄어든다. 매번 직전 길이의 2/3만 남으므로, n번 반복했을 때의 길이는 다음과 같다.
이 값은 반복을 계속하면 0에 한없이 가까워진다. 최종 칸토어 집합의 길이도 0이다. 그렇다면 모든 점이 사라진 것일까?
그렇지 않다. 처음부터 남겨둔 0과 1은 어느 단계에서도 지워지지 않는다. 1/3, 2/3처럼 제거한 구간의 끝점들도 계속 남는다. 길이가 0이라는 것과 집합이 비어 있다는 것은 다른 말이다.
끝점만 남는 것도 아니다. 매 단계에서 왼쪽 구간을 고를지 오른쪽 구간을 고를지 생각해보자. 선택을 계속하면 구간의 길이는 점점 작아지고, 끝없이 이어지는 선택 하나가 최종적으로 점 하나를 정한다.
예를 들어 왼쪽, 오른쪽, 왼쪽, 오른쪽을 계속 번갈아 고르면 1/4이라는 점으로 좁혀진다. 오른쪽을 고를 때마다 더해지는 이동량을 합하면 아래와 같다. 이 점은 어느 단계의 끝점도 아니지만, 가운데 부분에 들어가지 않으므로 끝까지 남는다.
이런 무한한 선택의 열은 자연수처럼 하나씩 번호를 붙여 모두 나열할 수도 없을 만큼 많다. 칸토어 집합의 점들도 그런 의미에서 셀 수 없이 많다. 점이 얼마나 많은가와 점들이 차지하는 길이가 얼마인가는 다른 질문인 것이다.
작은 조각을 확대하면 무엇이 보일까?
이제 남아 있는 모양을 다시 보자. 처음의 왼쪽 1/3 안에서도 가운데를 지우는 일이 똑같이 반복됐다. 오른쪽 1/3에서도 마찬가지다. 따라서 최종 집합의 왼쪽 부분을 세 배 확대하면 전체와 같은 구조가 나온다.
이번에는 3단계의 모양을 고정하고, ‘왼쪽 1/3 확대’를 선택해보자. 위쪽에서 테두리로 표시한 부분을 아래쪽의 같은 폭으로 늘려 보여준다. 작은 부분 안에도 가운데가 비고 양쪽으로 갈라지는 구조가 들어 있다는 점을 보자.
유한한 단계의 그림에서는 확대할 때 남아 있는 세부 단계가 하나 줄어든다. 위의 예가 3단계와 2단계를 비교하는 이유다. 하지만 끝없이 반복한 최종 집합에는 마지막 단계가 없으므로, 부분을 확대해도 전체와 정확히 같은 구조를 얻는다. 이것이 칸토어 집합의 자기유사성이다.
다만 모든 프랙탈이 칸토어 집합처럼 정확히 같은 모양을 반복하는 것은 아니다. 앞의 로렌츠 끌개도 이 선분과 모양이 같은 것은 아니다. 작은 규모에서도 구조를 살펴봐야 한다는 공통점을 이 단순한 예로 이해하면 된다.
그렇다면 본문에서는 왜 이 예가 필요할까?
칸토어 집합에는 무수히 많은 점이 남지만, 그 점들 사이를 연속해서 이어주는 선분은 남지 않는다. 남은 점 주변을 아무리 작게 들여다봐도, 집합에 속하는 점과 제거된 틈을 다시 만나게 된다.
예를 들어 1/3은 집합에 속하지만, 그 바로 오른쪽에는 처음에 제거한 빈틈이 있다. 따라서 집합 위의 점에서 아주 조금 움직였다는 사실만으로, 옮긴 점도 여전히 집합에 속한다고 할 수는 없다.
본문에서 떠올리려는 것은 이런 기하학적 제약이다. 상태들이 놓이는 집합이 전체 공간을 채우지 않는다면, 변수 값을 조금 바꾼 조합이 그 집합 바깥에 놓일 수도 있다. 다만 칸토어 집합이 이런 구조를 보여준다는 사실과, 실제 우주의 상태들이 같은 방식으로 제한된다는 가설은 별도로 검토해야 한다.
따라서 상태 공간에서 서로 아주 가까워 보이는 두 상태라 하더라도 하나는 불변집합 위에 있고 다른 하나는 빈틈에 놓일 수 있다. 겉보기에는 변수 하나가 미세하게 달라졌을 뿐인데, 하나는 물리적으로 허용되는 상태이고 다른 하나는 우주에서 실현될 수 없는 상태가 되는 것이다.
이 기하학적 제약은 벨의 부등식이 전제하는 반사실적 가정(Counterfactual)을 무너뜨린다. 우리는 흔히 “입자의 숨은 상태는 그대로 둔 채, 그때 내가 측정 장치의 각도만 다르게 설정했다면 어땠을까?”를 당연하게 상상한다. 그러나 불변집합이론에서는 실제로 일어난 상태에서 측정 설정 변수만 임의로 바꾼 조합은 프랙탈의 빈틈(불변집합 바깥)에 떨어지기 때문에, 논리적으로는 상상할 수 있어도 물리적으로는 도달할 수 없는 상태가 된다.
하지만 여기에는 자연스러운 의문이 뒤따른다. 측정 각도를 아주 조금 바꿨을 뿐인데 물리적으로 불가능한 상태가 된다면, 그것이야말로 초결정론이 비판받던 작위적인 ‘미세조정(Fine-tuning)‘이 아닌가 하는 점이다.
팔머는 이를 해결하기 위해 2015년 연구[11]에서 프랙탈 구조 위에서의 거리를 재정의하는 p진 거리(p-adic Metric)를 도입했다. 두 수의 차이를 특정 소수의 거듭제곱으로 나누어지는 정도로 정의하는 p진 거리에서는, 일반적인 유클리드 거리로 볼 때 아주 가까워 보이는 두 상태라도 한쪽이 불변집합 바깥에 있다면 실제로는 매우 멀리 떨어진 상태가 된다. 즉, 기저 상태 공간의 고유한 거리 기준에서 보면 이는 미세조정이 아니라 완전히 다른 상태를 배제하는 자연스러운 결과라는 설명이다.
나아가 2020년 연구[12]에서는 이 추상적인 기하학적 모델을 실제 양자역학의 스핀 상태를 나타내는 블로흐 구면(Bloch Sphere)에 직접 적용했다. 구면 위의 각도를 유한한 비트열로 이산화하고 이를 프랙탈 불변집합의 궤적과 연결함으로써, 국소성과 결정론을 유지한 채 벨의 부등식 위반을 수학적으로 도출하는 구체적인 모형으로 발전시켰다.
블로흐 구면같은 50:50 확률이어도 서로 다른 양자 상태일 수 있다
블로흐 구면(Bloch Sphere)은 큐비트(Qubit) 하나의 순수 양자 상태를 3차원 구면 위의 점으로 시각화하는 수학적 도구다.
앞서 살펴본 힐베르트 공간과 기저 벡터가 여기서 연결된다. 특히 본문에 등장한 팀 팔머의 불변집합이론을 이해할 때도 필요한 개념이다. 먼저 구면 위의 점이 무엇을 뜻하는지부터 보자.
구면으로 양자 상태를 표현한다고?
위 그림을 보면 구의 중심에서 어느 한 방향으로 화살표가 뻗어 있다. 이 화살표가 가리키는 방향이 큐비트의 상태를 나타낸다. 여기서 큐비트는 |0⟩과 |1⟩이라는 두 기저 상태로 기술하는 양자계다.
대표적인 상태부터 살펴보자. 아래의 확률은 모두 Z축을 따라 측정한 경우다.
| 구면 위치 | 상태 | Z축 측정 결과 |
|---|---|---|
| 북극 (+Z) | |0⟩ | 0이 100% |
| 남극 (−Z) | |1⟩ | 1이 100% |
| 적도 (+X) | |+⟩ | 0과 1이 각각 50% |
| 적도 (−X) | |−⟩ | 0과 1이 각각 50% |
여기서 이상한 점이 있다. 적도의 서로 반대편에 있는 |+⟩와 |−⟩가 모두 50:50의 확률을 갖는다. 그런데 두 상태는 서로 다르다. 같은 확률이 나오는데 어떻게 다른 상태일 수 있을까? 이것이 블로흐 구면을 이해하는 핵심이다.
양자 상태에는 확률 외에 위상이 있다
앞서 살펴본 것처럼 큐비트의 상태는 다음과 같이 표현할 수 있다.
α와 β는 복소수 계수이며, 정규화된 상태라면 다음 조건을 만족한다.
이 계수의 절댓값을 제곱하면 Z축 측정 확률을 얻는다. 하지만 복소수에는 크기뿐 아니라 위상도 있다. 두 계수 사이의 위상 차이를 상대 위상이라고 한다. 계수의 크기가 같아도 이 차이는 달라질 수 있다.
두 계수에 똑같이 곱해진 전체 위상(Global Phase)은 측정 결과로 구별할 수 없다. 이 중복을 제외하면 상태를 다음과 같이 다시 표현할 수 있다.
복잡해 보여도 상태를 정하는 변수는 두 각도다.
- θ(세타): 북극에서 얼마나 내려왔는지를 나타낸다. Z축 측정 확률과 연결된다.
- φ(파이): Z축 둘레를 얼마나 돌았는지를 나타낸다. 두 기저 상태 사이의 상대 위상이다.
이 두 각도로 임의의 단일 큐비트 순수 상태를 나타낼 수 있다. θ가 같으면 구면에서의 높이도 같고, Z축 측정 확률도 같다. φ를 바꾸면 그 높이를 유지한 채 구 둘레를 돌게 된다.
식의 e 항은 크기가 1인 채 위상만 바꾸는 계수다. φ가 0°이면 +1, 180°이면 −1이 된다. 따라서 두 계수의 크기를 그대로 두고도 상대 부호를 바꿀 수 있다. 이것이 앞의 두 적도 상태를 구별하는 차이다.
직접 각도를 바꿔보자
아래에서는 θ와 φ를 조절해 준비하는 상태를 바꾼다. 비교에 쓰는 Z축과 X축 측정은 고정되어 있다. X축의 두 결과는 +와 −로 적겠다.
먼저 ‘북극 |0⟩’, ‘적도 |+⟩’, ‘남극 |1⟩’을 차례로 선택해 Z축 확률을 보자. 다음에는 ‘적도 |+⟩’와 ‘적도 |−⟩’를 번갈아 선택해보자. Z축은 계속 50:50인데 X축은 어떻게 달라지는지 비교해보자.
막대의 검은 부분은 첫 결과(0 또는 +), 회색 부분은 둘째 결과(1 또는 −)의 확률이다. 각 측정의 확률은 같은 상태를 여러 번 새로 준비해 측정할 때의 비율이다. 한 입자를 두 방향에서 동시에 측정하는 그림은 아니다.
θ를 90°로 고정하고 φ를 0°에서 180°로 바꿔보면, 두 상태는 각각 다음과 같다.
두 식에서 |0⟩과 |1⟩ 앞의 계수는 크기가 같다. 그래서 Z축으로 측정하면 둘 다 반반이다. 하지만 이 두 상태는 바로 X축 측정의 기저 상태다. X축으로 측정하면 첫째는 +가 확실히 나오고, 둘째는 −가 확실히 나온다.
즉, 한 측정 기준에서의 확률만으로는 양자 상태를 전부 구별할 수 없다. 상대 위상이 달라지면 다른 기준에서 측정할 확률도 달라질 수 있다. 같은 크기의 진폭도 위상에 따라 더해지거나 상쇄되므로, 이 차이는 양자 간섭을 이해하는 데도 중요하다.
왜 하필 구면일까?
이 부분은 앞서 살펴본 힐베르트 공간과 연결된다. 큐비트 하나는 2차원 복소 힐베르트 공간의 상태 벡터로 표현된다.
복소수 두 개에는 실수 성분이 총 네 개 있다. 하지만 정규화 조건으로 자유도 하나가 줄어들고, 관측으로 구별되지 않는 전체 위상을 제외하면 독립적인 실수 매개변수는 두 개만 남는다. 그 둘을 θ와 φ로 표현하면 구면 위의 한 점과 대응시킬 수 있는 것이다.
구면의 높이 z는 cosθ이며, Z축에서 ‘0의 확률 − 1의 확률’에 해당한다. 두 확률의 합은 1이므로 0의 확률은 (1 + cosθ)/2다. 반각 공식을 적용하면 앞에서 본 cos²(θ/2)가 된다. 상태를 적는 식에 θ/2가 등장하는 이유다. 힐베르트 공간 설명의 계수 평면에서 잰 각도와, 이 구면의 θ는 같은 각도가 아니다.
이 구는 물리적인 공간에 존재하는 구가 아니라 양자 상태를 나타내는 수학적 지도다. 그리고 한 가지 더 구별할 것이 있다.
- 구면 표면: 상태 벡터 하나로 지정하는 순수 상태(Pure State).
- 구면 내부: 서로 다른 순수 상태를 확률적으로 섞은 혼합 상태(Mixed State).
- 정확한 중심: 두 기저 상태를 반반씩 섞은 완전 혼합 상태 I/2.
예를 들어 |0⟩ 또는 |1⟩을 각각 50%의 확률로 골라 준비한 경우는 중심에 놓인다. 이것은 적도의 순수 상태 |+⟩와 다르다. Z축에서는 둘 다 반반이지만, X축에서 중심의 혼합 상태는 여전히 반반이고 |+⟩는 +가 100% 나온다. 따라서 중첩 상태와 확률적으로 섞은 상태도 구별해야 한다.
혼합 상태까지 포함한 구 전체를 블로흐 볼(Bloch Ball)이라고 부르기도 한다. 위 조작은 구면 표면의 순수 상태를 다룬다. 평면 그림에서 표면의 점이 원 테두리 안쪽에 보이는 것과, 실제로 구 내부의 혼합 상태라는 것은 다른 말이다.
그럼 팔머의 불변집합이론에서는 왜 이 구면을 사용할까?
이제 본문과 가장 직접적으로 연결되는 부분을 보자. 통상적인 양자역학에서는 블로흐 구면 표면의 모든 점이 수학적으로 허용되는 순수 큐비트 상태다. 그런데 팔머는 그보다 근본적인 상태 공간에 추가적인 기하학적 제약이 있다고 가정한다.
팔머의 모형은 블로흐 구면의 상태 표현을 유한한 길이의 비트열, 이산화된 각도, 프랙탈 불변집합과 연결한다. 여기서 중요한 생각은 일반 양자역학으로 수학적으로 표현할 수 있는 상태라고 해서, 그가 가정한 근본적인 상태 공간에서도 모두 실현 가능하지는 않을 수 있다는 것이다.
그렇다면 입자의 숨은 상태는 그대로 둔 채 ‘측정 조건만 다르게 했다면?’ 이라는 질문도 다시 검토하게 된다. 그 변경으로 만든 상태의 조합이 모형의 불변집합 안에 여전히 놓이는지를 먼저 물어야 하기 때문이다.
다만 블로흐 구면 자체가 프랙탈이라는 뜻은 아니다. 이 구면은 표준적인 양자 상태의 표현이고, 팔머의 이산화와 불변집합 구조는 여기에 별도로 제안된 가설이다. 실제 자연이 그 제약을 따른다고 실험적으로 확립된 것은 아니다.
지금까지의 개념을 연결하면, 힐베르트 공간은 양자 상태를 표현하는 수학적 공간이고 기저 벡터는 그 상태를 표현하는 기준이다. 블로흐 구면은 그중 단일 큐비트의 상태를 3차원 그림으로 옮겨 보여주는 도구다. 팔머의 연구는 우리가 쓰는 상태의 수학적 표현과, 실제 세계가 가질 수 있는 근본적인 상태 사이에 어떤 차이가 있을지를 묻는 시도인 것이다.
불변집합이론은 시간의 이산화보다 우주 상태 공간의 기하학적 제약에 초점을 둔다는 점에서 내가 본문에서 상상한 틱 기반 상태머신과 완전히 같지는 않다.
다만 우주의 상태 전이가 임의의 가능성 사이를 자유롭게 이동하는 것이 아니라, 기저의 규칙에 의해 허용된 궤적 위에서만 결정론적으로 발생한다는 관점은 상당히 맞닿아 있다.
물론 팔머가 가정하는 프랙탈 구조가 실제 우주에 존재하는지, 그리고 유한한 상태 표현에서 나타나는 제약 등을 통해 기존 양자역학과 구별되는 실험적 증거를 찾아낼 수 있을지는 여전히 열린 과제로 남아 있다.
그럼에도 자유의지의 근거처럼 여겨지던 ‘다른 선택의 가능성’을 상태 공간의 기하학적 제약으로 풀어내는 사고 패턴을 마주한 것만으로도 충분히 흥미로웠다.
다시 결정론적 해상도로
이 이론들을 찾아보며 다시 생각하게 된 것은, 세계가 결정론적인가라는 질문과 우리가 그 세계를 얼마나 이해할 수 있는가라는 질문은 서로 다르다는 점이다. 전자는 세계가 실제로 어떤 방식으로 존재하는가에 관한 존재론적 질문이고, 후자는 우리가 그 세계를 어느 정도까지 관찰하고 예측할 수 있는가에 관한 인식론적 질문이다.
결정론적인 기저가 존재하더라도, 관찰자가 그 기저의 모든 상태를 알 수 있다는 뜻은 아니다. 반대로 어떤 현상을 확률적으로 설명하고 있다는 사실만으로 그 확률이 반드시 세계의 궁극적인 성질이라고 단정할 수도 없다.
그렇다고 확률이 단순히 우리가 모르는 변수를 압축한 결과라는 설명이 입증된 것도 아니다. 적어도 현재의 양자역학과 실험은 그런 결론을 확정해 주지 않는다.