R&E FOR YOU(vol.06) - 양자정보과학으로의 초대

들어가는 글

사람은 물질로 이루어져 있어서 물질의 법칙대로 사람이 하는 모든 일이 다 결정되어 있는가? 그렇다면 사람의 행위에 대해 잘잘못을 물을 수 없지 않나? 고등학교 때에 이런 문제로 고민할 때에, 사람은 자유의지가 있어서 자신의 일을 선택할 수 있고, 그에 대한 책임을 물을 수 있다는 말을 듣게 되었다. 대학 입시를 앞두고 있었던 1976년 12월 16일, 신문에서 "하이젠베르크의 불확정성원리 50주년"을 기념하는 행사가 있었다는 기사를 읽었다. 그 기사에서 양자물리의 불확정성원리를 이렇게 설명하고 있었다. 고정되어 있는 총으로 과녁에 총알을 여러 발 발사할 때에, 뉴턴의 고전물리학적인 결정론에 따르면 총알이 모두 같은 곳에 맞아야 하지만, 하이젠베르크의 불확정성 원리에 따르면 총알들이 확률론적으로 여러 다른 곳에 맞을 수 있다고 하였다. 이 기사를 읽고, 양자물리학을 공부하면 인간의 자유의지에 대해 증명할 수 있지 않을까 하는 생각을 하였고, 그 이후 비슷한 생각을 가진 사람들이 많이 있다는 걸 알게 되었다. 양자물리학의 불확정성 원리가 결정론적인 세계관을 부정하였지만, 그렇다고 자유의지가 증명된 것은 아니다. 자유의지는 과학으로 증명할 수 있는 문제가 아니라, 개인이 가지는 신념의 문제라고 생각하게 되었다.

양자물리학은 1900년에 처음 등장하여 물질세계의 궁극적 원리로 인정받고 있다. 플랑크가 흑체복사의 분광을 설명하기 위해 빛 에너지의 양(量)이 연속적이지 않고 하나 둘 셀 수 있는 것처럼 덩어리져 있다고 해서, 양(量, quantity)을 뜻하는 'quant'에 라틴어 명사형 어미 '-um'을 붙여 퀀텀(quantum)이라는 말을 만들었다. 한국, 중국, 일본 등 한자문화권에서는 양(量)에 작은 것을 뜻하는 접미사 '자(子)'를 붙여서 '양자(量子)'라는 번역어를 쓰게 되었다. 일본이나 중국에서는 '量子'라고 한자로 쓰니 다른 뜻으로 혼동할 여지가 없지만, 우리말에서는 '양자'라고 쓰니 같은 소리의 동음이의어들이 많아서 오해의 여지가 많이 있다. 두 집단이 모여서 하는 회의를 '양자회담'이라고 하고, 다른 집 아이를 데려와 키울 때에 '양자'라고 부르고, 중국 남부의 긴 강의 이름이 '양자강'이고, 원자핵 안에 있는 양전기를 띤 입자를 우리는 양성자(陽性子, proton)라고 부르지만, 일본 사람들은 양자(陽子)라고 부른다.

1905년 아인슈타인은, 강한 빛이라도 작은 에너지를 가진 빛 알갱이는 아주 많이 있어도 소용이 없고, 약한 빛이라도 빛 알갱이 하나가 충분한 에너지를 가지고 있으면 금속 안에 잠겨 있는 전자 하나를 떼어낼 수 있다고 하여, 광전효과(光電效果, photoelectric effect)를 설명하였다. 이후 닐스 보어는 수소원자의 전자 궤도가 가진 에너지나 각운동량이 연속적이지 않고 띄엄띄엄 떨어져 있다고 하여, 수소원자의 스펙트럼을 설명하였다.

에너지 등 다양한 물리량이 연속적이지 않고 띄엄띄엄 떨어져 있는 양이라는 데에 주목하고 있던 양자물리학은, 1920년대 후반 큰 변화를 겪게 된다. 하이젠베르크는 입자의 위치와 운동량을 동시에 정확하게 측정할 수 없다는 불확정성 원리를 발표하였다. 역학적인 물리량들의 값이 단순히 숫자가 아니라 행렬의 고유치(eigenvalue)가 된다고 하여, 행렬로 양자역학을 기술하게 되었다. 슈뢰딩거는 양자현상을 기술하기 위해 파동방정식을 도입하였다. 나중에 행렬역학과 파동역학은 동등하게 양자현상을 기술할 수 있다는 것이 알려졌다.

앞에서 본 대로, 불확정성 원리는 물리학뿐 아니라 세계관을 다루는 철학에까지 영향을 미쳤다. 결정론적인 고전물리학에서 측정은, 이미 결정되어 있는 물리량을 있는 그대로 읽어낼 따름이다. 그러나 양자물리학에서는, 물리량과 그 양자상태는 측정하기 전에는 정해져 있지 않다. 물리량을 측정하면 그제서야, 그 물리량을 나타내는 행렬의 고유치들 중 하나가 '확률적으로' 정해지고, 물체의 상태는 그 고유치에 해당하는 고유상태로 된다. 이러한 양자측정의 공리는, 결정론적인 세계관을 가진 고전물리학자들로서는 도저히 받아들일 수 없었다. 아인슈타인은 그 자신이 광전효과의 설명으로 양자물리학 성립에 큰 기여를 하였지만, 비결정론적인 양자측정 공리에는 찬동할 수 없어서, '신은 주사위 놀음을 하지 않는다'는 말로 불만을 표시하였다. 또 물리량과 그 양자상태가 측정하기 전에는 정해져 있지 않다가 측정에 의해 정해진다는 데에 대하여 '아무도 달을 쳐다보지 않으면 달이 없다는 말인가?'라고 반발하였다.

나치의 탄압을 피해 미국 고등과학원에 정착한 아인슈타인은, 1935년 포돌스키, 로젠과 함께 '물리적 실재에 대한 양자역학적 기술이 완전하다고 할 수 있느냐?'는 의문을 제기하는 논문을 발표하였다. 저자 세 사람의 이름 첫자를 따 EPR이라고 불리는 이 논문에서 제기한 사고실험은 추론을 좀 더 용이하게 할 수 있도록 변형되었다. 처음에 각(角)운동량(스핀)이 0인 입자 하나가 각운동량을 가진 입자 두 개로 나뉘어 서로 반대 방향으로 진행한다. 왼쪽으로 간 입자의 각운동량이 +1이면 오른쪽으로 간 입자의 각운동량은 -1이 되어야 하고, 왼쪽이 -1이면 오른쪽은 +1이 되어야 한다. 이것은 (+1,-1)과 (-1,+1)의 두 가지 가능성이 중첩된 양자상태이다. 두 입자의 거리가 아무리 멀어져도 이 상태로 유지된다고 가정하자. 이제 왼쪽 입자에 대해 각운동량이 "+1인지, -1인지?" 측정하면, 이 두 가지 가능성 중 하나로 "확률적으로" 정해진다는 것이 양자역학의 주장이다. 즉, 왼쪽이 +1이 되면, (+1,-1) 가능성이 선택되어, 오른쪽은 즉시 -1이 된다는 말이다. 그런데, 왼쪽이 -1이 되면, (-1,+1) 가능성이 선택되면서, 오른쪽은 즉시 +1이 된다.

아인슈타인은, 왼쪽의 각운동량이 측정에 의해 정해져서 그때문에 그 즉시 멀리 떨어진 오른쪽의 각운동량 값이 정해진다면, 그것은 '유령 같은 작용 (spooky action at a distance)'으로서, 빛보다 어떤 것도 빨리 전달될 수 없다는 특수상대성 이론과 맞지 않는다고 생각하였다.

대부분의 물리학자들은, 측정에 의해 양자상태가 정해진다는 양자역학이론이 옳은지, 또는 이미 정해져 있던 양자상태가 있는 그대로 측정이 된다는 아인슈타인의 생각이 옳은지 하는 것은 과학이 아닌 형이상학적인 주제로 생각하였다. 이런 논란에 상관없이 양자물리학으로 자연을 이해하고, 물질계의 여러 현상을 아주 잘 설명할 수 있게 되었을 뿐만 아니라, 새로운 물질도 합성하고, 반도체 소자나 레이저 광 등 20세기 정보통신기술의 발전으로 "제1차 양자혁명"이 진행되고 있었다. 학생이나 연구자들이 EPR 논란에 빠져 시간 낭비하지 말라는 뜻으로 '닥치고 계산이나 해 (Shut up and just calculate!)' 라는 태도가 대세였다. 그러나 궁금한 것은 못 참는 물리학자들도 있었다. 1964년 유럽입자물리학연구소(CERN)의 존 벨(John Bell)이 그런 사람이었다. 양자역학이론이 옳은지, 아니면 아인슈타인의 의심이 옳은지 확인해 볼 수 있는 실험방법을 고안해 내었다. 왼쪽과 오른쪽에서 스핀의 방향을 측정할 때에 한 가지 방향에 대해서만 측정하는 것이 아니라, 다른 방향에 대해서도 측정하고, 그 때마다 왼쪽과 오른쪽의 측정값이 주는 상관계수를 평균해 보는 것이다. 측정이, 이미 정해져 있던 양자상태를 읽어낼 따름이라면 이 상관계수의 평균값은 어떤 특정한 값을 넘을 수가 없다. 이 관계를 식으로 나타낸 것이 벨의 부등식이다.

얽힌 광자 실험으로 벨 부등식이 위배됨을 보이고, 양자정보과학을 개척한 공로
(출처: https://www.nobelprize.org/prizes/physics/2022/summary/)

1970년대에 존 클라우저(Clauser)는, 쓸데없는 실험을 한다는 비판에도 불구하고 벨의 부등식을 테스트할 실험을 고안하였다. 스핀이 아니라, 얽힌 두 광자의 편광방향을 양쪽에서 측정하여 상관관계를 구하고 그 평균을 계산하였다. 놀랍게도 양자역학 이론의 예측대로 양자얽힘은 벨의 부등식을 위배하는 결과가 나왔다. 당시 이 실험은 양쪽의 편광방향 측정축이 고정되어 있어서 양쪽의 측정이 서로 영향을 줄지도 모르지 않는가 하는 의혹을 받을 수도 있었다. 1980년대에 앨런 아스페(Aspect)는, 존 벨을 찾아가서 벨의 부등식을 테스트하는 실험을 해보고 싶다고 했다. 존 벨은 젊은 아스페에게 일자리를 잃지 않을 자신이 있는지 물어보았다고 한다. 아스페는 클라우저의 실험보다 훨씬 정교한 장치를 사용하여 왼쪽과 오른쪽의 실험장치들이 서로 영향을 주고 받을 여지가 없도록 설계하여 실험을 하였다. 역시 양자얽힘은 벨의 부등식을 위배하는 것으로 결과가 나왔다. 양자역학 이론이 옳다는 것이 확인이 되었다. 그렇지만 여기서 주의할 것은, 여전히 빛보다 빨리 정보를 전달할 수 있는 것은 아니라는 점이다. 양자얽힘의 양쪽을 측정하면 양쪽의 측정결과 사이에 상관성이 즉시 성립됨이 확인된다. 그러나, 정보를 전달한다는 말은, 자신이 원하는 또는 의도하는 정보를 보내는 것이고, 양자얽힘의 양쪽에서 측정되는 결과는 의도하는 대로 되지 않는다. 단지 상관성만 있을 뿐이기에 양자얽힘을 이용하여 빛보다 빨리 정보를 전달할 수는 없다! 그래서 아인슈타인의 특수상대성 이론과도 아무런 모순이 없다!

1970년대에 양자물리학을 이용하면 빛보다 빠른 통신을 할 수 있다는 "잘못된" 제안을 한 물리학자가 있었다. 닉 허버트(Nick Herbert)는 스탠포드에서 물리학 박사학위를 받았는데, "양자 측정으로 빛보다 빠른 통신을 할 수 있다고 주장하는" 장치 FLASH (First Laser-Amplified Superluminal Hookup)에 대한 논문을 Foundations of Physics라는 유명한 학술지에 게재하였고1), 책으로까지 출판하였다2). 이 논문의 심사위원 중 애셔 페레스(Asher Peres)는 후일 자신은 이 논문이 "잘못된" 것이 확실하지만, 큰 관심을 불러일으켜서 물리를 제대로 이해하는 데에 큰 기여를 할 것으로 기대하여 논문을 출판하도록 편집자에게 추천하였다고 한다3). 실제로 닉 허버트의 "잘못된" 주장이 실린 논문이 출판되고 나서, "제2차 양자혁명"을 일으키는 중요한 연구들이 출판되기 시작하였다. "양자 복제 불가능성 정리 (quantum no-cloning theorem)"4)5)은 양자역학의 선형적인 성질에 기인하는데, 만약에 양자상태가 복사 가능하면 빛보다 빠른 통신이 정말로 가능하게 된다. 위스너(Wiesner)가 1983년에 "위조가 불가능한 양자 화폐"6) 논문을 발표한 데에 이어, 이 아이디어를 발전시킨 "양자암호"7)가 1984년에 베넷(Bennett)고 브라사드(Brasard)에 의해 발명되었다. 베넷, 브라사드, 페레스는 다른 세 명의 동료와 함께 1993년 양자원격전송(양자텔레포테이션)을 발명하였고8), 디마티니(De Martini) 그룹과 차일링거(Zeilinger) 그룹이 1997년에 양자원격전송 실험에 성공하였다. 양자원격전송에 대해서는 여러 가지 오해가 있다. 특히 빛보다 빨리 뭔가를 보낼 수 있다는 식으로 잘못 알려진 경우가 많이 있는데, "잘못된" 이야기이다. 빛보다 빨리 가는 것은 아무 것도 없다. 텔레포테이션을 "순간이동"이라고 쉽게 표현하는 것도 그런 오해를 불러일으키는 것 같다.

1994년에는 벨 연구소의 피터 쇼어(Peter Shor)가 소인수분해 알고리듬을 발표하였다11). 소수 두 개를 곱한 자연수의 자릿수가 n이라면, 디지털컴퓨터로 소인수분해를 하는 데에 걸리는 시간은 대략 "n의 3분의 1제곱에 지수함수적으로" 증가한다고 한다. 그런데, 양자컴퓨터가 만들어져서 피터 쇼어의 알고리듬을 쓰면 "n의 세제곱" 정도로 증가한다고 한다. 자릿수가 커짐에 따라 디지털컴퓨터로는 "불가능한" 계산이 양자컴퓨터로는 가능하게 된다는 말이다. 쇼어의 양자 소인수분해 알고리듬은 엄청난 반향을 일으켰다. 현재 사용되고 있는 인터넷 통신 보안 체계가 대부분 RSA 방식을 사용하고 있는데, 바로 이 RSA 방식이 소인수분해의 어려움을 응용한 것이다. 따라서 양자컴퓨터가 등장하면 세상 모든 비밀통신의 보안이 위험해진다.

1996년에는 같은 벨 연구소의 그로버(Grover)가 양자 검색 알고리듬을 발표하였다12). 일 억 개 중에서 하나를 찾는 디지털 알고리듬은, 운이 좋으면 한 번 만에, 운이 나쁘면 일 억 번 만에 찾을 수 있어서, 평균적으로 5천만 번 정도의 확인을 해야 한다. 그에 비해 그로버의 검색 알고리듬은, 일 억의 "제곱근"인 만 번 정도의 확인으로 원하는 것을 찾을 수 있게 해 준다.

양자물리학과 통신보안은 "병 주고 약 주는" 관계에 있다고 할 수 있다. 양자컴퓨터가 나오면 어려운 문제를 쉽게 풀 수 있을 것이므로 암호도 쉽게 풀릴 가능성이 있어서 양자물리학이 통신보안에 "병을 주는" 셈이다. 그런 한편, 베넷과 브라사드가 발명한 양자암호는 어떠한 컴퓨터, 심지어 양자컴퓨터도 깰 수 없는 양자암호통신 방식을 제공하니 양자물리학이 통신보안에 "약을 주는" 셈이다.

앞에서 살펴본 것처럼, "제1차 양자혁명"은 물질세계의 궁극적 원리로 알려진 양자물리학으로 물질에 관한 기술을 발전시켰다. 컴퓨터나 통신에는 반도체 소자와 레이저 광과 같은 하드웨어의 원리를 양자물리학이 제공하였지만, 비트가 단위인 디지털정보를 다루는 소프트웨어나 운영체제의 원리에는 양자물리학과는 전연 상관이 없는 수학과 정보과학이 사용되었다. 이제 21세기를 맞아 전개되고 있는 "제2차 양자혁명"에는, 한층 더 고차원적인 양자 하드웨어와 함께, 큐비트(qubit 또는 양자비트)로 불리는 정보 그 자체와 소프트웨어, 운영체제의 설계에까지 양자역학이 고려되어야 한다.

양자컴퓨터, 양자통신, 양자센서, 양자계측, 양자이미징 등 제2차 양자혁명이 가져올 새로운 기술은 아직까지 시작 단계로서 늦지 않았으며, 우리 젊은 도전자들을 기다리고 있다.