양자컴퓨터의 작동 원리인 양자역학(양자물리학)은 기묘하다. 눈에 보이지 않는 세계의 운동 법칙을 다루기 때문에 난해하기 그지없다. 양자역학은 “거기에 (뭔가) 있기도 하고 없기도 하다”로 요약된다. 양자컴의 정보단위인 큐비트(0이면서도 1)는 여기에서 나왔다. 물리학자 리처드 파인먼은 “양자역학이 무엇인지 이해했다고 말하는 사람이 있다면, 그것은 새빨간 거짓말이다”라는 말로 양자역학의 난해함을 표현했다.

양자역학은 알베르트 아인슈타인이 광자(빛)의 ‘얽힘’ 개념을 제시하면서 20세기 초 태동했다. 고전역학에선 물체의 위치를 특정할 수 있다. 질량과 속도의 곱으로 정의되는 운동량(P=mv)을 알면 위치가 나온다. 하지만 양자역학은 다르다. 운동량을 알아도 위치를 정확하게 알 수 없다. 대략 확률로만 파악할 수 있을 뿐이다. 이런 양자의 혼란스러운 상태를 ‘하이젠베르크의 불확정성의 원리’라고 한다.

확률 개념이 들어간 양자역학 창시자는 에르빈 슈뢰딩거다. 빛, 전자 등 양자 움직임을 수학적으로 기술하는 파동함수를 처음 제안했다. 이를 확률밀도함수로 바꿔 해석한 이가 막스 보른이다. 이 함수를 적분하면 특정 시점(t)에서 전자를 발견할 확률이 나온다. 이어 존 스튜어트 벨이 1964년 ‘벨 부등식’을 발표하면서 실험적으로도 양자역학의 타당성이 증명됐다.

파인먼은 1983년 양자역학을 컴퓨터로 구현할 수 있다는 개념을 처음 제시했다. 고전 컴퓨터는 칩 크기를 줄이는 데 한계가 있다. 회로 선폭이 극도로 작아지면 신호에 오류가 생기는 터널링 때문이다. 이에 비해 양자컴은 터널링을 오류가 아니라 ‘아주 자연스러운’ 신호 전달로 여긴다.

양자컴 연구가 급증한 계기는 1994년 피터 쇼어가 “슈퍼컴퓨터로 불가능한 암호 해독을 양자컴퓨터로 풀 수 있다”며 ‘쇼어 알고리즘’을 내놓으면서다. 현재 쓰이는 인터넷 공개키 암호는 막대한 수의 소인수분해가 불가능하다는 점을 이용해 특정 정보에 자물쇠를 걸었다. 쇼어 알고리즘은 양자컴이 이 자물쇠를 쉽게 깰 수 있다는 충격적인 발표였다. 쇼어 알고리즘은 ‘양자 푸리에 변환’을 기본으로 한 복잡한 함수로 설명된다.

양자역학은 노벨물리학상의 단골 주제이기도 하다. 가장 최근인 2016년엔 양자역학과 위상수학 간 관계를 규명한 마이클 코스털리츠 영국 브라운대 교수 등 3명이 상을 받았다. 이들은 큐비트 간 상호작용(중첩과 얽힘)이 위상수학 공간의 특성과 비슷하다는 점을 밝혀냈다.

이해성 기자 ihs@hankyung.com