[김재완의 21세기 양자혁명] 양자컴퓨터 양자병렬성의 비밀

흔히 ‘시간은 돈’이라고 하지만 둘 사이는 단순한 비례 관계가 아니다. 시간 절약을 위해 계산 속도를 두 배로 올리는 데 100배의 비용이 든다면 그런 투자를 할까? 당연히 해야 한다. 첨단 기술 개발 시간을 6개월에서 3개월로 줄이는 것은, 기업으로서는 비용의 문제가 아니라 사활의 문제이기 때문이다. 산업혁명기 이후 인류는 더 큰 계산을 더 빨리하기 위한 컴퓨터 기술을 발전시켜 왔다.

찰스 배비지는 ‘컴퓨터의 아버지’로 불린다. 뉴턴과 스티븐 호킹이 누렸던 영국 케임브리지대 루카시안 수학석좌교수직을 1828년부터 10년간 맡은 배비지는 영국 공무원들에게 사기꾼 취급을 받았다. 영국 정부의 지원을 받아 수십 년 동안 진행한 기계식 계산기를 완성하지 못했기 때문이다. 배비지의 꿈은 1991년에야 정밀기계가공 기술 덕에 완성됐다. 1946년 미국에서 개발된, 프로그램이 가능한 전자식 컴퓨터 애니악은 전기 흐름을 제어하는 데 진공관 1만8000개를 사용했다. 무게가 30t에 달하는 거대한 기계였지만, 그 계산 능력은 오늘날 스마트폰의 1만분의 1도 되지 않았다.

그 이후 컴퓨터 발전 속도는 양자물리학 덕분에 지수함수적으로 빨라졌다. 양자물리학으로 반도체의 전기적 특성을 이해하게 되면서 1947년 반도체 트랜지스터가 발명됐다. 큰 손가락만 하던 진공관은 손톱 크기의 반도체 트랜지스터로 대체되더니, 인텔의 창업자 고든 무어가 알아챈 것처럼 트랜지스터 크기가 18개월마다 반으로 되면서 집적도가 지수함수적으로 높아졌다. 이제 트랜지스터는 나노미터(nm·1nm는 10억분의 1m) 수준까지 작아졌고, 손톱만 한 칩에 수백억 개가 들어가게 됐다.

컴퓨터 성능 향상 견인한 양자물리학

데크(DEC)는 1970년대 컴퓨터 산업을 주도한 미국 회사였다. 데크의 창립자 케네스 올슨이 “아무도 집에다 컴퓨터를 갖출 필요는 없다”고 했지만, 10년도 지나지 않아 IBM류의 PC와 애플 컴퓨터가 미국 가정에 자리잡기 시작했다. 인텔은 컴퓨터의 핵심 두뇌 기능을 담당하는 CPU 칩으로 286, 386, 486, 펜티엄(586)을 시리즈로 내놓으며 일반인들까지 열광시켰다.

컴퓨터의 성능은 초당 연산 횟수로 비교가 된다. 1초에 100만 번 덧셈하는 속도를 1메가플롭스(MFLOPS)라고 하는데, 현재 가장 빠른 컴퓨터의 계산 속도는 메가플롭스의 10억 배인 페타플롭스(PFLOPS)로 초당 1000조 번의 덧셈을 해낸다. 이렇게 빠른 계산 속도를 얻기 위해서 개별 컴퓨터 칩의 성능을 향상시키는 한편 수백, 수천 또는 수만 개의 칩을 연결하는 병렬컴퓨팅 방식을 쓴다.

컴퓨터 칩 100개를 쓰면 계산 속도가 100배로 빨라질까? 큰 데이터의 합을 구해서 평균을 계산하는 것처럼 아주 단순한 계산이라면 그렇게 될 수도 있다. 그렇지만 문제의 성격에 따라 칩들 사이에 데이터를 주고받는 통신이 많아지는 경우에는 계산 과정에 병목현상이 생기기도 해 병렬컴퓨팅 효과가 많이 줄어든다. 즉, 100개의 칩을 사용한 디지털병렬컴퓨터의 계산 속도는 ‘기껏해야’ 100배 빨라질 뿐이어서 ‘선형적인 병렬성’을 보인다.

주어진 연산 '한꺼번에 처리'해 속도↑

이렇게 1940년대 이후 디지털컴퓨터 성능이 지수함수적으로 또는 기하급수적으로 발전해 온 것은 반도체 소자 등 하드웨어의 원리로 쓰인 양자물리학 덕분이다. 그러나 나노기술에 의한 반도체 소자의 소형화, 집적화는 무한정 지속될 수 없다. 트랜지스터 크기가 나노미터 이하로 작아지면 양자물리학의 불확정성 원리에 따라 0이나 1 비트 값의 구분이 모호해지고, 이것은 디지털 연산에 치명적이기 때문이다.

양자컴퓨터는 디지털의 비트 대신 양자비트 즉 큐비트를 사용한다. 비트 하나는 0 또는 1을 하나씩 두 번에 걸쳐서 나타낼 수 있지만, 큐비트 하나는 0과 1을 중첩해 ‘동시에’ 나타낼 수 있다. 디지털 컴퓨터에서는 비트 3개로 000, 001, 010, 011, 100, 101, 110, 111 등 2의 3제곱, 즉 여덟 가지 경우를 나타낼 수 있지만 한 번에 하나씩 여덟 번에 걸쳐서 처리를 한다. 양자컴퓨터의 큐비트 3개는 이 여덟 가지 모든 경우를 중첩해 한꺼번에 처리할 수 있다. 또 100개의 큐비트는 2의 100제곱인 약 1경(京)의 100조(兆) 배 경우 모두를 동시에 중첩해 나타낼 수 있어서 지수함수적인 ‘양자병렬성’을 보인다.

디지털컴퓨터가 실리콘 위주의 반도체 기술을 바탕으로 하는 데 비해 양자컴퓨터는 초전도, 이온, 광자, 다이아몬드 등 여러 기술이 큐비트 후보로 연구되고 있다. 양자컴퓨터의 큐비트는 지수함수적인 양자병렬성을 보이지만, 외부 잡음에 극단적으로 예민해 양자오류수정처럼 잡음을 극복하기 위한 다양한 연구가 진행되고 있다.

김재완 < 고등과학원 교수 >