현존하는 모든 디지털컴퓨터는 단순하게 말하면 ‘1 아니면 0’(1비트)으로 구성된 이진법 연산기계다. 하나의 입력값에는 하나의 출력값을 내놓는다. 차세대 컴퓨터로 불리는 양자컴퓨터는 다르다. ‘1일 수도 있고 0일 수도 있다’는 특수한 연산논리(큐비트)로 작동한다. 이 컴퓨터를 선점하기 위해 IBM, 구글, 마이크로소프트(MS) 등 미국 거대 정보기술(IT)기업을 필두로 영국 일본 중국 등이 치열한 각축전을 벌이고 있다. 양자컴퓨터의 뿌리는 수학이다. 일본 정부가 지난 3월 펴낸 ‘수리자본주의의 시대: 수학의 힘이 세상을 바꾼다’에서 10대 정책과제 중 하나로 ‘양자컴퓨터 상용화를 앞당기기 위한 수학인재 지원체계 정비’를 명시한 이유다.

한국과학기술정보연구원(KISTI) 관계자는 “양자컴퓨터는 교통·물류 등 최적 경로 찾기, 암호 해독, 유체 시뮬레이션 등 복잡계 분석, 입자들의 미시운동 분석 등에서 기존 디지털컴퓨터가 손대지 못한 문제를 해결할 것으로 기대된다”고 말했다.
IBM이 지난 1월 처음 공개한 상용 20큐비트 양자컴퓨터 ‘IBM Q 시스템 원’. /IBM 제공
IBM이 지난 1월 처음 공개한 상용 20큐비트 양자컴퓨터 ‘IBM Q 시스템 원’. /IBM 제공
차세대 컴퓨터는 수학으로 구현

디지털컴퓨터는 1비트를 정보처리 최소 단위로 한다. 즉 연산 단위 증가(n)에 따라 경우의 수가 지수함수(2의 n제곱) 형태로 급증한다. 소인수분해 단위가 막대한 공개키암호(RSA)를 디지털컴퓨터가 깨지 못하는 이유다. 양자컴퓨터는 이론적으로 훨씬 적은 연산 단위를 써서 문제를 해결할 수 있다. RSA가 양자컴퓨터로 깨지는 것은 이 때문이다.

양자컴퓨터는 ‘중첩’과 ‘얽힘’ 두 가지 원리로 구동한다. 중첩은 ‘1이면서도 0이다’라는 큐비트를 뜻한다. 얽힘은 한 큐비트가 변하면 다른 큐비트도 변화한다는 가정이다. 중첩과 얽힘의 양자시스템은 ‘슈뢰딩거방정식’과 ‘하이젠베르크의 불확정성 원리’ 두 가지로 설명된다.

슈뢰딩거방정식은 복소수(실수와 허수)값을 가지는 파동함수다. 특정 시점과 장소에서 전자를 발견할 확률을 준다. 원자핵 주위를 도는 전자를 잡아챌 가능성을 부여하는 확률밀도함수다. 불확정성 원리는 전자의 위치와 운동량을 동시에 규정하는 건 불가능하다는 뜻이다.

양자컴퓨터 개발·원자로 부식 예측도 수학이 '열쇠'
각국은 양자컴퓨터 전쟁인데…

이 양자시스템을 컴퓨터 소자로 구현할 수 있다는 개념은 1982년 미국 이론물리학자 리처드 파인먼이 처음 제안했다. IBM은 1997년 2큐비트 양자컴퓨터를 처음 개발했지만 사내 시험작이었다. 지난 1월 미국 라스베이거스에서 열린 세계 최대 전자쇼 ‘CES 2019’에서 20큐비트 상용 양자컴퓨터 ‘IBM Q 시스템 원’을 공개했다.

미국은 지난해 ‘국가양자이니셔티브(NQI)법’을 마련하고 양자컴퓨터 개발에 전폭적인 투자를 하고 있다. 영국은 2014년 국가양자기술프로그램(NQTP)을 출범시킨 뒤 양자컴퓨터 개발에 1조5000억여원을 투입했다. 중국은 알리바바 등을 동원해 2025년까지 세계 최고 속도 양자컴퓨터를 개발하겠다는 청사진을 내놨다.

2009년부터 양자컴퓨터 개발을 본격화한 일본 정부는 지난해 ‘광·양자 도약 플래그십’을 마련하고 양자컴퓨터 실용화 단계에 들어갔다. 이에 비해 한국 과학기술정보통신부는 올해 들어서야 초보적인 양자컴퓨터 기술개발 과제를 시작했다.

‘극한 기술’의 요람 수학

컴퓨터 한계 돌파뿐만이 아니다. 우주, 원자로 등 극한환경에서 한계를 돌파하는 기술도 수학에 의존한다.

미국 항공우주국(NASA)은 우주개발 시대가 불붙은 1950~1960년대부터 수학자의 산업계 진출을 독려해왔다. 우주선 설계에는 수학이 필수적이다. 우주선이 지구 대류권과 우주 사이 공간인 성층권·중간권·열권 등을 오고가면서 고장나지 않으려면 기체(機體) 표면에 작용하는 온도 압력 등 무수한 조건에 대한 최적 설계가 필요하다. 이때 진공상태에 가까운 환경에서 미세한 변화를 기술하는 미분방정식인 볼츠만방정식이 활용된다. NASA는 우주선 성능 테스트를 할 때 이 방정식을 적용한다.

한국원자력연구원은 아랍에미리트(UAE)에 수출한 최신 원전 APR-1400에 쓰이는 원자로 관통관 노즐(파이프) 소재 인코넬690의 부식과 균열을 예측하는 수학적 모델을 세계 최초로 개발했다고 지난달 밝혔다. 관통관 노즐은 원자로 내 핵연료 제어봉의 위치를 컨트롤하는 핵심 장비다. 인코넬은 니켈에 크롬 철 등을 첨가해 만드는 합금 소재로 내열성 등이 좋다. 원전, 원유 채굴, 해상 시추, 항공우주산업 등에 사용된다.

김성우 원자력연구원 안전재료기술개발부 책임연구원은 “수학모델 개발 덕분에 관통관 노즐 건전성에 대한 정확한 예측이 가능해졌다”며 “국내 원전뿐 아니라 수출형 원전의 안전성을 더 높일 수 있을 것”이라고 설명했다.

이해성 기자 ihs@hankyung.com