양자컴퓨터도 못뚫는 '양자 내성 암호' 만든다

국가수리과학연구소, 국산 암호 원천기술 개발

일상적으로 사용하는 인터넷뱅킹, 전자상거래와 통신 등의 암호체계는 풀기가 거의 불가능한 수학 문제에 기반해 있다. 현재 국제 표준 공개키 암호인 ‘RSA’와 ‘ECDSA’가 대표적이다.

RSA(Rivest Shamir Adleman)는 소인수분해 대상 숫자 단위가 무한히 커지면 이를 풀 수 없다는 수학적 난제로 잠금장치를 걸어놓은 것이다. 공개키로 암호화하고 개인키로 복호화하는 방식으로 정보를 잠근다. 이 암호체계를 처음 제안하고 상용화한 미국 매사추세츠공대(MIT) 소속 연구원(리베스트, 샤미르, 에이들먼) 세 사람 이름의 머리글자를 따 이름을 붙였다. ECDSA(Eliptic Curve Digital Signature Algorithm)는 타원곡선을 이용해 무결성(데이터가 타인 접근으로 오염되지 않았다는 증명)을 제공하는 전자서명 알고리즘이다.

그런데 이들 암호는 ‘꿈의 컴퓨터’ 양자컴퓨터가 상용화되면 폐기될 전망이다. 양자컴퓨터가 사용하는 ‘쇼어 알고리즘’으로 실시간 해독이 가능해지기 때문이다. 이는 인터넷뱅킹, 쇼핑 등 전자상거래와 현재 암호화 통신이 무용지물이 되는 것을 의미한다. 양자컴퓨터 시대 이후 공격에 대응할 수 있는 암호체계 개발에 각국이 분주한 배경이다. 현재 구글 IBM MS 인텔 등 글로벌 정보기술(IT) 기업들은 양자컴퓨터의 주도권을 잡기 위해 치열한 경쟁을 벌이고 있다.

과학기술정보통신부 직할 출연연구기관인 국가수리과학연구소 암호기술연구팀은 올 들어 양자컴퓨터에도 뚫리지 않는 양자내성 암호 원천기술을 개발했다. 연구팀 관계자는 “다변수 이차 연립방정식의 해를 구할 수 없으면 사용자의 전자서명 값을 절대 위조할 수 없도록 설계됐다”며 “쇼어 알고리즘에 적용되지 않기 때문에 양자컴퓨터 공격에 대한 안전성을 확보할 수 있다”고 설명했다.

연구팀이 개발한 이 공개키 암호의 서명생성 속도는 8비트 CPU 기준 국제표준 전자서명 알고리즘 ‘ECDSA-256’보다 36배가량 빠르다. 또 사물인터넷(IoT) 기기에서도 고속 구현이 가능하며, 다른 양자내성 암호(레인보우)보다 속도가 빠른 것이 확인됐다.

연구팀 관계자는 “공개키 암호를 대부분 외국산에 의존하고 있는 상황에서 인증, 무결성 등 기능을 제공하는 우수한 국산 양자내성 공개키 암호 원천기술을 확보했다는 데 의미가 크다”고 설명했다. 이 암호 알고리즘은 자율주행차, 드론(무인비행체), 웨어러블 로봇, 스마트공장 등 다양한 환경에서 기기 인증에 활용될 것으로 전망된다. 현재 블록체인에서 사용하고 있는 국제표준 전자서명 ECDSA를 대체할 것으로도 기대되고 있다.

수리연의 이번 연구 결과는 국제학술지 IEEE(국제전기전자엔지니어협회) IoT 저널에 ‘8비트 IoT 기기에서 고속 구현이 가능한 전자서명 알고리즘’이란 제목으로 실렸다. IEEE IoT 저널은 JCR(Journal Citation Reports) 컴퓨터과학·정보시스템 분야 상위 1.9%에 드는 학술지다.

보안업계 관계자는 “외국 정보기관에서는 수년 전부터 여러 나라의 암호화된 기밀통신을 도청해 저장해놓고 있다”며 “지금은 해독이 불가능하더라도 양자컴퓨터 개발이 완료되면 모두 해독이 가능해지므로 그때 그 정보를 정치적으로 이용하려는 목적”이라고 전했다.

이 관계자는 “양자 내성암호로 전환은 빠를수록 좋다”며 “새 보안제품을 개발하거나 관련 서비스를 준비하고 있다면 양자내성 암호를 적용하는 것이 양자컴퓨터 시대를 대비하는 좋은 수단이 될 것”이라고 덧붙였다. 전자서명법 개정으로 연말부터 공인인증서 사용의무가 없어지면서 전자서명 시장이 확대되는 것도 양자내성 암호 기술에 호재라는 분석이다.

이해성 기자 ihs@hankyung.com