누리호 로켓·전투기·반도체·정보통신·인공지능·양자컴 모두 "수학의 마술"

극장가 달구는 [탑건:매버릭]에 담긴 수학

최근 대전에서 만난 이창훈 KAIST 항공우주공학과 교수. 수학자인지 헷갈릴 정도로 연구실 보드에 어마어마한 수식이 가득 차있다. 로켓이 공력(대기가 누르는 힘)과 추진력 사이 무게중심을 잡고 가속도를 유지하며 날아가는 추력벡터제어(TVC) 기술 등과 관련한 수식이다.

발사체 기술을 연구하는 그는 이런 수식들이 "재사용 발사체 원천기술을 가능케 할 수식"이라고 설명했다. TVC, 재점화, 유도제어가 핵심인 재사용 발사체는 스페이스X가 처음 선보여 세계 우주산업 패러다임을 완전히 바꾼 신기술이다.

한국계 수학자인 허준이 고등과학원 교수(미 프린스턴대 교수)가 '수학 노벨상' 필즈상을 수상한 것을 계기로 수학이 현재 인간이 누리고 있는 기술과 미래 산업에 미치는 영향에 대한 관심이 커지고 있다. 허 교수가 푼 11개 난제는 정보통신, 반도체, 인공지능(AI) 등에 두루 활용되고 있거나, 활용될 전망이다.

○극초음속 전투기 성능, 수학이 결정

최근 36년만의 후속작으로 극장가를 달구고 있는 '탑건:매버릭'. 주인공 탐 크루즈는 극 초반 '극초음속 전투기'에 몸을 싣고 '마하10(음속의 10배=초속 3.4km)'으로 기체 한계를 시험하는 장면이 나온다. 이런 어마어마한 속도를 감내할 수 있게 전투기를 설계하는 기술 역시 수학의 힘에서 나온다.

전투기 속도가 마하1을 넘어가면 기체 뒷부분에 공기와 마찰로 인한 불연속면(소닉붐)이 생긴다. 속도가 초음속→극초음속 등으로 높아질 수록 소닉붐이 커지면서 저항이 커지는데, 이러면 연료 소모가 극심해지면서 전투기 한계를 초월해 갑자기 추락할 수도 있다. 실제로 탐 크루즈는 영화에서 비상탈출로 간신히 목숨을 건진다.

이런 현상을 기술하는 수식이 '나비어-스톡스' 방정식이다. 이 방정식을 연구하면 소닉붐 위치를 최적화하고 크기를 최소화할 수 있다. 전투기 성능 테스트인 '풍동실험'을 하기 전 나비어-스톡스 방정식으로 미리 시뮬레이션을 하는 게 항공업계의 '국룰'이다.

다만 나비어-스톡스 방정식 역시 난제라 아직 정확한 해가 구해져있지 않다. 바꿔 말하면 이를 허준이 교수처럼 푸는 수학자가 나타나 필즈상을 받는다면 마하50, 100 전투기가 미래 등장할 수도 있다는 뜻이다.

전투기와 달리 대기권 밖 로켓이나 우주선의 움직임을 기술하는 건 볼츠만 방정식이다. 표면 압력과 온도, 밀도 등이 극도로 변화할 때 안정성을 확보할 수 있게 하는 미분방정식이다. 이 방정식은 미국 항공우주국(NASA)이 우주선 성능 시뮬레이션을 할 때 일상적으로 사용한다.

국제행사 등에서 보는 '무인 드론 비행' 쇼도 수학에 기반해있다. 복잡계 수학인 '쿠커-스메일 모델'과 유체운동 수식을 기계언어로 바꿔 순번을 붙이고 통신모듈에 넣으면 정해진 궤도를 그리며 비행하게 된다.

○AI, 반도체, 양자컴퓨터 등 첨단 기술 모든 게 수학

"인공지능을 연구하고 개발한다는 것은 행렬 연산에 묻혀 사는 것과 같은 말이다"

김정호 KAIST 전기및전자공학부 교수의 말이다. 김 교수의 말대로 AI 딥러닝 알고리즘 가운데 영상 이미지 판독에 가장 유효한 CNN(컨볼루션신경망)을 보자. CNN은 여러 신경망 층으로 이뤄져 있는데 각 층을 지나면서 출력이 단순화된다(작아진다). 이 과정은 사실 수학적으로 크기가 큰 행렬에 작은 크기의 행렬을 계속 곱하는 과정으로 치환돼 있는 것이다. 이렇게 되면 행렬 크기가 계속 작아지다 결국 1개의 출력값을 내놓게 된다. 다차원 행렬을 수학에서 '텐서'라 부른다. 스칼라는 0텐서, 벡터는 1텐서, 행렬은 2텐서다. 구글의 TPU(텐서플로 유닛) 이름이 여기서 나왔다.

첨단 정보통신기술(ICT)에도 수학이 필수다. '진짜 5G'로 불리는 28 기가헤르츠(Ghz) 전자파를 이용하는 기지국과 스마트폰 설계엔 고주파의 위상 변화를 표현할 수 있는 복소수(실수+허수) 등비수열이 필요하다. 전기적 신호를 발생·전달·저장·처리하는 전기전자 공학은 주기와 파동으로 이뤄진 삼각함수 연구가 절대적인 부분을 차지한다. 삼각함수 몇 개를 조합하면 주기를 갖는 모든 대상을 기술할 수 있는데 이를 '푸리에 시리즈 함수'라고 한다.

반도체에서 전자가 오가게 하기 위해선 양자역학의 전자 터널링 이론을 써야 한다. 이 역시 모두 수학으로 이뤄져 있다. 미래 산업 판도를 완전히 바꿀 것으로 기대되는 '게임체인저' 양자컴퓨터의 연산 기본 단위인 큐비트(0이면서 1) 역시 복소수에 기반해 있다. '0이면서 1'이라는 납득이 되지 않는 이 기묘한 상태는 반지름이 1인 구형 3차원 공간에서 복소수 값으로 표현된다. 이 복소수를 토대로 슈뢰딩거방정식을 만들어 적분한 뒤 기존 시스템과 연결하면, 이론상 '해킹 불가 절대보안'이 가능한 양자통신이 이론적으로 가능해진다.

이해성 기자