KAIST, AI로 양자역학 계산 시간 획기적 단축

반복적 미분방정식 풀이를 알고리즘화

인공지능(AI) 알고리즘을 이용해 양자(퀀텀) 계산을 빠르게 하는 기술을 KAIST가 개발했다. 양자는 AI 다음으로 미국 빅테크 기업의 격전장으로 떠오르는 미래 기술이다.

KAIST는 김용훈 전기및전자공학부 교수 연구팀이 양자역학 계산에 필요한 복잡한 과정을 대신해 줄 3차원 인공신경망(ANN) 계산 방법론을 처음 개발했다고 1일 발표했다. 슈퍼컴퓨터를 써서 계산하는 양자역학 범밀도함수(DFT)는 첨단 소재나 신약 등 세상에 없던 기술을 탄생시킬 때 필수 도구다. DFT는 분자 내부의 전자가 움직이는 모양과 에너지 등을 양자역학으로 표현하는 계산과학(수학) 기법이다.

DFT를 풀 때는 서로 연결된 다수의 연립 미분방정식을 아주 짧은 시간 안에 수백 번 반복해 풀어야 한다. 이렇게 해야 수백 개 안팎의 원자 구조를 파악할 수 있다. 문제는 초미세 세계로 들어갈수록 단위 면적당 원자 계산량이 기하급수적으로 늘어나 슈퍼컴퓨터 성능으로도 감당이 안 된다는 점이다.

김 교수는 반복적인 미분방정식 풀이를 AI로 단번에 해결하는 기술을 개발했다. 3차원 입체 형태로 분포된 화학적 결합 정보를 합성곱신경망(CNN)으로 나타내 DFT 계산 과정을 단축하는 방법이다. 이를 ‘딥SCF’라고 이름 붙였다. CNN은 AI 딥러닝의 대표 알고리즘이다. 올해 노벨물리학상을 받은 존 홉필드 미국 프린스턴대 교수와 제프리 힌턴 캐나다 토론토대 명예교수가 CNN 등 ANN을 창시한 과학자다.

KAIST 관계자는 “AI 딥러닝의 기본 알고리즘이 올해 노벨물리학상을 받고, AI로 단백질 접힘 구조를 예측한 것이 올해 노벨화학상을 수상한 것에서 보듯 AI와 고차원 수학은 매우 밀접한 관계가 있다”며 “AI를 통한 양자역학 계산 가속의 가능성을 보인 것”이라고 설명했다. 과학기술정보통신부의 중견연구 사업 지원을 받은 이번 연구 성과는 세계 3대 학술지인 네이처 자매지에 실렸다.

이해성 기자 ihs@hankyung.com