수학의 대부분 분야가 4차 산업혁명 기술과 관련된다고 해도 지나치지 않다.

최적화 알고리즘은 통상 ‘수학의 꽃’ 미분방정식으로 구현한다. 변수가 많아질수록 특정 변수의 변화에 따른 최적해(解)를 찾는 편미분이 필요해진다.

인공지능신경망(ANN)이 대표적이다. ANN에 이미지 필터링 기능을 갖는 함수 ‘컨볼루션(합성곱)’을 넣은 게 딥러닝의 대표 알고리즘인 컨볼루션신경망(CNN)이다. CNN보다 더 진화한 최신 알고리즘, 생성 적대관계 신경망(GAN)도 미분이 필수요소다.

비교적 단순한 인공지능(AI) 중 하나인 역전파 알고리즘 역시 수학을 기반으로 한다. 이는 비선형함수를 행렬 형태로 쌓아 1차 미분하는 것이다. 역전파는 TV 예능 프로그램 등의 ‘단어추정 게임’을 생각하면 쉽다. 한 단어를 보고 어떤 몸짓을 구사해 맞혀보라고 했을 때, 여러 사람을 거치면서 엉뚱한 단어로 바뀔 때가 있다. 이 과정을 역으로 밟아 애초의 단어에 접근하는 것과 비슷하다.

위상수학은 ‘천재들의 무덤’이라 불릴 정도로 순수수학 가운데서도 최고 난도 분야로 꼽힌다. 위상수학자인 군나르 칼손 미국 스탠퍼드대 교수가 2008년 창업한 아야스디는 의료영상 내 특정 부위의 위상수학적 형태에 대한 빅데이터 분석을 진단기술로 연결한 스타트업(신생 벤처기업)이다.

3차원 애니메이션 등 컴퓨터그래픽(CG) 기술을 구현하는 데엔 대수방정식 등 선형대수학이 주로 쓰인다. 빅데이터 사용 등에 필수적인 암호화 기술은 소인수분해 등 정수론에 기반한다. 소수의 단위가 무한히 커지면 이를 분해하는 게 불가능에 가깝다는 점을 역이용한다.

송형석 기자 click@hankyung.com