[책마을] 수학 모르는 일반인도 이해할 수 있다는 'AI 딥러닝'

인공지능과 뇌는
어떻게 생각하는가

이상완 지음
솔
340쪽│1만8000원

인공지능(AI)의 핵심인 딥러닝은 수학이다. 선형대수, 확률과 통계, 미적분 등이 기저에 깔려 있다. 물론 수학을 몰라도 AI 프로그래밍을 할 수 있다. 자동차가 어떻게 만들어지는지 몰라도 운전할 수 있는 것과 같다. 하지만 원리를 모르면 한계가 있다. 고등학교 때까지는 공식을 외워서 수학 문제를 풀 수 있지만, 대학에선 안 통한다.

수학을 몰라도 딥러닝을 이해할 수는 없을까. <인공지능과 뇌는 어떻게 생각하는가>는 그 어려운 도전에 나선 책이다. AI의 역사나 알고리즘 소개에 머무는 여느 대중서와는 다르다. AI의 작동 방식에 대해 바로 본론으로 들어간다. 저자는 KAIST 교수다. 뇌를 기반으로 한 AI 연구 성과를 인정받아 ‘구글 교수 연구상’과 ‘IBM 학술상’을 받았다.

현대의 AI는 사과 사진을 계속 보여주면 알아서 학습한다. 빨갛다, 동그랗다 등 사과의 특징을 사람이 뽑아내 컴퓨터 코드로 작성할 필요가 없다. 딥러닝은 다층퍼셉트론(MLP)으로 이 문제를 해결했다. 데이터를 여러 층(layer)으로 걸러내는 방식이다. 책은 빨간 사과와 노란 사과, 그리고 배가 섞여 있는 사진에서 사과만 인식하는 AI의 작동 방식을 이렇게 설명한다. 첫 번째 층에선 빨간 사과만 인식한다. 두 번째 층에선 노란 사과만 인식한다. 이 두 개의 층을 거치면 색깔과 관계없이 사과만 인식할 수 있는 AI가 완성된다.

여기까지만 보면 쉬운 책처럼 보이지만 그렇지 않다. 책은 손실함수, 오차 역전파 학습, 컨볼루셔널 신경망, 오토 인코더, 생성적 적대 신경망, 역전파 소멸, 벨만 방정식 등 딥러닝의 주요 개념들을 설명해나간다. 수식은 없지만 쉽게 이해할 수 있는 내용은 아니다. 그래도 반복해서 읽으면 많은 걸 건질 수 있다. 중급 입문서에 가깝다. 어느 정도 딥러닝에 익숙한 사람이 개념을 보완하는 용도로 읽으면 좋다. 인간 뇌에 관한 내용은 많지 않다.

임근호 기자 eigen@hankyung.com