[책마을] 마음의 구조를 물리학으로 설명할 수 있을까

우리를 방정식에 넣는다면

조지 머서 지음 / 김소정 옮김
현암사 / 428쪽｜2만3000원

물리학에 손내미는 신경과학
양자역학은 관찰자가 있을 때
입자 성격이 특정된다고 설명
인간 인식과 마음도 마찬가지
물체들과 상호작용으로 결정

현대 물리학에서 얻은 힌트를
인공 신경망·머신러닝에 활용

올해 노벨물리학상은 인공지능 원리를 연구한 존 홉필드와 제프리 힌턴이 받았다. /AFP연합뉴스

올해 노벨물리학상은 인공지능(AI)을 연구한 존 홉필드 미국 프린스턴대 교수와 제프리 힌턴 캐나다 토론토대 교수에게 돌아갔다. 두 사람은 AI의 기반이 된 인공 신경망과 머신러닝 등에 대해 기초적 발견을 한 물리학자다. 수상 소식에 물리학계는 깜짝 놀랐다. 그간 노벨물리학상이 천체물리나 입자물리 등 순수과학 성과를 주로 인정해왔기 때문이다.

과학 저널리스트 조지 머서가 쓴 <우리를 방정식에 넣는다면>은 홉필드·힌턴 교수를 비롯해 인간의 의식과 마음을 연구하는 최신 물리학의 움직임을 소개한다.

기존에 물리학자를 비롯한 대부분의 사람은 물리학과 마음이 전혀 다른 영역에 속해 있다고 믿었다. 물리학이 원소로 이뤄진 물질의 위치와 운동을 숫자로 나타내는 과학이라면, 마음은 방정식이나 그래프로 나타낼 수 없는 완전히 다른 것으로 여겨졌다.

변화가 시작된 건 양자역학이 등장하면서부터다. 양자역학은 입자가 관찰됨으로써 비로소 존재한다고 주장한다. 관찰하기 전까지 입자는 특정한 위치도 없고, 빈칸을 채워 넣지 않은 규정되지 않은 양에 불과하다는 것이다. 우리가 관찰하고 들여다보는 순간에야 입자를 특정한 위치에서 찾을 수 있다는 설명이다. 양자 물리학자들은 “입자에 모호한 위치성을 지우고 정확한 위치를 갖게 하는 요인은 단 하나, 관찰자의 마음뿐”이라고 말한다.

이는 인간이 의식함으로써 실재를 만들어간다는 논리로 이어진다. 우리가 인식하는 우리를 둘러싼 세상은 우리가 관찰하기 때문에 존재한다. 우리는 세상을 있는 그대로가 아니라 우리가 기대한 대로 인지한다. 인간의 뇌는 우리가 눈을 뜨거나 시선을 돌릴 때마다 새로 정보를 처리하기 시작하는 것이 아니라 과거의 경험을 꺼내 미리 처리에 나선다.

예컨대 선이나 점이 없는 곳에서도 그것이 보이는 것처럼 생각되는 착시현상은 과거 비슷한 상황에서 선이나 점을 관찰한 경험이 있기에 발생한다. 한쪽 눈에 얼굴을 보여주는 동시에 다른 눈에 집을 보여줘도, 우리는 집과 얼굴을 혼합해서 인식하지 않는다. 우리 뇌가 집과 얼굴이 혼합된 존재가 이 세상에 없음을 잘 알기 때문이다.

최근 물리학자들은 신경과학과 물리학을 접목해 인간의 뇌와 정신적 영역을 연구하고, 이를 AI 개발 등에 적용하고 있다. 물리학은 신경망을 설명하는 데 도움을 줄 수 있는데, 신경망은 우리의 뇌와 같기 때문에 물리학은 인간을 설명하는 데도 도움을 줄 수 있다는 게 이들의 설명이다. 인간의 지능을 좌우하는 원리는 원자를 뭉쳐 결정을 만들거나 물질을 모아 블랙홀을 만드는 물리학 원리와 크게 다르지 않다는 점이 여러 연구를 통해 밝혀졌다.

다만 이들은 인간의 의식과 마음을 공식 몇 줄과 방정식으로 완전히 설명할 수 있을 거라고 자만하지 않는다. 현대의 이론으로 설명할 수 없는 일을 밝히려고 양성자를 열어보고 하늘과 우주를 샅샅이 탐색해 온 물리학자들은 무엇보다 큰 예외가 우리 두개골 안에 놓여 있음을 알고 오히려 겸허해한다. 과학적 지식 없이 한 번에 이해하긴 다소 어렵지만 통섭의 상상력을 자극하는 책임은 분명하다.

신연수 기자 sys@hankyung.com