신뢰할 수 있는 인공지능을 만들기 위한 조건
입력
수정
'책과얽힘'의 AI읽기게리 마커스, 어니스트 데이비스의 ‘2029 기계가 멈추는 날'
이 책은 현재 인공지능 연구의 가장 중심 패러다임으로 사용하는 딥 러닝에 대해 강한 비판과 함께 새로운 방향을 요구하는 내용이다. 사실 게리 마커스는 최근 큰 반향을 일으킨 GPT-3의 성능 또는 본질적 역량에 대해서도 매우 비판적인 글을 MIT 테크놀로지 리뷰에 기고한 사람이다.
지금의 인공지능 연구는 잘못된 길로 가고 있으며, 그 동안 논의했던 인공지능 위협, 초지능, 직업의 미래 등 관련 많은 이슈들이 얼마나 어처구니없는 몰이해에서 비롯한 것인가를 책 안에서 계속 비판한다.
특히 스티븐 핑커 교수의 제자 답게 언어의 문제를 많이 소개하고 있다. 글을 이해한다는 것은 단어의 의미를 모르고, 세상에 대한 이해가 없이 가능하지 않다는 것을 번역이나 기계 독해 등의 사례를 제시하면서 날카롭게 비판한다. 사실 지능을 정의할 때 중요한 것 중 하나가 외부 세계에 대한 모델링 능력이기도 하다.
아주 간단해 보이는 로봇의 움직임이나 판단이 실제로 얼마나 어려운 일이며, 인간에게 쉬운 일은 여전히 로봇에게는 어렵다는 한스 모라벡의 역설을 이 책에서 다시 한번 확인시킨다. 나아가서, 상식, 인지 모델, 강력한 추론 도구를 갖춘 시스템이 나올 때까지는 '우리가 지능이라는 말을 과연 쓸 수 있을까' 라는 질문을 끊임없이 던진다.
이 논쟁은 철학자 존 설의 ‘중국어 방’ 논쟁을 다시 끌어낼 수밖에 없다. 과연 세상에 대한 모델 없이, 단어의 의미 분석이 없이 자연어를 처리하는 것이 실 생활에서 활용할 수준의 결과를 가져올 수 있을 것이며, 지능에 대한 올바른 접근이라고 볼 수 있는 가이다. ‘단어의 합은 문장이 아니다’는 주장이 이를 함축적으로 나타내고 있다.
앞부분의 다양한 사례와 비판에 이어서, 6장에서 인간 정신(또는 마음)이 주는 11가지 인사이트를 통해 설명한 특성은 인공지능이 인간의 지능처럼 광범위하고 높은 신뢰성을 갖기 위해 꼭 필요한 요소임을 주장한다. 7장에서는 상식과 딥 언더스탠딩을 위해 시간, 공간, 인과성이 왜 중요한 것인지, 마지막으로 8장에서는 마지막으로 신뢰할 수 있는 인공지능의 필요성을 강조하며 마무리한다.
물론 게리 마커스 역시 과거 지식 기반 시스템과 의미론을 기반으로 했던 접근의 한계를 계속 인정하고 딥 러닝이 거둔 성과를 인정하는데 인색하지는 않다. 그러나 지나치게 확대 해석하고 있는 상황에 대해, 그 방법론이 갖고 있는 근본적인 문제에 대해 본질적인 질문을 던지는 것이다.
중간에 인용한 딥마인드의 하사비스가 진정한 지능을 위해서는 딥 러닝을 더 높은 수준의 사고와 상징적 추론에 다시 연결해야 한다는 말이 반드시 기호적 방식이나 추론을 기본으로 하던 접근과 통합을 의미하지는 않을 수 있다. 그러나 이 문제가 딥 러닝의 미래에서 가장 중요한 이슈일 것이라는 것은 딥 러닝의 대가인 제프리 힌턴, 요수아 벤지오, 얀 르쿤의 최신 에세이에서도 언급하고 있다.
물론 인공지능의 연구가 모두 일반 지능이나 상식 추론을 목표로 하지는 않는다. 궁극적인 목표라고 해도. 다만, 두 저자가 말하는 것은 우리가 피해가거나 쉽게 접근하고자 하는 방식은 결국 그런 문제 때문에 제한된 영역에서 인간 수준의 성과를 얻는 데에는 한계가 있을 것이라는 두 사람의 강한 의견이다.
※책과얽힘