"그 문제 어떻게 풀었어?"…AI에게 직접 물어본다

미국 연구소, AI의 사고 방식을 인간에게 설명하는 연구 착수

인공지능(AI)이 ‘문제를 어떻게 해결했는지’ 스스로 설명하게 만드는 연구가 시작됐다.

파이낸셜타임스는 10일 미국 제록스 팰로앨토연구소(PARC)가 AI 작동 원리를 인간의 언어로 말하도록 하는 연구를 하고 있다고 보도했다.

미 국방부 방위고등연구계획국(DARPA)이 발주한 이 연구는 AI의 문제 해결 능력을 키우는 것이 아니라 해결 과정을 인간에 설명하도록 하는 데 초점을 맞췄다. 1970년 설립된 PARC는 마우스와 아이콘으로 프로그램을 실행하는 그래픽기반사용자환경(GUI)과 레이저프린터 등을 개발한 유명 연구소다.

AI는 이미 문제 해결 사례를 축적해 해법을 찾아내는 딥러닝 단계에 이르렀다. 이미지를 인식하거나 자동차를 운전할 때 인간과 비슷한 능력을 보인다. 하지만 AI 전문가조차 AI가 어떤 경로를 통해 문제 해결에 도달했는지는 파악하지 못하고 있다.

딥러닝을 수행하는 인공신경망을 정확히 이해하지 못하면 AI 개발에 한계가 올 수 있다는 게 전문가들의 설명이다. DARPA가 연구를 의뢰한 것도 ‘설명 가능한 AI’여야만 미래 로봇 전투 시스템을 믿고 맡길 수 있기 때문이다. 마크 스테픽 PARC 연구원은 “AI 작동원리를 파악하는 것이 (지금으로선) 외계인과 대화하는 것이나 마찬가지”라고 말했다.

연구진은 AI의 사고방식을 알아내기 위해 인간의 교육법을 채택했다. 교사가 학생을 대하듯 어린이 같은 상태의 AI를 가르치며 성장 과정을 관찰한다.

인간이 가르칠 수 있는 범위엔 한계가 있어 딥러닝으로의 진화 이후를 설명하기엔 무리라는 시각도 있다. DARPA 프로젝트 관리자인 데이비드 거닝도 “가장 복잡한 단계의 딥러닝에 대한 완전한 설명까지는 기대하지 않는다”고 말했다. DARPA는 이를 보완하기 위해 AI를 파악하는 데 또 다른 AI 프로그램을 사용하는 방법을 연구하는 등 열 개의 AI 프로젝트를 진행하고 있다.

박상익 기자 dirn@hankyung.com