최재식의 AI 톺아보기 <1>인공지능의 묵비권

최재식 KAIST AI대학원 교수

최재식 KAIST 교수

대한민국 헌법 제12조 2항의 ‘진술거부권(묵비권)’은 ‘모든 국민은 형사상 자기에게 불리한 진술을 강요당하지 아니한다’라고 보장하고 있습니다. 이는 누군가 형사상 불법적인 일(의도적이든 아니든)을 저질렀을 경우 불리한 진술은 거부할 수 있다는 것을 의미합니다. “왜 그런 행동을 하였나?”라는 질문에 “잘 모르겠습니다” 또는 “기억이 나지 않습니다”라고 답해도 그 대답 자체로는 벌을 받지 않는다는 의미이기도 합니다.
최근 더욱 발전하고 있는 인공지능 기술은 다양한 분야에서 사람에 버금가는 능력을 확보한 것으로 평가받고 있습니다. 특히 국내외 인터넷 기업들의 서비스에 활발하게 적용되어, 정확하고 빠른 검색을 위한 키워드 및 이미지 검색 서비스를 제공하고, 상품을 구매할 때 더 정확한 후속 구매 상품을 추천하고 있습니다. 이러한 이유로 한 유명작가는 인공지능을 “제3의 인류”라고 부르기도 하였습니다. 인공지능의 자동화된 서비스는 우리의 삶을 더 윤택하게 만들어 주고 있으며, 우리는 자연스럽게 일상의 중요한 부분들을 인공지능에 의지하고 있습니다. 그리고 최근에는 인공지능 시스템이 의료, 국방, 채용, 운송 등 중요한 작업을 자동화하는데도 활발하게 활용되고 있습니다.

우리는 여기서 이렇게 활발하게 활용되는 인공지능 기술에 대해 질문해 볼 수 있을 것 같습니다. 만약 인공지능의 내부적인 문제로 인해 인공지능이 제공하는 서비스를 받은 사람이 신체적, 재산적 피해를 받았다면, 그 인공지능 서비스의 잘못된 결정에 대한 책임은 어떻게 물을 수 있는가? 만약 인공지능 알고리즘의 자동화된 의사결정 때문에 의도적 또는 비의도적으로 사람이 피해를 받았다면 어떻게 할 것인가? 그리고 이 경우에 만약 인공지능 알고리즘이 “저도 정확히 왜 그랬는지 잘 모르겠어요”라고 대답한다면 우리는 어떻게 판단해야 하는가?
최근 이슈가 되고 있는 사례로, 미국의 한 유명 전기차 생산업체의 인공지능 기반 자율 주행의 실수로 인해 자동차 사고가 발생했고, 치명적인 사망사고에 대한 책임소재 논의가 활발하게 이뤄지고 있습니다. 또한, 글로벌 기업들은 인공지능을 활용한 인력 및 성과 관리를 활발하게 도입하고 있습니다. 즉, 구성원의 인사평가에 중요한 자료를 인공지능이 모니터링하여 평가하고 결정하는 것입니다. 그동안 결정과 판단의 주체였던 사람에서 인공지능으로 판단의 주체가 바뀌었을 때 우리는 인공지능의 판단과 결정에 대해 어디까지 신뢰해야 하는지 고민하지 않을 수 없습니다.

이러한 문제를 해결하기 위해서는 인공지능 시스템을 만드는 사람도, 인공지능을 통해 서비스를 제공받은 사람도 인공지능의 의사결정 과정에 대해서 더 자세히 이해하려는 노력이 필요합니다. 이를 위해서 유럽연합(EU)는 2018년 일반정보보호법(GDPR)을 발효하여 자동화된 인공지능의 의사결정에 대해서 소비자가 설명을 요구할 권리를 가질 수 있도록 하였습니다. 또한, 최근에는 사람에게 큰 영향을 줄 수 있는 생체정보, 신용정보, 인사 정보를 관리하는 인공지능을 ‘고위험 인공지능’으로 정의하여 그 의사결정 과정을 투명하고 안전하게 관리하는 개정안을 발표하였습니다. 국내에서도 최근 정필모 의원이 국회에서 대표 발의한 “인공지능 기본법”에 의료, 공공재, 범죄 수사 등 주요 분야에 인공지능 이용자의 설명요구권을 보장하는 법을 포함하고 있습니다.
물론 사람의 뇌가 약 1000억 개의 신경세포로 구성되어 있어, 개별적인 뇌세포가 어떤 역할을 하는지 알기 어렵듯, 1750억 개의 파라미터를 갖고 있다고 알려진 인공지능 언어 모델의 의사결정 과정을 정확하게 이해하고 설명하는 것은 어려운 작업일 수 있습니다. 그럼에도 불구하고 이런 인공지능을 우리의 삶에 중요한 일을 함께하는 “제3의 인류”로서 공식적으로 함께 살아가려면, 최소한 인공지능이 스스로 왜 그러한 의사결정을 내렸는지 자의적 혹은 타의적으로 검증할 수 있는 도구와 방안을 마련하는 것이 중요합니다.

인공지능은 그 결과물이 사람의 지능적인 행동을 따라가는 것이기 때문에, 역사적으로 과도한 기대와 그에 뒤따르는 과도한 실망으로 지속적이고 꾸준한 발전이 어려운 경우가 많이 있습니다. 인공지능의 의사결정에 대한 설명성은 다양한 분야에서 인공지능의 기술이 꾸준하고 지속적으로 발전하는데 중요한 토양이 될 것으로 기대합니다. 그리고 설명성을 보유한 인공지능을 통해 우리의 의사결정은 한층 더 견고해지고, 확장될 수 있을 것입니다. 인공지능이 한 선택과 결과에 대해 스스로 설명하고 검증할 수 있는 인공지능이라면, 우리는 이에 대해 충분히 이해한 후 인공지능에게 묵비권을 부여하는 것을 고려해도 결코 늦지 않을 것입니다.