[이동만의 소프트파워 신세계] 현실화되는 AI비서 '자비스'…문제점 뭘까
글로벌 시장조사업체 가트너는 ‘오토노믹 시스템’을 미래를 이끌 12대 기술 트렌드 중 하나로 선정했다. 오토노믹 시스템은 주변 환경에 따라 실시간 최적의 알고리즘으로 작동하는 자율 시스템을 말한다. 영화 ‘아이언맨’에서 주인공 토니 스타크의 일상생활뿐 아니라 위험 상황까지 적시에 조언하는 인공지능(AI) 비서인 자비스가 그 예다. 자비스는 아이언맨의 자체 데이터뿐만 아니라 그와 연관된 빅데이터를 분석해 필요한 서비스를 미리 준비해준다. 이와 비슷한 맥락으로 영화 ‘마이너리티 리포트’에서 사람이 출입문을 나서면 시스템이 자동으로 차의 시동을 켜고 운전을 준비하는 장면을 생각해볼 수 있다. AI와 사물인터넷(IoT)의 급속한 발전으로 가정이나 업무 환경에서 자비스의 등장이 현실화할 날이 머지않았다.

현재는 삼성 스마트싱스나 구글 네스트 등과 같이 간단한 규칙 기반의 사용자 맞춤형 서비스이기에 사용자 의도를 자동으로 파악하는 데 한계가 있다. 자비스가 현실화하기 위해서는 사용자에게 영향을 미치지 않고 간접적으로 의도를 인식해 최적화하는 기술이 선제적으로 해결돼야 한다. 이는 사용자의 행위를 학습·추론해 사용자의 의도를 실시간 파악하고 사용자의 선호에 따라 서비스를 최적화하는 기술로 발전해야 한다.

사용자 행위 학습은 사용자 의도 인지(Activity Recognition)라는 이름으로 다양하게 연구되고 있다. 이는 폐쇄회로TV(CCTV)와 같은 비디오 장치, 모션 센서와 같은 환경 센서, 스마트밴드와 같은 웨어러블 센서 등에서 생성되는 빅데이터에 AI 학습 기법을 도입해 사용자 행동이 무엇인지 알아내는 기술이다. 독일 인공지능연구소(FKI) 팀은 사용자의 특성을 추출할 수 있는 모델을 설계해 사용자 의도 인지에서 90% 이상의 정확도를 도출했다. 그러나 현실에서는 비디오 데이터나 웨어러블 센서는 개인정보 보호에 한계가 있다. 필자의 연구실은 사용자 정보가 포함되지 않는 주변 환경 센서 데이터에 고도화된 AI 기법인 트랜스포머를 도입해 사용자 의도를 파악하는 데 중요한 특징(feature)을 자동으로 뽑아내는 모델을 제안하고 그 효과를 입증했다.

사용자 의도를 실시간으로 알아내기 위해서 조기 분류(Early Classification) 방법이 핵심적인 기술로 활용된다. 이는 실시간 생성되는 사용자 행동 데이터를 장단기 메모리(LSTM) 분류 기법, 행동 예견 시점(halting point)을 정하는 강화학습 기법 등의 머신러닝으로 ‘빠르고 정확하게’ 분석해 사용자의 행동을 예측하는 방법이다.

다음 단계의 문제는 사용자는 때때로 자신의 기분이나 상황에 따라 같은 서비스라도 다르게 받기를 원한다는 점이다. 예를 들어 잠을 자는지, 일하는지 등 사용자의 행위를 파악해 사용자가 어떤 옷을 입었는지에 따라 미세한 조절이 요구된다.

AI가 적용된 사물인터넷 기술이 발전하면서 상상 속에 있던 나만의 자비스가 실제로 우리 앞에 나타나는 것도 이젠 시간문제다. 다만 개인의 사생활 존중 방안을 미리 마련해야 한다. 이미 조지 오웰이 소설 <1984>에서 경고했듯이 사용자들의 정보를 세밀하게 모은다는 것은 반대로 ‘텔레스크린’으로 사용자들의 정보를 이용할 수 있음을 의미한다. 유럽은 AI 기술 개발 때 지켜야 할 윤리 가이드라인을 제시하고 있으며, AI 기술을 이끄는 구글이나 메타 등에서도 AI 윤리를 중요한 요소로 선언하고 있다. 이처럼 AI 기술이 고도화함에 따라 사용자의 사생활을 어떻게 존중할 수 있을지에 대한 고민도 중요한 요소다.