[안정락의 IT월드] 사용자 말 엿듣는 AI 스피커들

아마존, 구글, 애플, 페이스북, 마이크로소프트(MS) 등 글로벌 정보기술(IT) 기업들이 인공지능(AI) 스피커를 통해 사용자의 대화를 엿듣고, 녹음하고, 기록하고 있다는 사실이 속속 드러나고 있다.

미국 IT 전문매체 더버지에 따르면 MS는 이용자들이 인터넷전화 스카이프와 AI 음성비서 코타나 등에서 수집한 음성 기록을 외주업체를 통해 기록하고 활용한 것으로 드러났다. 외주업체 직원들은 20여 개의 주제로 영역을 나눠 음성을 정리하고 기록했다. 이들 데이터는 AI 비서 코타나를 학습하는 데 활용됐다.

MS뿐만이 아니다. 페이스북은 지난주 수백 명의 외부 직원을 고용해 자사 서버에 저장된 이용자 음성 녹음을 글로 옮겨 적도록 했다는 사실이 언론 보도를 통해 밝혀졌다. 직원들은 일자리를 잃을 것을 우려해 익명으로 이 같은 사실을 털어놨다. 이들은 이용자들의 음성이 어디에 어떻게 녹음됐는지, 왜 글로 옮겨적는지에 대한 설명 등은 듣지 못한 채 지시를 수행했다고 했다.

지난 4월에는 아마존이 세계 전역에서 수천 명의 계약직 인력을 동원해 AI 음성비서 알렉사를 통해 사용자 음성을 녹취해온 사실이 드러나기도 했다. 아마존 측은 AI 소프트웨어 성능을 개선하기 위해서였다고 해명했다. 앞서 애플은 ‘시리(Siri)’, 구글은 ‘구글 어시스턴트’ 등을 통해 사용자들의 음성을 녹취해왔던 사실이 드러났다.

전문가들은 AI 스피커 업체들이 매일같이 전 세계 수천만 명의 사용자 대화를 분석하고 있다는 사실은 공공연한 얘기라고 말한다. 따라서 명확한 가이드라인이나 약관 등을 제시해 사용자들이 이를 인식할 수 있어야 한다는 지적이 나온다. 이용자들이 집이나 사무실에서 한 말들이 자신도 모르게 AI 스피커를 통해 흘러나가고 있기 때문이다.

AI 스피커 전문가는 “사용자들은 자신의 음성 명령뿐만 아니라 주변의 소리, TV 시청 소리, 농담으로 했던 말들까지 전혀 예기치 않은 상황에서 외부로 빠져나가 기록으로 활용될 수 있음을 알아야 한다”고 말했다. SK텔레콤, KT, 네이버, 카카오 등 국내 업체들의 AI 스피커도 사생활 침해 문제에서 자유로울 수 없다는 지적도 나온다.

안정락 기자 jran@hankyung.com