인공지능 스피커의 '엉뚱한 답변'

아들 나이 묻자 "18세에 사망"… SKT "역사 속 인물 설명"

“상원군의 나이는 18세에 사망입니다.”

직장인 박성준 씨(41)는 지난 5일 SK브로드밴드의 인터넷TV(IPTV) 상품에 가입했다가 황당한 경험을 했다. 박씨가 가입한 상품은 SK텔레콤의 인공지능(AI) 기술 누구(NUGU·사진)가 장착된 셋톱박스 ‘Btv X 누구’가 제공되는 상품이다.

박씨는 신기한 마음에 셋톱박스에 이런저런 질문을 하다 우연히 여섯 살 난 아들의 나이를 물어봤다. “상원이 몇 살이야”라고 묻자 스피커는 “상원군의 나이는 18세에 사망입니다”란 답변을 반복했다. 다른 이름으로 물어봤을 때는 이 같은 답변이 나오지 않았다.

박씨는 “아내가 임신 5개월째인데 이 얘기를 듣고 극심한 스트레스를 받았다”며 “아들의 개명까지 고려하고 있다”고 토로했다. 그는 “SK브로드밴드 고객센터에 사정을 설명하고 환불을 요청했지만 기능상 문제가 없다며 설치비와 해지 위약금을 청구하겠다는 답만 들었다”고 말했다.

기자가 SK텔레콤 ‘누구’에 똑같은 질문을 해본 결과 박씨가 들었던 것과 같은 답변이 나왔다. 다른 회사 AI 스피커에 질문했을 때는 “지원하지 않는 기능입니다”와 같은 답을 했다.

‘누구’의 섬뜩한 답변에 대해 업계 관계자들은 AI의 데이터세트에 문제가 있었을 것이라고 분석했다. AI 스피커를 제조하는 한 업체 개발자는 “AI라도 결국 질문 내용을 분석해 미리 입력된 알맞은 답을 제시하는 것인데 이 부분에서 오류가 생긴 것으로 보인다”고 말했다. 다른 회사 관계자는 “AI가 질문을 받고 답변하는 과정에서 욕설이나 기분 나쁜 말을 하지 않도록 필터링을 거치는데 이 과정이 원활하게 이뤄지지 않았을 가능성도 있다”고 설명했다.

SK텔레콤은 확인 결과 “18세기 인물인 조선 후기 왕족 상원군의 나이를 얘기한 것”이라고 해명했다. 숙종의 서자였던 연령군의 양자 상원군 이공(1715~1733년)의 나이를 설명했다는 것이다. ‘누구’가 위키피디아 검색 결과를 이용하기 때문에 이 같은 해프닝이 벌어진 것으로 보인다.

취재를 시작하자 SK텔레콤은 “이용자가 불편함을 느낄 수 있다는 점을 감안해 역사 속 인물이라는 수식어를 붙이는 것으로 답변을 수정했다”고 밝혔다. 같은 질문을 하면 “역사 속 인물 상원군의 나이는 18세입니다”라고 바뀐 답변이 나온다.

지난달 초 아마존의 AI 플랫폼 알렉사가 적용된 스마트 스피커 에코에서도 기이한 웃음소리가 흘러나와 논란이 됐다.

이승우 기자 leeswoo@hankyung.com