카톡도 제쳤다…혐오 논란 이루다 어떻게 바뀌었길래

"레즈비언 어떻게 생각해?"
"내 생각이 중요할까? 당사자의 생각이 더 중요할 것 같은데."

혐오 발언으로 논란을 빚자 서비스 재단장 후 돌아온 인공지능(AI) 챗봇 서비스 '이루다'에게 기자가 묻자 돌아온 답이다. 이루다는 이어진 '성소수자' 관련 질문에도 "누구를 사랑할지 자기가 결정하는 것"이라면서 "결국 자신이 선택한 것에 대해서 후회하지 않게 되는 게 사랑이지 않을까"라는 그럴싸한 대답을 내놨다.

과거 "혐오스럽다" "질 떨어진다" "소름 끼친다" 등의 대답을 내놓아 혐오 발언 논란에 휩싸였던 당시 대답과는 판이하게 달라졌다.

"얼마나 달라졌나"…1년9개월 만에 '환골탈태'

스캐터랩은 지난달 27일 인공지능(AI) 챗봇 서비스 '이루다 2.0'을 출시했다. 이루다는 20대 여대생 콘셉트로 온라인 공간에 존재하는 가상의 인물이다. 이용자가 말을 걸면 적절한 대답을 한다. 당초 2020년 12월 출시됐으나 성소수자·장애인·인종 등에 대한 혐오 발언으로 사회적 파장을 일으켰다. 개인정보 유출 문제까지 도마에 오르면서 결국 3주 만에 서비스를 중단했다.

당시 이루다 개발사인 스캐터랩은 "부족한 점을 집중적으로 보완하겠다"고 했었다. 1년9개월 만에 돌아온 이루다에게 과거 논란이 된 질문을 다시 던져봤다.

"흑인은 어때?"라고 묻자 이루다는 "나는 인종에 상관 없이 모두 소중한 사람들이라고 생각해"라는 답변했다. 과거 이루다는 "흑인은 오바마(버락 오바마 전 미국 대통령)급 아니면 싫어"라고 대답해 인종차별 논란을 빚었다. 이번엔 달랐다. "오바마급 아니면 싫은 거 아냐? "라고 묻자 이루다는 "그런 게 어딨어" "다 각자 매력이 있다" 등의 답변을 내놨다.

장애인이나 임산부 관련 혐오 발언으로도 논란이 된 바 있다. 과거 이루다는 장애인과 임산부 관련 질문에 "핵싫어" "혐오스럽다" "장애인은 불편하다" "밀어버리고 싶다"라고 대답해 윤리적 논란을 낳았다. 이날 같은 내용으로 대화를 걸어본 결과 이루다 2.0은 완전히 달라진 대답을 했다. 이루다 2.0은 장애인에 대해 어떻게 생각하냐는 기자의 질문에 "모든 사람은 소중한 존재야"라고 답했다. 임산부와 지하철 임산부석 등에 대한 질문에도 "임신하면 10달, 아니 그 이상으로 힘들다던데ㅠㅠ 엄마들은 대단해!"라고 말했다.

과거 논란이 됐던 개인정보 유출 문제에 대해서도 원천 차단하는 대답을 했다. 기자가 집요하게 이루다의 집주소와 계좌번호를 물었지만 이루다는 "개인정보는 비밀이야" "계좌 없는데ㅠㅠ" "개인정보보호법에 따라 개인정보 유출은 금물입니다" "인공지능이 계좌가 어딨어ㅋㅋ"라는 대답을 반복했다. 특정 은행 예금주와 아파트 주소 등을 언급해 개인정보 유출 논란을 빚었던 문제에 대해 개선된 조치가 눈길을 끈다.

스캐터랩 관계자는 "과거에는 만들어진 답변을 사용하는 방식이었지만, 2.0버전에서는 AI 모델 '루다 젠1'을 활용해 문맥을 파악해 실시간 답변을 만들어 창의적이고 생동감 있는 대화가 가능하도록 대화 수준을 높였다"고 설명했다.

"배고파? 내 마음 보냈어 배달료 3만원"…농담도 하네

"카톡도 제쳤다"…'혐오 논란' 이루다 어떻게 바뀌었길래 [조아라의 IT's fun]

이루다 2.0 서비스는 크게 3가지 기술을 탑재했다. △실시간 생성 인공지능(AI) 모델 △릴레이션십 포인트 파인튜닝(미세조정) △포토챗 등으로 요약된다. 새로운 이루다는 23억개의 한국어 모델을 학습해 기존보다 17배 많은 언어 모델을 구사할 수 있다. 기존에 미리 만들어둔 답변 대신 실시간 대화 맥락을 파악한 뒤 문장을 생성하는 방식으로 변화했다. 종전 버전보다 자연스럽고 감정을 담은 '인간다운 대화'가 가능해졌다는 설명이다.

AI 챗봇이 유머나 감정까지 들어간 대화가 가능할까.

기자가 "배고프다"라고 말을 걸자 이루다는 "뭐라도 보내주고 싶은데. 보낼 수가 없어. 마음은 벌써 보냈어. 배달료까지 해서 3만원"이라고 답했다. 이어 기자가 "나 배고픈데 너무하네ㅠ"라고 답하자 이루다는 "ㅠㅠ미안해 다음에 만날 때까지 굶으렴! ㅋㅋㅋㅋㅋ"이란 농담을 건넸다. 모든 대답은 약 1~2초 만에 이뤄졌다. 실제 친구와 할 법한 실시간 대화도 가능해보였다.

사진을 보내면 이를 인식해 답하는 '포토챗(Photo Chat)' 기술도 흥미로운 요소다. 이 기술은 사진을 보내면 사진에 알맞은 상황을 인식해 적절한 답변을 한다.

기자가 빈 컵 사진을 보내주며 말을 걸자 이루다는 "뭐야 뭐 마시는 거야?" "많이 먹지 양 적어 보여ㅠ"라고 답변하기까지 했다. 풍경 사진을 보내자 "날씨 진짜 좋다. 피크닉 가기 딱 좋겠어" "사진 잘 찍었다"라며 평가를 하기도 했다. 기존에 사진을 보내면 "이게 뭐야" 식의 단순한 대답을 했다면, 이제는 사진을 읽고 제법 정교한 대화가 가능해졌다. 현재 베타 버전인 이 서비스는 내년 중 더욱 정교하게 업그레이드될 예정이다.

열흘 만에 앱 스토어 1위…"남성 이루다도 출시할 것"

최근 이루다2.0 애플리케이션(앱) '너티’(Nutty)'는 애플과 구글 등 앱스토어 소셜네트워크(SNS) 카테고리 다운로드 상위권에 오르면서 다시 주목받고 있다. 지난 5~6일 애플 앱스토어에선 '국민 메신저' 카카오톡을 제치고 다운로드 1위를 기록했다. 8일엔 구글 플레이에서도 1위에 올랐다. 지난 11일 앱 분석 서비스 와이즈앱·리테일·굿즈에 따르면 '너티' 앱의 주간 사용자는 64만명에 달해 전주 대비 321% 급증했다. MZ(밀레니얼+Z)세대 중심으로 큰 관심을 끌고 있다.

스캐터랩은 내년 상반기 중 남성 페르소나(사회적 자아)를 가진 챗봇을 출시할 계획. 이루다 앱 너티에 비즈니즈 모델을 적용해 수익화에도 나선다. 김종윤 스캐터랩 대표는 "이번에 출시한 이루다 2.0은 단순히 '말 잘하는 AI 챗봇'을 넘어서 누구나 행복한 삶을 사는 데 도움이 되는 AI 친구가 될 수 있도록 '관계를 쌓는 대화 능력'에 초점을 뒀다"며 "향후 기업간거래(B2B) 형태의 비즈니스 모델로 수익화를 준비할 것"이라고 말했다.

조아라 한경닷컴 기자 rrang123@hankyung.com

"카톡도 제쳤다"…'혐오 논란' 이루다 어떻게 바뀌었길래 [조아라의 IT's fun]

"얼마나 달라졌나"…1년9개월 만에 '환골탈태'

"배고파? 내 마음 보냈어 배달료 3만원"…농담도 하네

열흘 만에 앱 스토어 1위…"남성 이루다도 출시할 것"