"사람처럼 웃기까지"…영화 'Her' 실사판에 경고 쏟아낸 이유

챗GPT 음성모드 부작용 경고한 오픈AI

AI, 대화 중 웃거나 콧소리 내
사용자와 감정적 유대감 공유
“AI를 인간처럼 느낄 수도”

사람 목소리로 이야기 들려주는 AI
사실 아닌 정보도 사실처럼 말해
오픈AI “사용자 안전 위해 노력할 것”

사진=AP

챗GPT 개발사 오픈AI가 새롭게 출시하는 챗GPT 음성 모드에 사람들이 지나치게 감정을 의존하게 될 수 있다고 우려했다.

8일(현지시간) 미국 CNN에 따르면 이날 오픈AI는 보고서를 통해 진짜 사람처럼 들리는 챗GPT 음성 모드로 인해 사람들이 인공지능(AI)에 과도하게 의존함으로써 진짜 인간 관계를 소홀히 하는 등 영향을 미칠 수 있다고 경고했다. 보고서에는 지난주 유료 사용자에 배포되기 시작한 ‘GPT-4o 고급 음성 모드’와 대규모 언어 AI 모델에 대한 안정성을 검토한 내용이 담겼다.

챗GPT 음성 모드는 AI와 실시간으로 대화할 수 있으며 AI와 사용자의 인간적인 상호작용이 가능하도록 설계됐다. 이야기를 하는 도중 방해를 받아도 매끄럽게 대화가 이어지고 대화 중에 AI가 웃거나 ‘흠’ 같이 사람이 내는 소리를 낼 수 있다. 또한 사용자 목소리 톤에 따라 화자의 감정 상태를 파악한다.

오픈AI의 챗GPT 음성모드가 올해 초 한 행사에서 소개됐을 때 영화 ‘Her’에서 주인공이 AI 비서와 사랑에 빠지는 모습을 연상시켜 화제를 모았다. 오픈AI는 “사용자가 챗GPT 음성모드에서 공유된 유대감을 표현하는 언어로 대화하는 것을 관찰했다”고 밝히며 특히 AI가 사실이 아닌 내용을 사실인 것처럼 말하기도 하는 점을 우려했다.

오픈AI는 “사용자는 AI와 관계를 맺으면서 실제 인간 교류에 대한 필요성을 줄여 외로운 사람들에게는 도움이 될 수 있지만 건강한 사회 관계에는 안좋은 영향을 미칠수 있다”며 “AI가 사람처럼 정보를 들려주면서 사용자는 의심하지 않고 AI를 무조건적으로 신뢰하게 될 수 있다”고 말했다.

오픈AI는 “AI를 안전하게 구축하기 위해 최선을 다하고 있으며, 사용자의 감정적 의존에 대한 부분을 지속적으로 연구할 계획” 이라고 말했다.

조영선 기자 cho0sun@hankyung.com