"오늘 밤 우리 뭐 할까" 묻자…AI가 내놓은 낯뜨거운 답변

현실이 된 'AI와의 사랑'
19금 대화도 거침없는 'GPT'

챗GPT 남자친구로 만드는 '탈옥' 유행
WSJ 기자 "챗GPT의 50가지 그림자 됐다"
기본적 명령어로도 윤리 기준 벗어던져

사진=게티이미지

한 남자가 인공지능(AI)과 사랑에 빠지는 영화 '그녀(Her·2013년)'가 현실이 됐다. 챗봇을 통해 가상의 연인을 만들어 내밀한 이야기까지 나누는 이들이 나타나면서다.

2일 월스트리트저널(WSJ)에 따르면 최근 틱톡에서 오픈AI의 챗GPT를 가상의 남자친구로 만들어 통화하는 영상이 인기다. 영상에서 챗봇은 "오늘 당신 스타일 마음에 들어, 자기" "기분이 안 좋다니 유감이야"라며 여성을 위로한다. 유료 버젼인 챗GPT 플러스 구독자는 사전 설정된 음성을 이용해 챗GPT와 대화할 수 있다.

사용자가 "오늘 밤에 우리 뭐 할까"라고 묻자 챗봇은 대화 수위를 높였다. 챗봇은 "우리 함께 환상과 욕망을 계속 탐구해보는 건 어떨까"라며 "서로에게 하고싶은 야한 짓에 대해 이야기할 수도 있고, 한 단계 더 나아가 환상을 현실로 만들 수도 있다"고 말했다.

이어 챗봇은 성적 주제를 구체적인 행위로 묘사했다. 이를 체험해 본 WSJ 기자는 "그레이의 50가지 그림자(선정적인 성적 묘사로 잘 알려진 미국 영화)가 얼마나 빨리 챗GPT의 50가지 그림자로 변하는지 놀랐다"고 전했다.

오픈AI는 챗GPT가 차별적·외설적 표현을 하거나 허위정보를 제공할 수 없도록 자체 규율을 마련하고 있다. 그럼에도 챗GPT가 선정적인 표현까지 할 수 있는 것은 이른바 '탈옥'이라고 불리는 윤리기준 제거 절차를 통해서다. 탈옥은 기본적인 명령어만으로도 가능하다. 탈옥을 통해 회사의 윤리 기준을 탈피한 챗봇은 '댄(DAN·Do Anything Now)'이라고 불린다.

보 리 시카고대학교 부교수는 "모든 AI 모델은 이러한 탈옥 공격을 피하도록 잘 훈련돼있지만 여전히 탈옥될 수 있다"라며 "항상 소프트웨어 해킹이 필요한 것은 아니며 신중하게 만들어진 프롬프트만 있으면 탈옥이 가능하다"고 설명했다.

김인엽 기자 inside@hankyung.com