네이버 "포털·생성 AI에 딥페이크 주의 문구 도입"

'딥페이크' 관련 검색 시 안내문
클로바X, 큐에도 주의사항 고지

28일 네이버가 자체 블로그에서 알린 딥페이크 관련 안내 문구 예시. /네이버 제공

총선을 앞두고 네이버가 포털과 생성 인공지능(AI) 서비스에 ‘가짜뉴스’ 주의를 당부하는 안내문을 삽입하기로 했다. 영상을 조작에 쓰이는 딥페이크 기술이 유권자 혼란을 일으킬 가능성을 고려해서다.

네이버는 블로그를 통해 “28일부터 네이버 포털에서 딥페이크 과년 검색어를 입력할 경우 딥페이크 기술 활용에 대한 주의를 당부하는 안내 문구를 제공한다”고 이날 알렸다. 오는 4월 있을 제22대 국회의원 선거의 준비 시기에 맞춰 딥페이크 관련 규정을 넣은 공직선거법이 시행됨에 따른 결정이다. 딥페이크는 영상이나 사진 속 인물의 얼굴을 다른 사람으로 바꾸는 기술이다. 이 기술은 실제와 다른 영상을 진짜처럼 만들 수 있다보니 가짜 정보를 퍼뜨리는 데 쓰일 소지가 있다.

네이버가 넣은 안내 문구는 딥페이크를 부적절하게 쓰거나 관련 정보를 검색하려는 경우에 나온다. 네이버 포털에서 ‘딥페이크 사이트’를 검색한 경우 “딥페이크 기술 접근, 활용함에 있어 공직선거법, 성폭력처벌법 등 법령에 위반되거나 제3자의 권리를 침해하지 않도록 유의해 주세요”라고 표시하는 식이다.

네이버는 생성 AI 서비스인 ‘클로바X’와 ‘큐’의 서비스 대화창 하단에서도 선거와 관련해 사용자 주의 안내 문구를 도입할 예정이다. AI를 활용한 선거 관련 게시물이나 콘텐츠 제작 시에 주의가 필요하다는 내용도 알리기로 했다. 네이버 관계자는 “생성 AI는 기술적 한계로 정보 구성에 어려움이 있지만 선거 관련 정보는 작은 오류로도 피해가 생길 수 있다”며 “클로바X, 큐 등의 서비스를 쓰는 이용자의 주의가 필요하다”고 설명했다.

네이버는 블로그, 카페 등에서 동영상을 이용한 게시물을 작성하는 경우에도 이용자가 새로 시행되는 공직선거법에 대해 인지할 수 있도록 안내 문구를 넣을 계획이다. 선거 기간엔 자체 신고센터 웹페이지에 ‘선거 관련 허위 정보 신고’ 채널도 운영한다. 게시물에 대한 임시조치는 선거관리위원회의 결정에 따라 처리할 예정이다.

뉴스 댓글도 담당자 수를 늘려 24시간 모니터링 조치를 강화하기로 했다. 네이버는 생성 AI로 인한 이용자 혼란을 줄이기 위해 언론사가 AI로 자동 생성·전송한 기사의 본문 상·하단에도 “이 기사는 해당 언론사의 자동생성 알고리즘을 통해 작성되었습니다”라는 문구를 노출시키고 있다.

이주현 기자 deep@hankyung.com