“AI가 만든 콘텐츠 구분한다”…진화하는 워터마크

생성형 인공지능(AI)을 활용해 만든 콘텐츠가 늘어나면서 가짜뉴스, 딥페이크 등 위험 사례도 함께 증가하는 추세다. 생성형 AI의 악용 가능성이 커지면서 이를 방지하기 위한 워터마크 기술의 중요성도 부각되고 있다.과학기술정보통신부와 한국정보통신기술협회(TTA)가 최근 ...

2025.01.28 20:30

"딥페이크 막아라"…워터마크로 대응 나선 빅테크

영상에 사람 얼굴을 합성한 딥페이크 콘텐츠가 쏟아지자 빅테크가 대응에 나섰다. 구글이 인공지능(AI) 생성 이미지·영상·음성에 이어 텍스트에도 워터마크를 심었다. ‘디지털 흔적’ ‘온라인 지문’ 등으로...

2024.12.09 16:18

"씌워라" vs "지워라"…AI 워터마크 기술 공방전

영상에 사람 얼굴을 합성한 딥페이크 콘텐츠가 쏟아지자 빅테크가 대응에 나섰다. 구글이 인공지능(AI) 생성 이미지, 영상, 음성에 이어 텍스트에도 워터마크를 심었다. ‘디지털 흔적’으로 불리는 이 기술을 공유하고자 빅테크들이 자발적으로 꾸린 연합체...

2024.12.08 17:44

"안 보여도 다 안다"…구글 이어 오픈AI도 워터마크 도입

미국의 빅테크들이 ‘눈에 보이지 않는’ 워터마크를 자사의 생성 AI 서비스에 적용하고 나섰다. 자사 AI 생성물의 추적하기 위해서다. 반면 우리 정부는 생성 AI 출력물로 인한 피해를 막기 위해 눈에 보이는 워터마크 도입 제도화를 추진 중이다.&n...

2024.02.07 17:42

AI 가짜뉴스 집어낸다는 워터마크, 아직은 뻥뻥 뚫린다

생성형 인공지능(AI)으로 만든 사진, 영상 등으로 인한 사회적 부작용이 커지면서 각국 정부와 빅테크를 중심으로 AI 생성물을 구분할 수 있는 ‘워터마크’ 도입 움직임이 빨라지고 있다. 한국 정부도 워터마크 법제화를 검토 중이다. 백신을 피하기 위해 바이러스가 진화하고...

2023.11.12 18:15

구글·오픈AI, 생성AI 콘텐츠에 '워터마크' 넣는다…"가짜뉴스 방지"

구글의 모회사인 알파벳, 마이크로소프트(MS), 메타플랫폼스, 아마존, 오픈AI 등 7개 빅테크가 생성AI로 만든 콘텐츠에 워터마크를 넣는 등 안전조치를 자발적으로 취하기로 했다. 생성AI가 오픈AI의 챗GPT 등장 이후 이를 활용한 정보조작이나 가짜뉴스가 범람할 수 있다는 우려에 따른 조치다. 미국 백악관은 지난 21일(현지시간) 이들 기업이 AI를 활용...

2023.07.23 14:30