"내 작품 베끼지마"…'AI 학습' 방지 나선 콘텐츠 플랫폼들

인공지능(AI)이 인간의 독창적인 창작물을 무단 학습하지 않도록 AI 방지 기능을 도입하는 플랫폼들이 늘고 있다.

서브컬처 플랫폼 크레페 운영사 쿠키플레이스는 'AI 학습 방해 필터' 기능을 시범적용한다고 8일 밝혔다. 크레페는 고객이 작가에게 독창적인 창작물을 요청하면, 작가들이 그림, 글, 음악 등을 제작해주는 중개 플랫폼이다. 회사 관계자는 "사람에 눈엔 거의 보이지 않는 특수한 노이즈 필터를 창작물에 씌워서 AI가 학습하는 걸 막는 기능"이라며 "창작자들의 저작권을 AI로부터 보호한다는 취지"라고 설명했다.

웹툰·일러스트 창작 앱인 클립스튜디오도 창작물의 AI 학습을 방지하기 위한 워터마크와 노이즈 패턴 기능을 도입했다. 작가들은 원하는 워터마크와 노이즈 강도를 직접 정해 창작물에 적용할 수 있다. 클립스튜디오 측은 "노이즈 패턴이 있는 그림이 AI 학습에 활용되면 AI 화상의 품질이 떨어진다"며 "AI 추가 학습에 대한 억제 효과가 있다"고 설명했다.

AI 무단 학습을 막는 전문 스타트업도 나왔다. 모리는 창작자가 이미지를 올리면 AI 학습방지 기능을 넣어준다. 중국 상하이교통대에서 개발한 적대적 노이즈 기술을 창작물 데이터 위에 씌워 AI가 제대로 원본을 인식하지 못하게 한다. 이미 글레이즈 등 해외 AI 학습 방지 프로그램을 개인적으로 활용하는 창작자들도 많다. 미국 시카고대 연구팀이 개발한 글레이즈는 원본 이미지를 일부 가공해 AI가 작가의 독창적인 스타일을 학습하지 못하게 막는다.

아직 AI 학습 방지 기술이 완벽하진 않다. 워터마크와 노이즈 패턴의 학습 억제 효과는 AI 모델의 알고리즘 변화에 따라 달라진다. 노이즈를 넣으면 원본이 일부 깨지거나 자글자글해지는 현상도 나타난다. 그럼에도 창작자들이 AI 학습 방지 기능을 찾는 건 자신의 예술적 창작물이 별다른 보상 없이 빅테크의 기술 고도화에 쓰이고, 추후 일자리까지 위협받을 수 있다는 불안감이 크기 때문이다.

고은이 기자 koko@hankyung.com