"인공지능 기술 사용한 흔적 지워드려요"

뉴스 카페

'AI 탐지' 무력화 기술 등장
빅테크도 진짜·가짜 구별 못해

인공지능(AI)이 생성한 콘텐츠를 사람이 만든 것처럼 위장해주는 서비스가 쏟아지고 있다.

7일 정보기술(IT)업계에 따르면 미국 AI 업체 워드에이아이는 사명과 이름이 같은 AI 탐지 회피 서비스를 월 9~57달러에 공급하고 있다. 이 회사는 재가공을 거치면 AI가 쓴 글이 오픈AI, 오리지널리티닷AI, 허깅페이스 등의 AI 탐지 기술로도 걸러지지 않는다고 홍보한다. 에이아이에스이오, 프레이즐리닷에이아이 역시 비슷한 회피 서비스를 운영 중이다.

AI 탐지에서 벗어날 수 있도록 하는 서비스는 문체와 표현을 사람이 쓴 것처럼 자연스럽게 만든다는 뜻에서 ‘인간화’를 의미하는 ‘AI 휴머나이저(humanizer)’로도 불린다. 스팸 메일과 구글 검색 등을 활용해 광고하려는 업체가 이 서비스의 고객이다. 인터넷에선 AI가 작성한 글을 사람이 쓴 것처럼 위장하는 방법도 쉽게 찾아볼 수 있다. 문장 길이를 다양하게 조정하거나 일상적 어휘를 섞어 쓰라는 건 예사다. 일부러 문법적으로 틀린 표현을 넣어 사람이 할 만한 실수를 드러내라는 조언도 있다.

빅테크는 AI 콘텐츠 선별에 어려움을 겪고 있다. 메타는 지난 1일 인스타그램, 페이스북, 스레드 등 SNS에서 ‘AI로 제작(made with AI)’ 표시를 일부 제작 과정에 AI 도움을 받은 것으로 추정된다는 뜻을 담은 ‘AI 정보(info)’로 대체하기로 했다. AI가 만든 이미지를 선별하는 과정에서 사진작가들이 실제 찍은 사진에 AI 제작 딱지가 붙어버려서다. 업계에선 어도비의 사진 편집 도구를 적용하면 AI 표식 오류가 생기는 것으로 추정한다.

AI 콘텐츠 판별이 사실상 어려워졌다는 분석도 나온다. 영국 레딩대 연구팀은 심리학 학사 학위 취득에 필요한 단답형·에세이 시험 5종에서 챗GPT-4로 33명분의 답안을 만들어 제출한 연구 결과를 과학 매체 ‘플로스원’에 지난달 공개했다. 이 연구 결과 AI가 작성한 답안 중 94%가 채점자에게 적발되지 않았다. AI 답안을 실제 학생이 작성한 답변과 비교했을 때 AI 점수가 더 높을 확률은 83%에 달했다.

이주현 기자 deep@hankyung.com