‘창과 방패의 싸움.’ 대화형 인공지능(AI) 챗봇인 ‘챗GPT’가 만든 콘텐츠를 잡아내는 AI 기술이 나왔다. 챗GPT를 활용해 논문을 작성하는 등 각종 논란이 커지면서다. 챗GPT 같은 이른바 ‘생성 AI’ 기술이 사람을 속이는 데 악용될 수 있다는 우려도 나온다.

“챗GPT가 공정한 평가 막아”

그래픽=허라미 기자
그래픽=허라미 기자
30일 정보기술(IT)업계에 따르면 미국 스탠퍼드대의 크리스토퍼 매닝 교수와 첼시 핀 교수 등이 참여한 연구팀은 지난 26일 챗GPT의 바탕인 AI 언어 모델 GPT3로 만들어진 문장을 찾아내는 기술(디텍트GPT)을 공개했다. 연구팀은 “학생들이 (GPT 같은) 대규모 언어 모델을 사용해 과제를 할 수 있는데, 이런 경우 선생님은 학생을 정확하게 평가할 수 없다”고 강조했다.

하정우 네이버 AI랩 소장은 “생성 AI를 잡아내는 AI 모델이 업계의 구루(스승)급 연구자로부터 나왔다”며 “의미 있는 연구”라고 말했다. 전병곤 서울대 컴퓨터공학과 교수는 “거대 언어 모델에 대한 탐지도 가능한지 확인이 필요하지만, 앞으로 초거대 AI 모델에서 쓰일 수 있도록 관련 연구가 계속될 것”이라고 내다봤다.

스탠퍼드대 연구팀의 디텍트GPT는 챗GPT 등 생성 AI의 부작용을 막기 위해 나온 기술이다. 생성 AI는 뛰어난 성능이 오히려 논란이 되고 있다. GPT3는 미국 펜실베이니아대 와튼스쿨 경영학석사(MBA) 과정의 필수 교과목인 ‘운영관리’ 기말시험에서 B학점을 받았다. 챗GPT는 미국 의사면허시험의 모든 과목에서 50% 이상의 정답률을 보여주기도 했다. AI 이미지 생성기인 미드저니가 만든 미술 작품은 지난해 콜로라도주 미술대회에서 1등에 올랐다.

AI 간 전쟁의 서막

AI가 인간을 대체하는 범위가 넓어지면서 관련 서비스를 제한하는 사례도 늘고 있다. 뉴욕시 교육부는 최근 모든 공립학교에서 챗GPT 사용을 금지했다. 국제기계학습학회도 AI 도구로 논문을 작성하는 것을 금지한다고 밝혔다. IT업계 관계자는 “사람이 만든 결과물을 제대로 평가하는 데 AI가 방해할 수 있기 때문에 관련 콘텐츠를 찾아내는 디텍트GPT 같은 기술의 수요도 커질 수밖에 없다”고 말했다.

AI 대 AI의 싸움은 과거에도 있었다. AI로 사진, 동영상 등을 조작해 사람 얼굴 등을 바꿔치기하는 기술인 ‘딥페이크’가 여론 조작과 인권 침해 등으로 악용되자 메타(옛 페이스북), 마이크로소프트(MS), 아마존 등은 2020년 상금 100만달러를 걸고 딥페이크를 감지하는 AI 기술을 찾았다.

지난해에는 미국 컬럼비아대 연구팀이 AI 스피커 등의 도청을 원천 차단하는 AI 기술을 개발했다. 국방 분야에서도 AI를 활용한 사이버 공격을 AI로 막는 기술이 개발되고 있다.

AI 간 공수 대결은 앞으로도 계속될 전망이다. 해킹과 해킹을 막는 기술이 계속 발전하는 것처럼 관련 AI 기술 수준이 높아질 것이라는 분석이 나온다.

앞으로 AI가 생성한 콘텐츠에 대한 거부감이 줄어들 것이라는 시각도 있다. AI 챗봇 이루다의 개발사인 스캐터랩의 이주홍 리서치팀 리드는 “AI가 만든 콘텐츠를 찾아내는 기술이 당장은 연구할 가치가 있겠지만, AI를 활용하는 곳이 늘어나면서 AI가 생성했는지 여부에 관심을 두지 않는 시대가 올 것”이라고 했다.

김주완/최다은 기자 kjwan@hankyung.com