"정치 활동에 쓰지마"…美대선후보 흉내 낸 챗봇 차단한 오픈AI

오픈AI, 美민주당 대선 후보 흉내 낸 챗봇 개발 금지

샘 올트먼 오픈AI CEO. 사진=오픈AI

챗GPT 개발사 오픈AI가 미국의 민주당 대선 후보 중 한 명을 흉내 내는 챗봇 개발을 금지했다. 오픈AI가 정치 캠페인에서 AI 도구를 오용한 것으로 판단한 활동에 대한 첫 번째 조치다.

21일(현지시간) 워싱턴포스트(WP) 등에 따르면 오픈AI는 최근 민주당 경선 후보인 딘 필립스 연방하원의원의 AI 챗봇인 ‘딘닷봇’(Dean Bot)을 개발한 AI 스타트업 델파이의 계정을 정지시켰다. 계정이 삭제되면서 딘닷봇도 사라졌다. 오픈AI의 린제이 헬드 대변인은 “정치 캠페인에 사용해서는 안 된다는 API(응용 프로그램 인터페이스) 사용 정책을 고의로 위반한 개발자 계정을 삭제했다”며 “우리의 도구를 사용하는 사람은 누구나 사용 정책에 따라야 한다”고 밝혔다.

딘닷봇은 필립스 하원의원을 지원하는 슈퍼팩(특별정치활동위원회)에서 추진한 프로젝트다. 슈퍼팩은 델파이와 계약을 맺고 오픈AI의 챗GPT를 기반으로 챗봇을 개발해 운영하려고 했다. 슈퍼팩을 만든 실리콘밸리 기업가 매트 크리실로프와 제드 서머스가 아이디어를 내고 추진했다. 챗봇을 통해 유권자에게 후보자에 대한 더 많은 정보를 흥미로운 방법으로 제공할 수 있을 것이라 판단했기 때문이다. WP에 따르면 크리실로프는 샘 올트먼 오픈AI 최고경영자(CEO)의 비서실장으로 일한 바 있다..

오픈AI는 앞서 실제 후보자나 정부를 사칭하는 챗봇을 만들거나, 투표 작동 방식을 잘못 표현하고, 투표를 방해하는 데 자사 기술을 사용하는 것을 금지하겠다고 밝힌 바 있다. 이에 개발사 측은 챗봇이 진짜 필립스 하원의원이 아닌 AI 도구임을 설명하는 면책조항을 넣었고, 유권자의 사용 동의도 받도록 했지만, 제재를 피하지 못했다. 하지만 전문가들은 WP와의 인터뷰에서 “면책조항이 있다고 해도 챗봇이 사람들을 오용에 노출할 수 있다”고 지적했다.

오픈AI는 챗GPT와 함께 이미지 생성AI인 ‘달리’ 등 자사의 AI가 정치 활동에 활용되는 것을 금지하고 있다. 최근 이들 AI 도구가 선거에 악용되는 것을 막기 위한 방안도 마련했다. 오픈AI는 챗GPT가 제공하는 뉴스·정보와 달리가 제공하는 이미지가 어디에서, 누구에 의해 만들어졌는지 디지털 방식으로 워터마킹하기로 했다.

실리콘밸리=최진석 특파원 iskra@hankyung.com