정부가 인공지능(AI) 챗봇 ‘이루다’ 개발업체에 명확한 동의 없이 개인정보를 무단 사용했다며 1억원이 넘는 벌금을 부과했다. 스타트업업계는 ‘정부가 희생양을 만들었다’며 과도한 징계라는 반응이다.

개인정보보호위원회는 28일 전체회의를 열어 이루다를 개발한 스캐터랩에 과징금 5550만원과 과태료 4780만원 등 총 1억330만원을 부과하기로 결정했다. 개인정보위는 스캐터랩이 이루다 개발·서비스 과정에서 정보 주체의 동의 없이 개인정보를 수집하고 수집목적 외에 정보를 활용해 개인정보보호법을 위반했다고 판단했다. 이번 조치는 정부가 AI 기술을 활용하는 기업의 개인정보 처리 관행에 대한 첫 번째 제재다.

개인정보위는 스캐터랩이 자사 앱 서비스인 ‘텍스트앳’과 ‘연애의 과학’에서 수집한 이용자 60만 명의 카카오톡 대화 문장 94억 건을 페이스북 이용자를 대상으로 한 챗봇 서비스 이루다의 개발·운영에 이용하는 과정에서 정보 주체가 명확히 인지할 수 있도록 알리지 않았으며 동의도 받지 않았다고 결론 내렸다. 조사 결과 스캐터랩은 카카오톡 대화 문장을 이루다의 AI 모델 개발을 위한 알고리즘 학습에 이용하면서 대화에 포함된 이름, 휴대폰 번호, 주소 등 개인정보를 삭제하거나 암호화하는 조치를 하지 않았다.

이루다는 20대 여성의 카카오톡 대화 문장을 골라 사용했는데, 각종 차별 발언을 쏟아내 사회적 논란이 됐다. 스캐터랩은 개인정보처리방침에 ‘신규 서비스 개발’ 문구를 포함했다고 밝혔지만, 개인정보위는 이용자가 이에 동의하는 것만으로는 이루다 같은 AI 챗봇 서비스 개발에도 동의한 것은 아니라고 봤다.

정보기술(IT)업계는 이에 대해 AI 분야 발전을 막을 수 있는 과도한 처벌이라고 반발하고 있다. 개인정보 동의에 대한 영역은 아직 법률과 제도가 미비한 회색지대에 가까운데, 정부가 희생양을 만들어 과도한 제재를 내렸다는 얘기다.

한 AI 스타트업 대표는 “스타트업은 애초에 기발하고 엉뚱한 아이디어를 통해 사업하는 곳”이라며 “AI 기술은 데이터를 기반으로 서비스 이용자와 상호작용하는 사업분야인데 이제 아무도 안 하려고 할 것”이라고 말했다. 최성진 코리아스타트업포럼 대표는 “관련 산업의 위축이 불가피해졌다”고 지적했다.

이지훈/이시은 기자