AI는 정말 중립?…"알고리즘 공개해야" vs "기업 기밀"

윤영찬 '카카오에 갑질'로 불거진 AI 중립성 논란

포털 뉴스편집 공정성 문제되자
네이버·카카오 "AI가 편집해 중립"
"알고리즘 설계자 생각 반영" 반론도

일부선 알고리즘 공개 필요성 제기
포털 "알고리즘은 지식재산권
수십억 비용 투자해 개발한 것"

“인공지능(AI)은 중립적인가.”

윤영찬 더불어민주당 의원이 불러온 이른바 ‘카카오 문자’ 논란이 ‘AI 중립성’ 논의로 번지고 있다. “정부와 포털이 유착한 게 아니냐”는 지적에 포털 사업자들은 “AI가 뉴스를 편집하기 때문에 중립적이고 공정하다”고 해명했다. 하지만 “AI는 시스템을 구축하는 사람의 의사를 반영할 수밖에 없다”는 반론이 나오면서 논란이 커지는 모습이다. 뉴스뿐만 아니라 쇼핑, 콘텐츠, 취업 등 사회 전 분야에 AI가 빠르게 확산 중인 만큼 AI의 중립성을 두고 사회적 합의를 이끌어낼 필요가 있다는 지적이 나온다.

AI 중립성 놓고 갈등 잇따라

네이버와 카카오가 운영하는 서비스 대다수에는 AI 알고리즘이 적용돼 콘텐츠를 큐레이션하고 있다. 네이버는 자체 AI 알고리즘 ‘에어스(AiRS)’를 2017년 개발해 뉴스와 웹툰, 동영상에 적용했다. 검색, 쇼핑에서도 해당 분야에 특화된 AI 알고리즘을 개발해 사용하고 있다. 카카오 역시 콘텐츠, 모빌리티 등 다양한 서비스 분야에 AI 알고리즘을 활용 중이다.

포털업체들은 이용자의 개인 정보와 사용 패턴, 관심도 등을 바탕으로 AI가 최적의 결과물을 제공한다고 설명한다. 하지만 어떤 방식으로 결과물이 나왔는지는 ‘기업 기밀’을 이유로 설명하지 않고 있다. 포털사이트 다음의 창업자인 이재웅 전 쏘카 대표는 “규칙 기반의 AI에는 그 시스템을 설계하는 사람의 생각이 반영될 수밖에 없다”고 말하기도 했다.

실제로 갈등이 빚어지기도 했다. 전국택시노동조합연맹 등 주요 택시단체는 지난 9일 “카카오의 자회사 카카오모빌리티가 AI 알고리즘을 통해 직영·가맹택시들에 유리하게 콜(배차 신청)을 몰아준다”며 공정거래위원회에 진정서를 제출했다. 이베이코리아는 2018년 “네이버가 네이버쇼핑에서 ‘네이버페이’에 등록된 사업자를 우선 노출했다”고 공정위에 신고했고, 이달 결론이 내려질 예정이다.

해외에서도 AI 중립성 논쟁이 뜨겁다. 2017년 유럽연합 집행위원회(EC)는 구글이 자사 쇼핑 비교 서비스를 검색 알고리즘에서 우선 노출했다며 24억2000만유로(약 3조4000억원)의 과징금을 부여했다. 구글은 EC의 결정에 항소했다.

지난달 영국에선 AI 알고리즘으로 인한 불공정 논란이 일었다. 올해 신종 코로나바이러스 감염증(코로나19) 사태로 대입 시험이 취소되자 영국 정부는 AI를 활용해 고등학교 졸업반 학생들에게 가상의 성적을 부여했다. 전년도 성적과 교사가 예상한 성적, 소속 학교의 학업능력 등을 AI 알고리즘이 종합해 성적을 매겼다고 했지만, 가정 환경이 불우한 학생에게 불리한 점수가 나왔다는 지적이 제기됐다. 학생들의 시위가 계속되자 영국 정부는 결국 성적 부여를 철회했다.

지난 6월에는 마이크로소프트와 아마존이 미국 경찰에 얼굴인식 기술을 판매하지 않기로 한 일도 있었다. AI를 활용해 얼굴 생김새로 사람의 신원을 파악하는 기술이다. 범죄자 식별 등에 쓰일 수 있지만 인종, 성별 등에 따라 잘못된 결과가 나올 가능성이 있다는 지적이 꾸준히 제기됐다. 작년 8월 미국의 한 시민단체가 캘리포니아 주의회 의원 80명의 사진을 아마존 안면인식 프로그램으로 범죄자 데이터베이스와 대조한 결과 26명이 범죄자로 지목됐다. 잘못 판정된 의원의 절반 이상이 유색인종으로 나타났다.

“투명한 AI 논의 시작해야”

전문가들은 ‘중립적인 AI’에서 나아가 ‘투명한 AI’에 대한 논의가 필요하다고 설명한다. 구태언 법무법인 린 대표변호사는 “절대적으로 중립적인 알고리즘은 있을 수 없다”며 “알고리즘이 독점적으로 사용되지 않고 견제받을 수 있도록 얼마나 공개돼야 하는지가 사안의 핵심”이라고 말했다. 국내 시민단체들도 AI 알고리즘의 투명성을 높여야 한다며 목소리를 내고 있다. 경제정의실천시민연합 소속 방효창 두원공대 스마트IT학과 교수도 “전 산업 영역에 포털과 알고리즘의 영향력이 커지는 가운데 이에 대한 시민사회의 견제 없이는 갑의 횡포가 이어질 것”이라고 강조했다.

반면 포털 사업자들은 ‘사업기밀’이라는 입장이다. ‘넷플릭스’의 개인 맞춤형 추천 알고리즘, ‘네이버쇼핑’의 최신 제품 우선 노출 알고리즘 등이 해당 사업을 성공으로 이끈 것과 같이 AI 알고리즘이 사업 성패의 핵심 기술이란 이유에서다. 인터넷업계 한 관계자는 “알고리즘도 사업 성공을 위한 지식재산권이고, 이를 개발하기 위해 각 회사는 수십억원의 비용을 지출하고 있다”며 “모든 것을 공개하라는 건 지재권 침해를 강요하는 것”이라고 말했다.

구민기/이승우 기자 kook@hankyung.com