알고리즘에 조종당하는 현대인의 일상…신간 '필터월드'

이용자 관심사를 광고주에게 파는 기술 기업의 이면 고발

지메일에서는 입력하려고 하는 단어가 자동으로 제시되고, 넷플릭스는 접속자에게 '회원님을 위해 엄선한 오늘의 콘텐츠' 목록을 보여준다.

인터넷 뉴스를 읽고 있으면 최근에 검색한 것과 유사한 신발 광고가 따라오며 휴가를 준비 중인 직장인에게는 호텔 광고가 끈질기게 쫓아온다.

현대인은 거대 기술기업이 사용하는 추천 알고리즘에 둘러싸여 있으며 이들이 제공하는 선택지를 큰 거부감 없이 받아들인다.

미국 잡지 뉴요커의 작가이자 평론가인 카일 차이카는 최근 번역 출간된 '필터월드'(미래의창)에서 알고리즘이 인간의 생활 방식과 인식을 조종하는 수준이 됐다고 경종을 울린다.

저자는 방대하고 널리 분산돼 있으며 서로 얽혀 있는 알고리즘 네트워크를 설명하기 위해 책의 제목이기도 한 '필터월드'라는 말을 만든다.

알고리즘이 문화 상품이 유통·소비되는 방식에 강력한 영향을 끼치는 가운데 현대인은 필터월드에서 좀처럼 헤어나지 못하고 있다는 것이다.

트위터, 페이스북, 인스타그램과 같은 사회관계망서비스(SNS)는 초창기 대부분의 콘텐츠 피드를 시간순으로 나열했지만 근래에는 알고리즘을 기반으로 한 추천 게시물의 비중을 늘리고 있다.

시간순으로 배열하는 것은 사용자의 흥미를 끄는 데 유리하지 않기 때문이다.

이런 변화의 동기는 사용자 편의가 아니라 이윤이라고 책은 지적한다.

이용자가 앱을 사용하는 시간이 길어질수록 그들의 관심사를 광고주들에게 더 효율적으로 판매할 수 있게 된다.

넷플릭스는 알고리즘을 통해 이용자를 2천개 이상의 커뮤니티 중 특정한 취향의 커뮤니티에 참여하도록 한다.

하지만 이용자는 대부분 자신이 어떻게 분류되는지 알지 못한다.

넷플릭스는 이용자가 좋아할 만한 작품을 추천하는 것이 아니라 같은 작품의 섬네일을 제시하는 방식을 바꿔 취향에 들어맞는다는 착각을 유발한다.

알고리즘 기반 피드는 균형 있는 현실 인식을 방해한다.

도널드 트럼프가 미국 대통령에 당선된 2016년 대선 때 민주당 지지자는 자신의 페이스북에서 트럼프를 지지하는 이들을 찾기 힘들었고, 선거 결과를 수용하기 어려웠을 것이라고 책은 설명한다.

그의 정치적 성향과 충돌하는 게시물은 알고리즘에 의해 걸러졌으며, SNS 이용자가 입맛에 맞는 콘텐츠에 갇히는 이른바 '필터 버블'이 형성됐을 가능성이 크다는 의미다.

미국에서 디지털 플랫폼은 자체 알고리즘 기반 피드의 작동 방식을 설명할 책임이 없으며, 피드가 홍보하는 대상에 대해서도 책임이 없다.

외설스럽거나 폭력적이며 불쾌감을 주는 콘텐츠를 제거하는 것은 선의의 개입이며 플랫폼이 이들 게시물에 대해 발행자로서의 책임은 지지 않는다.

1996년 발효된 미국 통신품위법 230조가 이처럼 추천 알고리즘에 대한 책임을 면제해줬고 이는 기술 기업이 급성장하는 토대가 됐다.

플랫폼 기업이 얼마나 많은 정보를 수집하는지는 2017년 가디언 기자 주디스 듀포테일이 일반개인정보보호법(GDPR)을 이용해 데이팅 앱 틴더가 보유한 자신의 개인 정보를 요청한 사례에서 엿볼 수 있다.

듀포테일이 받은 데이터는 800쪽에 달했고 여기에는 페이스북의 '좋아요' 목록부터 플랫폼에서 이뤄진 모든 접촉과 대화의 메타데이터 및 1천700건 이상의 메시지가 담겼다.

다량의 정보를 수집한 기술 기업은 이를 위법하게 취급하기도 한다.

페이스북은 2022년 11월 GDPR 위반으로 2억5천만 달러의 벌금형을 받았다.

왓츠앱은 2021년 개인정보 보호 방침이 없다는 이유로 2억5천만 유로의 벌금을 부과받았다.

아마존은 사용자 데이터를 추적하고 원하지 않는 정보 수신 거부를 인정하지 않았다는 이유로 7억4천600만 달러의 벌금이 부과됐다.

저자는 알고리즘에 기반한 피드가 일반적인 기술 혁신과는 달리 인간의 독창성과 창의성을 잡아먹고 경험을 왜곡한다며 독자들의 각성을 촉구한다.

"피드는 데이터 감시와 기계학습이라는 새로 발견된 도구를 이용해서 추천을 개인화하는 과정에서 우리의 개인적인 문화적 욕망을 예측하려고 시도한다.

(중략) 우리는 알고리즘의 영향력에서 벗어날 수 없다.

(중략) 하지만 알고리즘의 손아귀에서 탈출하는 첫걸음은 알고리즘을 아는 것이다.

"
김익성 옮김. 432쪽.


/연합뉴스