AI 알고리즘은 '디지털 마약'…美·EU, 빅테크 노출권력 통제

알고리즘 지배사회
(1) 조작된 알고리즘…'손바닥 감옥'에 갇힌 세상

알고리즘에 무방비 노출
뉴욕 "밤엔 자동추천 금지"
佛 "3세이하 영상시청 막자"
각국 알고리즘 규제 열올려

AI로 24시간 '쥐락펴락'
개인성향·이용내역 분석
중독 강한 영상 계속 띄워
갈등 키우고 편견 심기도

그래픽=이정희 기자

세계 각국에선 ‘노출 권력’을 보유한 빅테크 알고리즘에 대한 문제의식이 갈수록 커지고 있다.

9일 각국 정부와 외신들에 따르면 세계 각국에선 빅테크의 알고리즘에 대한 통제가 필요하다고 판단하고 규제에 나서고 있다. 틱톡 등 도파민이 나오게 하는 영상을 끝없이 보는 행위가 이른바 “디지털 펜타닐”(마이크 갤러거 미 하원 의원)이나 다름없다는 비판이 적지 않다. 주요 정부들은 미성년자에게 이런 영상을 무제한 제공하는 것을 금지하거나 통제하는 방법을 논의 중이다.

미국 뉴욕주 의회는 미성년자에게 야간에 영상을 계속 자동 추천하는 것을 금지하는 방안을 추진하고 있다. 플로리다주는 14세 미만 아동이 소셜미디어 계정을 갖지 못하게 하는 방안에 주지사가 서명했다.

프랑스는 아예 13세 이하 아동이 스마트폰을 갖지 못하게 하고, 3세 이하는 영상 시청을 금지하는 방안을 검토하고 있다. 유럽연합(EU)도 빅테크 플랫폼이 어린이에게 미치는 부정적인 영향을 조사하기 위해 ‘페이스북’ 서비스업체 메타를 상대로 디지털서비스법 위반 여부를 살펴보고 있다.

알고리즘이 만든 ‘멋진 신세계’

도서 추천 시스템에서 시작된 디지털 추천 알고리즘은 오늘날의 플랫폼을 만든 일등공신이다. 탐색 비용을 급격하게 줄여주고, 그 덕분에 사람들은 어디에 뭐가 있는지 일일이 파악하지 않고도 자신이 원하는 것을 쉽게 획득할 수 있다.

머신러닝(ML)과 인공지능(AI)이 등장하면서 추천 알고리즘은 한층 정확한 소비자 개개인 맞춤형 알고리즘을 만들어낸다. 페이스북·인스타그램 등의 친구 추천, 유튜브의 다음에 볼 만한 영상 추천도 마찬가지다. 그러나 이 과정에는 함정이 있다. 빅테크 플랫폼이 사실상 ‘봐야 할 것’ ‘사야 할 것’ ‘알아야 할 것’을 정해준다는 점이다.

누구를 위한 알고리즘일까

모든 빅테크 플랫폼은 사용자와 사회를 위해 알고리즘을 짠다고 주장한다. 실제로는 플랫폼의 자체 이익을 극대화하기 위한 부분이 작지 않다. 쿠팡 같은 전자상거래 플랫폼은 생산자와 소비자를 이어주는 것을 넘어 아예 자체브랜드(PB) 상품 비중을 급격히 높이고 있다. 이런 PB 상품은 보다 상단에 배치되는 사례가 많다. 이는 독점 문제로 비화하고 있다. 수직계열화가 곳곳에서 일어나면서 각국 경쟁당국은 플랫폼의 알고리즘이 소비자 후생을 저해할 수 있다는 점을 입증하려고 애쓴다. 유럽연합(EU)과 미국이 각각 구글의 광고 사업이 독점적 권한을 남용하고 있다며 반독점 위반 소송을 제기하거나 시정 조치를 요구한 것이나, 공정거래위원회가 쿠팡을 상대로 지난달 과징금을 부과하고 법인 형사고발을 검토하는 것 등이 대표적이다.

편리한 ‘갈등 증폭기’

빅테크 플랫폼이 갈등을 조정하기보다 증폭하는 양상을 보이는 것도 결코 우연은 아니다. 소셜미디어를 쓰면 쓸수록 사람들은 자기 의견과 비슷한 사람만을 중심으로 자신의 ‘필터 월드’ 혹은 ‘나노 소사이어티’를 구축한다. 비슷한 것을 계속 추천하는 알고리즘의 되먹임 구조 때문이다. 사용자는 편안함을 느끼지만, 사회 전체를 위한 숙고의 장은 갈수록 사라진다.

사용자가 다른 의견을 접할 기회를 제공하는 알고리즘을 짜는 것이 불가능할 리는 없다. 하지만 갈등은 돈이 된다. 갈등은 사용자를 플랫폼에 묶어놓고, 더 열광적으로 참여하게 만들며, 궁극적으로 사용자 수를 광고 등 수익으로 전환하는 데 도움이 되기 때문이다.

이상은/양지윤 기자 selee@hankyung.com