미국 텍사스주 초등학교의 총기난사범이 사전에 소셜미디어(SNS)에서 범행을 예고한 것으로 드러나면서 SNS 플랫폼이 또 한 번 책임 여론에 휩싸이게 됐다. 텍사스주 유밸디의 초등학교에서 어린이 19명 등 21명을 총격 살해한 샐버도어 라모스는 24일 범행 당일 독일의 10대 소녀에게 총격을 예고하는 메시지를 보냈다.
라모스가 페이스북에 총격을 예고하는 글을 3건 올렸다는 그레그 애벗 텍사스 주지사의 발표에 대해 페이스북 모회사 메타플랫폼은 게시글이 아닌 일대일 개인 메시지라고 정정했다.
메타는 그러면서 메시지는 참사가 발생한 뒤에야 파악됐다고 덧붙였다. 범인이 SNS를 통해 범행을 예고한 상황에서 관리 주체인 메타가 이를 미리 파악하고 적어도 관련 당국에 귀띔해줄 수 있었다는 점에서 이번 사건에 대한 책임이 자유롭지 않다는 비판의 목소리가 있다.
26일(현지시간) AP통신에 따르면 메타는 악성 링크나 아동 성착취 사진 등 일부 유해 콘텐츠에 대해 이용자의 개인 메시지를 모니터링한다.
문제는 맥락을 고려한 복잡한 언어를 걸러내는 일이다. 복사 이미지는 고유의 식별체계를 통해 비교적 쉽게 감별될 수 있지만 언어는 더욱 세밀한 해석이 필요하기 때문이다.
위협적인 단어를 담은 메시지라도 농담이나 풍자, 가사 등의 형식을 띨 수 있는데 이런 세심한 맥락까지 인공지능(AI) 시스템이 감별하기는 어렵다.
예를 들어 '죽일거야', '쏠거야' 등의 문구를 위협적인 메시지로 인식할 수는 있으나 단어를 둘러싼 맥락은 고려되지 않는다. 이처럼 경우의 수가 너무 많다 보니 통상 페이스북을 비롯한 SNS 플랫폼은 사용자 신고를 기반으로 걸러내는 실정이다.
그러나 최근 사건에서 나타나듯 이미 일이 벌어진 이후 뒤늦은 대처에 그치는 신고 방식에는 뚜렷한 한계가 있다.
SNS가 중간에 끼는 범죄가 늘면서 관리 플랫폼이 모니터링을 강화해야 한다는 지적이 나오지만 향후 메타가 개인 간 메시지에 개입할 여지는 더 작아질 전망이다.
메타는 내년부터 페이스북과 인스타그램 메시지에 '종단 간 암호화'(E2EE) 방식을 적용한다는 계획을 전했다.
통신라인 양끝단에 있는 전송자와 수신자를 제외하고는 둘이 주고받은 메시지가 암호화돼 제삼자가 해독할 수 없게 되는 방식이다.
기존에는 암호화된 형태로 발송되는 메시지를 수신자가 받기 전에는 회사가 접근할 수 있었지만, E2EE가 적용되면 중간에 있는 메타조차 메시지에 접근할 수 없다.
메타 측은 이로 인한 사생활 보장의 장점을 강조하면서도 부작용이 있을 수 있다고 인정했다.
아동 성착취가 통제 없이 이뤄지거나 혐오 발언이 퍼질 위험부담이 있다는 것이다.
수사당국이 범행의 핵심이 될 수 있는 데이터를 요청했을 때 회사도 접근할 수 없기 때문에 수사에 협조하기 어렵다는 한계점도 있다.
이에 대해 보안 전문가들은 암호화 체계에 '백도어'를 설치하면 된다고 말한다.
정식 인증절차를 거치지 않고 메시지에 접근해 해독할 수 있는 '보안 구멍'을 애초 설계에 포함되도록 하자는 것이다.
그러나 개인정보 유출 등 보안 부실에 대한 우려도 있다. 백도어가 존재한다는 사실만으로도 전세계 스파이나 범인이 이를 범죄 수단으로 노릴 수 있고, 백도어를 풀어낸 사람이 다른 이의 개인정보를 손에 쥘 수 있기 때문이다.