페북에 유해 영상 올리면 즉각 퇴출

뉴질랜드 테러 생중계 재발방지

세계 최대 소셜네트워크서비스(SNS) 페이스북이 테러 등 유해 콘텐츠를 올린 이용자에 대해서는 즉시 실시간 스트리밍 서비스 사용을 제한하기로 했다.

페이스북은 자사 홈페이지를 통해 15일부터 실시간 스트리밍 서비스에 이 같은 ‘원 스트라이크’ 전략을 도입한다고 발표했다.

지난 3월 페이스북 실시간 스트리밍 서비스에 뉴질랜드 이슬람 사원에서 벌어진 총격 테러 장면이 17분간 생중계로 방영됐다. 이 사건으로 페이스북은 홍역을 치렀고 두 달 만에 강화된 규제를 내놓은 것이다.

당시 페이스북은 유해 콘텐츠 차단을 위한 인공지능(AI) 검열 시스템을 가동하고 있었지만, 시스템이 영상 속 상황을 제대로 인식하지 못하면서 영상이 송출된 것으로 알려졌다. 지금은 이용자가 유해 콘텐츠를 올리면 콘텐츠를 삭제하고, 이후에도 그 이용자가 계속 유해 콘텐츠를 올린 것이 적발됐을 때만 일정 기간 이용을 금지하고 있다.

페이스북은 원 스트라이크 전략을 실시간 스트리밍 외 다른 서비스에도 확대 적용할 계획이다. 광고 게시글을 올리는 이용자 등에 이 전략을 적용할 예정인 것으로 알려졌다.

저신다 아던 뉴질랜드 총리는 이날 페이스북 발표에 대해 “테러리스트들의 앱(응용프로그램) 사용을 억제하는 훌륭한 첫걸음”이라며 “테러 게시물을 제거함으로써 SNS를 더 안전하게 하는 데 장기적으로 협력하고 싶다”고 했다.

이번 페이스북 발표는 이날 프랑스 파리에서 열린 ‘온라인 극단주의 대응 정상회의’를 앞두고 나왔다.

선한결 기자 always@hankyung.com