신간 《보호받고 있다는 착각》은 저자가 10년간 추적한 온라인 플랫폼 검열의 폐해를 고발하는 책이다.

극우가 온라인상 혐오 표현과 함께 부상하고 이에 맞서 온라인 플랫폼 기업이나 국가에 검열 강화를 요구하는 목소리가 나오는 상황에서 읽어 볼 만하다.

페이스북, 유튜브 등 온라인 플랫폼 기업들은 우리를 위험한 콘텐츠로부터 ‘보호’한다는 이유를 들며 이런저런 게시물을 검열한다. 하지만 실제로 이런 검열은 평범한 사람들에게 이득이 아니거나 오히려 부메랑으로 돌아오기도 한다.

《보호받고 있다는 착각 ─ 온라인 검열은 누구를 위한 것인가》 질리안 요크 지음, 책세상, 440쪽, 2022년, 19800원

제국주의

페이스북은 미국의 제국주의적 정책을 따라 이스라엘을 확실히 우대한다. 페이스북 내부에서 유출된 문서를 보면, 시온주의자는 혐오 표현으로부터 특별 보호해야 할 대상이다.(이민자는 준보호 집단이고 흑인 아동은 보호 대상이 아니다.)

반면, 페이스북에게 팔레스타인은 테러 집단이다. 2014년 이스라엘의 가자 지구 폭격 당시 미국에 있던 한 팔레스타인인은 ‘한 시간에 한 명씩 “테러리스트”를 죽이자’고 선동하는 한 이스라엘 페이지를 발견하고 페이스북에 신고했다.

팔레스타인인을 “테러리스트”로 지칭하는 것이 명백했다. 이 페이지에는 “아직 엄마 [자궁] 속에 있을 때 죽이자”는 말도 적혀 있었다. 그러나 페이스북의 답변은 ‘테러리스트(즉, 팔레스타인인)는 혐오 발언 금지 조항에 의해 보호되는 집단이 아니다’였다.

중동의 대중 정당이자 저항 단체인 헤즈볼라는 페이스북에서 테러 조직으로 규정돼 있다. 미국 국가의 규정에 따른 것이다. 미국의 테러 단체 목록에 있는 단체들의 페이스북 계정은 불허된다.

페이스북에서 헤즈볼라(Hezbollah, حزب الله)로 검색한 결과 검색 자체가 금지돼 있다

몰상식

구글이 운영하는 유튜브는 자신들이 삭제하지 않겠다고 한 시리아 저항 세력의 영상까지 무책임하게 삭제했다. 실리콘밸리에서 내리는 무심하고 몰상식한 결정이 목숨을 걸고 싸우며 저항을 널리 알리고자 하는 사람들에게 타격을 주는 것이다.

시리아 정부로부터 고문당해 죽은 소년을 다룬 영상은 유튜브에서 며칠 만에 차단됐다. “충격적이고 역겨운 콘텐츠”라는 이유였다.

유튜브가 인공지능 검열 알고리듬을 도입한 뒤, 시리아 정부군의 만행을 기록한 영상들이 “폭력적 영상”으로 판정받아 대량 삭제됐다. 유튜브에 연락해 복구해도 금세 다시 삭제되는 일이 반복됐다.

성적 보수주의

페이스북은 초기부터 성적인 콘텐츠를 무차별적으로 강력하게 검열했다. 그런데 이런 검열은 보수적, 편의주의적이다. 성적 표현물이면 그 내용이 정보 제공적이든 예술이든 차별에 반대하는 것이든 상관 없이 검열해 표현의 자유를 침해한 것이다.

성인의 노출, 성소수자 콘텐츠, 성에 대한 건강 정보, 10대의 임신 관련 정보, 실리콘밸리 여성들의 경험을 다룬 《자궁은 버그가 아니라 기능이다》(A Uterus Is a Feature, Not a Bug) 책 광고까지 모두 금지됐다. 모유 수유 사진, 미대생 누드화 졸업 작품, ‘구석기 비너스’ 조각 사진도 모두 차단됐다. 저자는 “페이스북의 지도부는 나체, 포르노, 섹스를 동의어로 여기는 것 같다”고 말한다.

책에 나오는 사례는 아니지만, 본지 기사 “[엥겔스 탄생 200주년] 엥겔스가 파헤친 여성 차별의 기원”도 아프리카 산족의 가슴이 드러난 사진을 실었다는 이유로 페이스북에서 차단됐다.

낙태약 관련 게시물들이 차단당한 것도 페이스북의 성적 보수주의와 연관 있을 것이다.

이런 일들이 언론을 타 이슈가 되고 항의를 받으면 페이스북은 사과를 하고 규정을 고치곤 했다. 그러나 규정은 일관되게 적용되지 않았고, 삭제된 게시물은 웬만큼 유명세를 타지 않으면 복구가 힘들다.

부메랑

이렇듯 온라인 플랫폼의 검열은 모두 표현의 자유를 제약하거나 저항하는 사람들에게 부메랑이 돼 돌아온다. 저자는 생생한 사례들로 이 점을 보여 준다.

그런데 저자는 사회적 약자에 대한 혐오 표현에 대해서는 세심한 검열이 필요하다는 입장에 선다. 2014년에 벌어진 여성 게임 개발자에 대한 트위터상의 집단적 괴롭힘 사건(게이머게이트)과, 이후 온라인에서 극우가 혐오 표현을 쏟아내며 결집하는 것을 지켜보면서 저자는 모든 검열에 반대했던 자신이 너무 순진했다고 말한다. “온라인의 여성 혐오주의 공격이 축적되면 결국 여자들이 침묵하게 된다.”

저자는 “여전히 실리콘밸리가 우리가 무엇을 말해도 되는지에 대한 심판권을 행사해서는 안 된다고 믿는다”면서도 “현실은 우리가 기업에 그런 권한을 부여했다는 것이다. 현실에서는 일단 기업이 주어진 책임을 최대한 현명하게 이행해야 한다” 하고 말한다.

그러나 혐오에 대항하자는 취지는 백번 이해하지만, 혐오 표현 검열 또한 평범한 사람들에게 부메랑으로 돌아온다. 앞선 팔레스타인이나 시리아 사례들이 모두 그런 사례다.

페이스북은 “유대인 혐오”라는 이유로 이스라엘 비판을 단속하고, “백인 혐오”라는 이유로 “흑인 목숨도 소중하다” 활동가 계정들을 폐쇄하기도 했다. 이런 문제는 세심함의 결여 때문이 아니라 친제국주의 다국적 기업인 소셜 미디어 기업들의 계급 편향성에서 비롯하는 것이다.

문제의 근원

극우의 부상과 혐오 표현 문제의 근원은 자본주의 체제가 작동해 온 방식과 결부돼 있다. 그리고 소셜 미디어 기업들은 그 체제의 주요 수혜자들이다.

2008년 경제 위기 이후 주류 정치 세력들이 체제의 심대한 위기를 해결할 수 없다는 것이 드러났다. 대중의 생활 수준을 공격한 신자유주의 처방 외에 지배자들은 대안을 제시하지 못했다. 서구에서 좌파 개혁주의가 부상했지만 이내 실패했고, 그 결과 극우가 기회를 얻으며 전진하고 있다.

온라인 규제로 극우 부상을 막을 수 없다. 기업들에게 검열권을 주는 것도 마찬가지다. 지배자들에게 검열권을 이렇게 저렇게 행사하라고 요구하는 것은 대안이 될 수 없다.

극우에 맞선 대중 운동이 중요하다. 저자는 2017년 “흑인 목숨도 소중하다” 운동 당시 샬러츠빌에서 극우가 인종차별 반대 시위대를 공격해 한 명을 살해한 사례를 들며 우려를 표한다. 그러나 그 사건이 있고 나서 미국 전역으로 확산된 항의 운동은 당시 극우의 기세를 꺾어 놓았다는 점에 주목할 필요가 있다.

우리가 추구해야 할 대안은 이런 대중 운동을 어떻게 더 지속시키고 강화할 것이냐에 초점이 맞춰져야 한다. 그것에는 오히려 더 많은 표현의 자유가 필요하다.

혐오 표현 대처에서 다소 약점이 있지만 이 책 전체는 온라인 플랫폼 기업들의 위선과 검열의 위험성에 대해 풍부한 사례들을 제시해 도움이 된다. 일독을 권한다.