온라인 혐오 발언
"오늘의AI위키"의 AI를 통해 더욱 풍부하고 폭넓은 지식 경험을 누리세요.
1. 개요
온라인 혐오 발언은 혐오 발언이 온라인 환경에서 나타나는 현상으로, 표현의 자유, 소수자 권리, 존엄성, 평등과 관련된 문제이다. 온라인 혐오 발언은 영속성, 전파성, 익명성, 초국가적 성격으로 인해 오프라인보다 광범위하게 확산될 수 있으며, 차별, 적대감, 폭력을 조장하는 표현을 포함한다. 국제 인권 규범과 각국의 법적 대응, 소셜 미디어 플랫폼의 정책, 사회적 대응 및 사례 연구, 미디어 및 정보 리터러시 교육 등을 통해 해결하려는 노력이 이루어지고 있다. 한국 사회에서도 혐오 표현 문제가 존재하며, 이에 대한 대응 방안 마련이 과제로 남아있다.
더 읽어볼만한 페이지
온라인 혐오 발언 | |
---|---|
개요 | |
![]() | |
유형 | 혐오 발언 |
미디어 | 인터넷 |
특징 | |
목표 | 개인 집단 |
동기 | 인종 차별 성차별 동성애 혐오 종교적 편견 외국인 혐오 기타 편견 |
영향 | 괴롭힘 차별 선동 폭력 선동 온라인 따돌림 사이버 폭력 |
법률 | |
합법성 | 다양한 국가에서 규제됨 |
관련 개념 | |
관련 개념 | 표현의 자유 검열 온라인 안전 소셜 미디어 인터넷 문화 디지털 시민 의식 온라인 커뮤니티 관리 |
2. 정의
혐오 발언은 표현의 자유와 개인, 집단 및 소수자 권리 간의 충돌, 그리고 존엄성, 자유, 평등 개념과 관련이 있어 쉽게 정의하기 어렵지만, 그 기능을 통해 인식할 수 있다.[3]
온라인 혐오 표현은 오프라인의 혐오 표현과 본질적으로 다르지 않지만, 온라인 콘텐츠와 그 규제에는 영구성, 순회성, 익명성, 복잡한 관할권 간 특성과 같은 고유한 문제가 있다.
소셜 네트워킹 플랫폼과 여러 단체는 온라인에서 혐오 메시지가 점점 더 퍼지고 있음을 인식하고, 적절한 대응책을 마련하기 위해 전례 없는 관심을 보이고 있다.[119] 전 세계 온라인 혐오 발언 사례를 수집하는 웹 기반 애플리케이션 Hatebase에 따르면, 혐오 발언의 대부분은 민족성과 국적을 기반으로 하지만, 종교와 사회 계급에 초점을 맞춘 혐오 선동도 증가하고 있다.[120]
2. 1. 혐오 표현의 개념
혐오 표현은 표현의 자유와 개인·집단·소수권의 충돌, 존엄·자유·평등 개념과 맞닿아 있으며, 쉽게 규정되지 않고 그 기능에 의해 인정받을 수 있다.[116]국내 및 국제법에서 혐오 발언은 대상의 사회적 또는 인구 통계학적 정체성에 기초하여 차별, 적대감, 급진화, 언어 및 물리적 폭력 행위를 포함하여 피해에 대한 선동을 옹호하는 표현을 의미한다. 혐오 발언은 폭력적인 행위를 옹호, 위협 또는 장려하는 발언을 포함할 수 있지만 이에 제한되지는 않는다. 이 개념은 표적 차별, 적대감 및 폭력적 공격을 부채질할 수 있다는 가정 하에 편견과 편협함의 풍토를 조성하는 표현으로도 확장될 수 있다. 정치 선거와 같은 중요한 시기에 혐오 발언 개념은 조작되기 쉬우며, 혐오 발언 선동 비난은 정적들 사이에서 거래되거나 반대 및 비판을 억제하기 위해 권력자들에 의해 사용될 수 있다. 혐오 발언(텍스트, 이미지 또는 사운드를 통해 전달되는 것)은 그것이 제공하는 기능을 저하시키거나 비인간화하는 기능을 통해 근사치로 식별될 수 있다.[115][116]
법학자이자 정치 이론가인 제레미 발드론은 혐오 표현은 항상 두 가지 메시지를 포함한다고 주장한다. 첫째, 외부 집단 구성원들이 환영받지 못하거나 두려움을 느끼도록 하는 것. 둘째, 내부 집단 구성원들이 그들의 혐오스러운 믿음이 합법적이라고 느끼도록 하는 것이다.[117]
2. 2. 온라인 혐오 표현의 특성
UN 인권이사회 소수자 문제 특별보고관은 온라인에서 혐오 발언이 확산되는 것은 새로운 도전 과제라고 언급했다.[118] 온라인 혐오 표현은 오프라인에서의 혐오 표현과 본질적으로 다르지 않지만, 온라인 콘텐츠와 그 규제에는 고유한 특징들이 있다.- 영구성: 온라인 혐오 표현은 여러 플랫폼에 걸쳐 다양한 형식으로 오랫동안 남아있을 수 있으며, 반복적으로 연결될 수 있다.[121] 온라인 혐오 방지 연구소의 CEO인 안드레 오볼러(Andre Oboler)는 "콘텐츠가 이용 가능한 상태로 오래 남아 있을수록, 그것은 피해자들에게 더 많은 피해를 입히고 가해자들에게 힘을 실어줄 수 있다."라고 말했다.[121]
- 익명성: 인터넷 토론은 익명 또는 가명일 수 있는데, 이는 사람들이 자신의 의견을 더 안전하게 표현하도록 만들 수 있지만, 파괴적인 행동을 쉽게 가속화할 수도 있다.[123] 센티넬 프로젝트 운영 이사인 드류 보이드(Drew Boyd)는 "인터넷은 사람들이 그들이 발견되지 않을 것이라고 생각하기 때문에 끔찍한 말을 할 수 있는 능력을 개인들에게 부여한다."라고 말했다.[124] 중국과 대한민국은 소셜 미디어에 실명제를 시행하고 있다.[124]
- 전파성: 트위터의 대화들은 혐오 메시지의 빠르고 광범위한 확산을 촉진할 수 있다.[122] 반면, 페이스북은 여러 스레드가 병렬로 계속되고 눈에 띄지 않게 할 수 있어 특정 개인과 집단을 불쾌하게 하고, 차별하고, 조롱하는 더 오래 지속되는 공간을 만든다.[116]
- 초국가적 성격: 인터넷의 광범위한 도달 범위는 혐오 발언 방지를 위한 법적 메커니즘과 관련하여 국가 간 협력 문제를 제기한다.[3]
인터넷 "트롤"은 온라인 혐오 발언의 많은 사례를 게시하는데, 이들은 일반적으로 충격적이고 저속하며 명백하게 부정적인 반응을 유발하기 위한 의도를 가진다.[125] 또한 소셜 미디어는 급진적이고 극단적인 정치 또는 종교 집단이 반체제적이고 반정치적인 정확성의 메시지를 퍼뜨리고 인종차별적이고 반 페미니스트이고 동성애 혐오적이며 트랜스포비아적인 신념과 이념을 촉진하기 위해 협력할 수 있는 플랫폼을 제공했다.[126]
페이스북과 같은 일부 기술 회사들은 혐오 발언을 감시하기 위해 인공지능(AI) 시스템을 사용한다.[127] 그러나, 그 시스템들은 인간이 가지고 있는 판단 기술을 결여하고 있기 때문에, 인공지능은 혐오 발언을 감시하는 효과적인 방법이 아닐 수도 있다.[128] 예를 들어, 사용자가 혐오 발언으로 분류되거나 커뮤니티 지침을 위반하는 것을 게시하거나 댓글을 달 수 있지만, 목표 단어의 철자가 틀리거나 일부 글자가 기호로 대체되면, 인공지능 시스템은 그것을 인식하지 못한다.[129]
3. 법적 규제 및 대응
온라인 혐오 발언에 대한 법적 규제 및 대응은 국제 인권 규범, 각국의 법률, 온라인 플랫폼의 정책 등 다양한 방식으로 이루어지고 있다.
세계 인권 선언과 시민적 및 정치적 권리에 관한 국제 규약은 표현의 자유를 보장하면서도 차별, 적대감, 폭력을 선동하는 혐오 표현을 금지한다.[23] 모든 형태의 인종 차별 철폐에 관한 국제 협약은 인종 및 민족 기반 혐오 발언을 금지하며,[3] 집단학살죄의 방지 및 처벌에 관한 협약은 집단 학살 선동을 금지한다.[3] 여성차별철폐협약은 여성에 대한 차별을 금지하고 성폭력 예방 의무를 부과한다.[33][34]
중국과 대한민국은 소셜 미디어에 실명제를 시행하여 혐오 발언을 규제하려는 노력을 하고 있지만,[124] 사생활 보호 권리와 표현의 자유 침해 논란이 있다.[124] 인터넷의 초국가적 특성으로 인해 국가 간 협력 문제,[3] 관할 구역마다 다른 혐오 발언 정의[14] 등 법적 규제의 어려움이 존재한다.
파키스탄에서는 온라인 혐오 발언과 사이버 불링이 종교적, 민족적 소수자, 여성 등 사회적 약자를 대상으로 심각한 문제로 대두되고 있다.[59][60][61][62] BytesForAll의 2014년 연구[66][67]에 따르면, 응답자의 92%가 온라인에서 혐오 발언을 경험했으며, 51%는 직접적인 대상이 되었다고 답했다.
미얀마에서는 소셜 미디어를 통한 혐오 발언과 폭력 선동이 소수 민족 차별 문제와 연관되어 우려를 낳고 있다.[68][5] 페이스북은 미얀마에서 혐오 발언 감시를 강화하고 현지 단체와 협력하는 등 노력을 기울이고 있다.[72][3]
에티오피아에서는 민족 간 갈등이 페이스북을 통해 혐오 발언, 허위 정보, 폭력으로 이어지는 사례가 발생했다.[75] 페이스북은 에티오피아의 주요 언어를 지원하는 팩트 체크 기능 부재 등으로 혐오 발언 감시에 어려움을 겪고 있다.[75]
페이스북, 트위터, 유튜브, 야후 등 주요 온라인 플랫폼들은 자체 서비스 약관을 통해 혐오 발언을 규제하고 있다.[3] 이러한 규제는 표현의 자유와 혐오 발언으로부터 개인 및 소수자를 보호해야 하는 의무 사이의 균형을 맞추기 위한 노력의 일환이다. 하지만, 인공 지능 시스템의 한계[16]와 플랫폼 정책의 일관성 문제[89][90][91] 등으로 인해 실효성에 대한 논란이 지속되고 있다.
3. 1. 국제 인권 규범
세계 인권 선언(UDHR)은 제7조에서 법 앞의 평등한 보호를 받을 권리를 명시하며, "모든 사람은 이 선언을 위반하는 차별과 그러한 차별 선동에 대해 평등한 보호를 받을 자격이 있다"라고 밝히고 있다.[23] 또한, 제19조에서 모든 사람이 표현의 자유를 가질 권리가 있으며, 여기에는 "어떠한 간섭도 받지 않고 의견을 가질 자유, 국경에 관계없이 모든 미디어를 통해 정보와 아이디어를 찾고, 받고, 전달할 자유"가 포함된다고 명시한다.[23]시민적 및 정치적 권리에 관한 국제 규약(ICCPR)은 제19조에서 표현의 자유에 대한 권리를,[23] 제20조에서 차별, 적대감 또는 폭력을 선동하는 혐오의 옹호를 금지한다.[23] 특히 제20조는 "국가적, 인종적 또는 종교적 증오를 옹호하여 차별, 적대 또는 폭력을 선동하는" 경우 표현의 자유를 제한한다.[25]
모든 형태의 인종 차별 철폐에 관한 국제 협약(ICERD)은 1969년에 발효되었으며, 혐오 발언을 인종과 민족성을 언급하는 발언으로 제한한다. ICERD 제4조 (a)항은 체약국이 "인종적 우월성이나 증오에 기반한 모든 사상의 유포, 인종 차별을 선동하는 행위" 등을 법으로 처벌할 수 있는 범죄로 선언해야 한다고 규정한다.[3]
집단학살죄의 방지 및 처벌에 관한 협약(Genocide Convention)은 인종, 국적 또는 민족에 의해 정의된 집단을 보호하며, 종교 집단에도 적용된다. 혐오 발언과 관련해서는 집단학살(genocide)을 공개적으로 선동하는 행위에만 제한된다.[3]
여성차별철폐협약(CEDAW)은 1981년에 발효되었으며, 여성에 대한 차별을 비난하고[33] 성별에 기반한 폭력 행위를 "예방, 조사, 기소 및 처벌"할 의무를 국가에 부과한다.[34]
아메리카 인권 협약은 제19조 3항에서 시민적 및 정치적 권리에 관한 국제 규약과 유사하게 표현의 자유에 대한 제한을 설명하고 있다.
아프리카 인권 및 인민 권리 헌장은 제9조 2항에서 "법률 내에서" 권리 제한을 허용한다.
1990년, 이슬람 협력 기구는 이슬람 인권에 관한 카이로 선언(CDHRI)을 채택했는데, 이 선언은 "명백한 불관용과 증오를 나타내는 행위 또는 발언"을 포함하는 언어에 대한 형사 처벌을 요구한다.[40]
아랍 인권 헌장은 2004년 아랍 연맹 평의회에서 채택되었으며, 제32조에 온라인 커뮤니케이션 관련 조항을 포함하고 있다.
아세안 인권 선언은 제23조에서 표현의 자유를 포함하고 있으며, 제7조에서 일반적인 제한을 규정한다.
유럽 연합 기본권 헌장은 제11조에서 표현의 자유를 선언하며, 권리 남용을 금지하는 조항을 가지고 있다. 유럽 인권 재판소는 혐오 발언과 다른 사람들이 불쾌하게 여길지라도 개인의 자유로운 의견 표현의 권리를 구별하는 데 신중을 기하고 있다.[46]
3. 2. 각국의 법적 대응
중국과 대한민국은 소셜 미디어에 실명제를 시행하고 있다.[124] 페이스북, 링크드인, 쿼라 등은 온라인 혐오 발언을 통제하기 위해 실명제를 활성화하려 노력해 왔다. 그러나 이러한 조치는 사생활 보호 권리와 표현의 자유 사이의 관계를 침해하는 것으로 간주되어 논란이 되고 있다.[124]인터넷의 초국가적 성격은 혐오 발언 방지를 위한 법적 메커니즘과 관련하여 국가 간 협력 문제를 야기한다.[3] 유럽, 아시아, 북아메리카에는 상호 법률 지원 조약이 존재하지만, 일반적으로 작동 속도가 느리다. 많은 민간 부문 인터넷 중개자의 초국가성은 문제 해결에 더 효과적인 채널을 제공할 수 있지만, 이들 또한 데이터에 대한 국가 간 요청의 영향을 받는 경우가 많다.[3] 또한, 서로 다른 관할 구역은 혐오 발언에 대한 고유한 정의를 가지고 있어, 덜 엄격한 관할 구역으로 피난처를 찾는 가해자를 기소하는 것을 어렵게 만든다.[14]
파키스탄에서는 온라인 혐오 발언과 사이버 불링이 종교적, 민족적 소수자, 여성, 그리고 다른 사회적으로 소외된 집단에 대한 문제로 오랫동안 경시되거나 무시되어 왔다.[59][60][61][62] BytesForAll은 2014년 파키스탄의 온라인 혐오 발언에 대한 연구를 발표했다.[66][67] 이 연구 결과는 다음과 같다.
항목 | 내용 |
---|---|
혐오 발언 경험 여부 | 응답자의 92%가 온라인에서 혐오 발언을 접한 적이 있다고 답했으며, 65%는 "자주" 접한다고 답했다. 5%만이 혐오 발언을 접한 적이 없다고 답했다. |
혐오 발언 대상 경험 여부 | 응답자의 51%가 온라인 혐오 발언의 대상이 된 적이 있다고 답했다. |
혐오 발언 접촉 매체 | 응답자의 91%가 페이스북에서 혐오 발언을 접했다고 답했다. |
주요 혐오 발언 대상 | 여성(56%), LGBT(55%), 남성(16%), 시아 이슬람교도(70%), 아흐마디교도(61%), 유대인(57%), 미국인(51%), 인도인(51%) |
페이스북 혐오 발언 대상 | 정치인(38%), 미디어/미디어 그룹 구성원(10%), 개인(20%), 인도인/힌두교도(70%) |
페이스북 혐오 발언 사용 언어 | 로마자 우르두어(74%), 영어(22%), 우르두 문자(4%) |
트위터 혐오 발언 대상 | 인도인/힌두교도(60%), 개인적인 공격 및 학대(41%), 정치인(11%), 파키스탄인(10%), 미디어 관계자/그룹(7%), 데오반디(2%), 시아 이슬람교도(2%), 무슬림 성직자(1%), 무슬림/이슬람교(1%) |
트위터 혐오 발언 사용 언어 | 영어(67%), 로마자 우르두어(28%), 우르두 문자(5%) |
미얀마는 개방과 접근성이 확대되면서 혐오 발언 사용 및 폭력 선동과 같은 소셜 미디어의 부정적인 측면이 나타나고 있다.[68] 특히 소수 민족에 대한 혐오 발언과 차별, 적대감 확산에 대한 우려가 제기되었다.[5] 온라인 상의 긴장은 실제 폭력 사건과 병행하여 발생했으며, 수백 명의 사망자와 수천 명의 이재민이 발생했다.[69] 페이스북은 미얀마에서 소셜 네트워크 플랫폼 사용을 감시하는 데 더욱 적극적인 역할을 하려 노력하고 있으며, 현지 단체와의 파트너십을 개발하고 문제 보고에 대한 지침을 미얀마어로 제공하고 있다.[72][3]
에티오피아에서는 오로모족과 암하라족 사이의 민족 간 경쟁이 페이스북에서 혐오 발언, 위협, 허위 정보 및 사망으로 이어졌다. 페이스북은 에티오피아에서 사용되는 주요 언어를 구사하는 팩트 체크가 없으며 커뮤니티 표준 번역도 제공하지 않아 혐오 발언이 거의 모니터링되지 않는다.[75] 2019년 10월, 에티오피아 활동가 자와르 모하메드는 경찰이 자신을 구금하려 한다고 페이스북에 허위로 발표하여 70명 이상이 사망하는 시위를 초래했다.[76] 2020년 6월에는 오로모족 출신 가수 하찰루 훈데사가 혐오 발언이 담긴 페이스북 게시물 이후 암살되어 대중의 분노를 샀다.[75] 2020년 11월에 시작된 티그레이 전쟁과 관련된 전쟁 범죄로 인해 온라인 증오 발언이 발생했으며, 이는 반인륜적 범죄에 해당할 수 있다.
3. 3. 온라인 플랫폼의 정책
페이스북, 트위터, 유튜브, 야후 등 주요 온라인 플랫폼들은 각자의 서비스 약관을 통해 혐오 발언을 규제하고 있다. 이러한 규제는 표현의 자유와 혐오 발언으로부터 개인 및 소수자를 보호해야 하는 의무 사이의 균형을 맞추기 위한 노력의 일환이다.[3]플랫폼 | 주요 정책 및 규제 내용 |
---|---|
페이스북 | 인종, 민족, 출신 국가, 종교, 성적 지향, 성별, 장애 등을 기반으로 한 직접적인 공격을 혐오 발언으로 규정하고 삭제한다.[87] 7,500명의 콘텐츠 검토자와 인공지능 모니터를 통해 정책을 시행하지만, 일관성 문제와 정책 구체성으로 인해 논란이 있다.[89][90][91] 2019년 백인 민족주의 및 백인 분리주의 지지 콘텐츠를 금지했고,[95] 2020년 흑인 분장, 인종적 고정관념, 역사적 사건 부정, 여성 및 LGBTQIA+ 커뮤니티 객체화를 금지하는 가이드라인을 추가했다.[97] |
트위터 | 2017년부터 혐오 발언 정책을 강화하여 혐오 행위 정책 및 시행 절차를 마련했다.[78][79] 폭력적인 위협, 반복적인 비방, 인종차별적/성차별적 비유 등을 혐오 발언으로 정의하며, 위반 시 게시물 삭제부터 계정 삭제까지 제재를 가한다.[80] |
유튜브 | 구글의 자회사로, 인종, 종교, 장애, 성별, 성적 지향 등 특정 속성을 기반으로 한 폭력 조장 또는 증오 유발 콘텐츠를 혐오 발언으로 규정한다.[85] 사용자 신고 시스템을 통해 혐오 발언을 억제하며, 신고된 콘텐츠는 검토 후 삭제될 수 있다.[86] 그러나 인기 콘텐츠 제작자에게 인센티브를 제공하여 충격 가치를 노린 극단적인 콘텐츠가 게시될 수 있다는 비판을 받는다.[82][83] |
야후 | 불법, 유해, 위협, 폭력, 괴롭힘, 명예 훼손, 저속, 외설, 비방, 타인의 사생활 침해, 혐오 또는 인종/민족적으로 불쾌감을 주는 콘텐츠 게시를 금지한다.[77] |
마이크로소프트 | 다양한 응용 소프트웨어에 대해 혐오 발언 관련 규칙을 적용한다. 모바일 정책에서는 인종, 민족, 성별, 종교, 성적 지향 등을 근거로 차별, 혐오, 폭력을 옹호하는 콘텐츠를 금지하며,[102] 온라인 게임에서는 혐오 발언, 논란이 되는 종교적 주제, 민감한 역사적 사건 관련 통신을 금지한다.[103] |
TikTok | 혐오 발언에 대한 명확한 지침과 통제가 부족하여 괴롭힘, 희롱, 선전 등이 만연하다는 비판을 받는다.[104] 특히 어린 사용자가 많아 혐오 발언에 취약하며, 플랫폼의 책임 문제가 제기된다.[105] |
이러한 플랫폼들의 정책은 인공 지능(AI) 시스템을 활용하여 혐오 발언을 감시하기도 하지만, AI는 인간의 판단 능력이 부족하여 한계가 있다.[16] 예를 들어, 의도적인 오타나 기호를 사용하면 AI 시스템이 혐오 발언을 인식하지 못할 수 있다.[17] 따라서, 온라인 혐오 발언 규제에는 기술적 한계와 더불어, 표현의 자유와 사회적 책무 사이의 복잡한 문제가 얽혀 있다.
4. 사회적 대응 및 사례 연구
사회는 온라인 혐오 발언 문제에 대응하기 위해 다양한 노력을 기울이고 있다.
퓨 리서치 센터의 2020년 설문 조사에 따르면, 소셜 미디어 콘텐츠로 인해 정치 또는 사회 문제에 대한 의견이 바뀌었다고 응답한 미국 성인 사용자는 23%였다.[52] 이는 소셜 미디어가 여론 형성에 큰 영향을 미친다는 것을 보여준다.
시민 사회는 온라인 혐오 발언 확산을 규탄하며, 검열에 대한 대안을 모색하고 있다. 미얀마에서는 혐오 발언에 반대하는 "판자 가르"(꽃의 언어) 캠페인이 시작되었다.[73]
온라인 혐오 발언은 영속성, 이동성, 익명성, 초국가성이라는 특징을 가진다.[7] 온라인 혐오 방지 연구소의 앙드레 오볼러는 콘텐츠가 오래 남아있을수록 피해가 커진다고 지적했다.[8] 제노사이드 예방을 위한 센티넬 프로젝트의 드류 보이드는 익명성이 파괴적인 행동을 가속화할 수 있다고 말했다.[11]
파키스탄에서는 온라인 혐오 발언과 사이버 불링이 종교적, 민족적 소수자와 여성 등에게 심각한 문제로 대두되고 있다.[59][60][61][62] BytesForAll의 2014년 연구 결과는 다음과 같다.[66][67]
구분 | 내용 |
---|---|
혐오 발언 경험 여부 | 응답자의 92%가 온라인에서 혐오 발언을 접했다고 답했으며, 65%는 "자주" 접한다고 답했다. 5%만이 혐오 발언을 접한 적이 없다고 답했다. |
혐오 발언 대상 경험 여부 | 응답자의 51%가 온라인 혐오 발언의 대상이 된 적이 있다고 답했다. |
혐오 발언 접촉 플랫폼 | 응답자의 91%가 페이스북에서 혐오 발언을 접했다고 답했다. |
주요 표적 | 여성(56%)과 LGBT(55%)가 주요 표적으로 확인되었다. 응답자의 16%는 남성도 표적이 된다고 답했다. |
종교적 표적 | 시아파 (70%)와 아흐마디교도 (61%)에 대한 혐오 발언이 높았다. |
외국인 표적 | 유대인 (57%), 미국인 (51%), 인도인 (51%)이 주요 표적이었다. |
페이스북 혐오 발언 표적 | 정치인 (38%), 미디어/미디어 그룹 구성원 (10%), 개인적인 공격 (20%), 인도인/힌두교도 (70%) |
페이스북 혐오 발언 언어 | 로마자 우르두어 (74%), 영어 (22%), 우르두 문자 (4%) |
트위터 혐오 발언 표적 | 인도인/힌두교도 (60%), 개인적인 공격 및 학대 (41%), 정치인 (11%), 파키스탄인 (10%), 미디어 관계자/그룹 (7%), 데오반디 (2%), 시아파 (2%), 무슬림 성직자 (1%), 무슬림/이슬람교에 대한 일반적인 공격 (1%) |
트위터 혐오 발언 언어 | 영어 (67%), 로마자 우르두어 (28%), 우르두 문자 (5%) |
미얀마에서는 소셜 미디어를 통한 혐오 발언과 폭력 선동이 문제가 되고 있다.[68] 유엔 인권 이사회는 소수 민족을 대상으로 한 혐오 발언 확산에 우려를 표명했다.[5]
에티오피아에서는 민족 간 갈등이 페이스북을 통해 증폭되어 혐오 발언, 허위 정보, 사망 사건으로 이어졌다.[75] 2019년에는 활동가 자와르 모하메드의 허위 발표로 인해 70명 이상이 사망하는 사건이 발생했다.[76] 2020년에는 가수 하찰루 훈데사의 암살 이후 페이스북에서 허위 정보 캠페인이 벌어졌다.[75]
최초의 혐오 웹사이트로 여겨지는 스톰프론트는 네오 나치즘, 백인 민족주의 등의 아이디어를 논의하는 공간으로 사용되었다.[18]
온라인 게임 커뮤니티에서도 혐오 발언이 발생한다. 키쇼나 그레이 교수는 온라인 커뮤니티에서 비전통적 게이머들이 차별을 겪고 있다고 지적했다.[54]
2020년, 코로나19로 인해 아시아계 미국인에 대한 혐오 발언이 증가했다.[58]
이러한 문제에 대응하기 위해 미디어 리터러시 및 정보 리터러시 교육이 강조되고 있다.[106] 시민 의식 교육은 온라인 혐오 발언을 식별하고 대응하는 능력을 키우는 것을 목표로 한다.[107] 반명예훼손 연맹, 유럽 평의회 등 여러 단체에서 온라인 혐오 발언 대응 이니셔티브를 진행하고 있다.[112]
4. 1. 사회적 인식 개선 노력
퓨 리서치 센터는 2020년 7월, 사회 정의 및 정치 활동에 대한 소셜 미디어의 영향력을 알아보기 위해 10,000명 이상의 미국 성인을 대상으로 설문 조사를 진행했다. 조사 결과, 소셜 미디어 콘텐츠로 인해 정치 또는 사회 정의 문제에 대한 의견이 바뀌었다고 응답한 소셜 미디어 사용자는 23%였다.[52]이들 중 35%는 흑인 생명도 소중하다 운동, 경찰 개혁, 인종 관계 등에 대한 의견 변화를 겪었다고 답했다.[52] 18%는 정당, 이념, 정치인, 도널드 트럼프 전 대통령과 관련된 의견이 바뀌었다고 응답했다.[52] 성소수자 권리, 페미니즘, 이민 등 사회 정의 문제에 대한 의견 변화를 언급한 응답자는 9%였다.[52] 코로나19 범유행에 대한 의견이 바뀌었다는 응답은 8%, 기타 의견은 10%였다.[52]
이러한 결과는 소셜 미디어가 여론 형성에 중요한 역할을 한다는 것을 보여준다.
4. 2. 시민 사회의 대응
인터넷은 전례 없는 속도로 성장했으며, 미얀마는 더 큰 개방성과 접근성을 향해 전환하고 있다. 이는 혐오 발언 사용 및 폭력 선동과 같은 소셜 미디어의 부정적인 측면으로 이어졌다.[68] 온라인 상의 불관용과 혐오 발언 처리는 떠오르는 문제이며, 현지 시민 사회는 온라인 혐오 발언 확산을 공개적으로 규탄하는 강력한 목소리를 내고 있지만, 동시에 검열에 대한 대안을 요구하고 있다.가장 혁신적인 대응 중 하나는 미얀마어로 "꽃의 언어"를 의미하는 판자가르(Panzagar)이다. 이는 블로거이자 활동가인 네이 폰 라트가 혐오 발언에 공개적으로 반대하기 위해 시작한 캠페인이다. 이 이니셔티브의 목표는 사람들이 온라인과 오프라인 모두에서 어떻게 상호 작용할 수 있는지에 대한 즐거운 예를 제시하는 것이었다.[73] 현지 활동가들은 이러한 문제에 대해 글로벌 시민 사회를 동원하기보다는 현지 해결책에 집중해 왔다. 이는 수단 다푸르 내전을 위한 다르푸르 구원 연합이 추진한 이니셔티브나, 신의 저항군이 저지른 잔학 행위를 비난하는 코니 2012 캠페인을 벌인 인비저블 칠드런과 같은, 비교적 소외된 문제에 대해 세계의 관심을 끌 수 있었던 다른 온라인 캠페인과는 대조적이다. 이러한 캠페인에 대한 논평에서 지적했듯이, 이러한 글로벌 대응은 현지 해결책을 찾는 능력에 부정적인 영향을 미칠 수 있다.[74]
4. 3. 사례 연구
Hatebase에 따르면, 혐오 발언의 대부분은 민족과 국적을 기반으로 한 개인을 대상으로 하지만, 종교와 사회 계급에 초점을 맞춘 증오 선동도 증가하고 있다.[7] 온라인 혐오 발언은 오프라인에서 발견되는 유사한 표현과 본질적으로 다르지 않지만, 온라인 콘텐츠와 규제에는 고유한 특별한 과제가 있다. 이러한 과제는 영속성, 이동성, 인권과 암호화와 관련된 익명성, 그리고 복잡한 국가 간 성격과 관련이 있다.- '''영속성:''' 온라인 혐오 발언은 여러 플랫폼에서 다양한 형식으로 오랫동안 남아있을 수 있으며, 이는 반복적으로 연결될 수 있다. 온라인 혐오 방지 연구소(Online Hate Prevention Institute)의 CEO인 앙드레 오볼러는 "콘텐츠가 더 오래 남아있을수록 피해자에게 더 많은 피해를 입히고 가해자를 더욱 기만할 수 있습니다. 초기 단계에서 콘텐츠를 제거하면 노출을 제한할 수 있습니다."라고 언급했다.[8]
- '''이동성:''' 온라인 혐오 발언은 유랑할 수 있다. 콘텐츠가 삭제되더라도, 다른 곳에서 표현될 수 있다. 만약 웹사이트가 폐쇄되면, 신속하게 다시 열리거나, 다른 국가로 재할당될 수 있다.
- '''익명성:''' 인터넷 토론은 익명 또는 가명으로 진행될 수 있는데, 이는 사람들이 자신의 의견을 더 안전하게 표현하도록 만들 수 있지만 파괴적인 행동을 쉽게 가속화할 수도 있다.[10] 센티넬 프로젝트 운영 이사인 드류 보이드는 "인터넷은 개인이 끔찍한 말을 할 수 있는 능력을 부여하는데, 이는 자신이 발각되지 않을 것이라고 생각하기 때문이다."라고 말했다.[11]
- '''초국가성:''' 인터넷의 광범위한 도달 범위로, 혐오 발언 방지를 위한 법적 메커니즘과 관련하여 국가 간 협력 문제를 제기한다. 유럽, 아시아, 북아메리카에는 상호 법률 지원 조약이 존재하지만, 일반적으로 작동 속도가 느리다.[3]
; 파키스탄
온라인 혐오 발언과 사이버 불링은 종교적, 민족적 소수자, 여성, 그리고 다른 사회적으로 소외된 집단에 대한 문제로, 파키스탄 이슬람 공화국에서 오랫동안 경시되거나 무시되어 왔다.[59][60][61][62] 온라인[63]과 현실 세계에서[64] 아흐마디교도에 대한 혐오 발언은 그들의 대규모 박해로 이어졌다.[65]
BytesForAll는 2014년 6월 7일에 파키스탄의 온라인 혐오 발언에 대한 연구를 발표했다.[66][67] 이 연구는 559명의 파키스탄 인터넷 사용자를 대상으로 한 온라인 설문 조사와 현지 대중이 자주 이용하는 소셜 미디어 및 계정에 게시된 자료와 댓글의 내용 분석을 통해 진행되었다.
보고서의 주요 내용은 다음과 같다.
구분 | 내용 |
---|---|
혐오 발언 경험 여부 | 응답자의 92%가 온라인에서 혐오 발언을 접한 적이 있다고 답했으며, 65%는 "자주" 접한다고 답했다. 5%만이 혐오 발언을 접한 적이 없다고 답했다. |
혐오 발언 대상 경험 여부 | 응답자의 51%가 온라인 혐오 발언의 대상이 된 적이 있다고 답했다. |
혐오 발언 접촉 플랫폼 | 응답자의 91%가 페이스북에서 혐오 발언을 접했다고 답했다. |
주요 표적 | 여성(56%)과 LGBT(55%)가 주요 표적으로 확인되었다. 응답자의 16%는 남성도 표적이 된다고 답했다. |
종교적 표적 | 시아파 (70%)와 아흐마디교도 (61%)에 대한 혐오 발언이 높았다. |
외국인 표적 | 유대인 (57%), 미국인 (51%), 인도인 (51%)이 주요 표적이었다. |
페이스북 혐오 발언 표적 | 정치인 (38%), 미디어/미디어 그룹 구성원 (10%), 개인적인 공격 (20%), 인도인/힌두교도 (70%) |
페이스북 혐오 발언 언어 | 로마자 우르두어 (74%), 영어 (22%), 우르두 문자 (4%) |
트위터 혐오 발언 표적 | 인도인/힌두교도 (60%), 개인적인 공격 및 학대 (41%), 정치인 (11%), 파키스탄인 (10%), 미디어 관계자/그룹 (7%), 데오반디 (2%), 시아파 (2%), 무슬림 성직자 (1%), 무슬림/이슬람교에 대한 일반적인 공격 (1%) |
트위터 혐오 발언 언어 | 영어 (67%), 로마자 우르두어 (28%), 우르두 문자 (5%) |
; 미얀마
미얀마는 더 큰 개방성과 접근성을 향해 전환하고 있으며, 이는 혐오 발언 사용 및 폭력 선동과 같은 소셜 미디어의 부정적인 측면으로 이어진다.[68] 2014년, 유엔 인권 이사회 소수자 문제 특별 보고관은 미디어와 인터넷에서 허위 정보, 혐오 발언 및 폭력 선동, 차별 및 적대감 확산에 대한 우려를 표명했으며, 특히 소수 민족을 대상으로 했다.[5] 온라인에서 증가하는 긴장은 수백 명의 사망자와 수천 명의 이재민을 발생시킨 실제 폭력 사건과 병행하여 발생했다.[69]
온라인 상의 불관용과 혐오 발언 처리는 떠오르는 문제이다. 페이스북은 온라인에 처음 발을 들인 시민들에게 빠르게 선택받는 플랫폼이 되었다. 소셜 미디어에서는 소수 민족에 대한 비하적인 용어들이 사용되어 왔다.[71]
현지 시민 사회는 온라인 혐오 발언 확산을 공개적으로 규탄하는 강력한 목소리를 내고 있지만, 동시에 검열에 대한 대안을 요구하고 있다. 가장 혁신적인 대응 중 하나는, 미얀마어로 "꽃의 언어"를 의미하는 판자 가르(Panzagar)로, 블로거이자 활동가인 네이 폰 라트가 혐오 발언에 공개적으로 반대하기 위해 시작한 캠페인이다.[73]
; 에티오피아
; 2019–2020
에티오피아에서 오로모족과 암하라족 사이의 오래된 민족 간 경쟁은 페이스북에서 전투를 벌였고, 증오 발언, 위협, 허위 정보 및 사망으로 이어졌다. 페이스북은 에티오피아에서 사용되는 주요 언어를 구사하는 팩트 체크가 없으며 커뮤니티 표준 번역도 제공하지 않으므로 페이스북의 증오 발언은 에티오피아에서 거의 모니터링되지 않는다.[75]
2019년 10월, 에티오피아 활동가 자와르 모하메드는 종교적, 민족적 긴장을 언급하며 경찰이 자신을 구금하려 한다고 페이스북에 허위로 발표했다. 이로 인해 지역 사회는 그의 구금과 인종 및 민족적 긴장에 항의했으며, 이로 인해 70명 이상이 사망했다.[76]
오로모족 출신의 인기 에티오피아 가수 하찰루 훈데사를 중심으로 페이스북에서 허위 정보 캠페인이 시작되었다. 훈데사는 증오에 찬 페이스북 게시물 이후 2020년 6월에 암살되었고, 이로 인해 대중의 분노를 샀다. 페이스북 사용자들은 증거 없이 훈데사의 암살을 암하라족의 탓으로 돌리는 증오에 찬 내용의 긴 게시물을 올렸다.[75] 증오 발언 반대 네트워크에 따르면, 많은 페이스북 게시물은 "한 민족 집단이나 종교, 또는 둘 다에 대한 집단 학살 공격을 촉구하고, 사람들에게 민간인의 재산을 불태우고, 잔인하게 살해하고, 그들을 쫓아내라고 명령"했다.[75]
; 2020년 말–2021년
2020년 11월에 시작된 군사적 분쟁과 티그레이 전쟁의 전쟁 범죄로 인해 온라인 증오 발언이 발생했으며, 이는 반인륜적 범죄에 해당할 수 있다. 2021년 11월 소셜 미디어 온라인 증오 발언에서 언론인, 정치인, 친연방 정부 활동가들은 티그레이족을 "반역자"라고 부르고, 이웃들에게 그들을 "제거"하라고 부르며, 당국에 티그레이족을 "집중 수용소"에 구금하라고 촉구했다. 티그레이족에 대한 대규모 구금이 2021년 에티오피아 비상사태에 따른 연방 법적 정당성을 근거로 이루어졌다.
; 스톰프론트
스톰프론트는 최초의 "혐오 웹사이트"로 간주된다.[18] 1995년 3월 전 KKK 지도자에 의해 개설된 이 사이트는 네오 나치즘, 백인 민족주의, 백인 분리주의와 관련된 아이디어를 논의하는 인기 있는 공간이 되었으며, 처음에는 미국에서 시작하여 전 세계로 확산되었다.[19] 이 포럼은 인종 성전을 외치고 이민에 저항하기 위한 폭력 사용을 선동하며,[19] 활동가를 모집하고 폭력 행위를 조율하는 공간으로 여겨진다.[20]
스톰프론트의 사용자 신원을 조사한 연구들은 이 포럼이 행동을 조율하는 공간이라기보다는, "키보드 워리어"들의 모임에 가깝다는 것을 보여준다. 데 코스터와 하우트만의 보고에 따르면, 한 사용자는 "나는 이 포럼에서 꽤 많은 글을 읽었는데, 실제로 일어나는 일은 거의 없는데 너무 큰 소란이 일어나는 것 같았다."라고 말했다.[21] 2014년 남부 빈곤 법률 센터는 이 사이트의 사용자들이 "지난 5년 동안 약 100명의 살인에 연루된 혐의를 받고 있다"는 연구 결과를 발표했다.[22]
; 소셜 미디어와 여론
퓨 리서치 센터는 2020년 7월에 정치 및 사회 정의 활동에 대한 소셜 미디어의 영향을 연구하기 위해 10,000명 이상의 성인을 대상으로 설문 조사를 실시했다. 소셜 미디어 콘텐츠가 정치 또는 사회 정의 문제에 대한 긍정적 또는 부정적인 의견 변화를 일으켰다고 응답한 성인 소셜 미디어 사용자는 23%였다.[52] 이들 중 35%는 흑인 생명도 소중하다 운동, 경찰 개혁, 인종 관계를, 18%는 정당, 이념, 정치인, 도널드 트럼프 전 대통령에 대한 의견 변화를, 9%는 성소수자 권리, 페미니즘, 이민 등 사회 정의 문제를, 8%는 코로나19 범유행에 대한 의견 변화를 언급했으며, 10%는 기타 의견을 언급했다.[52] 이러한 결과는 소셜 미디어가 여론 형성에 중요한 역할을 한다는 것을 보여준다.
; 온라인 게임
키쇼나 그레이 교수는 온라인 게임 커뮤니티에서 교차적 억압을 연구했으며, 마이크로소프트와 게임 개발자들에게 "온라인 커뮤니티에서 비전통적 게이머의 경험을 비판적으로 평가하고, 다양성을 인식하며, 기본 게임 인구가 지배적인 백인과 남성성을 사용하여 비백인 및/또는 비남성 사용자를 공간에서 불리하게 만들고 있다"고 촉구했다.[54]
가상 게임 환경의 강렬한 분위기와 익명성 때문에, 게이머들은 공공 장소에서 말하지 않을 만한 것들을 말하는 경향이 있다. 소외된 커뮤니티의 많은 게이머들은 차별을 피하기 위해 같은 성별, 성적 지향, 및/또는 민족적 정체성을 가진 게이머들로만 구성된 "클랜"에 가입하기도 한다.
리사 나카무라 교수는 많은 게이머들이 정체성 관광(다른 집단의 구성원을 모방하고 가장하는 행위)을 경험했다는 것을 발견했다. 나카무라는 백인 남성 게이머들이 일본 "게이샤" 여성으로 플레이하는 것을 관찰했으며, [56] 정체성 관광은 종종 고정 관념, 차별, 문화 전유로 이어진다고 지적했다.[56]
; 아시아계 미국인 혐오
2020년 8월 현재, 2,500명 이상의 아시아계 미국인이 코로나19로 인한 인종차별을 경험했다고 보고했으며, 이 중 30.5%의 사례에서 반중국적 수사가 포함되었다고 스톱 AAPI(아시아계 미국인/태평양 섬 주민) 혐오가 밝혔다. 이러한 사건에서 사용된 언어는 맹렬한 적대감, 중국에 대한 희생양 삼기, 반이민 토착주의, 중국인에 대한 인종차별적 특징 묘사, 그리고 인종적 비하의 5가지 범주로 나뉜다. 보고된 사건의 60.4%가 "중국인 엉덩이 치워!"와 같은 구절을 포함하는 맹렬한 적대감 범주에 속한다.[58]
4. 4. 미디어 및 정보 리터러시 교육
미디어 및 정보 리터러시는 사람들이 다양한 형식의 메시지를 효과적으로 다루고, 디지털 사회에 참여하도록 돕는 것을 목표로 한다.[106] 이는 온라인 혐오 발언을 식별하고 대응하는 데 중요한 기술을 포함한다.시민 의식 교육은 개인의 정치적, 사회적, 문화적 권리와 책임에 대한 인식을 높이는 것을 목표로 한다.[107] 특히 혐오 발언을 식별하고 대응하는 지식과 기술을 제공하여 온라인 혐오 발언 문제에 대응한다.[108]
정보 리터러시는 표현의 자유, 프라이버시, 비판적 시민 의식, 정치 참여와 같은 문제를 다룬다.[109] 새로운 기술과 소셜 미디어의 등장은 개인이 정보의 단순 소비자를 넘어 생산자, 창작자, 큐레이터로 진화하게 만들었으며, 이는 교육 전략 또한 미디어 메시지를 비판적으로 수용하는 것에서 미디어 콘텐츠 제작 권한을 부여하는 방향으로 변화하게 했다.[110]
미디어 및 정보 리터러시 개념은 인터넷의 역동성에 따라 계속 진화하며, 정체성 정치, 사이버 공간에서의 윤리 및 권리 문제까지 포함한다.[111]
온라인 혐오 발언에 대응하기 위한 다양한 이니셔티브가 존재한다.
- 반명예훼손 연맹(ADL)의 '혐오의 자리는 없다' (미국)
- 만토바 현과 유럽 위원회의 '다시 말해서' 프로젝트
- 미디어스마트의 '온라인 혐오에 직면하다' (캐나다)
- 유럽 평의회 청소년부의 '혐오 발언 금지 운동' (유럽)[112]
- 온라인 혐오 방지 연구소의 '온라인 혐오' (호주)
교육은 온라인 혐오 발언을 예방하는 핵심적인 방법으로 여겨진다. '혐오 발언 금지 운동'의 로라 게라티는 교육을 통해 온라인에서 책임감 있게 행동하도록 사람들의 인식을 높여야 한다고 강조했다.[113][3]
5. 한국 사회의 혐오 표현 문제와 대응
대한민국 사회는 온라인 커뮤니티와 소셜 미디어를 중심으로 혐오 표현이 확산되고 있으며, 이는 특정 집단을 대상으로 한 차별과 폭력을 조장할 수 있다는 점에서 심각한 문제로 인식되고 있다. 혐오 표현은 표현의 자유와 개인, 집단, 소수자 권리 간의 충돌, 존엄성, 자유, 평등 개념과 관련되어 있어 정의하기 어렵다.[3]
온라인 혐오 발언은 오프라인 혐오 발언과 본질적으로 다르지 않지만, 영속성, 이동성, 익명성 등의 특성으로 인해 규제가 더욱 어렵다. 대한민국과 중국은 소셜 미디어에 실명제를 시행하고 있지만, 사생활 보호 권리와 표현의 자유 침해 논란이 있다. AI 시스템을 활용한 혐오 발언 감시 기술도 발전하고 있지만, 인간의 판단 능력 부족으로 인해 한계가 있다.[15][16]
5. 1. 한국 사회의 혐오 표현 현황
대한민국 사회는 온라인 커뮤니티와 소셜 미디어를 중심으로 혐오 표현이 확산되는 현상을 겪고 있다. 특히 여성, 성소수자, 외국인, 특정 지역 출신 등 특정 집단을 대상으로 한 혐오 표현이 심각한 수준이다. 이러한 혐오 표현은 온라인 공간의 익명성과 맞물려 더욱 과격해지는 경향을 보인다. 드루 보이드는 "인터넷은 개인이 끔찍한 말을 할 수 있는 능력을 부여하는데, 이는 자신이 발각되지 않을 것이라고 생각하기 때문이다."라고 지적하며, 온라인 혐오 발언의 특수성을 설명한다.[11]정치적 양극화 또한 혐오 표현 확산의 주요 원인 중 하나로 지목된다. 정치적 반대자들 간의 혐오 발언 선동 비난이나 권력자들의 반대 및 비판 억제 시도 등은 혐오 발언이 정치적 도구로 악용될 수 있음을 보여준다.[2] 소셜 미디어는 급진주의 및 극단주의 정치 단체가 형성되고, 반체제 및 반정치적 올바름 메시지를 전파하며, 인종차별, 여성 혐오, 동성애 혐오, 트랜스 혐오 등의 이데올로기를 조장하는 플랫폼을 제공하기도 한다.[13]
이러한 온라인 혐오 발언은 오프라인에서의 차별과 폭력을 조장할 수 있다는 점에서 심각한 문제로 인식되고 있다. 센티넬 프로젝트는 온라인 혐오 발언이 오프라인 폭력으로 이어질 수 있다고 경고한다.[11]
5. 2. 문제점 및 과제
혐오 발언은 표현의 자유와 개인, 집단, 소수자 권리 간의 충돌, 존엄성, 자유, 평등 개념과 관련되어 있어 쉽게 정의하기 어렵다.[3] 법학자이자 정치 이론가인 제레미 발드론은 혐오 발언이 소수 집단을 위협하고, 혐오를 정당화하는 두 가지 메시지를 담고 있다고 주장한다.[4]온라인 혐오 발언은 오프라인 혐오 발언과 본질적으로 다르지 않지만, 다음과 같은 특성 때문에 규제가 더욱 어렵다.
- 영속성: 온라인에 게시된 혐오 발언은 여러 플랫폼에 오랫동안 남아 반복적으로 연결될 수 있다.[3]
- 이동성: 콘텐츠가 삭제되어도 다른 곳에서 다시 나타날 수 있으며, 혐오 발언에 대한 규제가 약한 서비스를 이용하거나 다른 국가로 옮겨갈 수 있다.[3]
- 익명성: 익명 또는 가명으로 혐오 발언을 할 수 있어 발각 위험이 적다고 느끼기 때문에 혐오 표현이 쉽게 확산될 수 있다.[10] 대한민국과 중국은 소셜 미디어에 실명제를 시행하고 있으며, 페이스북, 링크드인, 쿼라도 실명제를 도입하려 했으나, 사생활 보호 권리와 표현의 자유 침해 논란이 있다.
인공 지능(AI) 시스템을 활용하여 혐오 발언을 감시하는 기술적 시도가 이루어지고 있지만, AI는 인간의 판단 능력이 부족하여 혐오 표현을 효과적으로 감시하는 데 한계가 있다.[15][16] 예를 들어, 혐오 단어의 철자를 바꾸거나 기호를 사용하는 경우 AI 시스템이 인식하지 못할 수 있다.[17] 따라서, 혐오 발언 감시에 대한 AI 시스템을 감시하는 것은 여전히 인간의 몫으로 남아 있다.
5. 3. 대응 방안
온라인 혐오 발언은 여러 플랫폼에서 오랫동안 남아있을 수 있으며, 다른 곳에서 다시 나타날 수 있다는 점에서 유랑성과 영속성을 지닌다. 이러한 특성은 피해자에게 더 큰 피해를 주고, 가해자를 더욱 대담하게 만들 수 있다.[8]익명성은 온라인 혐오 발언 대응을 어렵게 한다. 인터넷 토론은 익명 또는 가명으로 진행될 수 있어, 사람들이 자신의 의견을 더 안전하게 표현하도록 만들 수 있지만, 파괴적인 행동을 쉽게 가속화할 수도 있다.[10] 센티넬 프로젝트 운영 이사 드류 보이드는 "인터넷은 개인이 자신이 발각되지 않을 것이라고 생각하기 때문에 끔찍한 말을 할 수 있는 능력을 부여한다."라고 말했다.[11]
이러한 문제에 대응하기 위해 중국과 대한민국은 소셜 미디어에 실명제를 시행하고 있다. 페이스북, 링크드인, 쿼라는 온라인 혐오 발언을 더 잘 통제하기 위해 실명제를 활성화하려 했다. 그러나 이러한 조치는 사생활 보호 권리와 표현의 자유 사이의 관계를 침해하는 것으로 간주되어 논란이 되고 있다.
페이스북과 같은 일부 기술 기업들은 혐오 발언 감시를 위해 인공 지능(AI) 시스템을 사용한다.[15] 그러나 AI는 인간의 판단 능력이 부족하여 혐오 발언을 항상 효과적으로 감시하지 못한다.[16] 예를 들어, 사용자가 혐오 발언으로 분류되거나 커뮤니티 지침을 위반하는 게시물이나 댓글을 올렸지만, 대상 단어에 철자 오류가 있거나 일부 문자가 기호로 대체된 경우 AI 시스템은 이를 인식하지 못한다. 이러한 약점으로 인해 의도적인 오타를 사용하여 검열 알고리즘을 우회하려는 시도가 확산되었다.[17] 따라서 인간은 여전히 혐오 발언을 감시하는 AI 시스템을 감시해야 한다.
참조
[1]
논문
Hidden resilience and adaptive dynamics of the global online hate ecology
Nature Research
2019-08-21
[2]
논문
Digital harassment and abuse: Experiences of sexuality and gender minority adults
SAGE Publications
2020-03
[3]
서적
Countering Online Hate Speech
https://unesdoc.unes[...]
UNESCO Publishing
2022-03-13
[4]
서적
The Harm in Hate Speech
https://www.jstor.or[...]
Harvard University Press
2012
[5]
서적
Report of the Special Rapporteur on minority issues, Rita Izsák
Human Rights Council
[6]
문서
[7]
웹사이트
Hate speech statistics
http://www.hatebase.[...]
2018-03-11
[8]
인터뷰
[9]
간행물
Spread of hate speech in online social media
ACM
[10]
논문
Intermediaries and Hate Speech: Fostering Digital Citizenship for Our Information Age
https://papers.ssrn.[...]
2011
[11]
인터뷰
[12]
서적
This Is Why We Can't Have Nice Things: Mapping the Relationship between Online Trolling and Mainstream Culture
MIT Press
[13]
서적
Media Manipulation and Disinformation Online.
Data & Society Research Institute
[14]
논문
Regulating hate speech online
http://shura.shu.ac.[...]
2010-11
[15]
웹사이트
Hateful posts on Facebook and Instagram soar
https://fortune.com/[...]
2020-11-21
[16]
서적
GHOST WORK: How to Stop Silicon Valley from Building a New Global Underclass
Houghton Mifflin Harcourt
[17]
웹사이트
PolitiFact - People are using coded language to avoid social media moderation. Is it working?
https://www.politifa[...]
2022-07-05
[18]
논문
Hate Speech or "Reasonable Racism?" The Other in Stormfront
https://doi.org/10.1[...]
2009-10-30
[19]
논문
Exploring "Stormfront": A Virtual Community of the Radical Right
https://doi.org/10.1[...]
2009-10-30
[20]
간행물
Abusive Language Detection in Online User Content
2016
[21]
논문
Stormfront Is Like a Second Home to Me
https://doi.org/10.1[...]
2008-12-01
[22]
논문
Taking North American white supremacist groups seriously: The scope and challenge of hate speech on the Internet
2018
[23]
웹사이트
The Universal Declaration of Human Rights
https://www.un.org/e[...]
1948
[24]
논문
U.N. Covenant on Civil and Political Rights. CCPR Commentary. By Manfred Nowak. Kehl, Strasbourg, Arlington VA: N. P. Engel, Publisher, 1993. Pp. xxviii, 939. Index, $176; £112;DM/sfr. 262.
https://www.cambridg[...]
1995-04
[25]
논문
Protecting Religions from Defamation: A Threat to Universal Human Rights Standards
https://heinonline.o[...]
2011
[26]
문서
[27]
문서
[28]
문서
[29]
문서
[30]
문서
[31]
문서
[32]
문서
[33]
문서
[34]
문서
[35]
문서
[36]
간행물
Inter-American Commission on Human Rights, Advisory Opinion OC-5/85
1985-11-13
[37]
간행물
Inter-American Commission on Human Rights, Advisory Opinion OC-5/85
1985-11-13
[38]
서적
International Human Rights Law in Africa
Oxford University Press
[39]
간행물
African Commission on Human and Peoples' Rights. Declaration of Principles on Freedom of Expression in Africa
2002-10-17
[40]
간행물
Organization of Islamic Cooperation, Sixth OIC Observatory Report on Islamophobia
2013-12
[41]
간행물
League of Arab States, Arab Charter on Human Rights
2004-05-22
[42]
간행물
League of Arab States, Arab Charter on Human Rights
2004-05-22
[43]
간행물
Article 7 of the ASEAN Human Rights Declaration
[44]
간행물
Article 54 of the Charter of Fundamental Rights of the European Union
[45]
간행물
Article 10 of the European Convention on Human Rights
[46]
웹사이트
Handyside v. the United Kingdom
http://www.echr.coe.[...]
1976-12-07
[47]
간행물
ECRI General Policy Recommendation No. 6, On Combating the Dissemination of Racist, Xenophobic and Antisemitic Material via the Internet
2000-12-15
[48]
간행물
Council of Europe, Convention on Cybercrime
2001-11-23
[49]
간행물
Council of Europe, Additional Protocol to the Convention on cybercrime, concerning the criminalisation of acts of a racist and xenophobic nature committed through computer systems
2003-01-28
[50]
논문
Canada and Aichi Biodiversity Target 11: understanding 'other effective area-based conservation measures' in the context of the broader target
https://www.research[...]
2015-11
[51]
서적
Guiding Principles on Business and Human Rights
Office of the New Commissioner
[52]
웹사이트
23% of users in U.S. say social media led them to change views on an issue; some cite Black Lives Matter
https://www.pewresea[...]
2020-11-22
[53]
서적
Media Manipulation and Disinformation Online
Data & Society Research Institute
[54]
논문
Intersecting Oppressions and Online Communities
https://www.tandfonl[...]
2012
[55]
서적
CHI '04 Extended Abstracts on Human Factors in Computing Systems
Association for Computing Machinery
2004-04-24
[56]
논문
After Images of Identity: Gender, Technology, and Identity Politics
2002
[57]
서적
Cybertypes: Race, Ethnicity, and Identity on the Internet
Routledge
[58]
웹사이트
ANTI-CHINESE RHETORIC EMPLOYED BY PERPETRATORS OF ANTI-ASIAN HATE
http://www.asianpaci[...]
2020
[59]
웹사이트
Pakistan: Online hatred pushing minorities to the periphery
https://ifex.org/pak[...]
2022-03-30
[60]
웹사이트
I Don't Forward Hate: an online campaign against hate speech in Pakistan
https://www.standup4[...]
2022-03-30
[61]
웹사이트
SC reveals '62 people have been convicted over online hate speech since 2015′
https://www.pakistan[...]
2022-03-30
[62]
웹사이트
Trolls, hate speech flood Pakistani social media pages
https://www.deccanch[...]
2022-03-30
[63]
웹사이트
Pakistan's Social Media Is Overflowing With Hate Speech Against Ahmadis
https://thediplomat.[...]
2022-03-30
[64]
웹사이트
Hate speech monitoring helps raise alarm for Ahmadis in Pakistan
https://www.ids.ac.u[...]
2022-03-30
[65]
논문
The cost of hate speech: Policy brief for Punjab
https://minorityrigh[...]
2022-03-30
[66]
웹사이트
Ground breaking study on hate speech online in Pakistan
https://www.apc.org/[...]
2022-03-30
[67]
웹사이트
Hate Speech: A study of Pakistan's Cyberspace
http://content.bytes[...]
2022-03-30
[68]
뉴스
Facebook in Myanmar: Amplifying Hate Speech?
http://www.aljazeera[...]
Al Jazeera
2014-06-14
[69]
뉴스
Why Is There Communal Violence in Myanmar?
https://www.bbc.co.u[...]
BBC
2014-07-03
[70]
뉴스
Special Report: Plight of Muslim minority threatens Myanmar Spring
https://www.reuters.[...]
2023-07-19
[71]
간행물
New Numerology of Hate Grows in Burma
http://www.irrawaddy[...]
Irrawaddy
2013-04-29
[72]
뉴스
Facebook takes steps to combat hate speech
http://www.mmtimes.c[...]
The Myanmar Times
2014-07-25
[73]
웹사이트
Burmese Online Activist Discusses Campaign Against Hate Speech
http://www.irrawaddy[...]
Irrawaddy
[74]
논문
Evolution of public attitudes about mental illness: a systematic review and meta-analysis
https://onlinelibrar[...]
2012-01-13
[75]
웹사이트
Hate Speech on Facebook Is Pushing Ethiopia Dangerously Close to a Genocide
https://www.vice.com[...]
2020-12-06
[76]
웹사이트
Ethiopia Will Explode if It Doesn't Move Beyond Ethnic-Based Politics
https://foreignpolic[...]
2020-12-06
[77]
웹사이트
Help for Yahoo Account
https://help.yahoo.c[...]
2019-06-28
[78]
뉴스
Twitter starts enforcing new policies on violence, abuse, and hateful conduct
https://www.theverge[...]
2018-05-30
[79]
웹사이트
X의 혐오 행위 관련 정책 | X 도움말
https://help.twitter[...]
[80]
웹사이트
Hateful conduct policy
https://help.twitter[...]
2018-05-30
[81]
뉴스
Germany to enforce hate speech law
https://www.bbc.com/[...]
2018-05-30
[82]
논문
Angry by design: toxic communication and technical architectures
https://www.research[...]
2020-07
[83]
서적
A Supply and Demand Framework for YouTube Politics
https://osf.io/73jys[...]
Penn State Political Science
[84]
웹사이트
Our ongoing work to tackle hate
https://blog.youtube[...]
2020-11-21
[85]
웹사이트
Hate speech policy - YouTube Help
https://support.goog[...]
2018-05-30
[86]
웹사이트
Report inappropriate content - Android - YouTube Help
https://support.goog[...]
2018-05-30
[87]
웹사이트
Community Standards {{!}} Facebook
https://www.facebook[...]
2019-06-28
[88]
웹사이트
Community Guidelines {{!}} Instagram Help Center
https://www.facebook[...]
2020-11-21
[89]
뉴스
Facebook's Uneven Enforcement of Hate Speech Rules Allows Vile Posts to Stay Up
https://www.propubli[...]
[90]
뉴스
Facebook's Uneven Enforcement of Hate Speech Rules Allows Vile Posts to Stay Up
https://www.propubli[...]
[91]
뉴스
What Does Facebook Consider Hate Speech? Take Our Quiz
https://www.nytimes.[...]
2017-10-13
[92]
웹사이트
Community Standards: Objectionable Content
https://www.facebook[...]
[93]
웹사이트
This is what Facebook won't let you post
http://bgr.com/2018/[...]
2018-04-24
[94]
웹사이트
Community Guidelines: Objectionable Content
https://www.facebook[...]
[95]
웹사이트
Facebook Bans White Nationalism And Separatism Content From Its Platforms
https://www.npr.org/[...]
2019-06-28
[96]
웹사이트
Facebook Bans Alex Jones, Louis Farrakhan And Other 'Dangerous' Individuals
https://www.npr.org/[...]
2019-06-28
[97]
웹사이트
Community Standards Recent Updates {{!}} Facebook
https://www.facebook[...]
2020-11-21
[98]
웹사이트
Meta is still profiting off ads that use the anti-LGBTQ 'groomer' slur, despite the platform's ban
https://www.mediamat[...]
2022-10-22
[99]
웹사이트
Facebook parent company Meta still cashing in on ads using anti-LGBTQ slur 'groomers' despite platform's ban: report
https://www.nydailyn[...]
2022-10-22
[100]
웹사이트
Facebook has made thousands from hateful 'groomer' adverts in 2022
https://www.pinknews[...]
2022-10-22
[101]
웹사이트
Facebook & Instagram are making money off ads calling LGBTQ people 'groomers' despite policy
https://www.lgbtqnat[...]
2022-10-22
[102]
웹사이트
Content Policies
https://msdn.microso[...]
2019-06-28
[103]
웹사이트
Xbox Community Standards {{!}} Xbox
https://www.xbox.com[...]
2019-06-28
[104]
논문
Research Note: Spreading Hate on TikTok
https://www.research[...]
2020-06-19
[105]
논문
'Won't Somebody Please Think of the Children?' Hate Speech, Harm, and Childhood
2019-02-01
[106]
웹사이트
Media and Information Literacy
https://en.unesco.or[...]
2019-06-28
[107]
논문
Education for Democratic Citizenship: a review of research, policy and practice 1995-2005
https://www.research[...]
2006
[108]
간행물
Thou shalt not hate: Countering Online Hate Speech
AAAI
[109]
서적
Digital Citizenship: The Internet, Society, and Participation
MIT Press
[110]
서적
Media Literacies: A Critical Introduction
Blackwell Publishing
[111]
문서
See Paris Declaration: Paris Declaration on MIL in the Digital Era. http://www.unesco.org/new/en/communication-andinformation/resources/news-and-in-focus-articles/in-focus-articles/2014/paris-declaration-on-mediaand-information-literacy-adopted/
[112]
문서
The ‘No Hate Speech Movement' is a regional campaign that encompasses 50 countries far beyond the European Continent. Although the campaign has common goals and develops joint strategies, the particular projects and initiatives rune in every country are the responsibility of the National coordinators and subject to the capacity and resources in each country.
[113]
문서
Interview: Laura Geraghty, No Hate Speech Movement, 25 November 2014.
[114]
논문
Hidden resilience and adaptive dynamics of the global online hate ecology
Nature Research
2019-08-21
[115]
논문
Digital harassment and abuse: Experiences of sexuality and gender minority adults
SAGE Publications
2020-03-01
[116]
서적
Countering Online Hate Speech
https://unesdoc.unes[...]
UNESCO Publishing
2022-03-13
[117]
서적
The Harm in Hate Speech
https://www.jstor.or[...]
Harvard University Press
2012
[118]
서적
Report of the Special Rapporteur on minority issues, Rita Izsák
Human Rights Council
[119]
문서
See Council of Europe, "Mapping study on projects against hate speech online", 15 April 2012. See also interviews: Christine Chen, Senior Manager for Public Policy, Google, 2 March 2015; Monika Bickert, Head of Global Policy Management, Facebook, 14 January 2015
[120]
문서
See HateBase, Hate speech statistics, http://www.hatebase.org/popular
[121]
문서
Interview: Andre Oboler, CEO, Online Hate Prevention Institute, 31 October 2014.
[122]
간행물
Spread of hate speech in online social media
ACM
[123]
논문
Intermediaries and Hate Speech: Fostering Digital Citizenship for Our Information Age
https://papers.ssrn.[...]
2011
[124]
문서
Interview: Drew Boyd, Director of Operations, The Sentinel Project for Genocide Prevention, 24 October 2014.
[125]
서적
This Is Why We Can't Have Nice Things: Mapping the Relationship between Online Trolling and Mainstream Culture
MIT Press
[126]
서적
Media Manipulation and Disinformation Online.
Data & Society Research Institute
[127]
웹인용
Hateful posts on Facebook and Instagram soar
https://fortune.com/[...]
2020-11-21
[128]
서적
GHOST WORK: How to Stop Silicon Valley from Building a New Global Underclass
https://archive.org/[...]
Houghton Mifflin Harcourt
[129]
웹인용
PolitiFact - People are using coded language to avoid social media moderation. Is it working?
https://www.politifa[...]
2022-07-05
본 사이트는 AI가 위키백과와 뉴스 기사,정부 간행물,학술 논문등을 바탕으로 정보를 가공하여 제공하는 백과사전형 서비스입니다.
모든 문서는 AI에 의해 자동 생성되며, CC BY-SA 4.0 라이선스에 따라 이용할 수 있습니다.
하지만, 위키백과나 뉴스 기사 자체에 오류, 부정확한 정보, 또는 가짜 뉴스가 포함될 수 있으며, AI는 이러한 내용을 완벽하게 걸러내지 못할 수 있습니다.
따라서 제공되는 정보에 일부 오류나 편향이 있을 수 있으므로, 중요한 정보는 반드시 다른 출처를 통해 교차 검증하시기 바랍니다.
문의하기 : help@durumis.com