The regulation of online hate speech sits at the intersection of two fundamental values that democratic societies hold simultaneously and that social media makes difficult to reconcile: protection of vulnerable communities from speech that demeans, threatens, and incites violence against them, and protection of free expression from government control.

The global regulatory landscape reflects different national resolutions of this tension. The EU's Digital Services Act mandates systemic risk assessments and content moderation for hate speech. Germany's NetzDG requires removal of obviously illegal content within 24 hours (other illegal content within 7 days). The US First Amendment protects nearly all speech from government restriction, leaving moderation decisions to private platforms. And Elon Musk's acquisition of Twitter (now X) in 2022 provided a natural experiment in what happens when a major platform deliberately relaxes hate speech moderation in the name of free speech.

The EU Approach: DSA and the ECtHR

Enarsson (2024) examines how the EU's Digital Services Act navigates hate speech and content moderation, drawing insights from European Court of Human Rights (ECtHR) case law. The dissemination of hate speech online necessitates forceful content moderation to protect individuals and democratic values, without undue infringement of freedom of expression and the right to access information.

The paper identifies a framework emerging from ECtHR jurisprudence that distinguishes between:

• Expression that is protected (political speech, artistic expression, uncomfortable opinions): Moderation should not suppress unpopular views.
• Expression that may be restricted (incitement to discrimination, denial of historical atrocities): Regulation may be justified if proportionate to the legitimate aim.
• Expression that must be restricted (direct incitement to violence, threats): States have positive obligations to protect individuals from such speech.

The DSA builds on this framework by imposing "systemic obligations" on very large online platforms: they must assess systemic risks (including hate speech), implement risk mitigation measures, and submit to independent audits. The approach is structural rather than content-specific—platforms must have systems for addressing hate speech rather than being told which specific content to remove.

The Twitter/X Natural Experiment

Arun, Chhatani, and An (2024) investigate the impact of Elon Musk's takeover of Twitter and the subsequent relaxation of content moderation on the platform. By curating a dataset of over 10 million tweets, the study employs a framework combining content and network analysis.

The findings provide empirical evidence on a question that had previously been mostly theoretical: what happens when a major platform reduces hate speech moderation? The study documents observable changes in content patterns and network dynamics following the moderation relaxation—providing evidence that platform moderation policies have measurable effects on the character of online discourse.

This natural experiment is significant because it occurred at scale, on a public platform, with observable before-and-after data. Whether the changes constitute a "free speech success" (more voices heard) or a "moderation failure" (more harm produced) depends on normative commitments that the data alone cannot resolve.

Platform Liability

Alkiviadou (2024) examines the fundamental tension between platform liability for hate speech and the right to free expression. The rise of social media has dramatically transformed information sharing, bypassing traditional editorial and governmental controls.

The paper argues that social media platforms occupy an ambiguous legal position: they are neither traditional publishers (who exercise editorial control and bear legal responsibility for what they publish) nor common carriers (who transmit content neutrally and bear no responsibility for what flows through their infrastructure). They are something in between—and the legal framework for this in-between position is still being constructed.

Different liability models produce different incentive structures:

• Immunity (US Section 230): Platforms are not liable for user-generated content. This encourages platform growth but removes incentives for content moderation.
• Liability (proposed reforms): Platforms are liable for content they fail to remove after notice. This incentivizes aggressive moderation but may lead to over-removal of lawful speech.
• Due diligence (EU DSA): Platforms must demonstrate systemic processes for addressing illegal content. This focuses on process rather than outcome, allowing platforms discretion while requiring accountability.

The Transatlantic Divide

Nunziato (2026) examines the growing divergence between EU and US approaches to online hate speech regulation. Given recent changes in major social media platforms' moderation of harmful speech—with the tacit blessing of a 2024 Supreme Court decision and the Trump Administration's positions—the question of what speech should be allowed on platforms has become pressing.

The transatlantic divide is deepening. The EU is moving toward more regulation (DSA, AI Act, upcoming code of conduct on hate speech), while the US political environment has shifted toward less regulation (Section 230 preservation, First Amendment absolutism, political pressure against content moderation). For platforms that operate globally, this creates a compliance dilemma: content that must be moderated under EU law may be protected speech under US law.

Comparative Analysis: EU, US, and China

Xun and Cheng (2025) compare online speech governance across three jurisdictions: the EU, the US, and China. The study analyzes the institutional development of online speech governance in each system, highlighting how political culture, legal tradition, and state-market relations shape the boundaries of permissible speech.

The three-way comparison reveals that "hate speech regulation" means fundamentally different things in different political systems. In the EU, it means protecting vulnerable groups from discriminatory expression. In the US, it means protecting all expression (including hateful expression) from government restriction. In China, it means controlling expression that threatens social stability or state authority. The same regulatory label conceals incompatible normative commitments.

Claims and Evidence

<

Claim	Evidence	Verdict
The EU DSA provides a workable framework for hate speech moderation	Enarsson (2024): ECtHR jurisprudence provides proportionality guidance; implementation emerging	⚠️ Uncertain (too early to evaluate)
Relaxing platform moderation increases hate speech	Arun et al. (2024): content and network changes observed on X/Twitter after moderation relaxation	✅ Supported
Current platform liability models adequately balance protection and expression	Alkiviadou (2024): all models have significant trade-offs	⚠️ Uncertain
EU and US approaches are converging	Nunziato (2026): transatlantic divide is widening, not narrowing	❌ Refuted
A universal standard for online hate speech regulation is feasible	Xun & Cheng (2025): regulation reflects incompatible normative commitments across systems	❌ Refuted

Open Questions

Can AI-powered content moderation achieve the nuance that hate speech adjudication requires? Hate speech often depends on context, tone, speaker identity, and cultural reference that automated systems struggle to evaluate.

Should "lawful but awful" speech be moderated? Some speech is legal under applicable law but harmful to platform communities. Should platforms moderate speech that is legal but toxic, and if so, by what standards?

How should hate speech regulation address intersectionality? Speech that targets individuals at the intersection of multiple marginalized identities (e.g., Black trans women) may not be captured by category-specific hate speech definitions.

What happens when governments weaponize hate speech regulation? Laws designed to protect minorities can be used by authoritarian governments to suppress dissent, as has occurred in multiple jurisdictions.

Implications

The research reviewed here suggests that hate speech regulation is not a technical problem with a technical solution. It is a political negotiation over the boundaries of acceptable expression in democratic societies—a negotiation that different democracies resolve differently because they hold different balances between protection and freedom.

The practical challenge for platforms operating globally is that there is no single set of rules that satisfies all jurisdictions. The emerging approach—geo-specific content policies that apply different moderation standards in different markets—is operationally complex but may be the only viable path for platforms that serve both the EU and the US.

면책 조항: 이 게시물은 정보 제공을 목적으로 한 연구 동향 개요이다. 학술 연구에서 인용하기 전에 원본 논문을 통해 구체적인 연구 결과, 통계 및 주장을 검증해야 한다.

온라인 혐오 발언 규제: 법은 검열 없이 보호할 수 있는가?

온라인 혐오 발언 규제는 민주주의 사회가 동시에 견지하면서도 소셜 미디어로 인해 조화시키기 어려워진 두 가지 근본적 가치의 교차점에 놓여 있다. 하나는 특정 집단을 비하하고, 위협하며, 폭력을 선동하는 발언으로부터 취약 공동체를 보호하는 것이고, 다른 하나는 정부의 통제로부터 표현의 자유를 보호하는 것이다.

전 세계 규제 환경은 이러한 긴장 관계에 대한 각국의 상이한 해결 방식을 반영한다. EU의 디지털서비스법(Digital Services Act)은 혐오 발언에 대한 체계적 위험 평가와 콘텐츠 중재를 의무화하고 있다. 독일의 NetzDG는 명백히 불법적인 콘텐츠를 24시간 이내에, 그 외 불법 콘텐츠를 7일 이내에 삭제하도록 요구한다. 미국 수정헌법 제1조는 거의 모든 발언을 정부의 규제로부터 보호하며, 중재 결정을 민간 플랫폼에 맡긴다. 그리고 2022년 일론 머스크(Elon Musk)의 트위터(현 X) 인수는 주요 플랫폼이 표현의 자유를 명분으로 혐오 발언 중재를 의도적으로 완화할 경우 어떤 일이 벌어지는지에 대한 자연 실험을 제공했다.

EU의 접근 방식: DSA와 ECtHR

Enarsson(2024)은 EU의 디지털서비스법(DSA)이 유럽인권재판소(ECtHR) 판례법에서 통찰을 도출하며 혐오 발언과 콘텐츠 중재를 어떻게 다루는지 고찰한다. 온라인에서의 혐오 발언 확산은 표현의 자유 및 정보 접근권을 부당하게 침해하지 않으면서 개인과 민주주의적 가치를 보호하기 위한 강력한 콘텐츠 중재를 필요로 한다.

해당 논문은 ECtHR 판례에서 도출된 다음과 같은 구분 틀을 제시한다.

• 보호받는 표현 (정치적 발언, 예술적 표현, 불편한 의견): 중재는 비주류적 견해를 억압해서는 안 된다.
• 제한될 수 있는 표현 (차별 선동, 역사적 만행 부인): 정당한 목적에 비례하는 경우 규제가 정당화될 수 있다.
• 반드시 제한되어야 하는 표현 (직접적인 폭력 선동, 위협): 국가는 개인을 이러한 발언으로부터 보호해야 할 적극적 의무를 진다.

DSA는 이 틀을 바탕으로 초대형 온라인 플랫폼에 "체계적 의무"를 부과한다. 즉, 플랫폼은 체계적 위험(혐오 발언 포함)을 평가하고, 위험 완화 조치를 시행하며, 독립적 감사를 받아야 한다. 이 접근 방식은 콘텐츠 특정적이기보다 구조적이다. 플랫폼은 어떤 특정 콘텐츠를 삭제하라는 지시를 받는 것이 아니라, 혐오 발언에 대응하기 위한 시스템을 갖추어야 한다.

트위터/X 자연 실험

Arun, Chhatani, and An(2024)은 일론 머스크의 트위터 인수와 그에 따른 플랫폼 내 콘텐츠 중재 완화의 영향을 조사한다. 1,000만 건 이상의 트윗으로 구성된 데이터셋을 구축하여, 콘텐츠 분석과 네트워크 분석을 결합한 틀을 적용한다.

이 연구 결과는 그간 대부분 이론적 수준에 머물렀던 질문에 대한 실증적 증거를 제공한다. 주요 플랫폼이 혐오 발언 중재를 축소하면 어떤 일이 발생하는가? 연구는 중재 완화 이후 콘텐츠 패턴과 네트워크 역학에서 관찰 가능한 변화를 기록하며, 플랫폼 중재 정책이 온라인 담론의 성격에 측정 가능한 영향을 미친다는 증거를 제시한다.

이 자연 실험은 대규모로, 공개 플랫폼에서, 관찰 가능한 전후 데이터와 함께 이루어졌다는 점에서 중요하다. 이러한 변화가 "표현의 자유의 성공"(더 많은 목소리가 전달됨)인지 아니면 "중재의 실패"(더 많은 피해가 발생함)인지는 데이터만으로는 해결할 수 없는 규범적 입장에 달려 있다.

플랫폼 책임

Alkiviadou(2024)는 혐오 발언에 대한 플랫폼 책임과 표현의 자유 사이의 근본적 긴장 관계를 고찰한다. 소셜 미디어의 부상은 전통적인 편집 및 정부 통제를 우회하며 정보 공유 방식을 급격히 변화시켰다. 이 논문은 소셜 미디어 플랫폼이 법적으로 모호한 위치를 점하고 있다고 주장한다. 플랫폼은 전통적인 출판사(편집 통제권을 행사하며 게재 내용에 대한 법적 책임을 지는 주체)도 아니고, 공통 운송업자(콘텐츠를 중립적으로 전달하며 자신의 인프라를 통해 흐르는 내용에 대해 아무런 책임을 지지 않는 주체)도 아니다. 플랫폼은 그 중간 어딘가에 위치하며, 이 중간 위치에 대한 법적 틀은 아직 구축 중이다.

책임 모델이 다르면 인센티브 구조도 달라진다.

• 면책 (미국 Section 230): 플랫폼은 이용자 생성 콘텐츠에 대해 책임을 지지 않는다. 이는 플랫폼 성장을 촉진하지만 콘텐츠 중재에 대한 인센티브를 제거한다.
• 책임 (개혁안): 플랫폼은 통보 후 삭제하지 않은 콘텐츠에 대해 책임을 진다. 이는 적극적인 중재를 유도하지만 합법적 표현의 과도한 삭제로 이어질 수 있다.
• 실사 의무 (EU DSA): 플랫폼은 불법 콘텐츠 처리를 위한 체계적 절차를 갖추고 있음을 입증해야 한다. 이는 결과보다 과정에 초점을 맞추어, 플랫폼에 재량권을 부여하면서도 책임성을 요구한다.

대서양 양안의 분열

Nunziato(2026)는 온라인 혐오 표현 규제에 관한 EU와 미국의 접근 방식이 점점 더 벌어지고 있는 현상을 분석한다. 주요 소셜 미디어 플랫폼이 유해 표현을 중재하는 방식이 최근 변화하고 있는 가운데—2024년 연방대법원 판결과 트럼프 행정부의 입장이 이를 암묵적으로 지지하면서—플랫폼에서 어떤 표현이 허용되어야 하는가의 문제가 시급한 현안으로 떠올랐다.

대서양 양안의 분열은 심화되고 있다. EU는 더 많은 규제(DSA, AI Act, 혐오 표현에 관한 행동 강령 예정)를 향해 나아가는 반면, 미국의 정치 환경은 더 적은 규제(Section 230 유지, 수정헌법 제1조 절대주의, 콘텐츠 중재에 대한 정치적 압력) 쪽으로 이동했다. 전 세계적으로 운영되는 플랫폼들에게 이는 규정 준수의 딜레마를 야기한다. EU 법 하에서 중재해야 하는 콘텐츠가 미국 법 하에서는 보호받는 표현일 수 있기 때문이다.

비교 분석: EU, 미국, 중국

Xun과 Cheng(2025)은 EU, 미국, 중국 세 법제에 걸쳐 온라인 표현 거버넌스를 비교한다. 이 연구는 각 체제에서 온라인 표현 거버넌스가 제도적으로 어떻게 발전해 왔는지를 분석하며, 정치 문화, 법적 전통, 국가-시장 관계가 허용 가능한 표현의 경계를 어떻게 형성하는지를 부각시킨다.

세 체제의 비교를 통해, "혐오 표현 규제"가 정치 체제에 따라 근본적으로 다른 의미를 가짐이 드러난다. EU에서 그것은 취약 집단을 차별적 표현으로부터 보호하는 것을 의미한다. 미국에서 그것은 (혐오적 표현을 포함한) 모든 표현을 정부의 제한으로부터 보호하는 것을 의미한다. 중국에서 그것은 사회 안정이나 국가 권위를 위협하는 표현을 통제하는 것을 의미한다. 동일한 규제적 명칭 아래 양립 불가능한 규범적 지향이 숨겨져 있는 것이다.

주장과 근거

<

주장	근거	판정
EU DSA는 혐오 표현 중재를 위한 실행 가능한 틀을 제공한다	Enarsson(2024): ECtHR 판례가 비례성 지침을 제공하며, 이행이 나타나고 있음	⚠️ 불확실 (평가하기에 이름)
플랫폼 중재를 완화하면 혐오 표현이 증가한다	Arun et al.(2024): 중재 완화 후 X/Twitter에서 콘텐츠 및 네트워크 변화가 관찰됨	✅ 지지됨
현행 플랫폼 책임 모델은 보호와 표현의 자유 사이의 균형을 적절히 유지한다	Alkiviadou(2024): 모든 모델에 상당한 상충 관계가 존재함	⚠️ 불확실
EU와 미국의 접근 방식이 수렴하고 있다	Nunziato(2026): 대서양 양안의 격차는 좁혀지는 것이 아니라 벌어지고 있음	❌ 반박됨
온라인 혐오 표현 규제의 보편적 기준 마련이 실현 가능하다	Xun & Cheng(2025): 규제는 각 체제에 걸쳐 양립 불가능한 규범적 지향을 반영함	❌ 반박됨

미해결 과제

AI 기반 콘텐츠 중재는 혐오 표현 판단에 요구되는 섬세함을 달성할 수 있는가? 혐오 표현은 흔히 맥락, 어조, 화자의 정체성, 문화적 참조에 따라 달라지는데, 이는 자동화 시스템이 평가하기 어려운 요소들이다.

"합법적이지만 해로운(lawful but awful)" 발언을 규제해야 하는가? 일부 발언은 적용 법률상 합법이지만 플랫폼 커뮤니티에 해롭다. 플랫폼은 합법적이지만 유해한 발언을 규제해야 하는가, 그리고 그렇다면 어떤 기준에 의해야 하는가?

혐오 발언 규제는 교차성(intersectionality)을 어떻게 다루어야 하는가? 여러 소외 정체성의 교차점에 있는 개인(예: 흑인 트랜스젠더 여성)을 표적으로 하는 발언은 범주별 혐오 발언 정의로는 포착되지 않을 수 있다.

정부가 혐오 발언 규제를 무기화할 때 어떤 일이 발생하는가? 소수자를 보호하기 위해 설계된 법률이 권위주의 정부에 의해 반대 의견을 억압하는 데 사용될 수 있으며, 이는 다수의 법적 관할권에서 실제로 발생하였다.

시사점

본고에서 검토한 연구는 혐오 발언 규제가 기술적 해결책이 존재하는 기술적 문제가 아님을 시사한다. 이는 민주주의 사회에서 허용 가능한 표현의 경계를 둘러싼 정치적 협상이며, 서로 다른 민주주의 국가들이 보호와 자유 사이의 균형을 상이하게 설정하기 때문에 각기 다른 방식으로 해결한다.

전 세계에서 운영되는 플랫폼이 직면한 실질적 과제는 모든 법적 관할권을 만족시키는 단일한 규칙이 존재하지 않는다는 점이다. 현재 부상하고 있는 접근 방식—서로 다른 시장에 상이한 콘텐츠 규제 기준을 적용하는 지역별 콘텐츠 정책—은 운영상 복잡하지만, EU와 미국 모두에 서비스를 제공하는 플랫폼에게는 유일하게 실행 가능한 경로일 수 있다.