Propaganda is ancient; computational propaganda is new. The combination of automated accounts (bots), algorithmic amplification, and data-driven targeting has created a form of political manipulation that operates at a scale and speed that traditional propaganda could never achieve. A state actor can deploy thousands of automated accounts simultaneously, each posting, retweeting, and commenting in coordinated patterns designed to create the appearance of organic public opinion.

The term "computational propaganda"—coined by the Oxford Internet Institute's Computational Propaganda Project—captures this fusion of computational technology and propagandistic intent. It encompasses the use of algorithms, automation, and human curation to purposefully distribute misleading information over social media networks.

Theoretical Foundations

Pote (2024) provides a critical literature review of computational propaganda theory and bot detection systems. The paper traces how the classical definition of propaganda—"the management of collective attitudes by manipulation of significant symbols"—has evolved to computational propaganda in the digital medium.

Drawing on the broader computational propaganda literature, the review traces an evolution across three recognizable generations:

First generation (2010-2016): Simple automated accounts posting high volumes of content. Detectable through basic metrics (posting frequency, account age, follower ratios). Effective through sheer volume rather than sophistication.

Second generation (2016-2020): Hybrid operations combining automated accounts with human operators. More sophisticated targeting based on audience analysis. Harder to detect because human involvement masks automated patterns.

Third generation (2020-present): AI-generated content (text, images, audio, video) distributed through networks that combine automated and authentic accounts. Detection is challenging because both the content and the distribution patterns appear organic.

Bot Effectiveness

Polychronis and Kogan (2025) ask a question that is empirically important but rarely studied: do bots actually work? State-sponsored information operations have been perpetrated by over 80 state actors in the last decade, but their effectiveness at actually changing attitudes or behavior is less well established than their existence.

Using sequence-based clustering and advanced linear modeling, the study investigates the relationship between agent automation, role, and network characteristics and how much success those agents achieve. The findings are striking: automated agents perform worse across every success metric compared to human agents, and they play a smaller, supporting role to the primarily human SSIO workforce. Furthermore, the extent to which agents engage in amplifying-centric versus producing-centric roles is the biggest determinant of their success—highlighting that the social role an agent plays matters more than whether it is automated. This suggests that the threat of bot-driven propaganda may be more about volume and distraction than genuine persuasive impact.

Pakistan: Domestic Computational Propaganda

Samee, Ansari, and Butt (2025) examine computational propaganda in Pakistan's domestic political context. The research compares strategies adopted by Pakistan's major political parties—PTI, PML-N, and PPP—in using platform X for political narrative creation.

The Pakistan case illustrates that computational propaganda is not exclusively a tool of state actors against foreign targets—it is increasingly used by domestic political actors against domestic audiences. Political parties deploy bot networks, coordinate hashtag campaigns, and use automated accounts to create the appearance of popular support for their positions and popular opposition to their rivals.

AI and National Security

Kirill and Shapovalov (2026) examine national security threats associated with AI use in political communication. Key risks include the concentration of digital power among technology corporations, algorithmic manipulation of public opinion, and the creation of information bubbles.

The national security framing connects computational propaganda to broader concerns about AI governance: if AI systems can generate convincing political content at scale and distribute it through automated networks, the barrier to entry for influence operations drops dramatically. States, corporations, and even well-resourced individuals can conduct information operations that previously required intelligence agencies.

Claims and Evidence

Implications

Computational propaganda represents a structural threat to democratic discourse—not because it is always effective at changing minds, but because it degrades the information environment within which democratic deliberation occurs. When citizens cannot distinguish organic public opinion from manufactured consent, trust in all political communication declines. The defense against computational propaganda requires a combination of technical detection, platform accountability, media literacy, and—perhaps paradoxically—the same AI technologies that enable the propaganda in the first place.

면책 조항: 이 게시물은 정보 제공 목적의 연구 동향 개요이다. 학술 연구에서 인용하기 전에 구체적인 연구 결과, 통계 및 주장은 원본 논문을 통해 검증해야 한다.

컴퓨터 선전: 국가가 여론을 장악하기 위해 봇을 배치할 때

선전은 오래된 것이지만, 컴퓨터 선전은 새로운 것이다. 자동화된 계정(봇), 알고리즘 증폭, 데이터 기반 타겟팅의 결합은 전통적인 선전이 결코 달성할 수 없었던 규모와 속도로 작동하는 정치적 조작의 한 형태를 만들어냈다. 국가 행위자는 수천 개의 자동화 계정을 동시에 배치할 수 있으며, 각 계정은 유기적인 여론이 형성된 것처럼 보이도록 설계된 조율된 패턴으로 게시하고, 리트윗하고, 댓글을 단다.

"컴퓨터 선전(computational propaganda)"이라는 용어는—Oxford Internet Institute의 Computational Propaganda Project가 만들어낸—컴퓨터 기술과 선전적 의도의 이러한 융합을 포착한다. 이 용어는 소셜 미디어 네트워크를 통해 오해를 유발하는 정보를 의도적으로 배포하기 위한 알고리즘, 자동화, 인간의 큐레이션 활용을 포괄한다.

이론적 토대

Pote(2024)는 컴퓨터 선전 이론과 봇 탐지 시스템에 대한 비판적 문헌 검토를 제공한다. 이 논문은 선전의 고전적 정의—"중요한 상징의 조작을 통한 집단적 태도의 관리"—가 디지털 매체에서 어떻게 컴퓨터 선전으로 진화했는지를 추적한다.

광범위한 컴퓨터 선전 문헌을 바탕으로, 이 검토는 세 가지 인식 가능한 세대에 걸친 진화를 추적한다.

1세대(2010-2016): 대량의 콘텐츠를 게시하는 단순한 자동화 계정. 기본적인 지표(게시 빈도, 계정 나이, 팔로워 비율)를 통해 탐지 가능. 정교함보다는 순전한 양으로 효과를 발휘.

2세대(2016-2020): 자동화 계정과 인간 운영자를 결합한 하이브리드 작전. 청중 분석에 기반한 보다 정교한 타겟팅. 인간의 개입이 자동화 패턴을 가리기 때문에 탐지가 더 어려움.

3세대(2020-현재): 자동화 계정과 실제 계정을 결합한 네트워크를 통해 배포되는 AI 생성 콘텐츠(텍스트, 이미지, 오디오, 비디오). 콘텐츠와 배포 패턴 모두 유기적으로 보이기 때문에 탐지가 어려움.

봇의 효과

Polychronis와 Kogan(2025)은 경험적으로 중요하지만 거의 연구되지 않은 질문을 제기한다: 봇은 실제로 효과가 있는가? 국가 후원 정보 작전은 지난 10년간 80개 이상의 국가 행위자에 의해 수행되었지만, 실제로 태도나 행동을 변화시키는 효과는 그 존재만큼 잘 확립되어 있지 않다.

순서 기반 클러스터링과 고급 선형 모델링을 사용하여, 이 연구는 에이전트의 자동화, 역할, 네트워크 특성과 해당 에이전트가 달성하는 성공 정도 사이의 관계를 조사한다. 연구 결과는 주목할 만하다: 자동화 에이전트는 인간 에이전트에 비해 모든 성공 지표에서 더 낮은 성과를 보이며, 주로 인간으로 구성된 SSIO 인력에 대해 더 작은 지원 역할을 수행한다. 더 나아가, 에이전트가 증폭 중심 역할과 생산 중심 역할 중 어느 쪽에 관여하는지가 성공의 가장 큰 결정 요인이다—이는 에이전트가 자동화되었는지 여부보다 에이전트가 수행하는 사회적 역할이 더 중요함을 부각한다. 이는 봇 주도 선전의 위협이 진정한 설득력 있는 영향보다는 양적 과부하와 주의 분산에 더 관련될 수 있음을 시사한다.

파키스탄: 국내 컴퓨터 선전

Samee, Ansari, Butt(2025)는 파키스탄의 국내 정치적 맥락에서 컴퓨터 선전을 조사한다. 이 연구는 파키스탄의 주요 정당인 PTI, PML-N, PPP가 정치적 서사 형성을 위해 플랫폼 X를 활용하는 데 채택한 전략을 비교한다. 파키스탄 사례는 계산적 선전(computational propaganda)이 국가 행위자가 외국 대상에게만 사용하는 도구가 아니라, 국내 정치 행위자들이 국내 청중을 대상으로 점점 더 많이 활용하고 있음을 보여준다. 정당들은 봇 네트워크를 배치하고, 해시태그 캠페인을 조율하며, 자동화된 계정을 활용하여 자신들의 입장에 대한 대중적 지지와 경쟁자에 대한 대중적 반대가 존재하는 것처럼 보이게 만든다.

AI와 국가 안보

Kirill과 Shapovalov(2026)는 정치적 커뮤니케이션에서 AI 활용과 관련된 국가 안보 위협을 검토한다. 주요 위험 요소로는 기술 기업들에게 디지털 권력이 집중되는 현상, 여론의 알고리즘적 조작, 그리고 정보 버블(information bubble)의 생성이 포함된다.

국가 안보의 프레이밍은 계산적 선전을 AI 거버넌스에 관한 더 광범위한 우려와 연결 짓는다. AI 시스템이 대규모로 설득력 있는 정치적 콘텐츠를 생성하고 자동화된 네트워크를 통해 배포할 수 있다면, 영향력 공작(influence operations)의 진입 장벽은 급격히 낮아진다. 국가, 기업, 심지어 자원이 풍부한 개인까지도 과거에는 정보기관만이 수행할 수 있었던 정보 공작을 실행할 수 있게 된다.

주장과 근거

시사점

계산적 선전은 민주주의적 담론에 구조적 위협을 가한다. 이는 항상 사람들의 생각을 효과적으로 바꾸기 때문이 아니라, 민주주의적 숙의(democratic deliberation)가 이루어지는 정보 환경 자체를 훼손하기 때문이다. 시민들이 자연발생적인 여론과 제조된 동의(manufactured consent)를 구별하지 못하게 될 때, 모든 정치적 커뮤니케이션에 대한 신뢰가 저하된다. 계산적 선전에 대한 방어는 기술적 탐지, 플랫폼의 책임성, 미디어 리터러시, 그리고 역설적이게도 선전 자체를 가능하게 하는 바로 그 AI 기술의 조합을 필요로 한다.