When you open Instagram, TikTok, or YouTube, you do not see the internet. You see a version of it, curated by algorithms that select, sequence, and prioritize content based on predictions about what will keep you engaged. This curation is not neutral. It is a form of power—the power to determine what information reaches which audiences, which voices are amplified, which are suppressed, and what counts as "relevant" in any given moment.

The communication studies literature has increasingly recognized that algorithmic curation represents a qualitative shift in media power, not merely a quantitative one. Traditional media gatekeepers—editors, producers, publishers—exercised editorial judgment that was visible, attributable, and (in democratic societies) subject to professional norms and public accountability. Algorithmic gatekeeping is none of these things. It is invisible to users, opaque to regulators, and governed by commercial objectives (engagement maximization) that may diverge from democratic values (informed deliberation, diverse exposure, equitable voice).

Platform Governance: Beyond Content Moderation

Cennamo and Karanovic (2026) challenge the dominant framing that treats social media platforms as threats to democracy that must be regulated into compliance. While acknowledging that platforms facilitate the spread of misinformation and foster polarized debates—dynamics that ultimately serve to monetize user attention—they argue that the problem and the solution are both more structural than content-level moderation can address.

Their "ecosystem governance" perspective reframes the question. Rather than asking "How should platforms moderate content?" (a question that accepts the platform as the unit of governance), they ask "How should the ecosystem of information production, distribution, and consumption be governed?" This analytical reframing suggests interventions that content moderation alone forecloses—including structural mechanisms such as interoperability requirements, data portability options, and public interest obligations analogous to those imposed on broadcast media.

The ecosystem perspective also identifies a structural power asymmetry that content moderation cannot address: platforms are simultaneously the infrastructure of public discourse (analogous to telephone networks or postal services) and commercial enterprises optimizing for profit (analogous to advertisers or entertainment companies). These roles are in tension, and no amount of content moderation resolves the structural conflict between maximizing engagement and fostering deliberation.

Algorithmic Audiences: A New Theoretical Category

Rustamova (2025) introduces the concept of "algorithmic audiences"—publics that are not self-forming (as in traditional public sphere theory) but algorithmically produced. The paper investigates the formation and operation of these audiences within platformized media environments, focusing on how processes of identity, influence, and power intersect to shape audience behavior.

The theoretical contribution lies in reconceptualizing what an "audience" is in the platform era. In broadcast media, audiences were aggregations of individuals who chose to consume the same content. In platformized media, audiences are algorithmically assembled around predicted preferences—they are constituted by the platform's recommendation system, not by the audience members' deliberate choices.

This has implications for identity formation. If the algorithm determines what content you see, and the content you see shapes your understanding of the world, then the algorithm plays a role in identity construction that traditional theories of media effects do not accommodate. You are not simply exposed to content that reflects your existing preferences—you are iteratively shaped by algorithmic selections that nudge your preferences in directions that serve the platform's engagement metrics.

Public Ethics and Algorithm Governance in Democratic Societies

Alatas, Jaya, and Khalid (2025) examine the construction of public ethics in social media algorithm governance within democratic societies. Through mechanisms of curation, recommendation, and content moderation, algorithms influence the distribution of information, the formation of public opinion, and patterns of civic participation.

The paper argues that algorithmic governance of social media requires an ethical framework that goes beyond transparency (making algorithms visible) to include accountability (holding platform decisions to democratic standards) and participation (giving affected publics a voice in governance design). The current governance model—where platforms set their own content policies, design their own algorithms, and evaluate their own compliance—lacks the external accountability mechanisms that democratic governance requires.

The Indonesian context of this analysis is particularly relevant because Indonesia has one of the world's highest social media penetration rates and a democratic system in which social media plays a central role in political discourse. Algorithm governance in this context is not an abstract policy question—it is a question about the conditions for democratic participation.

The Ten-Year Transformation

Tuncay (2025) provides a longitudinal perspective through a comprehensive bibliometric analysis of 996 Scopus-indexed documents on AI-related social media research from 2014 to 2024. The study maps how research has evolved, which platforms have attracted the most attention, and what themes have emerged.

The bibliometric analysis reveals platform-specific research patterns: Messenger (295,816 results), Facebook (39,469), and YouTube (18,448) have dominated the academic landscape, while TikTok and Mastodon are gaining traction in recent studies, signaling a shift toward short-form video and decentralized networking. Platform-specific research trends also emerged: Facebook is often linked with misinformation research, Instagram and TikTok with marketing, and LinkedIn with professional networking.

The role of AI in social media studies has grown rapidly across several domains: content curation, automated moderation, chatbot technology, and ethical concerns around privacy and deepfakes. The study identifies significant research gaps related to AI-generated content, regulatory challenges, and digital governance—areas that are likely to define the next decade of platform scholarship.

The Body as Algorithmic Product

Hussain, Aslam, and Imran (2025) examine a specific and consequential domain of algorithmic curation: beauty standards. In the age of algorithmically curated social media, beauty standards are increasingly co-produced by platform design and AI-driven filters. Their study investigates the impact of AI-powered beauty filters and recommendation systems on TikTok, Instagram, and Snapchat on body image and aesthetic preferences.

The finding connects algorithmic curation to embodied experience. When beauty filter algorithms determine which self-presentations receive engagement (likes, comments, shares), they create a feedback loop: users learn which versions of themselves are algorithmically rewarded, and they adapt their self-presentation accordingly. The algorithm does not merely reflect existing beauty standards—it actively produces new ones, optimized for engagement rather than for human wellbeing.

The study, conducted among young women in urban Pakistan using a mixed-methods approach (structured survey N = 300, in-depth interviews N = 30), found a robust positive relationship between filter use and body dissatisfaction. This dynamic is particularly concerning for users who are developing self-identity in an environment where algorithmic feedback is continuous, granular, and personalized. The beauty filter is not a neutral tool—it is an algorithmic opinion about what the user should look like, expressed through the user's own face.

Claims and Evidence

Open Questions

Implications

The research reviewed here converges on a central insight: algorithmic curation is not a feature of platforms but a form of power that requires governance commensurate with its influence. Current governance frameworks—content moderation policies, transparency reports, advisory boards—address symptoms rather than structures.

The structural response requires moving beyond the question of "what content should platforms remove?" to the question of "what role should algorithmic curation play in democratic public life?" This is a question about media architecture, not media content—and it requires the kind of institutional innovation that created public broadcasting, press freedom protections, and media plurality rules in previous eras of media transformation.

면책 조항: 이 게시물은 정보 제공 목적의 연구 동향 개요이다. 학술 연구에서 인용하기 전에 구체적인 연구 결과, 통계 및 주장은 원본 논문과 대조하여 확인해야 한다.

알고리즘 수용자: 무엇을 볼지 결정하는 주체는 누구이며, 왜 중요한가

Instagram, TikTok, YouTube를 열 때, 우리는 인터넷 그 자체를 보는 것이 아니다. 우리는 그것의 한 버전을 보는 것이며, 그 버전은 사용자의 참여를 유지할 것이라고 예측되는 내용을 선택하고, 배열하고, 우선순위를 매기는 알고리즘에 의해 큐레이션된 것이다. 이러한 큐레이션은 중립적이지 않다. 그것은 권력의 한 형태이다. 즉, 어떤 정보가 어떤 수용자에게 도달하는지, 어떤 목소리가 증폭되고 어떤 목소리가 억제되는지, 그리고 어떤 순간에 무엇이 '적절한' 것으로 간주되는지를 결정하는 권력이다.

커뮤니케이션학 문헌은 알고리즘 큐레이션이 미디어 권력에 있어 단순히 양적인 변화가 아니라 질적인 변화를 나타낸다는 점을 점점 더 인식하고 있다. 전통적인 미디어 게이트키퍼—편집자, 프로듀서, 출판사—는 가시적이고, 귀속 가능하며, (민주주의 사회에서) 직업적 규범과 공적 책임의 적용을 받는 편집적 판단을 행사했다. 알고리즘 게이트키핑은 이 중 어느 것도 해당하지 않는다. 그것은 사용자에게 보이지 않고, 규제 기관에게 불투명하며, 민주적 가치(충분한 정보에 기반한 심의, 다양한 노출, 공평한 발언권)와 괴리될 수 있는 상업적 목표(참여 극대화)에 의해 지배된다.

플랫폼 거버넌스: 콘텐츠 조정을 넘어서

Cennamo와 Karanovic(2026)은 소셜 미디어 플랫폼을 규정 준수를 강제하는 방식으로 규제해야 할 민주주의의 위협으로 다루는 지배적인 프레이밍에 이의를 제기한다. 이들은 플랫폼이 허위 정보의 확산을 조장하고 편향된 토론을 부추긴다는 점—궁극적으로 사용자의 관심을 수익화하는 데 기여하는 역학—을 인정하면서도, 문제와 해결책 모두 콘텐츠 수준의 조정이 다룰 수 있는 것보다 더 구조적이라고 주장한다.

이들의 '생태계 거버넌스' 관점은 문제를 재구성한다. "플랫폼은 어떻게 콘텐츠를 조정해야 하는가?"(플랫폼을 거버넌스의 단위로 받아들이는 질문)라고 묻는 대신, "정보 생산, 유통, 소비의 생태계는 어떻게 거버넌스 되어야 하는가?"라고 묻는다. 이러한 분석적 재구성은 콘텐츠 조정만으로는 배제되는 개입 방안을 제시하는데, 여기에는 상호운용성 요건, 데이터 이동성 옵션, 그리고 방송 미디어에 부과되는 것과 유사한 공익 의무와 같은 구조적 메커니즘이 포함된다.

생태계 관점은 또한 콘텐츠 조정이 해결할 수 없는 구조적 권력 비대칭을 식별한다. 플랫폼은 동시에 공적 담론의 인프라(전화망이나 우편 서비스와 유사)이자 이익을 최적화하는 상업 기업(광고주나 엔터테인먼트 기업과 유사)이다. 이 두 역할은 긴장 관계에 있으며, 어떠한 수준의 콘텐츠 조정도 참여 극대화와 심의 촉진 사이의 구조적 갈등을 해결하지 못한다.

알고리즘 수용자: 새로운 이론적 범주

Rustamova(2025)는 '알고리즘 수용자'라는 개념을 도입한다. 이는 (전통적인 공론장 이론에서처럼) 자발적으로 형성되는 것이 아니라 알고리즘에 의해 생산되는 공중(publics)이다. 이 논문은 플랫폼화된 미디어 환경 내에서 이러한 수용자의 형성과 작동을 탐구하며, 정체성, 영향력, 권력의 과정이 교차하여 수용자 행동을 형성하는 방식에 초점을 맞춘다.

이 연구의 이론적 기여는 플랫폼 시대에 '수용자'가 무엇인지를 재개념화하는 데 있다. 방송 미디어에서 수용자는 동일한 콘텐츠를 소비하기로 선택한 개인들의 집합이었다. 플랫폼화된 미디어에서 수용자는 예측된 선호도를 중심으로 알고리즘에 의해 조립된다. 즉, 이들은 수용자 구성원들의 의도적인 선택이 아니라 플랫폼의 추천 시스템에 의해 구성된다. 이는 정체성 형성에 함의를 지닌다. 알고리즘이 어떤 콘텐츠를 볼 것인지를 결정하고, 보게 되는 콘텐츠가 세계에 대한 이해를 형성한다면, 알고리즘은 전통적인 미디어 효과 이론이 수용하지 못하는 방식으로 정체성 구성에 관여하게 된다. 사람들은 단순히 기존의 선호를 반영하는 콘텐츠에 노출되는 것이 아니라, 플랫폼의 참여 지표(engagement metrics)에 복무하는 방향으로 선호를 유도하는 알고리즘적 선택에 의해 반복적으로 형성된다.

민주주의 사회에서의 공공 윤리와 알고리즘 거버넌스

Alatas, Jaya, Khalid(2025)는 민주주의 사회에서 소셜 미디어 알고리즘 거버넌스에 관한 공공 윤리의 구성을 검토한다. 알고리즘은 큐레이션, 추천, 콘텐츠 조정(content moderation)이라는 메커니즘을 통해 정보의 분배, 여론 형성, 시민 참여 패턴에 영향을 미친다.

이 논문은 소셜 미디어의 알고리즘 거버넌스가 투명성(알고리즘을 가시화하는 것)을 넘어 책임성(플랫폼의 결정을 민주적 기준에 따라 검토하는 것)과 참여(영향을 받는 공중이 거버넌스 설계에 목소리를 낼 수 있도록 하는 것)를 포함하는 윤리적 프레임워크를 요구한다고 주장한다. 현재의 거버넌스 모델—플랫폼이 자체적으로 콘텐츠 정책을 수립하고, 알고리즘을 설계하며, 자체적으로 준수 여부를 평가하는—은 민주적 거버넌스가 요구하는 외부 책임 메커니즘을 결여하고 있다.

이 분석의 인도네시아적 맥락은 특히 주목할 만하다. 인도네시아는 세계에서 소셜 미디어 보급률이 가장 높은 국가 중 하나이며, 소셜 미디어가 정치적 담론에서 핵심적인 역할을 담당하는 민주주의 체제를 갖추고 있기 때문이다. 이러한 맥락에서 알고리즘 거버넌스는 추상적인 정책 문제가 아니라 민주적 참여의 조건에 관한 문제이다.

10년간의 변화

Tuncay(2025)는 2014년부터 2024년까지 AI 관련 소셜 미디어 연구를 다룬 Scopus 등재 문헌 996편에 대한 포괄적인 계량서지학적(bibliometric) 분석을 통해 종단적 관점을 제시한다. 이 연구는 연구의 흐름이 어떻게 변화해 왔는지, 어떤 플랫폼이 가장 많은 주목을 받아 왔는지, 그리고 어떤 주제들이 부상하였는지를 지도화한다.

계량서지학적 분석은 플랫폼별 연구 패턴을 드러낸다. Messenger(295,816건), Facebook(39,469건), YouTube(18,448건)가 학술 연구의 지형을 주도해 온 반면, TikTok과 Mastodon은 최근 연구에서 주목도가 높아지고 있으며, 이는 숏폼 동영상과 탈중앙화 네트워킹으로의 전환을 시사한다. 플랫폼별 연구 동향도 나타났는데, Facebook은 허위정보(misinformation) 연구와, Instagram과 TikTok은 마케팅과, LinkedIn은 전문적 네트워킹과 주로 연결된다.

소셜 미디어 연구에서 AI의 역할은 콘텐츠 큐레이션, 자동화된 조정, 챗봇 기술, 그리고 프라이버시 및 딥페이크(deepfakes)를 둘러싼 윤리적 우려 등 여러 영역에 걸쳐 빠르게 성장해 왔다. 이 연구는 AI 생성 콘텐츠, 규제 과제, 디지털 거버넌스와 관련된 중요한 연구 공백을 확인하는데, 이 영역들은 향후 10년간의 플랫폼 연구를 규정할 가능성이 높다.

알고리즘적 산물로서의 신체

Hussain, Aslam, Imran(2025)은 알고리즘 큐레이션의 특정하고도 중요한 영역인 미적 기준(beauty standards)을 검토한다. 알고리즘으로 큐레이션되는 소셜 미디어 시대에 미적 기준은 점점 더 플랫폼 설계와 AI 기반 필터에 의해 공동 생산되고 있다. 이 연구는 TikTok, Instagram, Snapchat에서 AI 기반 뷰티 필터와 추천 시스템이 신체 이미지와 미적 선호에 미치는 영향을 조사한다.

이 연구 결과는 알고리즘 큐레이션을 체화된 경험(embodied experience)과 연결 짓는다. 뷰티 필터 알고리즘이 어떤 자기 표현이 참여(좋아요, 댓글, 공유)를 받을 것인지를 결정할 때, 피드백 루프가 형성된다. 즉, 사용자는 자신의 어떤 모습이 알고리즘적으로 보상받는지를 학습하고, 그에 맞춰 자기 표현을 조정한다. 알고리즘은 단순히 기존의 미적 기준을 반영하는 것이 아니라, 인간의 웰빙(wellbeing)이 아닌 참여를 위해 최적화된 새로운 미적 기준을 능동적으로 생산한다. 도시 지역 파키스탄 젊은 여성들을 대상으로 혼합 연구 방법(구조화 설문조사 N = 300, 심층 인터뷰 N = 30)을 활용하여 수행된 본 연구는 필터 사용과 신체 불만족 간의 강력한 정적 관계를 발견하였다. 이러한 역학은 알고리즘적 피드백이 지속적이고 세밀하며 개인화된 환경에서 자아 정체성을 형성해가는 사용자들에게 특히 우려스럽다. 뷰티 필터는 중립적인 도구가 아니다—그것은 사용자 자신의 얼굴을 통해 표현되는, 사용자가 어떻게 보여야 하는가에 대한 알고리즘의 의견이다.

주장과 근거

미해결 과제

시사점

여기서 검토된 연구들은 하나의 핵심적 통찰로 수렴한다: 알고리즘 큐레이션은 플랫폼의 기능이 아니라 그 영향력에 상응하는 거버넌스를 요구하는 권력의 한 형태라는 것이다. 현재의 거버넌스 체계—콘텐츠 모더레이션 정책, 투명성 보고서, 자문위원회—는 구조가 아닌 증상을 다루고 있다.

구조적 대응은 "플랫폼이 어떤 콘텐츠를 제거해야 하는가?"라는 질문을 넘어 "알고리즘 큐레이션이 민주적 공론장에서 어떤 역할을 해야 하는가?"라는 질문으로 나아갈 것을 요구한다. 이것은 미디어 콘텐츠가 아닌 미디어 아키텍처에 관한 질문이며—과거 미디어 변환의 시대에 공영방송, 언론 자유 보호, 미디어 다원성 규칙을 창출해낸 것과 같은 종류의 제도적 혁신을 필요로 한다.