Why It Matters

Engineers build AI systems. Policymakers regulate them. Businesses deploy them. But who asks the deeper questions about what AI is as a social phenomenon—how it reorganizes labor, concentrates power, embeds particular values, and forecloses alternatives?

Science and Technology Studies (STS) provides the intellectual toolkit for these questions. STS examines technology not as a neutral tool that humans simply use, but as a social practice that is shaped by—and in turn reshapes—the societies that produce it. Technologies embody the values, assumptions, and power structures of their creators. A hiring algorithm trained on historical data does not merely automate hiring—it crystallizes past discrimination into computational form. A self-driving car does not merely navigate roads—it encodes specific ethical judgments about whose safety matters most when an accident is unavoidable.

In the AI era, STS has become essential. As AI systems increasingly make consequential decisions—about credit, employment, criminal justice, medical treatment, information access—understanding the social dimensions of these systems is not a luxury. It is a governance necessity. The 2024-2025 STS literature on AI reveals how power operates through technical choices that appear politically neutral.

The Science

A Field Guide for Analyzing AI

Lee (2025), with 2 citations, offers a methodological contribution: a "field guide" for STS scholars analyzing machine learning systems. The guide addresses a practical challenge—AI systems are technically complex, and STS scholars trained in sociology, anthropology, or history may lack the computational literacy to analyze them effectively.

The field guide proposes four analytical entry points corresponding to key stages of the ML pipeline: (1) feature extraction—how raw data is transformed into model inputs, and what assumptions shape which features are selected or constructed; (2) vectorization—how data is encoded into numerical representations, and what information is preserved or lost in translation; (3) clustering—how patterns are identified and grouped, and what categorical structures emerge from algorithmic classification; and (4) data drift—how changes in the data distribution over time affect model behavior, and what this reveals about the instability of sociotechnical systems.

Each entry point reveals dimensions of AI that technical analysis alone misses. Feature extraction, for example, appears to be a neutral engineering task—but STS analysis reveals it as a site of interpretive labor where researchers' disciplinary assumptions, data infrastructure constraints, and the inherent ambiguity of real-world phenomena all shape what the AI "learns."

Platform Power Through Dataset Challenges

Hind et al. (2024), with 7 citations, present an STS analysis of Waymo's Open Dataset Challenges—competitions where Waymo releases autonomous vehicle sensor data and researchers worldwide compete to build the best perception algorithms. From an engineering perspective, these challenges accelerate progress. From an STS perspective, they are instruments of power.

The analysis reveals how Waymo's challenge structure shapes the entire autonomous vehicle research agenda. By defining the datasets (what scenarios are included, what metrics define success), Waymo effectively determines what problems the global research community works on. Researchers who win Waymo challenges gain career capital; researchers who work on problems Waymo does not define remain invisible.

This is not unique to Waymo—ImageNet, GLUE, SQuAD, and other benchmark datasets have similarly shaped AI research directions. The STS insight is that these apparently neutral technical artifacts (datasets, benchmarks, leaderboards) are governance mechanisms that concentrate agenda-setting power in the hands of a few large technology companies.

SynBioAI Convergence and Security

Hynek (2025), with 5 citations, examines the convergence of synthetic biology and AI (SynBioAI) as a case study in how frontier science creates governance challenges that existing regulatory frameworks cannot address. AI tools now enable the design of novel biological organisms—proteins, genetic sequences, even simple synthetic life forms—at a pace that outstrips biosafety assessment.

The STS contribution is to reveal the dual-use dilemma in systemic terms: the same AI-biology convergence that enables revolutionary therapeutics also enables the design of novel biological threats. Regulatory frameworks built for naturally occurring pathogens or manually engineered organisms are inadequate for AI-designed biology, where the design space is vastly larger and the speed of iteration is orders of magnitude faster.

The paper argues that STS concepts—particularly co-production (science and social order are produced together) and sociotechnical imaginaries (shared visions of desirable futures)—are essential for understanding why SynBioAI governance is politically difficult: the communities that understand the technology best (researchers, AI companies) have the strongest incentives to avoid restrictive regulation.

AI Governance Narratives and Power

Gilani (2025) analyzes the narratives that shape global AI governance—the stories told about what AI is, what it can do, and how it should be governed. The analysis identifies competing narrative frames: AI as economic opportunity (dominant in industry discourse), AI as existential risk (dominant in safety community discourse), AI as rights threat (dominant in civil society discourse), and AI as geopolitical weapon (dominant in security discourse).

The STS insight is that these narratives are not neutral descriptions of reality—they are political instruments that privilege particular governance responses. The "economic opportunity" narrative favors light-touch regulation. The "existential risk" narrative favors elite expert governance. The "rights threat" narrative favors democratic accountability. The "geopolitical weapon" narrative favors state control. Which narrative dominates in a given policy context shapes which governance framework is adopted—and whose interests it serves.

STS Analytical Lenses for AI

<

STS Concept	AI Application	What It Reveals
Co-production	AI development + social order	Technology and society shape each other simultaneously
Sociotechnical imaginaries	Visions of AI futures	Whose vision of the future drives development?
Boundary work	AI expertise claims	Who counts as an AI expert and who is excluded?
Inscription	Values embedded in code	Algorithms encode normative choices as technical parameters
Platform power	Dataset/benchmark control	Agenda-setting through technical infrastructure
Dual-use dilemma	SynBioAI convergence	Same capabilities enable benefit and harm

What To Watch

STS is moving from the margins to the center of AI governance discourse. The EU AI Act's requirement for fundamental rights impact assessments operationalizes STS concepts (technologies embed values, deployment contexts matter) in legal form. Major technology companies now hire STS-trained researchers for "responsible AI" teams—though the tension between critical analysis and corporate employment creates its own STS research question. Watch for STS methods to be integrated into technical AI education: engineering programs are beginning to incorporate social analysis alongside technical training, though the depth and seriousness of this integration varies enormously. The SynBioAI convergence Hynek identifies will be a critical test case—it may be the first domain where STS analysis directly informs emergency governance of a converging technology before harm materializes.

Explore related work through ORAA ResearchBrain.

면책 조항: 이 게시물은 정보 제공 목적의 연구 동향 개요이다. 학술 저작물에서 인용하기 전에 특정 연구 결과, 통계 및 주장은 원본 논문과 대조하여 검증해야 한다.

AI 시대의 과학기술학(STS)

왜 중요한가

엔지니어는 AI 시스템을 구축한다. 정책 입안자는 이를 규제한다. 기업은 이를 배포한다. 그러나 AI가 사회적 현상으로서 무엇인지—어떻게 노동을 재편하고, 권력을 집중시키며, 특정 가치를 내재화하고, 대안을 차단하는지—에 관한 더 깊은 질문을 던지는 것은 누구인가?

과학기술학(Science and Technology Studies, STS)은 이러한 질문들을 위한 지적 도구를 제공한다. STS는 기술을 인간이 단순히 사용하는 중립적 도구가 아니라, 그것을 생산하는 사회에 의해 형성되는 동시에 그 사회를 다시 재형성하는 사회적 실천으로 바라본다. 기술에는 창조자의 가치, 전제, 권력 구조가 구현되어 있다. 역사적 데이터로 훈련된 채용 알고리즘은 단순히 채용을 자동화하는 것이 아니라—과거의 차별을 컴퓨터 연산의 형태로 결정화한다. 자율주행 자동차는 단순히 도로를 주행하는 것이 아니라—불가피한 사고 상황에서 누구의 안전을 가장 중시할 것인가에 대한 특정한 윤리적 판단을 부호화한다.

AI 시대에 STS는 필수적인 학문이 되었다. AI 시스템이 신용, 고용, 형사 사법, 의료 처치, 정보 접근 등에 관한 중대한 결정을 점점 더 많이 내리게 됨에 따라, 이러한 시스템의 사회적 차원을 이해하는 것은 사치가 아니다. 이는 거버넌스의 필수 요건이다. 2024-2025년의 STS 문헌은 정치적으로 중립적으로 보이는 기술적 선택들을 통해 권력이 어떻게 작동하는지를 드러낸다.

연구 내용

AI 분석을 위한 현장 안내서

Lee(2025)는 2회 인용으로, 머신러닝 시스템을 분석하는 STS 학자들을 위한 "현장 안내서(field guide)"라는 방법론적 기여를 제시한다. 이 안내서는 실질적인 과제를 다룬다—AI 시스템은 기술적으로 복잡하며, 사회학·인류학·역사학을 전공한 STS 학자들은 이를 효과적으로 분석하는 데 필요한 컴퓨터 리터러시가 부족할 수 있다.

이 현장 안내서는 ML 파이프라인의 핵심 단계에 상응하는 네 가지 분석적 진입점을 제안한다: (1) 특징 추출(feature extraction)—원시 데이터가 모델 입력값으로 변환되는 방식, 그리고 어떤 특징이 선택·구성될지를 결정하는 전제들; (2) 벡터화(vectorization)—데이터가 수치 표현으로 부호화되는 방식, 그리고 변환 과정에서 보존되거나 손실되는 정보; (3) 클러스터링(clustering)—패턴이 식별·분류되는 방식, 그리고 알고리즘적 분류로부터 나타나는 범주적 구조; (4) 데이터 드리프트(data drift)—시간에 따른 데이터 분포 변화가 모델 행동에 미치는 영향, 그리고 이것이 사회기술 시스템의 불안정성에 대해 드러내는 것.

각각의 진입점은 기술적 분석만으로는 놓치는 AI의 차원들을 드러낸다. 예를 들어 특징 추출은 중립적인 엔지니어링 작업처럼 보이지만—STS 분석은 이것이 연구자의 학문적 전제, 데이터 인프라의 제약, 현실 세계 현상의 내재적 모호성이 모두 AI가 "학습"하는 내용을 형성하는 해석적 노동의 장(場)임을 드러낸다.

데이터셋 챌린지를 통한 플랫폼 권력

Hind et al.(2024)은 7회 인용으로, Waymo의 Open Dataset Challenges에 대한 STS 분석을 제시한다. 이 챌린지는 Waymo가 자율주행 차량 센서 데이터를 공개하고 전 세계 연구자들이 최적의 인지 알고리즘을 구축하기 위해 경쟁하는 대회이다. 엔지니어링의 관점에서 이 챌린지는 발전을 가속화한다. STS의 관점에서 이는 권력의 도구이다.

이 분석은 Waymo의 챌린지 구조가 자율주행 차량 연구 의제 전반을 어떻게 형성하는지를 드러낸다. 데이터셋(어떤 시나리오가 포함되는지, 어떤 지표가 성공을 정의하는지)을 규정함으로써, Waymo는 사실상 전 세계 연구 커뮤니티가 어떤 문제를 연구할지를 결정한다. Waymo 챌린지에서 우승한 연구자들은 경력 자본을 획득하는 반면, Waymo가 정의하지 않은 문제를 연구하는 연구자들은 가시성을 갖지 못한다. 이는 Waymo에만 국한된 현상이 아니다—ImageNet, GLUE, SQuAD 및 기타 벤치마크 데이터셋도 유사하게 AI 연구 방향을 형성해 왔다. STS의 통찰은 이러한 겉보기에 중립적인 기술적 인공물(데이터셋, 벤치마크, 리더보드)이 의제 설정 권한을 소수의 대형 기술 기업에 집중시키는 거버넌스 메커니즘이라는 점이다.

SynBioAI 수렴과 안보

Hynek (2025)은 5회 인용으로, 합성생물학과 AI(SynBioAI)의 수렴을 기존 규제 체계가 대응할 수 없는 거버넌스 과제를 첨단 과학이 어떻게 창출하는지에 대한 사례 연구로 검토한다. AI 도구는 이제 단백질, 유전자 서열, 심지어 단순한 합성 생명체까지 새로운 생물학적 유기체를 생물안전성 평가 속도를 훨씬 앞지르는 속도로 설계할 수 있게 한다.

STS의 기여는 이중 사용 딜레마를 체계적인 관점에서 드러내는 데 있다. 즉, 혁신적인 치료제를 가능케 하는 동일한 AI-생물학 수렴이 새로운 생물학적 위협의 설계도 가능케 한다는 것이다. 자연 발생 병원체나 수동으로 조작된 유기체를 위해 구축된 규제 체계는 설계 공간이 훨씬 광대하고 반복 속도가 몇 자릿수나 더 빠른 AI 설계 생물학에는 부적합하다.

이 논문은 STS 개념, 특히 공동 생산(과학과 사회 질서는 함께 생산된다)과 사회기술적 상상(바람직한 미래에 대한 공유된 비전)이 SynBioAI 거버넌스가 정치적으로 어려운 이유를 이해하는 데 필수적이라고 주장한다. 즉, 해당 기술을 가장 잘 이해하는 집단(연구자, AI 기업)이 규제 제한을 회피하려는 가장 강한 유인을 갖고 있다는 것이다.

AI 거버넌스 서사와 권력

Gilani (2025)는 글로벌 AI 거버넌스를 형성하는 서사, 즉 AI가 무엇인지, 무엇을 할 수 있는지, 어떻게 거버넌스되어야 하는지에 관한 이야기들을 분석한다. 이 분석은 경쟁하는 서사 틀들을 식별한다. 즉, AI를 경제적 기회로 보는 시각(산업 담론에서 지배적), AI를 실존적 위험으로 보는 시각(안전 커뮤니티 담론에서 지배적), AI를 권리 위협으로 보는 시각(시민사회 담론에서 지배적), AI를 지정학적 무기로 보는 시각(안보 담론에서 지배적)이 그것이다.

STS의 통찰은 이러한 서사들이 현실에 대한 중립적인 묘사가 아니라 특정 거버넌스 대응을 특권화하는 정치적 도구라는 점이다. "경제적 기회" 서사는 경량 규제를 선호한다. "실존적 위험" 서사는 엘리트 전문가 거버넌스를 선호한다. "권리 위협" 서사는 민주적 책임을 선호한다. "지정학적 무기" 서사는 국가 통제를 선호한다. 특정 정책 맥락에서 어떤 서사가 지배적이냐에 따라 어떤 거버넌스 체계가 채택되는지, 그리고 누구의 이익에 복무하는지가 결정된다.

AI를 위한 STS 분석 렌즈

<

STS 개념	AI 적용	드러내는 것
공동 생산	AI 개발 + 사회 질서	기술과 사회는 서로를 동시에 형성한다
사회기술적 상상	AI 미래에 대한 비전	누구의 미래 비전이 개발을 주도하는가?
경계 작업	AI 전문성 주장	누가 AI 전문가로 인정받고 누가 배제되는가?
각인	코드에 내재된 가치	알고리즘은 규범적 선택을 기술적 매개변수로 인코딩한다
플랫폼 권력	데이터셋/벤치마크 통제	기술 인프라를 통한 의제 설정
이중 사용 딜레마	SynBioAI 수렴	동일한 역량이 이익과 해악을 모두 가능케 한다

주목할 사항

STS는 AI 거버넌스 담론의 주변부에서 중심부로 이동하고 있다. EU AI Act의 기본권 영향 평가 요건은 STS 개념(기술은 가치를 내재하며, 배치 맥락이 중요하다)을 법적 형식으로 구체화한다. 주요 기술 기업들은 현재 "책임 있는 AI" 팀을 위해 STS 훈련을 받은 연구자들을 채용하고 있는데, 비판적 분석과 기업 고용 사이의 긴장은 그 자체로 STS 연구 질문을 생성한다. STS 방법론이 기술적 AI 교육에 통합되는 흐름도 주목할 만하다. 공학 프로그램들은 기술 훈련과 함께 사회 분석을 통합하기 시작하고 있지만, 이러한 통합의 깊이와 진지함은 매우 다양하다. Hynek이 식별한 SynBioAI 수렴은 중요한 시험 사례가 될 것이다. 이는 피해가 현실화되기 전에 STS 분석이 수렴 기술의 긴급 거버넌스에 직접적으로 정보를 제공하는 최초의 영역이 될 수 있다.

관련 연구는 ORAA ResearchBrain을 통해 탐색할 수 있다.