The internet was designed for a world where most content was created by humans. In 2025, this assumption is breaking down. AI systems generate text, images, video, and code that is increasingly indistinguishable from human-created content. Bots participate in online discussions, social media, product reviews, and democratic processes at a scale that undermines the assumption of human authorship underlying these systems.

The problem is not merely one of content quality—it is a problem of identity and trust. When you read a product review, is it written by a customer or by a marketing bot? When you engage in an online debate, is your counterpart a thinking human or a language model optimized to persuade? When a petition gathers a million signatures, how many represent unique humans?

Proof of personhood (PoP) addresses this by providing cryptographic evidence that a digital identity corresponds to a unique living human—without revealing which human. Combined with blockchain for decentralized, tamper-proof verification, and zero-knowledge proofs for privacy preservation, PoP creates an infrastructure layer that distinguishes human participants from AI agents.

Neulinger & Sparer extend this concept to AI alignment, arguing that PoP is not just a tool for bot detection but a foundational component of AI governance—enabling systems where AI actions are anchored to verified human authorization.

The Sybil Problem

The core technical challenge PoP addresses is the Sybil attack: a single entity creating multiple fake identities to gain disproportionate influence. In online voting, one person creates a thousand accounts and votes a thousand times. In social media, one operator runs a network of persona accounts that amplify a single narrative. In decentralized governance, one actor creates multiple wallets to dominate voting.

Traditional Sybil defenses rely on identity verification—passports, phone numbers, biometric scans—that create privacy risks and exclude people without access to official identity documents. PoP seeks to verify uniqueness (each human gets exactly one credential) without verifying identity (the system does not know who you are).

The AI Alignment Connection

Neulinger & Sparer's argument connects PoP to AI alignment through a governance mechanism:

Principle: Every consequential AI action should be traceable to a verified human authorization. Not to a specific identified human (that would be surveillance), but to some verified human (ensuring human oversight of AI systems).

Mechanism: AI systems that take consequential actions (financial transactions, content moderation decisions, autonomous vehicle commands) must hold a PoP-linked authorization token. The token proves that a human authorized the AI's action class without revealing which human.

Enforcement: Blockchain provides the immutable audit trail. If an AI system takes an unauthorized action, the lack of a PoP-linked authorization is publicly verifiable—enabling accountability without centralized surveillance.

This framework addresses a growing concern: as AI agents become more autonomous, how do we ensure they remain under human control? PoP provides a cryptographic answer—not by constraining AI capabilities directly, but by requiring human authorization for the exercise of those capabilities.

Claims and Evidence

Open Questions

What This Means for Your Research

For AI governance researchers, PoP provides a technical mechanism for the "human in the loop" requirement that governance frameworks demand but rarely operationalize. The blockchain-ZKP architecture makes human oversight verifiable without making it surveillance.

For digital identity researchers, PoP represents a new design point—proving uniqueness rather than identity—that challenges assumptions embedded in existing identity frameworks (passports, social security numbers, biometric databases).

For the broader technology community, the convergence of AI capability and content generation creates an urgency for PoP that did not exist five years ago. The question is not whether we need mechanisms to distinguish humans from AI online—it is whether we can build them fast enough.

면책 조항: 이 게시물은 정보 제공을 목적으로 한 연구 동향 개요이다. 학술 저작물에서 인용하기 전에 구체적인 연구 결과, 통계 및 주장을 원문 논문과 대조하여 검증해야 한다.

인격 증명(Proof of Personhood): AI가 포화된 세계에서 블록체인을 활용한 인간 신원 확인

인터넷은 대부분의 콘텐츠가 인간에 의해 생성되는 세계를 전제로 설계되었다. 2025년, 이 전제가 무너지고 있다. AI 시스템은 인간이 만든 콘텐츠와 점점 더 구별하기 어려운 텍스트, 이미지, 영상, 코드를 생성한다. 봇은 온라인 토론, 소셜 미디어, 상품 리뷰, 민주적 프로세스에 참여하며, 그 규모는 이러한 시스템의 근간을 이루는 인간 저작 전제를 훼손할 정도에 이르렀다.

이 문제는 단순히 콘텐츠 품질의 문제가 아니라 정체성과 신뢰의 문제이다. 상품 리뷰를 읽을 때, 그것이 실제 고객이 작성한 것인가, 아니면 마케팅 봇이 작성한 것인가? 온라인 토론에 참여할 때, 상대방은 생각하는 인간인가, 아니면 설득을 위해 최적화된 언어 모델인가? 청원서에 백만 개의 서명이 모였을 때, 그 중 몇 개가 고유한 인간을 대표하는가?

인격 증명(Proof of Personhood, PoP)은 어떤 인간인지를 공개하지 않으면서도 디지털 신원이 유일한 살아있는 인간에 해당함을 암호학적으로 증명함으로써 이 문제를 해결한다. 탈중앙화되고 변조 불가능한 검증을 위한 블록체인, 그리고 프라이버시 보호를 위한 영지식 증명(zero-knowledge proof)과 결합하여, PoP는 인간 참여자와 AI 에이전트를 구별하는 인프라 계층을 구축한다.

Neulinger & Sparer는 이 개념을 AI 정렬(AI alignment)로 확장하여, PoP가 단순한 봇 탐지 도구가 아니라 AI 거버넌스의 근본적인 구성 요소라고 주장한다. 즉, AI의 행동이 검증된 인간의 승인에 기반하는 시스템을 가능하게 한다는 것이다.

시빌 문제(Sybil Problem)

PoP가 해결하고자 하는 핵심 기술적 과제는 시빌 공격(Sybil attack)이다. 이는 단일 주체가 다수의 가짜 신원을 생성하여 불균형적인 영향력을 획득하는 것을 말한다. 온라인 투표에서는 한 사람이 수천 개의 계정을 만들어 수천 번 투표한다. 소셜 미디어에서는 한 운영자가 단일 서사를 증폭시키는 페르소나 계정 네트워크를 운영한다. 탈중앙화 거버넌스에서는 한 행위자가 여러 지갑을 생성하여 투표를 장악한다.

기존의 시빌 방어 방식은 여권, 전화번호, 생체 인식 스캔 등 신원 확인에 의존하며, 이는 프라이버시 위험을 초래하고 공식 신분증에 접근할 수 없는 사람들을 배제한다. PoP는 정체성(시스템이 당신이 누구인지 알지 못함)을 확인하지 않으면서 고유성(각 인간은 정확히 하나의 자격 증명을 받음)을 검증하고자 한다.

AI 정렬과의 연결

Neulinger & Sparer의 주장은 거버넌스 메커니즘을 통해 PoP를 AI 정렬과 연결한다.

원칙: 모든 중대한 AI 행동은 검증된 인간의 승인으로 추적 가능해야 한다. 특정 식별된 인간에게 귀속되어야 하는 것이 아니라(그것은 감시가 될 것이다), 어떤 검증된 인간에게 귀속되어야 한다(AI 시스템에 대한 인간 감독을 보장하기 위해).

메커니즘: 중대한 행동(금융 거래, 콘텐츠 조정 결정, 자율주행 차량 명령)을 수행하는 AI 시스템은 PoP와 연결된 승인 토큰을 보유해야 한다. 이 토큰은 어떤 인간인지를 공개하지 않으면서도 인간이 해당 AI의 행동 유형을 승인했음을 증명한다.

집행: 블록체인은 불변의 감사 추적을 제공한다. AI 시스템이 승인되지 않은 행동을 취할 경우, PoP와 연결된 승인의 부재가 공개적으로 검증 가능하여 중앙집권적 감시 없이도 책임 추적이 가능하다.

이 프레임워크는 점점 더 자율화되는 AI 에이전트를 어떻게 인간의 통제 하에 유지할 것인가라는 커지는 우려에 대응한다. PoP는 AI 역량을 직접 제한하는 방식이 아니라, 그 역량의 행사에 인간의 승인을 요구함으로써 암호학적 해답을 제시한다.

주장과 근거

미해결 과제

연구에 대한 시사점

AI 거버넌스 연구자에게 PoP는 거버넌스 프레임워크가 요구하지만 좀처럼 운용화하지 못하는 "인간 참여(human in the loop)" 요건에 대한 기술적 메커니즘을 제공한다. 블록체인-ZKP 아키텍처는 인간 감독을 감시로 만들지 않으면서도 검증 가능하게 한다.

디지털 신원 연구자에게 PoP는 신원이 아닌 고유성을 증명하는 새로운 설계 지점을 제시하며, 이는 기존 신원 프레임워크(여권, 사회보장번호, 생체인식 데이터베이스)에 내재된 가정에 도전한다.

광범위한 기술 커뮤니티에 있어, AI 역량과 콘텐츠 생성의 수렴은 5년 전에는 존재하지 않았던 PoP에 대한 긴박성을 만들어낸다. 문제는 온라인에서 인간과 AI를 구별하는 메커니즘이 필요한지 여부가 아니라, 그것을 충분히 빠르게 구축할 수 있는지 여부이다.