When an AI system denies a loan application, rejects a job candidate, or flags a person as a security risk, the affected individual typically has no way to verify that the decision was fair. The model is a black box; the training data is proprietary; the decision logic is opaque. Current accountability mechanisms—ethics review boards, regulatory audits, fairness certifications—operate on trust: the deploying organization asserts that its system is fair, and the public is expected to believe it.

Blockchain technology offers a different approach: instead of trusting the organization's assertion, the public could verify the system's provenance, training history, and decision patterns through an immutable, publicly auditable record. The question is whether this is technically feasible, economically practical, and institutionally adoptable.

The Research Landscape

The State of Algorithm Auditing

Funda (2025), with 1 citation, provides a systematic review of algorithm auditing processes for assessing bias and risks in AI systems. The review identifies a growing but fragmented field where auditing methods vary widely in scope, methodology, and rigor.

Current auditing approaches fall into three categories:

• Internal audits: Conducted by the deploying organization. Most common but least independent—the auditor has conflicts of interest.
• External audits: Conducted by independent third parties (consultancies, academic researchers). More credible but expensive and often limited by access to proprietary systems.
• Regulatory audits: Mandated by law (as in the EU AI Act). Most authoritative but slowest to implement and constrained by regulatory expertise.

The review finds that all three approaches share a common weakness: audits are snapshots. They evaluate a system at a point in time, but AI systems change continuously as they are retrained, updated, and adapted. A system that passes an audit today may behave differently tomorrow after retraining on new data. Continuous monitoring—rather than periodic auditing—is needed, but the infrastructure for continuous AI monitoring does not yet exist at scale.

Counterfactual Auditing

Pasupuleti (2025), with 1 citation, proposes a specific auditing methodology: counterfactual explanations. The approach works by asking: "What would need to change about this input for the model to produce a different output?" If a loan application was rejected, the counterfactual explanation might be: "If the applicant's income were $5,000 higher, the application would have been approved."

Counterfactual explanations are useful for auditing because they reveal the decision boundary of the model—the specific factors that tip decisions one way or another. If counterfactual analysis reveals that the factor most likely to change a decision is the applicant's zip code (a proxy for race in many US cities), this constitutes evidence of potential discrimination.

The method has limitations: it can detect disparate treatment (different factors matter for different groups) but is less effective at detecting disparate impact (the same factors produce systematically different outcomes across groups). And it requires access to the model—something that external auditors may not have.

Blockchain for Model Provenance

Pegwar and Siddiqui (2025) propose integrating blockchain technology with AI systems to create tamper-proof records of model development and deployment. Their architecture records:

• Training data provenance: What data was used, where it came from, and how it was preprocessed.
• Model versioning: Every model update is recorded with a cryptographic hash, creating an immutable version history.
• Decision logs: Selected decisions (or aggregated statistics) are recorded on-chain, enabling retroactive auditing.
• Fairness metrics: Periodic fairness evaluations are recorded, creating a longitudinal record of the system's bias profile.

The blockchain provides three properties that traditional audit records lack: immutability (records cannot be altered after the fact), transparency (records are publicly verifiable), and decentralization (no single party controls the audit record).

Data Provenance Architecture

Jain (2024) provides a more detailed technical architecture for blockchain-powered data provenance in AI model audits. The system tracks the complete lineage of training data—from collection to preprocessing to training to deployment—recording each transformation on a blockchain. This enables auditors to answer questions that are currently unanswerable: "Was this model trained on data collected with informed consent? Were biased data sources excluded? Were preprocessing steps applied consistently?"

Critical Analysis: Claims and Evidence

<

Claim	Evidence	Verdict
Current AI auditing is fragmented and insufficient	Funda's systematic review	✅ Supported — snapshot-based auditing misses continuous model changes
Counterfactual explanations can detect discriminatory decision boundaries	Pasupuleti's methodology and experiments	✅ Supported — for disparate treatment; less effective for disparate impact
Blockchain can provide immutable, verifiable AI audit records	Pegwar & Siddiqui's architecture design	⚠️ Uncertain — technically feasible; scalability and adoption untested
Full data provenance tracking is practical for AI systems	Jain's architecture proposal	⚠️ Uncertain — storage costs and privacy implications need resolution

Open Questions

Privacy vs. transparency: Recording model decisions on a public blockchain raises privacy concerns. How do you make audit records verifiable without exposing individual decision subjects?

Scalability: Large AI systems make millions of decisions daily. Recording all of them on a blockchain is impractical with current technology. What level of sampling or aggregation is sufficient for meaningful auditing?

Institutional adoption: Who mandates blockchain-based auditing? Without regulatory requirements, organizations have little incentive to make their AI systems more transparent.

Gaming the system: If organizations know which fairness metrics are being recorded on-chain, they may optimize for those metrics while neglecting others—a form of Goodhart's Law.

What This Means for Your Research

For AI governance researchers, the gap between snapshot auditing and continuous monitoring is the most pressing practical problem. Blockchain architectures offer a potential infrastructure, but institutional and regulatory frameworks must evolve to mandate their use.

For blockchain developers, AI auditing is a compelling use case that leverages blockchain's core properties (immutability, transparency) for a socially important application.

Explore related work through ORAA ResearchBrain.

면책 조항: 이 게시물은 정보 제공을 목적으로 한 연구 동향 개요이다. 특정 연구 결과, 통계 및 주장은 학술 연구에서 인용하기 전에 원문 논문을 통해 검증해야 한다.

AI 감사를 위한 블록체인: 분산 원장은 알고리즘의 책임성을 확보할 수 있는가?

AI 시스템이 대출 신청을 거부하거나, 취업 지원자를 탈락시키거나, 특정인을 보안 위협으로 분류할 때, 당사자는 일반적으로 그 결정이 공정했는지 검증할 방법이 없다. 모델은 블랙박스이고, 학습 데이터는 독점적이며, 의사결정 논리는 불투명하다. 현행 책임성 메커니즘—윤리 검토 위원회, 규제 감사, 공정성 인증—은 신뢰를 전제로 작동한다. 즉, 배포 조직은 자사 시스템이 공정하다고 주장하고, 대중은 이를 믿도록 요청받는다.

블록체인 기술은 다른 접근 방식을 제시한다. 조직의 주장을 신뢰하는 대신, 대중이 변경 불가능하고 공개적으로 감사 가능한 기록을 통해 시스템의 출처, 학습 이력, 의사결정 패턴을 직접 검증할 수 있다는 것이다. 문제는 이것이 기술적으로 실현 가능한지, 경제적으로 실용적인지, 그리고 제도적으로 채택 가능한지의 여부이다.

연구 동향

알고리즘 감사의 현황

Funda (2025)는 피인용 1회의 연구에서 AI 시스템의 편향 및 위험 평가를 위한 알고리즘 감사 프로세스에 대한 체계적 리뷰를 제공한다. 이 리뷰는 감사 방법론이 범위, 방법론, 엄밀성 측면에서 크게 다양한, 성장하고 있지만 파편화된 분야를 확인한다.

현행 감사 접근 방식은 세 가지 범주로 나뉜다:

• 내부 감사: 배포 조직이 직접 수행한다. 가장 일반적이나 독립성이 가장 낮으며, 감사자에게 이해충돌이 존재한다.
• 외부 감사: 독립적인 제3자(컨설팅 업체, 학술 연구자)가 수행한다. 신뢰성은 높지만 비용이 많이 들고, 독점 시스템에 대한 접근이 제한되는 경우가 많다.
• 규제 감사: 법률에 의해 의무화된다(EU AI Act의 경우와 같이). 가장 권위 있으나 시행이 가장 느리고 규제 전문성에 의해 제약을 받는다.

이 리뷰는 세 가지 접근 방식 모두 공통적인 약점을 공유함을 발견한다. 감사는 스냅샷이다. 감사는 특정 시점에 시스템을 평가하지만, AI 시스템은 재학습, 업데이트, 적응을 거치며 지속적으로 변화한다. 오늘 감사를 통과한 시스템은 새로운 데이터로 재학습된 후 내일 다르게 작동할 수 있다. 주기적 감사보다는 지속적 모니터링이 필요하지만, AI 지속 모니터링을 위한 인프라는 아직 대규모로 존재하지 않는다.

반사실적 감사

Pasupuleti (2025)는 피인용 1회의 연구에서 구체적인 감사 방법론으로 반사실적 설명(counterfactual explanations)을 제안한다. 이 접근 방식은 다음과 같은 질문을 던지는 방식으로 작동한다. "모델이 다른 출력을 생성하려면 이 입력의 무엇이 바뀌어야 하는가?" 대출 신청이 거부된 경우, 반사실적 설명은 다음과 같을 수 있다. "신청자의 소득이 $5,000 더 높았다면 신청이 승인되었을 것이다."

반사실적 설명은 모델의 결정 경계—어느 방향으로 결정을 기울이는 구체적인 요인들—를 드러내기 때문에 감사에 유용하다. 반사실적 분석을 통해 결정을 바꾸는 데 가장 큰 영향을 미치는 요인이 신청자의 우편번호(미국의 많은 도시에서 인종의 대리 변수)임이 밝혀진다면, 이는 잠재적 차별의 증거가 된다.

이 방법에는 한계가 있다. 상이한 대우(disparate treatment, 서로 다른 집단에 대해 다른 요인이 작용하는 경우)는 감지할 수 있지만, 상이한 영향(disparate impact, 동일한 요인이 집단 간에 체계적으로 다른 결과를 초래하는 경우)을 감지하는 데는 효과가 떨어진다. 또한 모델에 대한 접근이 필요한데, 이는 외부 감사자가 확보하지 못할 수도 있다.

모델 출처 추적을 위한 블록체인

Pegwar and Siddiqui (2025)는 블록체인 기술을 AI 시스템과 통합하여 모델 개발 및 배포에 대한 변조 방지 기록을 생성하는 방안을 제안한다. 이들의 아키텍처는 다음을 기록한다:

• 학습 데이터 출처: 어떤 데이터가 사용되었는지, 그 출처는 어디인지, 어떻게 전처리되었는지.
• 모델 버전 관리: 모든 모델 업데이트는 암호화 해시와 함께 기록되어 변경 불가능한 버전 이력을 생성한다.
• 의사결정 로그: 선택된 의사결정(또는 집계 통계)이 체인 상에 기록되어 소급 감사를 가능하게 한다.
• 공정성 지표: 주기적인 공정성 평가가 기록되어 시스템의 편향 프로파일에 대한 종단적 기록을 생성한다.

블록체인은 기존 감사 기록이 결여하고 있는 세 가지 속성을 제공한다: 불변성(기록은 사후에 변경될 수 없다), 투명성(기록은 공개적으로 검증 가능하다), 탈중앙화(어떤 단일 주체도 감사 기록을 통제하지 않는다).

데이터 출처 아키텍처

Jain(2024)은 AI 모델 감사에서 블록체인 기반 데이터 출처 추적을 위한 더욱 상세한 기술 아키텍처를 제시한다. 이 시스템은 수집부터 전처리, 학습, 배포에 이르기까지 학습 데이터의 완전한 계보를 추적하며, 각 변환 과정을 블록체인에 기록한다. 이를 통해 감사자는 현재로서는 답하기 어려운 질문들에 답할 수 있다: "이 모델은 사전 동의를 받아 수집된 데이터로 학습되었는가? 편향된 데이터 소스는 제외되었는가? 전처리 단계는 일관되게 적용되었는가?"

비판적 분석: 주장과 근거

<

주장	근거	판정
현재 AI 감사는 단편적이며 불충분하다	Funda의 체계적 문헌 고찰	✅ 지지됨 — 스냅샷 기반 감사는 지속적인 모델 변경을 포착하지 못한다
반사실적 설명은 차별적 의사결정 경계를 탐지할 수 있다	Pasupuleti의 방법론 및 실험	✅ 지지됨 — 상이한 처우에 대해서는 유효하나, 상이한 영향에 대해서는 효과가 제한적이다
블록체인은 변경 불가능하고 검증 가능한 AI 감사 기록을 제공할 수 있다	Pegwar & Siddiqui의 아키텍처 설계	⚠️ 불확실 — 기술적으로는 실현 가능하나, 확장성 및 채택 여부는 검증되지 않았다
완전한 데이터 출처 추적은 AI 시스템에서 실용적이다	Jain의 아키텍처 제안	⚠️ 불확실 — 저장 비용 및 프라이버시 문제의 해결이 필요하다

미해결 질문

프라이버시 대 투명성: 모델 의사결정을 공개 블록체인에 기록하는 것은 프라이버시 우려를 제기한다. 개별 의사결정 대상자를 노출하지 않으면서 감사 기록을 검증 가능하게 만들 수 있는가?

확장성: 대규모 AI 시스템은 매일 수백만 건의 의사결정을 수행한다. 이를 모두 블록체인에 기록하는 것은 현재 기술로는 비현실적이다. 의미 있는 감사를 위해 어느 수준의 표본 추출 또는 집계가 충분한가?

제도적 채택: 누가 블록체인 기반 감사를 의무화하는가? 규제 요건이 없다면 조직은 자신들의 AI 시스템을 더 투명하게 만들 유인이 거의 없다.

시스템 조작: 조직이 어떤 공정성 지표가 체인 상에 기록되는지 알게 된다면, 다른 지표를 소홀히 하면서 해당 지표만을 최적화할 수 있다 — 이는 굿하트의 법칙의 한 형태이다.

연구자에 대한 시사점

AI 거버넌스 연구자들에게는, 스냅샷 감사와 지속적 모니터링 사이의 간극이 가장 시급한 실천적 문제이다. 블록체인 아키텍처는 잠재적인 인프라를 제공하지만, 그 사용을 의무화하기 위해서는 제도적·규제적 프레임워크가 발전해야 한다.

블록체인 개발자들에게는, AI 감사가 블록체인의 핵심 속성(불변성, 투명성)을 사회적으로 중요한 응용에 활용하는 설득력 있는 사용 사례이다.

ORAA ResearchBrain을 통해 관련 연구를 탐색할 수 있다.