When a self-driving vehicle strikes a pedestrian, when an AI medical device misdiagnoses a patient, or when an autonomous trading algorithm causes a flash crash, the foundational question of tort law—who is responsible?—has no settled answer. Traditional product liability assumes a defective product with an identifiable manufacturer. Traditional negligence assumes a human decision-maker who failed to exercise reasonable care. Autonomous AI systems disrupt both frameworks: the system's behavior may emerge from training data rather than explicit programming, making it difficult to identify a "defect," and the decision is made by an algorithm rather than a person, making it difficult to locate "negligence."

The stakes are enormous. As AI systems are deployed in transportation, healthcare, finance, and military operations, the liability gap creates uncertainty for developers, deployers, and victims alike. Three recent papers examine different jurisdictions' attempts to close this gap.

Why It Matters

The liability question is not merely academic. Without clear rules, victims of AI-caused harm face prohibitive burdens of proof—they must demonstrate the internal logic of an opaque system to establish causation. Simultaneously, developers face unpredictable exposure, which can either chill innovation or incentivize deployment in jurisdictions with weaker protections. The regulatory race currently underway in Europe, the Middle East, and Asia will shape both the trajectory of AI development and the protection available to those harmed by it.

The EU's approach—combining the AI Act (Regulation 2024/1689) with the revised Product Liability Directive and the proposed AI Liability Directive—represents the most comprehensive attempt to date. But as Di Gregorio, Turci, and Gigola (2025) document, the interaction between these instruments creates its own complexity.

The EU Framework: Three Instruments, One System

Di Gregorio, Turci, and Gigola (2025) provide a systematic analysis of the EU's emerging legal framework, structured along three axes: the multi-level regulatory framework, the liability regime, and sectoral challenges in healthcare and finance.

The AI Act classifies AI systems by risk level—unacceptable, high, limited, and minimal—and imposes obligations proportional to that classification. High-risk systems (including those used in critical infrastructure, education, employment, and law enforcement) face mandatory requirements for risk management, data governance, transparency, human oversight, and accuracy. The revised Product Liability Directive extends strict liability to software and AI systems, treating them as "products" for the first time. The proposed AI Liability Directive would create a presumption of causation when a provider fails to comply with the AI Act, shifting the burden of proof from victims to developers.

The critical insight is that these instruments interact: compliance with the AI Act's requirements may serve as a defense in liability proceedings, while non-compliance triggers presumptions that favor the victim. This creates a regulatory-liability feedback loop that the authors argue is the EU's most innovative contribution.

The Custodian Model: UAE's Alternative

Abdou (2025) proposes an alternative framework adapted for the UAE's legal context: the concept of a "custodian" for autonomous AI systems. Drawing on both civil law and Islamic legal traditions, the paper argues that AI systems share characteristics with entities that have historically required custodians—minors, incapacitated persons, and animals—in that they can cause harm but cannot bear legal responsibility.

The custodian model assigns liability to a designated natural or legal person who has both the ability and the obligation to supervise the AI system's operation. This differs from the EU's distributed-responsibility approach (which allocates obligations across providers, deployers, and users) by concentrating accountability in a single identifiable party. The advantage is simplicity and clarity for victims; the disadvantage is that it may not accurately reflect the distributed nature of AI system governance, where training data providers, model developers, fine-tuners, and deployers all contribute to the system's behavior.

Autonomous Vehicles: The Test Case

Praveen, Palarimath, and Akbar (2025) focus on the specific domain where AI liability is most immediately consequential: autonomous vehicles. Using Decision Trees, Random Forests, and Gradient Boosting models, the research analyzes how machine learning decisions in AVs are interpreted by the law and proposes classification frameworks for accountability.

The paper identifies a fundamental tension: AV decision-making is probabilistic, but legal liability frameworks demand binary determinations of fault. When an AV's algorithm assigns 60% probability to one course of action and 40% to another, and the chosen action causes harm, was the decision "defective"? The authors argue that current frameworks cannot answer this question coherently, and that new standards for algorithmic reasonableness are needed.

Comparative Framework

What To Watch

The next 12-18 months will be decisive. The EU AI Act's full implementation (2 August 2026 for most high-risk system obligations) will test whether the regulatory-liability feedback loop works in practice. The UAE's custodian model will face its first real cases as autonomous systems are deployed in its smart city initiatives. And the US, which lacks a federal AI liability framework, will continue to address these questions through state-level litigation—creating the possibility of 50 different standards. The fundamental question remains whether liability frameworks designed for industrial-era manufacturing can be adapted for algorithmic-era decision-making, or whether entirely new legal categories are required.

면책 조항: 이 게시물은 정보 제공 목적의 연구 동향 개요이다. 특정 발견, 통계, 주장은 학술 연구에서 인용하기 전에 원본 논문을 통해 검증해야 한다.

AI 책임과 자율 시스템: 기계가 결정할 때 누가 책임지는가?

자율주행 차량이 보행자를 충격할 때, AI 의료기기가 환자를 오진할 때, 또는 자율 거래 알고리즘이 순간 폭락(flash crash)을 유발할 때, 불법행위법(tort law)의 근본적인 질문—누가 책임지는가?—에는 아직 확립된 답이 없다. 전통적인 제조물 책임(product liability)은 식별 가능한 제조업체가 있는 결함 있는 제품을 전제로 한다. 전통적인 과실 책임(negligence)은 합리적인 주의를 기울이지 못한 인간 의사결정자를 전제로 한다. 자율 AI 시스템은 이 두 가지 프레임워크 모두를 교란한다. 시스템의 행동이 명시적 프로그래밍이 아닌 훈련 데이터로부터 출현할 수 있어 "결함"을 식별하기 어렵고, 결정이 사람이 아닌 알고리즘에 의해 내려지므로 "과실"의 소재를 파악하기도 어렵다.

그 이해관계는 막대하다. AI 시스템이 교통, 의료, 금융, 군사 작전에 배치됨에 따라 책임 공백(liability gap)은 개발자, 배포자, 피해자 모두에게 불확실성을 초래한다. 세 편의 최신 논문은 이 공백을 메우려는 여러 법 관할권의 시도를 각각 다룬다.

왜 중요한가

책임 문제는 단순히 학문적인 것이 아니다. 명확한 규칙이 없으면 AI로 인한 피해 피해자들은 인과관계를 입증하기 위해 불투명한 시스템의 내부 논리를 증명해야 하는 과도한 증명 부담에 직면한다. 동시에 개발자들은 예측 불가능한 법적 노출에 직면하며, 이는 혁신을 저해하거나 보호 수준이 낮은 법 관할권에서의 배포를 장려하는 방향으로 작용할 수 있다. 현재 유럽, 중동, 아시아에서 진행 중인 규제 경쟁은 AI 개발의 궤적과 피해자들이 받을 수 있는 보호 수준 모두를 형성할 것이다.

EU의 접근법—AI Act(규정 2024/1689)와 개정된 제조물 책임 지침(Product Liability Directive), 제안된 AI 책임 지침(AI Liability Directive)의 결합—은 현재까지 가장 포괄적인 시도를 나타낸다. 그러나 Di Gregorio, Turci, Gigola(2025)가 기록하듯이, 이 법률 수단들 간의 상호작용은 그 자체로 복잡성을 만들어낸다.

EU 프레임워크: 세 가지 법률 수단, 하나의 시스템

Di Gregorio, Turci, Gigola(2025)는 EU의 신흥 법적 프레임워크에 대한 체계적인 분석을 제공하며, 다단계 규제 프레임워크, 책임 체계, 의료 및 금융 분야의 부문별 과제라는 세 가지 축으로 구성한다.

AI Act는 AI 시스템을 위험 수준—허용 불가, 고위험, 제한적, 최소—에 따라 분류하고, 그 분류에 비례하는 의무를 부과한다. 고위험 시스템(핵심 인프라, 교육, 고용, 법 집행에 사용되는 것 포함)은 위험 관리, 데이터 거버넌스, 투명성, 인간 감독, 정확성에 대한 의무적 요건에 직면한다. 개정된 제조물 책임 지침은 소프트웨어와 AI 시스템을 최초로 "제품"으로 취급하여 엄격 책임(strict liability)을 확장한다. 제안된 AI 책임 지침은 공급자가 AI Act를 준수하지 않을 경우 인과관계 추정을 생성하여, 증명 책임을 피해자에서 개발자로 전환할 것이다.

핵심적인 통찰은 이 법률 수단들이 상호작용한다는 점이다. AI Act의 요건 준수는 책임 절차에서 방어 수단으로 작용할 수 있는 반면, 미준수는 피해자에게 유리한 추정을 촉발한다. 이는 저자들이 EU의 가장 혁신적인 기여라고 주장하는 규제-책임 피드백 루프를 만들어낸다.

관리인 모델: UAE의 대안

Abdou(2025)는 UAE의 법적 맥락에 맞게 적용된 대안적 프레임워크를 제안한다. 바로 자율 AI 시스템을 위한 "관리인(custodian)" 개념이다. 민법과 이슬람 법학 전통 모두를 바탕으로, 이 논문은 AI 시스템이 해를 끼칠 수 있지만 법적 책임을 질 수 없다는 점에서 역사적으로 관리인을 필요로 해온 존재들—미성년자, 무능력자, 동물—과 특성을 공유한다고 주장한다.

관리인 모델(Custodian Model)

관리인 모델은 AI 시스템의 운영을 감독할 능력과 의무를 모두 갖춘 특정 자연인 또는 법인에게 책임을 부과한다. 이는 제공자, 배포자, 사용자에게 의무를 분산하는 EU의 분산 책임 접근 방식과 달리, 단일한 식별 가능 당사자에게 책임을 집중시킨다. 이 모델의 장점은 피해자 입장에서 단순하고 명확하다는 점이다. 반면 단점은, 훈련 데이터 제공자, 모델 개발자, 파인튜너(fine-tuner), 배포자 모두가 시스템의 행동에 기여하는 AI 시스템 거버넌스의 분산적 특성을 정확히 반영하지 못할 수 있다는 것이다.

자율주행차: 시험 사례

Praveen, Palarimath, Akbar(2025)는 AI 책임 문제가 가장 즉각적으로 중요한 영향을 미치는 특정 영역인 자율주행차(AV)에 초점을 맞춘다. 이 연구는 Decision Trees, Random Forests, Gradient Boosting 모델을 활용하여 AV에서의 머신러닝 의사결정이 법률에 의해 어떻게 해석되는지 분석하고, 책임 소재에 대한 분류 체계를 제안한다.

이 논문은 근본적인 긴장 관계를 지적한다. AV의 의사결정은 확률적이지만, 법적 책임 체계는 과실 여부에 대한 이분법적 판단을 요구한다는 것이다. AV의 알고리즘이 특정 행동 방침에 60%의 확률을 부여하고 다른 방침에 40%를 부여했을 때, 선택된 행동이 피해를 야기했다면 해당 결정은 "결함이 있는" 것인가? 저자들은 현행 체계로는 이 질문에 일관성 있게 답할 수 없으며, 알고리즘적 합리성에 대한 새로운 기준이 필요하다고 주장한다.

비교 체계

향후 주목할 사항

향후 12~18개월이 결정적인 시기가 될 것이다. EU AI Act의 전면 시행(대부분의 고위험 시스템 의무에 대해 2026년 8월 2일)은 규제-책임 피드백 루프가 실제로 작동하는지 검증하는 계기가 될 것이다. UAE의 관리인 모델은 스마트 시티 사업에 자율 시스템이 배포됨에 따라 첫 번째 실제 사건을 맞이하게 될 것이다. 그리고 연방 차원의 AI 책임 체계가 없는 미국은 주(州) 단위 소송을 통해 이러한 문제들을 계속 다루게 될 것이며, 이는 50개의 상이한 기준이 병존하는 상황을 초래할 수 있다. 산업화 시대의 제조업을 위해 설계된 책임 체계가 알고리즘 시대의 의사결정에 적용될 수 있는지, 아니면 완전히 새로운 법적 범주가 필요한지의 여부는 여전히 근본적인 과제로 남아 있다.