Tort law is built on a simple principle: the person who caused the harm should compensate the victim. For automobile accidents, this has meant the driver—the human being who made the decision that led to the collision. Negligence doctrine, product liability, and insurance systems all assume that a human decision-maker sits at the causal chain's origin.

Autonomous vehicles displace this assumption. When a Level 4 vehicle—one that drives itself without human supervision in defined conditions—causes an accident, there is no human driver to hold negligent. The vehicle's behavior was determined by algorithms developed by software engineers, trained on data collected by sensor manufacturers, executing decisions within parameters set by the vehicle manufacturer, operating under conditions approved by regulators. The causal chain is distributed across multiple actors, none of whom individually "decided" to cause the accident.

This is not a hypothetical problem. Germany's 2021 Autonomous Driving Act permits Level 4 vehicles on public roads. Waymo operates driverless robotaxis in multiple US cities. The EU's 2024 AI Act classifies high-risk AI systems—including autonomous driving—under enhanced regulatory requirements. The accidents will come. The question is whether the law is ready.

The Hand Formula Problem

Tian (2025) examines one of tort law's foundational tools—the Hand Formula—and its applicability to autonomous vehicle accidents. The Hand Formula, developed by Judge Learned Hand in United States v. Carroll Towing Co. (1947), determines negligence by comparing the cost of prevention (B) with the probability of harm (P) multiplied by the magnitude of harm (L). If B < PL, the defendant should have taken preventive action and is negligent for failing to do so.

The paper argues that in human-machine collaborative driving, AI's opaque decision-making processes make the traditional Hand Formula calculation problematic. The "black box" nature of AI decisions and their complexity make accident cost-benefit analysis—which the Hand Formula requires—difficult to apply. When the AI made a decision that led to an accident, we may not be able to determine what preventive action was available, what its cost would have been, or even what the AI "decided" in any meaningful sense.

Ethics to Law: The Philosophical Challenge

Huang (2025) addresses the complex issue of liability allocation from both legal and ethical perspectives. With the rapid development of autonomous driving technology, traditional legal frameworks struggle to cope with the new challenges posed by driverless vehicles.

The paper identifies several liability allocation models:

• Driver/operator liability: The traditional model, which assumes a human being is monitoring the vehicle and can intervene. At Level 4 and above, this model becomes inapplicable because there is no driver.
• Manufacturer/developer liability: The vehicle is a product, and the manufacturer is liable for defective products under strict liability doctrine. But autonomous driving software is not a traditional "product"—it is an adaptive system that may behave differently from its tested version due to learning, updates, and environmental interactions.
• Shared liability: Distributing liability among manufacturer, software developer, data provider, and owner based on each party's contribution to the accident scenario. This model is flexible but administratively complex.
• No-fault insurance: Abandoning the liability question entirely and compensating victims through mandatory insurance pools funded by all AV stakeholders. This model prioritizes victim compensation over fault attribution.

Germany's Regulatory Response

Petrauskaitė (2025) examines manufacturer liability for AV accidents in Germany through the Volkswagen case. The study is positioned at the intersection of product liability, contractual responsibility, and AI ethics, examining how Germany's legal framework handles accidents involving Volkswagen's "Travel Assist" AI-assisted driving system.

Kowalski (2025) complements this with a broader analysis of Germany's 2021 Autonomous Driving Act (Autonomes-Fahren-Gesetz), which is among the world's first comprehensive AV liability frameworks. The Act establishes a "technical supervisor" concept—a remote human operator who monitors the AV and can intervene—and places primary liability on the vehicle manufacturer when the AV operates within its approved conditions.

The German model represents one resolution of the liability question: treating the AV manufacturer as analogous to a common carrier (like a train operator or airline), with strict liability for accidents during autonomous operation. This model provides clear rules for victim compensation but may create risk-aversion among manufacturers, potentially slowing deployment.

Identifying Liability Subjects in AI Systems

Hu (2025) examines the identification of tort liability subjects in AI systems, using autonomous vehicles as the primary case. As a significant achievement in AI development, autonomous vehicles promise substantial convenience and societal transformation. However, their integration introduces legal risks regarding the determination and allocation of liability.

The analysis identifies a conceptual problem: tort law requires identifying a "subject"—a legally recognized entity capable of bearing rights and obligations. The AI system is not a legal subject; it is a tool. But it is a tool whose behavior is not fully determined by any single human actor. The liability gap exists in the space between the AI's autonomous behavior and the legal framework's requirement for human agency.

Several proposed solutions emerge from the literature:

• Electronic personhood: Granting AI systems limited legal personality, analogous to corporate personhood. This has been proposed by the European Parliament but remains controversial.
• Vicarious liability: Holding the manufacturer vicariously liable for the AI's "actions," analogous to employer liability for employee conduct. This stretches the analogy but provides a familiar framework.
• Mandatory insurance: Requiring all AV stakeholders to contribute to an insurance pool that compensates victims regardless of fault. This is administratively efficient but does not address the deterrence function of tort law.

Claims and Evidence

Open Questions

Implications

The autonomous vehicle liability question is a test case for a broader legal challenge: how do legal systems designed for human agency adapt to AI agency? The solutions developed for AV liability—whether manufacturer liability, no-fault insurance, or electronic personhood—will provide templates for liability frameworks in healthcare AI, judicial AI, financial AI, and other domains where AI decisions have consequential impacts on human lives.

면책 조항: 이 게시물은 정보 제공을 위한 연구 동향 개요이다. 학술 저작물에서 인용하기 전에 구체적인 연구 결과, 통계 및 주장은 원문 논문과 대조하여 검증해야 한다.

자동차가 결정할 때: 자율주행차 책임과 불법행위법의 위기

불법행위법(tort law)은 단순한 원칙 위에 세워져 있다. 해를 끼친 사람이 피해자에게 보상해야 한다는 것이다. 자동차 사고의 경우, 이는 충돌로 이어진 결정을 내린 인간, 즉 운전자를 의미해 왔다. 과실 원칙(negligence doctrine), 제조물 책임(product liability), 그리고 보험 제도는 모두 인과관계의 출발점에 인간 의사결정자가 있다고 가정한다.

자율주행차는 이러한 가정을 무너뜨린다. 특정 조건에서 인간의 감독 없이 스스로 주행하는 레벨 4(Level 4) 차량이 사고를 일으켰을 때, 과실을 물을 수 있는 인간 운전자가 존재하지 않는다. 차량의 행동은 소프트웨어 엔지니어가 개발한 알고리즘에 의해 결정되고, 센서 제조업체가 수집한 데이터로 학습되며, 차량 제조업체가 설정한 매개변수 내에서 결정을 실행하고, 규제 기관이 승인한 조건하에 운행된다. 인과관계는 여러 행위자에 걸쳐 분산되어 있으며, 그들 중 누구도 개별적으로 사고를 일으키겠다고 "결정"하지 않았다.

이는 가상의 문제가 아니다. 독일의 2021년 자율주행법(Autonomous Driving Act)은 레벨 4 차량의 공공도로 운행을 허용한다. Waymo는 미국 여러 도시에서 무인 로보택시를 운영하고 있다. EU의 2024년 AI법(AI Act)은 자율주행을 포함한 고위험 AI 시스템을 강화된 규제 요건 하에 분류한다. 사고는 발생할 것이다. 문제는 법이 준비되어 있는가이다.

Hand 공식 문제

Tian(2025)은 불법행위법의 근본적인 도구 중 하나인 Hand 공식(Hand Formula)과 자율주행차 사고에 대한 적용 가능성을 검토한다. Hand 공식은 United States v. Carroll Towing Co.(1947) 판결에서 Learned Hand 판사가 개발한 것으로, 예방 비용(B)을 피해 발생 확률(P)에 피해 규모(L)를 곱한 값과 비교하여 과실 여부를 결정한다. B < PL인 경우, 피고는 예방 조치를 취했어야 하며 이를 이행하지 않은 것에 대해 과실이 인정된다.

이 논문은 인간-기계 협력 주행에서 AI의 불투명한 의사결정 과정이 전통적인 Hand 공식 적용을 문제적으로 만든다고 주장한다. AI 결정의 "블랙박스(black box)" 특성과 그 복잡성은 Hand 공식이 요구하는 사고 비용-편익 분석의 적용을 어렵게 만든다. AI가 사고로 이어진 결정을 내렸을 때, 우리는 어떤 예방 조치가 가능했는지, 그 비용이 얼마였는지, 심지어 AI가 어떤 의미 있는 방식으로 무엇을 "결정"했는지조차 파악하지 못할 수 있다.

윤리에서 법으로: 철학적 도전

Huang(2025)은 법적·윤리적 관점 모두에서 책임 배분의 복잡한 문제를 다룬다. 자율주행 기술의 급격한 발전으로 인해 전통적인 법적 프레임워크는 무인 차량이 제기하는 새로운 과제에 대처하는 데 어려움을 겪고 있다.

이 논문은 여러 책임 배분 모델을 제시한다:

• 운전자/운영자 책임: 인간이 차량을 모니터링하고 개입할 수 있다고 가정하는 전통적 모델이다. 레벨 4 이상에서는 운전자가 존재하지 않기 때문에 이 모델은 적용 불가능해진다.
• 제조업체/개발자 책임: 차량은 제품이며, 제조업체는 엄격 책임(strict liability) 원칙에 따라 결함 있는 제품에 대해 책임을 진다. 그러나 자율주행 소프트웨어는 전통적인 "제품"이 아니다. 이는 학습, 업데이트, 환경 상호작용으로 인해 테스트 버전과 다르게 작동할 수 있는 적응형 시스템이다.
• 공동 책임: 사고 시나리오에 대한 각 당사자의 기여도에 따라 제조업체, 소프트웨어 개발자, 데이터 제공자, 소유자 사이에 책임을 분산하는 방식이다. 이 모델은 유연하지만 행정적으로 복잡하다.
• 무과실 보험(No-fault insurance): 책임 문제를 완전히 포기하고, 모든 AV 이해관계자가 출연하는 의무 보험 풀을 통해 피해자에게 보상하는 방식이다. 이 모델은 과실 귀속보다 피해자 보상을 우선시한다.

독일의 규제적 대응

Petrauskaitė(2025)는 폭스바겐(Volkswagen) 사례를 통해 독일 내 자율주행차(AV) 사고에 대한 제조사 책임을 검토한다. 이 연구는 제조물 책임, 계약상 책임, AI 윤리의 교차점에 위치하며, 폭스바겐의 "Travel Assist" AI 보조 주행 시스템과 관련된 사고를 독일 법 체계가 어떻게 처리하는지를 살펴본다.

Kowalski(2025)는 이를 보완하여 세계 최초의 포괄적인 AV 책임 체계 중 하나인 독일의 2021년 자율주행법(Autonomes-Fahren-Gesetz)을 광범위하게 분석한다. 이 법은 "기술 감독자(technical supervisor)" 개념—AV를 모니터링하고 개입할 수 있는 원격 인간 운영자—을 확립하며, AV가 승인된 조건 내에서 운행 중 발생한 사고에 대한 1차적 책임을 차량 제조사에게 귀속시킨다.

독일 모델은 책임 문제에 대한 하나의 해결책을 제시한다. 즉, AV 제조사를 공공 운송업자(열차 운영사나 항공사와 같은)에 준하여 취급하고, 자율 운행 중 발생한 사고에 대해 엄격한 책임을 부과하는 것이다. 이 모델은 피해자 보상에 관한 명확한 규칙을 제공하지만, 제조사의 위험 회피 성향을 유발하여 잠재적으로 배포를 지연시킬 수 있다.

AI 시스템에서의 책임 주체 규명

Hu(2025)는 자율주행차를 주요 사례로 삼아 AI 시스템에서의 불법행위 책임 주체 규명을 검토한다. AI 발전의 중요한 성과인 자율주행차는 상당한 편의성과 사회적 변혁을 약속한다. 그러나 자율주행차의 통합은 책임의 결정 및 배분과 관련하여 법적 위험을 초래한다.

이 분석은 개념적 문제를 규명한다. 불법행위법은 "주체"—권리와 의무를 부담할 수 있는 법적으로 인정된 실체—를 규명할 것을 요구한다. AI 시스템은 법적 주체가 아니라 도구이다. 그러나 그것은 어떤 단일한 인간 행위자에 의해서도 행동이 완전히 결정되지 않는 도구이다. 책임의 공백은 AI의 자율적 행동과 인간 행위성을 요구하는 법적 체계 사이의 공간에 존재한다.

문헌에서는 여러 해결 방안이 제시된다.

• 전자적 법인격(Electronic personhood): AI 시스템에 법인격에 유사한 제한적 법적 인격을 부여하는 것. 이는 유럽의회에서 제안된 바 있으나 여전히 논쟁적이다.
• 대위 책임(Vicarious liability): 피용자의 행위에 대한 사용자 책임에 준하여, 제조사가 AI의 "행위"에 대해 대위 책임을 지도록 하는 것. 이는 유추를 확장하는 것이지만 익숙한 체계를 제공한다.
• 의무적 보험(Mandatory insurance): 모든 AV 이해관계자가 과실 여부와 관계없이 피해자에게 보상하는 보험 풀에 기여하도록 요구하는 것. 이는 행정적으로 효율적이지만 불법행위법의 억지 기능을 다루지는 못한다.

주장과 근거

미해결 과제

시사점

자율주행차 책임 문제는 보다 광범위한 법적 과제에 대한 시험 사례이다: 인간의 행위성을 전제로 설계된 법체계는 AI의 행위성에 어떻게 적응할 것인가? AV 책임을 위해 개발된 해법들—제조사 책임이든, 무과실 보험이든, 전자적 법인격이든—은 AI의 결정이 인간의 삶에 중대한 영향을 미치는 의료 AI, 사법 AI, 금융 AI 및 기타 영역의 책임 체계를 위한 템플릿을 제공할 것이다.