인공지능 학습데이터의 법적 책임과 규제 패러다임 - EU 입법 동향과 민사책임론적 함의를 중심으로

Governance in Condominium Management : Lessons from the Evolution of Germany’s WEG and Implications for Korean Law

인공지능(AI)의 활용이 급속히 확산됨에 따라 학습데이터의 품질은 기술적 차원을 넘어 사회적·법적 쟁점으로 부상하고 있다. AI의 성능과 신뢰성은 데이터의 정확성·대표성·다양성에 크게 의존하지만, 오류나 편향이 내재된 데이터는 제3자에게 직접적이고도 중대한 피해를 야기할 수 있다. 그럼에도 불구하고 현행 민사책임법 체계는 데이터 공급자, 개발자, 이용자 간의 복잡한 인과관계를 충분히 반영하지 못하며, 피해자에게 과도한 입증 부담을 전가하고 있다. 이러한 한계는 인공지능 시대에 적합한 새로운 책임법 체계의 정립 필요성을 분명히 드러낸다. 이에 본 논의는 유럽연합(EU)의 최근 입법 동향을 중심으로 학습데이터와 관련된 민사책임 문제를 검토한다. 특히 2021년 제안된 ｢인공지능법(AI Act)｣과 2024년 최종 채택된 ｢제조물책임지침(Product Liability Directive, 2024/1795)｣을 분석 대상으로 삼았다. 두 입법은 피해자 보호 강화를 위해 입증책임 완화, 인과관계 추정, 정보공개 및 데이터 거버넌스 의무 등 새로운 규율 방식을 도입하고 있으며, 특히 고위험(high-risk) AI 시스템과 관련된 학습데이터의 품질 관리와 책임 귀속 문제를 전면적으로 다루고 있다. 이는 단순한 기술적 안전성 확보를 넘어, 데이터 단계에서부터 법적 책임을 구조화하려는 시도로 평가할 수 있다. 분석 결과, 학습데이터 공급자에게 일정한 주의의무를 부과하는 방향으로 책임법 체계를 확장할 필요성이 제기되며, 이는 기존 제조물책임법상 부품 공급자와의 유비적 비교(analogical comparison)를 통해 정당화될 수 있다. 또한 피해자 구제를 실질화하기 위해서는 입증구조의 개선이 불가피하며, EU 입법례가 보여주듯 일정한 조건 하에서 인과관계를 추정하는 제도가 그 대안이 될 수 있다. 더 나아가 기술혁신을 저해하지 않으면서도 피해자 보호를 강화하기 위해 고위험 데이터에 대한 차등적 규율과 보험·보상기금 제도의 도입 가능성도 논의된다. 이러한 고찰은 국내 민사책임법에도 중요한 시사점을 제공한다. 현행 불법행위법과 제조물책임법은 인공지능 학습데이터의 특수성을 충분히 반영하지 못하고 있으며, 피해자 구제의 실효성을 담보하기 어렵다. 따라서 EU 입법례를 참고하여 데이터 단계에서의 책임 귀속 구조를 명확히 하고, 입증책임 완화나 인과관계 추정 규정을 도입하며, 고위험 데이터에 대한 특별 규율을 마련하는 방향으로 법제를 재편할 필요가 있다. 이는 단순한 외국 입법례의 수용을 넘어, 국내 법질서의 특수성을 고려한 책임법 체계의 재구성을 요청한다. 결론적으로, 인공지능 시대에 적합한 책임법 체계를 모색하는 이러한 시도는 향후 입법과 판례 형성에 기초 자료로 기능할 수 있으며, 기술혁신과 피해자 보호 간의 균형을 확보하는 법제적 방향성을 제시한다. 이를 통해 인공지능 활용의 신뢰성과 지속가능성을 제고하는 데 기여할 수 있을 것이다.

The rapid proliferation of artificial intelligence (AI) has elevated the quality of training data from a technical concern to a pressing social and legal issue. The performance and reliability of AI systems depend heavily on the accuracy, representativeness, and diversity of data; yet errors or biases embedded in such data can cause direct and substantial harm to third parties. Current civil liability frameworks, however, fail to adequately capture the complex causal relationships among data providers, developers, and users, thereby imposing an excessive burden of proof on victims. This structural limitation underscores the urgent need to recalibrate liability regimes for the age of AI. This study examines the civil liability issues surrounding training data with a particular focus on recent legislative developments in the European Union (EU). Specifically, it analyzes the 2021 proposal of the Artificial Intelligence Act (AI Act) and the 2024 revision of the Product Liability Directive (Directive 2024/1795). Both instruments introduce novel regulatory mechanisms—such as the alleviation of evidentiary burdens, presumptions of causation, enhanced disclosure duties, and data governance obligations—while addressing the quality control and attribution of responsibility for training data in high-risk AI systems. These measures represent not only an effort to ensure technical safety but also a broader attempt to structure legal accountability from the data stage onward. The analysis suggests that extending a duty of care to training data providers may be justified, drawing an analogy with component suppliers under traditional product liability law. Furthermore, meaningful victim protection requires reform of evidentiary structures, including the adoption of causation presumptions under certain conditions, as reflected in EU practice. In addition, differentiated regulation of high-risk data and the potential introduction of insurance or compensation funds are discussed as mechanisms to reconcile innovation with effective redress. These findings carry significant implications for Korean civil liability law. Existing tort and product liability regimes do not sufficiently account for the unique characteristics of AI training data, nor do they guarantee effective remedies for victims. Accordingly, legislative reform is needed to clarify responsibility at the data stage, ease evidentiary burdens, and establish special rules for high-risk data, drawing on but not merely transplanting EU models. Ultimately, this inquiry highlights the necessity of reconstructing liability frameworks to balance technological innovation with victim protection, thereby enhancing the trustworthiness and sustainability of AI deployment.