고용을 위한 인공지능 알고리즘과 차별금지

Artificial Intelligence Algorithms and Anti-Discrimination in Employment: Focusing on the German General Equal Treatment Act (AGG)

직원을 선발하고 채용하는 과정에서 인공지능 알고리즘의 사용이 늘어나고 있다. 특히 1차적인 선별 과정에서 인공지능 알고리즘을 사용할 경우 지원서를 검토하는 데 필요한 시간을 줄일 수 있어 선발과정을 더 효율적으로 진행할 수 있기 때문이다. 일반적으로는 알고리즘 기술을 이용할 경우 인간인 고용주 개인의 의식적, 무의식적인 편견을 배제할 수 있어 객관성이 담보될 수 있을 것 같이 보인다. 그러나 알고리즘은 ‘편향적’일 수 있으며 지원자를 차별할 수도 있다는 점에 주의해야 한다. 국내에는 아직 일반적인 차별금지법이 제정되지 못하고 있는 실정이지만, 일반평등대우법(Allgemeines Gleichbehandlungsgesetz)이란 이름의 일반적·포괄적 차별금지법을 가지고 있는 독일의 경우에는 인공지능 알고리즘에 의한 차별이 인정될 경우 이 법에 의해 고용주가 민사상의 책임을 지게 된다. 이 논문에서는 채용과정에서 사용된 인공지능 알고리즘에 의한 차별이 어떻게 가능한지를 살펴보고, 독일 일반평등대우법의 적용과정을 고찰한 후, 우리나라의 경우에도, 인공지능 알고리즘 등 4차 산업혁명 시대에 있을 수 있는 모든 종류의 차별을 적절하게 통제하기 위해서는 일반적이고 포괄적인 차별금지법의 입법이 필요하다는 결론에 이르고 있다. 구체적으로는 인공지능 알고리즘과 관련하여 다음의 사항을 입법에 포함시킬 것을 제안하고 있다. 첫째, 직접차별 외에도 인공지능 알고리즘에 의한 차별 사례의 대부분을 차지하는 간접차별에 대한 사항을 규율할 것. 둘째, 간접차별에 대한 면책사유를 구체적으로 규율할 것. 셋째, 직접차별의 정당화 요건을 구체화할 것 넷째, 민사적 해결방법에 따를 것. 다섯째, 입증책임의 전환 규정을 마련할 것.

The use of artificial intelligence algorithms in the employee selection and recruitment process is growing. In particular, the use of AI algorithms in the primary screening process can reduce the time required to review applications, making the selection process more efficient. In general, the use of algorithmic technology seems to provide objectivity by eliminating the conscious and unconscious biases of human employers. However, it is important to note that algorithms can be “biased” and discriminate against applicants. In Germany, which has a general and comprehensive anti-discrimination law called the General Equal Treatment Act (Allgemeines Gleichbehandlungsgesetz), employers can be held liable for discrimination based on AI algorithms. This paper examines how discrimination by AI algorithms used in the recruitment process is possible, examines the application process of the German General Equal Treatment Act, and concludes that in Korea, a general and comprehensive anti-discrimination law is necessary to properly control all types of discrimination in the era of the Fourth Industrial Revolution, including AI algorithms. Specifically, the following points are suggested to be included in legislation regarding AI algorithms. First, regulating indirect discrimination, which accounts for the majority of cases of discrimination by AI algorithms, in addition to direct discrimination. Second, specifically defining immunity for indirect discrimination. Third, specifically regulating the requirements for justification of direct discrimination. Fourth, providing for civil remedies. Fifth, providing for shifting burdens of proof.