알고리즘 자동의사결정으로부터 개인의 보호

Algorithm Automated Decision Making and Protection of Individual - Focusing on the Right to Human Intervention in automated decision making

알고리즘 자동의사결정 시스템에서는 기계가 인간을 평가한다. 개인정보와 사용자 정보를 모아 개인의 성향을 파악하여 광고를 하고, 채용여부를 결정하기도 한다. 자동의사결정은 효율적이고 일관성 있는 결과를 가져올 수 있다는 기대를 받고 있으나, 그 이면에는 개인의 사생활을 침해하고, 자율성을 파괴하고, 표현의 자유와 일반적 행동권을 침해할 수 있다. 뿐만 아니라 자동의사결정과 프로파일링은 차별과 편견에서 전혀 자유롭지도 않으며, 악용되는 경우 민주주의를 적극적으로 위협할 수 있는 가능성도 가지고 있다. 유럽연합은 일반정보보호법을 제정하여 자동의사결정에 대한 인간의 개입권을 만들었다. 인간의 개입권은 비록 적용범위가 한정적이고, 권리 구제 효율적이라고 보기 어렵지만 그 자체가 가지는 고유의 의미에 대해서는 주목할 필요가 있다. 인간의 개입권은 인간이 대상화되고 도구화 되는 구조에 대항하는 권리이며, 개인의 정보와 사생활, 자율성에 대한 최소한의 통제를 잃지 않기 위한 최소한의 장치이다. 인간은 클릭이 만들어내는 정보의 조합이 아니며, 기계가 만드는 낮선 정체성에 맞추어 규정되어서도 안 된다. 유럽일반정보보호법상의 인간의 개입권은 단지 ‘개입’에 불과한 권리가 아니며, 일상적으로 이루어지는 개인에 대한 기계의 추론과 결정에 대해 ‘아니’ 말할 인간 고유의 자율성의 선언이다. 차후 이러한 인간의 개입권은 우리 법체계에서도 진지하게 논의될 것이라고 예상된다. 다만 정보의 처리와 관련한 권리구제 및 보호를 다루는 기존의 개인정보자기결정권의 법리는 정보 자체를 보호대상으로 하여 개인의 권리 침해를 막는 법적 구조를 가지고 있어 자동의사결정의 영향으로부터의 정보 주체를 보호하는 목적을 가지는 인간의 개입권을 설명하기가 쉽지 않다. 이 논문에서는 이러한 점을 살펴보고 개인정보자기결정권의 법리확장과 개인정보 개념의 확장의 필요성을 논한다.

In an algorithmic automatic decision system, a machine evaluates a human. Personal information and user information can be gathered to identify individual tendencies and to be advertised. Automated decision making is expected to produce efficient and consistent results, but it can intrude the privacy of the individual, destroy the autonomy of the individual, and violate the freedom of expression and the general right of action. Automated decision making and profiling are not free from discrimination and prejudice at all, and if abused, they have the potential to actively threaten democracy. And as human beings become data resources for profiling, human dignity is undermined. The European Union enacted the General Data Protection Act to create human intervention rights to automatic decision-making. The right to human intervention has its own meaning, although its scope of application is limited and inefficient. The right to human intervention is the right to oppose the structure in which human beings are targeted and instrumented, and is the minimum device by which human beings do not lose control. Humans are not a combination of information that clicks generate. Human rights to intervene under the General European Data Protection Act are therefore not just for the right to intervene. It gives the right and the opportunity to say no to the inference and decision of the machine to the individual. However, since the law of personal information self-determination has a legal structure that protects the information itself. Therefore It is not easy to explain the right to human intervention. Therefore, it is necessary to consider the expansion of the jurisdiction and the expansion of the concept of personal information.