우리는 컴퓨터, 인터넷, 스마트폰을 통해 디지털 혁명을 경험했고, 이후 자율주행, 인공지능, 로봇 등 4차산업 혁명 기술의 발전으로 인해 개인의 삶뿐 아니라 사회 전반의 혁신적 변화를 경험하고 있다. 인공지능은 사고나 학습 등 인간이 가진 지적 능력을 컴퓨터를 통해 구현하는 기술로 인간처럼 스스로 학습, 추리, 적응, 논증을 할수 있는 지능을 말한다. 인공지능은 다양한 분야에서 인간을 대신해 위험하고, 힘들고 어려운 일을 할 수 있으며, 단순 반복적인 업무를 빠른 시간 내에 효율적으로 처리할 수도 있다. 이렇듯 인공지능은 우리의 삶을 매우 편리하게 만들고 인간을 위해로부터 보호하는 등 인공지능의 발전으로 인간 삶이 좀 더 편하게 변화될 수는 있겠지만 이런 긍정적 변화에 반해 사고의 확증편향, 인간소외, 기본권 침해, 차별 문제 등사회적 문제가 발생시킬 위험도 있어, 인간을 위한 신뢰할 만한 인공지능(AI) 발전을 위한 인공지능 윤리 가이드라인의 필요성이 제기되었다. 세계 각 국은 다양한 인공지능 윤리 가이드를 마련하였고 특히, 유럽연합은 인공지능법(안)을 제시하기도하였다. EU 인공지능법(안)은 인공지능시스템의 안전성을 보장하고 기본적 권리와 유럽연합의 가치 존중, 인공지능시스템에 적용될 수 있는 기본권 및 안전기준 관련 법령의 효율적 집행 강화 등을 목표로 인공지능 개발 및 활용에 대한 신뢰, 기본권및 사용자 안전을 보장하기 위한 위험 기반 규제방식(risk-based regulatory approach)의 규정을 제시하였다. 인공지능은 현재 다양한 영역에서 개발 및 활용되고 있으며 형사사법 분야에서도 인공지능의 이용이 점차 증가하고 있는데, 범죄예방예측, 재범예측, 형사사법 절차, 보호관찰 등 다양한 분야에 인공지능의 이용 영역이 점차 확대되고 있어 형사정책적 측면에 상당히 긍정적 효과를 가져올 것으로기대된다. 하지만 형사사법에서의 인공지능 활용에 따른 긍정적 효과에 대한 기대와더불어 인공지능 편향성과 차별, 인공지능 투명성 이슈, 프라이버시권 침해, 기술의안정성 문제 등 다양한 윤리적 이슈가 문제 되고 있다. 이에 이 논문에서는 형사사법 분야에서의 신뢰할만한 인공지능의 개발과 활용에있어 인공지능에 대한 기본 윤리 가이드와 법제도 정비의 필요성을 강조하고, 국내외 인공지능 윤리가이드와 법제 동향, 형사사법에서 이용되는 인공지능의 윤리 이슈를 분석하여 우리 형사사법에서 인공지능 활용을 위한 법정책적 시사점을 도출하였다.
After the digital revolution, there is a big change in all parts of life due to the 4th industrial revolution such as autonomous driving, artificial intelligence, and robots. Artificial intelligence (AI) refers to the simulation of human intelligence in machines that are programmed to think like humans. Artificial intelligence can do dangerous, difficult, and difficult tasks on behalf of humans in various fields. Artificial intelligence can make our lives very convenient, protect humans from danger. but against these positive changes, social problems such as confirmation bias, discrimination, data security and fundamental right issue can arise. For this reason, the necessity of artificial intelligence ethics guidelines for trustworthy artificial intelligence (AI) for humans was raised, and various artificial intelligence ethics guides were prepared with the efforts of experts around the world, and the European Union later proposed artificial intelligence regulation. The EU Artificial Intelligence Act proposed a risk-based regulatory approach to ensure the safety of artificial intelligence systems, respecting fundamental rights and European Union values, and strengthening the efficient enforcement of laws and regulations related to safety standards. Artificial intelligence is currently being developed and used in various areas, and the use of artificial intelligence is gradually increasing in the field of criminal justice, and it is expected to have a positive effect on criminal policy such as crime prevention, criminal justice, assess the likelihood of a recidivist and probation. However, in the use of artificial intelligence in criminal justice, various ethical issues such as artificial intelligence bias and discrimination, artificial intelligence transparency issues, privacy rights infringement, and technology stability are being problematic. This paper emphasized the necessity of artificial intelligence ethics guideline and legal system for artificial intelligence in the field of criminal justice, analyzed domestic and foreign artificial intelligence ethics guidelines and legal trends, and derived legal implications for the use of artificial intelligence in Korean criminal justice.
Ⅰ. 서
Ⅱ. 인공지능 윤리가이드와 법제 동향
Ⅲ. 형사사법에서의 인공지능 윤리 이슈
Ⅳ. 시사점