경찰에서 AI 사용 원칙에 대한 고찰(2·완):AI 윤리 원칙

A Study on AI Use Principles in Police(2): AI Ethics Principles

경찰은 다양한 범죄의 예방, 탐지, 추적 및 수사를 위해 AI를 점점 더 활용하고 있다. 주요 AI 시스템에는 이미지 및 음성 분석, 얼굴 인식, 위험 평가 및 예측 분석, 업무의 자동화와 효율화, 인력 배치의 최적화 등이 포함된다. AI는 치안 영역을 포함한 복잡한 문제를 해결하는 데 혁신적인 잠재력을 가지고 있다. 그러나 치안 활동에 AI를 도입하는 것은 이점과 책임을 동시에 가져온다. 경찰 활동에서 AI의 부작용에 대한 시민의 우려를 줄이기 위해서는 경찰이 AI를 효과적이고 책임감 있게 사용하는 동시에 공공의 신뢰를 유지하고 인권을 보호하는 데 필요한 지침을 마련해야 한다. 또한 AI가 경찰 업무를 더 효율적으로 지원하고 대체할 수 있도록 만들 뿐만 아니라 시민의 기대와 정의와 공정성의 가치에 부합하도록 보장해야 한다. AI의 급속한 발전은 AI의 위험에 대한 논의를 촉진하여 그 결과 시민의 안전을 보장하고, 안전 조치가 없는 상황에서 사용을 중단하며, 더 엄격한 윤리적 사용이 요구되고 있다. 사회 안전을 유지하기 위한 치안 환경의 민감성을 고려할 때, 경찰 활동에 있어서 AI를 적용할 때 편견과 차별, 책임성 부족, 인간과 AI의 상호작용 문제 그리고 AI 기술의 오용 가능성에 대한 우려가 나타난다. 이러한 우려를 잠재우고 현재와 미래의 치안 목표를 달성하기 위해 경찰에서 AI를 윤리적으로 사용하기 위한 책임의 원칙, 공정성과 포용성 원칙, 투명성과 설명 가능성의 원칙, 프라이버시 보호와 데이터 보호의 원칙, 기술의 견고성과 안전성의 원칙 등 AI 윤리 원칙이 필요하다. 본고는 치안을 강화하기 위한 AI의 혁신적인 사용을 위해 경찰과 시민 간의 협력적인 노력이 정의, 인간의 존엄성, 공정성, 안전성, 공공의 신뢰를 유지하는 방식이 될 수 있도록 AI 윤리 원칙을 제언하고자 한다.

Police are increasingly using AI for the prevention, detection, tracking, and investigation of various crimes. Major AI systems include image and voice analysis, facial recognition, risk assessment and predictive analysis, automation and efficiency of tasks, and optimization of staffing. AI has innovative potential in solving complex problems, including the policing area. However, introducing AI into policing activities brings both benefits and responsibilities. To reduce citizens' concerns about the adverse effects of AI in police activities, police should use AI effectively and responsibly, while also preparing guidelines necessary to maintain public trust and protect human rights. It should also ensure that AI meets citizens' expectations and values of justice and fairness, as well as make it more efficient to support and replace police work. The rapid development of AI promotes discussion of the risks of AI, resulting in the guarantee of citizens' safety, stopping its use in the absence of safety measures, and requiring stricter ethical use. Considering the sensitivity of the policing environment to maintain social safety, concerns arise about prejudice and discrimination, lack of accountability, issues of human-AI interaction, and the potential misuse of AI technology when applying AI in police activities. AI ethical principles such as the principle of responsibility, fairness and inclusion, transparency and explainability, privacy and data protection, and technological robustness and safety are needed to quell these concerns and achieve current and future policing goals. This paper proposes AI ethical principles so that cooperative efforts between police and citizens can be a way to maintain justice, human dignity, fairness, safety, and public trust for the innovative use of AI to strengthen security.