뉴욕경찰청의 알고리즘 예측치안 전략의 논쟁점

Controversies about the New York Police Department's algorithmic predictive policing strategy

이 연구의 목적은 뉴욕경찰청이 도입한 알고리즘 예측치안 전략을 둘러싼 논쟁점을 살펴보는 데 있다. 뉴욕경찰청은 매우 적극적으로 알고리즘 예측치안 전략을 추구하고 있지만, 다음과 같은 다양한 비판에 직면해 있다. 첫째, 예측치안을 위한 개인정보 수집활동은 사생활 침해를 금지하고 있는 미국 수정헌법 제4조의 이념을 침해한다. 둘째, 경찰이 알고리즘 예측에 의해 생성된 지시에 의존함으로써 경찰작용이 몰인간화, 로봇화 되어간다. 셋째, 경찰은 집중적으로 위험인물 또는 위험지역에 대해 경찰권을 행사하며, 결국 이들에게 부정적 낙인이 찍히고, 범죄인화 우려가 있다. 넷째, 치안서비스는 시민이나 지역사회의 요구를 반영하여 이루어지지 아니하며, 단지 알고리즘 예측에 의존하여 일방적으로 행사된다. 다섯째, 알고리즘 예측치안의 효율성이 검증되지 않았고, 활용된 빅데이터의 오염화 문제가 제기되고 있다. 여섯째, 경찰이 민간업체에 제공하는 데이터의 불투명성 및 보안유지 여부를 확인할 수 없다. 일곱째, 경찰공권력이 사기업의 영리사업으로 치환되는 불합리성이 있다. 여덟째, 뉴욕경찰청은 기관활용자동의사결정관련지방법이나 감시기술공공감독법을 통하여 알고리즘 예측치안을 감시받고 있지만, 여전히 문제점이 해소되지 않고 있다. 아홉째, 뉴욕경찰청은 알고리즘 예측치안 정보의 비공개 문제로 브레넨센터와 같은 인권감시단체들과 지속적으로 법률적 분쟁을 벌였지만, 대부분 패소함으로써 빅데이터 수집 및 관리의 적법성을 의심받고 있다.

The purpose of this study is to examine the controversies surrounding the algorithmic predictive policing strategy adopted by the New York Police Department. NYPD is very active in pursuing algorithmic predictive policing strategies, but it is facing a variety of criticisms, including: First, personal information collection activities for predictive security violate the ideology of the Fourth Amendment to the U.S. Constitution, which prohibits invasion of privacy. Second, as the police rely on instructions generated by algorithmic predictions, police operations are becoming dehumanized. Third, the police exercise their police authority intensively against dangerous people or dangerous areas, and there is a risk that these people will eventually be negatively stigmatized and become criminals. Fourth, the police unilaterally exercise police power based on algorithmic predictions, rather than a two-way police service that reflects the needs of citizens or the community. Fifth, the efficiency of algorithmic predictive policing has not been verified, and the problem of contamination of used big data is being raised. Sixth, it is impossible to confirm whether the data provided by the police to private companies is opaque and secure. Seventh, there is the irrationality of Police power being replaced by private companies' for-profit businesses. Eighth, the New York Police Department is subject to monitoring of algorithmic predictive policing through the Local Law in Relation to Automated Decision Systems Used by Agencies and Public Oversight of Surveillance Technology(POST) Act, but the problems remain unresolved. Ninth, the New York Police Department continues to engage in legal disputes with human rights watchdog groups such as the Brennen Center over the non-disclosure of algorithmic predictive security information, losing most cases, raising questions about the legality of big data collection and management.