AI의 정치적 활동의 한계

Limitations of AI’s Political Activities

이 글은 미래 시대에 등장할 강한 인공지능이 인간을 대신해 정치 지도자 및 정책 입안자 역할을 할 수 있을지에 대해 간략히 검토한다. 인간의 정보 수집·처리 능력보다 월등히 뛰어난 인공지능의 능력과 불편부당한 인공지능의 특징이 정치를 보다 좋은 방향으로 이끌 것이란 기대가 없지 않다. 그러나 효용성을 중시하고 선호하는 결과만을 도출하는 인공지능에게 소외되고 궁핍한 자들에게도 펼칠 정치를 기대할 수 있을까? 나와 타자의 비대칭적 관계 속 무한 책임을 인공지능이 이해할 수 있을까? 다시 말해, 나 자신의 희생을 무릅쓰고 다른 사람의 생명을 살리라고 인공지능이 권할 수 있을까? 소외되고 궁핍한 자들을 위한 정치는 윤리가 흘러 들어가는 곳이어야 한다. 축적된 결과를 통한 AI의 의사 결정은 ‘최대 다수의 최대 행복’을 지향할 것이고, 여기엔 소외된 자들의 눈물을 닦아줄 손길은 결코 없다. 부당하고 불리한 대우를 받는 소수자들을 위한 재설정은 용인되기 어렵다. 인공지능에게 인간의 인간성은 결여되어 있다. 이것은 합리적이기보다 감성적인 영역으로 인공지능이 정치를 펼치는 데 가장 중요하고 주목해야 할 측면임에도 불구하고 가장 취약한 부분이 될 것이다.

This article briefly examines whether strong artificial intelligence, which will appear in the future era, can serve as a political leader and policymaker on behalf of humans. There is an expectation that the ability of artificial intelligence, which is far superior to human information collection and processing ability, and the characteristics of artificial intelligence, which is impartial, will lead politics in a better direction. However, can we expect politics for those who are alienated and needy by AI that values utility and produces only preferred results? Can AI understand the infinite responsibility in the asymmetrical relationship between the I and the other? In other words, can AI recommend that I save other people's lives at my own expense? Politics for the marginalized and needy should be a place where ethics flow. AI's decision-making through accumulated results will aim for the “the greatest happiness of the greatest number”, and there is never a hand to wipe the tears of the underprivileged. Resetting for unjust and disadvantaged minorities is hard to be accepted. AI lacks human humanity. This is an emotional area rather than rational, and will be the most vulnerable part of AI, even though it is the most important and noteworthy aspect of politics.