인공지능 윤리의 주요 쟁점과 필수 고려사항

New arguments in AI Ethics and Related essential considerations

최근 인공지능이 급속도로 발전해나감에 따라 지난 10여 년간 학계와 산업계에선 수많은 윤리적 지침들과 가이드라인이 개발되었지만, 그러한 윤리적 지침들이 현실 세계에 적용되기에 얼마나 타당하고 실제적인지에 대한 많은 논란과 문제제기가 이어져 왔다. 본고는 이 문제를 다루기 위한 핵심 가설인 ‘인공지능이 윤리적 주체가 될 수 있는가?’라는 질문을 바탕으로 다섯 가지 연구문제에 대해 논의하였다: i) 인공지능 윤리의 개발과정의 문제점과 논점은 무엇인가?, ii) 인공지능 윤리지침은 타당성과 적절한 이론적 근거를 가지고 있는가?, iii) 인공지능 윤리지침은 현실적으로 얼마나 실천가능한가?, iv) 인공지능 윤리 교육의 대상과 내용적 구조는 무엇인가? 마지막으로 v) 인공지능 윤리 교육을 위한 실천적 고려사항은 무엇인가? 본고의 논의의 핵심사항은 첫째, 기존의 인공지능 윤리지침은 피상성, 모호성, 편향성을 가지고 있고, 현실 세계의 다양한 사회문화적 배경을 충분히 반영하지 못하고 있다는 것이다. 둘째, 인공지능 윤리의 세 가지 윤리철학적 배경들(덕윤리, 의무론, 공리주의) 중에서 인공지능 개발자, 알고리즘, 사용자의 모든 특성을 반영하기에 용이한 공리주의적 철학이 향후 인공지능 윤리의 방향성이 될 것이고, 그것이 ‘윤리적 인공지능’의 특성에도 부합하다는 것이다. 셋째, 윤리적 지침들 자체(이론적 측면)와 실제 효과성(실천적 측면) 간의 간극을 메우기 위해서는 인공지능을 단순한 도구(명시적 대리자)가 아니라 윤리적 주체(실질적 대리자)로서의 역할을 인정하는 것이 필요하다는 것이다. 인공지능이 점차 고도화, 편재화되어가고 인공지능에의 의존성이 높아지는 미래 사회에서 인공지능의 윤리적 역할과 책임을 이해하는데 핵심이라는 것이다. 본고의 이러한 관점은 인공지능 윤리의 미래 방향성에 대한 학계의 다양한 논의를 촉발할 수 있을 것이다.

Recently numerous ethical principles and guidelines for Artificial intelligence (henceforth, AI) have been developed though there are still many contentions and criticisms on the validity and practicality of AI ethics. To address this issue, this paper proposed five kernel research questions on the ethical issues of AI, based on the author’s seminal hypothesis, ‘can AI be an ethical subject?’. They are as follows: i) What are the problems and discrepancies in the development phases of AI ethics, ii) How much is AI ethics valid and on what theoretical basis does it stand on?, iii) Are the ethical guidelines practical in the real world?, iv) Who is the target of AI ethics development and how is the content structure of AI Ethics like? Finally, v) what are the practical considerations of AI ethics education and development? The major conclusive arguments of this paper are: first, current ethical guidelines are superficial, ambiguous, and biased in many aspects so that they can hardly represent the diverse socio-cultural conditions and backgrounds. Second, utilitarianism, rather than virtue or deontological ethics, would be most suitable philosophical basis since it can balance and reflect the characteristics of the developer, the algorithm, and the user. Third, to close the gap between the theory and practice AI should be an ethical subject, rather than an explicit proxy of ethics. This paper argued that developing ‘ethical AI’ should be the eventual goal of AI ethics in responding the sheer changes of a future society. This paper’s discussion may open the room for arguments in the area of AI studies.