인공지능 윤리의 두 가지 가치

The Two Values of Artificial Intelligence Ethics

최근 사회적 문제로 대두된 이루다 사건이 2016년도에 발생한 테이 사건과 구조적으로 유사한 사실이 보여주듯, 인공지능 윤리 분야는 급격한 양적 성장세에도 불구하고 올바른 방향으로 나아가고 있는지 의문이 제기되고 있다. 인공지능 윤리를 왜곡하고 있는 대표적 현상 두 가지가 윤리 세탁과 윤리 비난이다. 윤리 세탁은 인공지능 윤리를 면죄부의 수단으로 악용하는 행태를, 윤리 비난은 현실과 괴리된 추상적 논의라고 일축하는 행태를 가리킨다. 윤리 세탁과 윤리 비난이 일어나는 근본적 이유는 인공지능 윤리의 두 가지 가치인 도구적 가치와 내재적 가치가 균형 있게 추구되지 못하는 데 있다. 도구적 가치란 인공지능 윤리가 그것이 초래하는 사회적 문제를 해결하는 수단으로 기능하여 공익에 기여하는 것을 말한다. 내재적 가치란 결과와는 별개로 인공지능 기술이나 그로부터 초래되는 사회적 파급효과를 둘러싼 옳고 그름의 문제를 논의하는 작업 자체가 가지는 의의를 말한다. 세간의 오해와 달리 인공지능 윤리의 두 가지 가치는 반드시 제로섬의 상충관계에 있지 않고, 상보적 관계에 놓일 수 있다. 그러나 현실에서는 인공지능 윤리의 내재적 가치만을 강조하는 근본주의나 도구적 가치만을 강조하는 배타주의라는 양극단적 태도가 종종 발견된다. 이러한 현상으로부터 유발되는 딜레마를 해소하기 위해서는 궁극적으로 인공지능 윤리의 두 가지 가치가 제로섬의 상충관계에 있지 않고 상생할 수 있다는 사고방식을 받아들여야 한다. 기업의 주도나 참여가 학술적 논의의 지평을 확장할 수 있고, 이론적 논의가 정책적 관점을 통해 보지 못한 사각지대를 보완하는 역할을 해줄 수 있기 때문이다. 가령 경험적 전환을 적극적으로 수용하고 문제해결 수단을 다각화하여 도구적 가치를 강화하거나, 이론체계를 확립하고 기저 역량을 강화하여 내재적 가치를 강화함으로써 선순환의 구조를 확립할 수 있다.

The field of artificial intelligence ethics is showing various problems. Two representative examples are “ethics washing” and “ethics bashing.” The former refers to the behavior of abusing artificial intelligence ethics as a means of indulgence, and the latter refers to the behavior of condemning it as an abstract discussion that is separate from reality. The fundamental reason why ethics washing and ethical bashing arise is that the two values of artificial intelligence ethics, instrumental value and intrinsic value, are not pursued in a balanced way. Instrumental value refers to the contribution of artificial intelligence ethics to the public interest by functioning as a means to solve the social problems it causes. Intrinsic value refers to the significance of the work itself to discuss the issues of right and wrong surrounding artificial intelligence technology or the social ramifications resulting from it, apart from the results. Contrary to popular misconception, the two values of artificial intelligence ethics are not necessarily in a zero-sum trade-off, but can be placed in a complementary relationship. However, in reality, a bipolar attitude of fundamentalism that emphasizes only the intrinsic value or exclusionism that emphasizes only instrumental value is often found. In order to resolve the dilemma arising from this bipolar attitude, we must accept that the two values of artificial intelligence ethics can coexist. This is because corporate initiatives can expand the horizon of academic discussions, and academic discussions can play a role in complementing the blind spots not seen through a policy perspective. For example, empirical turn can be actively accepted and problem solving means can be diversified to reinforce instrumental values, or theoretical systems can be established and underlying capabilities can be reinforced to establish a virtuous cycle.