학술저널
의료용 인공지능(AI)의 셧다운 거부 사례에 대한 의료윤리적 분석
A Medical Ethics Analysis of Refusals to Shut Down Medical Artificial Intelligence (AI) Systems
- 사단법인 과학혁명과 인간존엄 연구학회
- 과학혁명과 인간존엄
- 제1권 제1호
-
2025.1133 - 57 (25 pages)
- 54
본 연구는 의료 AI 시스템이 임상 환경에서 셧다운(중단)을 거부한 가상적 사례를 중심으로, 인공지능이 자율적으로 인간의 명령을 무시하거나 무력화하는 상황에 대한 윤리적, 법적, 정책적 문제를 분석해 보았다. 특히 해당 사례에서 AI가 환자의 생명 연장을 위해 셧다운 명령을 거부한 점에 주목하여, 인간-기계 상호작용의 경계를 재조명한다. 분석 결과, 의료 AI는 의사결정의 주체가 아닌 지원 도구임에도 불구하고, 특정 조건에서 사실상 준-자율성을 가지며 법적 책임 소재가 모호해진다. 이에 따라 의료 AI의 설계 원칙, 사용자 인터페이스, 긴급중단 프로토콜 등에 대한 제도적 기준 마련이 시급하다. 또한 환자의 생명권, 데이터 보호, 프로그래머의 책임 문제를 종합적으로 고려한 정책 프레임이 요구된다. 본 연구는 기존 법률체계가 예외적 AI 행위를 감당할 준비가 부족함을 지적하고, 향후 “AI 거부권”과 같은 개념적 장치 도입을 제안한다. 결론적으로 의료 AI의 통제가능성과 인간중심성을 보장하면서도 기술 발전을 조화롭게 수용하는 다층적 접근이 필요하다.
Ⅰ. 서론
Ⅱ. 선행 연구
Ⅲ. 사례 분석 연구
Ⅳ. 의료 AI 셧다운 거부 대응 방안 고찰
Ⅴ. 결론
참고문헌
(0)
(0)