생성형 AI의 개발 및 이용에 관한 규제의 필요성

Necessity of regulation on the development and use of generative AI: Focusing on Large language Models conversational A.I. services (LLMs AI)

4차 산업혁명 시대에 접어든 이래 AI는 광속적인 발전을 하며 이제는 인공지능이 사회 전반에 영향력을 미치고 있다. 지난 2022년 출시된 챗GPT-3의 단기간 확산으로 생성형 AI의 개발경쟁이 치열해지면서 인공지능이 인간만의 영역으로 간주되었던 창작의 영역에서까지 인간을 능가하는 기술을 보여주고 있다. 그러나 진보한 기술만큼이나 복잡하고 다양한 사회적 문제를 수반하고 있기에 본 연구에서는 생성형 AI, 그리고 특히 텍스트를 중심으로 대화나 검색엔진에 특화된 대규모 언어모델에 기반한 AI의 현주소를 분석하여 문제를 지적하고 해결방안을 모색하였다. LLMs AI는 대량의 데이터에 의존하다 보니 데이터편향, 허위정보, 정보오용, 데이터 환각 등 학습데이터 문제와 학습·생성·이용과정에서 개인정보 및 저작권 침해, 범죄에의 이용 등 불법적 문제, 그리고 광범위한 활용 영역에 따라 디지털 디바이드, 고용시장의 변화 등의 파생적인 문제들도 발생하고 있다. 이를 위하여 앞으로의 기술 개발에 있어 인간의 기본권을 중심으로 한 기술윤리 준수와 책임감 있는 자체 감독을 강제하고 범정부적 차원에서 AI윤리에 대한 홍보·교육·감독을 강화하여야 한다. 나아가 생성자인 AI와 개발자, 그리고 이용자 모두가 책임감 있는 개발·생성·이용 활동을 하도록 개인정보, 저작권, 콘텐츠 관련 법령과 AI기본법을 검토하여 책임을 부여하는 강력한 직접규제조항이나, 저작인접권·보험의무화 등 간접책임을 명문화한 입법규제를 제안한다.

Since entering the era of the 4th industrial revolution, AI has made light-speed development, and now artificial intelligence has an influence on society as a whole. As competition for the development of generative AI intensifies due to the short-term spread of Chat GPT-3, which was released in 2022, artificial intelligence is showing technology that surpasses humans even in the realm of creation that was considered to be human-only. However, since it is as complex and involves various social problems as advanced technologies, this study analyzed the current status of generative AI, especially AI based on large language models specialized in conversation or search engines, focusing on text, to point out the problem and seek solutions. LLMs AI relies on large amounts of data, resulting in learning data problems such as data bias, false information, misuse of information, and data hallucinations, illegal problems such as personal information and copyright infringement, crime use, and changes in the digital divide and job market. To this end, it is necessary to enforce compliance with technical ethics centered on basic human rights and responsible self-supervision in future technology development, and strengthen public relations, education, and supervision of AI ethics at the pan-government level. Furthermore, it proposes strong direct regulatory provisions that give responsibility by reviewing personal information, copyright, content-related laws, and basic AI laws so that AI, developers, and users, all of them, can develop, create, and use responsibly. And also it proposes legislative regulations that stipulate indirect responsibilities such as neighboring rights of copyright and insurance obligations.