생성형 AI 생성물 워터마크 표시 의무화와 윤리가이드

728x90

최근 오픈 AI의 ChatGPT의 놀라운 발전과 성능으로 수많은 사람들이 생성형 AI를 일상적으로 사용하게 되면서 부작용 또한 만만치 않게 발생하고 있습니다. 이에 방송통신위원회에서는 생성형 AI의 생성물을 콘텐츠 소비자들이 확인할 수 있도록 하기 위한 "생성형 AI 생성물 워터마크 표시 의무화"를 추진한다고 합니다.

생성형 AI가 우리의 삶을 더욱 아름답고 편리하게 만들어 나가는데 중요한 역할을 할 수 있도록 생성형 AI를 이용하는 모든 개인과 조직의 노력이 필요합니다. 생성형 AI가 올바로 사용될 수 있도록 윤리 가이드도 꼭 살펴보시기 바랍니다.

생성형 AI란?

생성형 AI(Denerative AI)란 대규모 데이터와 패턴을 학습하고 기존의 데이터를 활용하여 이용자의 요구에 따라 텍스트, 이미지, 비디오, 음악, 코딩 등 새로운 결과를 만들어 내는 인공지능 기술을 뜻합니다. 누구나 쉽게 활용할 수 있도록 설계되었으며, 다양한 분야와 영역에서 활용을 가능하다는 장점이 있습니다.

생성형 AI 활용 사례

GhatGPT, 뤼튼 등 텍스트 기반의 생성형 AI를 비롯하여 최근에는 이미지, 영상, 음성, 글쓰기, 프로그래밍 등 다양한 분야에서 생성형 AI 서비스가 출현하고 있습니다.

구분	생성형 AI 서비스
텍스트	ChatGPT, 뤼튼, Bing, Cue, Bard, AskUp 등
이미지	DALL•E 2, Midjourney, Stable Diffusion 등
영상	D-ID, VCAT, Runway Invideo 등
음성	클로바더빙, AI보이스 스튜디오, Typecast, VoxBox 등
글쓰기	Notion AI, Magic Write, 판다 AI 등
프로그래밍	Github Copiot, Tabnine 등

생성형 AI로 인한 변화

생성형 AI는 개인의 삶과 업무 방식 변화를 주었을 뿐만 아니라 산업 전반에 영향을 미치고 있습니다. 특히, 인공지능 활용이 일상화되면서 개인들의 생산성과 효율성이 증대되었고, 산업 현장에서는 많은 분야에서 디지털화를 촉진하고 있습니다.

구분	생성형 AI가 가져 온 변화
개인	▶ 연령, 직업에 관계없이 생성형 AI를 활용하게 되면서 인공지능 활용이 일상화 ▶ 개인이 필요로 하는 학업, 일하는 방식 등 생산성과 효율성 향상
산업	▶ 생성형 AI를 도입하려는 시장의 활발한 움직임 증가

생성형 AI의 역기능

최근 생성형 AI 사용이 보편화 및 일상화되면서 저작권 침해, 개인정보 유출, 허위 조작 유포 등 사회 전반의 혼란이 초대되고 있어 생성형 AI으 역기능을 줄이기 위한 노력이 요구되고 있습니다.

저작권 침해
개인정보 유출
허위조작 정보
사회적 편견이 내포된 편향된 정보
과도한 의존에 의한 사고력 및 역량 저하
딥페이크 (첨단조직기술) 오남용

생성형 AI의 윤리적 활용

사회 발전에 도움이 될 수 있도록 생성형 AI의 올바른 사용이 어느 때보다 필요한 시점입니다. 생성형 AI를 기반으로 서비스를 제공하는 기업들의 노력뿐만 아니라 정보, 기업 및 학교, 개인 이용자들까지 모두 함께 노력해야 합니다.

대상	윤리적 활용 가이드
서비스 제공 기업	▶ 냉철한 생성형 AI 이면 진단 및 개발 ▶ 윤리적이고 책임감을 가지고 생성형 AI 기술 설계
정부	▶ 이용자 보호를 위한 제도 보완 노력 (법률 / 행정)
기업 및 학교	▶ 구성원들에게 생성형 AI의 위험에 대한 교육 및 활용 가이드라인 등 제공
개인 이용자	▶ 이용지 스스로의 판단과 검토를 통해 생성형 AI를 안전하고 책임감 있게 활용 ▶ 정보 습득시 출처, 생산자 등을 파악하고 올바른 사고력을 통해 판단

생성형 AI 활용 체크리스트

생성형 AI를 현명하고 올바르게 활용하는지 스스로 체크해 보는 시간을 가져 보시기 바랍니다. 생성형 AI가 제시하는 답변은 데이터를 학습한 결과를 바탕으로 한 노리적 예측에 불과하다는 점은 명심하시길 바랍니다.

구분	체크해야 할 사항
저작권	생성형 AI의 결과물을 활용할 때 생성형 AI를 활용해서 얻는 결과물이라고 출처를 표기했나요?
권리 침해	생성형 AI를 활용할 때 타인의 권리가 침해될 수 있는 텍스트, 오디오, 이미지를 사용하지 않았나요?
명예 훼손	생성형 AI에 질문이나 정보를 입력할 때 특정인의 명예를 훼손하거나 차별하는 내용이 포함되어 있지는 않나요?
혐오 표현	생성형 AI가 제시한 정보에 개인, 기관 등 특정 대상을 비난하거나, 가치관이나 주장을 일방적으로 혐오하는 내용이 포함되어 있지 않나요?
정보 유출	생성형 AI로 정보를 얻거나 콘텐츠를 제작하기 위해서 개인정보, 기업비밀 등 민감한 정보를 제공하지는 않나요?
허위조작정보	생성형 AI로 가짜뉴스, 스팸 등을 만들기 위해 사실이 아닌 부정확한 정보나 조작된 내용을 일부러 입력하지는 않았나요?
정보 편향	생성형 AI가 결과로 제시한 정보에 한쪽으로 치우친 편향적인 내용이 없는지 확인하였나요?
환각 현상	생성형 AI가 제공한 정보가 모두 정답은 아니라는 생각을 하며 잘못된 정보가 있는지 사실 확인을 위해 교차검증을 했나요?
오남용	생성형 AI가 주는 편리함에만 의존하지 않고 먼저 충분히 생각하고 고민한 후에 생성형 AI는 보조적인 수단으로 활용하였나요?
창의성	생성형 AI가 제시한 결과를 그대로 사용하지 않고, 재해석하거나 자신의 생각과 아이디어를 덧붙여 생산적으로 활용하였나요?