AI 생성물 표시 의무 강화 정책 분석: AI 기본법 표시의무 시행과 딥페이크 워터마크 의무화 현황

인공지능사업자는 생성형 AI 또는 이를 이용한 제품·서비스 제공 시 그 결과물이 생성형 AI에 의해 생성되었다는 사실을 표시해야 함

표시는 사람이 인식할 수 있는 방식 또는 기계가 판독할 수 있는 형식으로 가능

실제와 구분하기 어려운 가상의 음향·이미지·영상 등 딥페이크 결과물은 이용자가 명확하게 인식할 수 있는 방법으로 표시

예술적·창의적 표현물은 전시·향유를 저해하지 않는 방식으로 고지 또는 표시 가능

위반 시 최대 3000만원 이하의 과태료 부과 근거 마련

표시 방법을 사람이 인식할 수 있는 방법과 기계가 판독할 수 있는 방법으로 이원화

기계 판독 방식(워터마크·메타데이터·C2PA 등) 선택 시 생성형 AI에 의해 생성되었다는 사실을 1회 이상 안내 문구·음성 등으로 제공 의무화

딥페이크는 이용자 연령 등을 고려해 명확하게 인식할 수 있는 가시적 표시만 허용

법 시행 초기 1년 이상 과태료를 부과하지 않고 계도만 하는 기간 운영

과기정통부 AI 기본법 통합안내지원센터 운영 및 컨설팅 지원 근거

누구든지 선거일 전 90일부터 선거일까지 선거운동을 위한 딥페이크영상등의 제작·편집·유포·상영·게시 금지

위반 시 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금

90일 기간이 아닌 때 선거운동 목적 딥페이크는 AI 기술로 만든 가상 정보라는 사실을 중앙선관위규칙으로 정한 사항에 따라 표시 의무

중앙선관위 위법행위 신고는 국번 없이 1390으로 접수

성적 허위영상물 등 디지털 성범죄물의 정보통신망 유통 금지

방송통신심의위원회의 삭제·접속차단 등 시정요구 및 시정명령 근거

불법정보 게재자에 대한 서비스 이용 중단·탈퇴 등 제재 추진 근거

AI 생성물 표시 제거·훼손 행위 규율 논의의 법적 기반

사람의 얼굴·신체·음성을 대상으로 한 성적 허위영상물 편집·합성·가공 처벌

반포 등 목적 또는 영리 목적 가중처벌

소지·구입·시청 행위에 대한 처벌 규정 운용

딥페이크 표시 의무 위반과 별개로 성적 딥페이크 자체를 형사처벌