AI 생성물 표시 의무 강화 정책 분석: AI 기본법 표시의무 시행과 딥페이크 워터마크 의무화 현황

인공지능사업자는 고영향 인공지능이나 생성형 인공지능을 이용한 제품·서비스를 제공하려는 경우 그 사실을 이용자에게 사전 고지해야 함(제1항)

인공지능사업자는 생성형 인공지능 또는 이를 이용한 제품·서비스를 제공하는 경우 그 결과물이 생성형 인공지능에 의해 생성되었다는 사실을 표시해야 함(제2항)

실제와 구분하기 어려운 가상의 음향·이미지·영상 등 딥페이크 결과물은 이용자가 명확하게 인식할 수 있는 방식으로 고지 또는 표시해야 하며, 예술적·창의적 표현물은 전시·향유를 저해하지 않는 방식으로 고지·표시 가능(제3항)

고지·표시의 구체적 방법과 예외는 시행령에 위임(제4항)

제1항의 사전고지 의무 위반 시 3000만원 이하 과태료가 직접 부과되며(제43조제1항제1호), 제2항·제3항의 표시 의무 위반은 실태조사·시정명령 대상이 되고 그 시정명령을 이행하지 않으면 3000만원 이하 과태료가 부과됨(제40조, 제43조제1항제3호)

법 제31조제2항에 따른 표시는 사람이 인식할 수 있는 방법 또는 기계가 판독할 수 있는 방법으로 할 수 있음

기계가 판독할 수 있는 방법을 선택하는 경우 그 결과물이 생성형 인공지능에 의해 생성되었다는 사실을 1회 이상 안내 문구·음성 등으로 제공해야 함

법 제31조제3항에 따른 딥페이크 고지·표시는 이용자가 명확하게 인식할 수 있는 방식으로 해야 함

누구든지 선거일 전 90일부터 선거일까지 선거운동을 위한 딥페이크영상등의 제작·편집·유포·상영·게시 금지(제1항)

제1항 위반 시 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금(제255조제4항제5호)

제1항의 기간이 아닌 때 선거운동 목적으로 딥페이크영상등을 만드는 경우, 인공지능 기술로 만든 정보라는 사실을 중앙선거관리위원회규칙으로 정하는 바에 따라 표시해야 함(제2항)

정보통신망을 통한 불법정보 유통 금지 및 방송통신심의위원회의 삭제·접속차단 등 시정요구 근거

딥페이크 성적 허위영상물 등 불법 촬영물·편집물에 대한 방송통신심의위원회 심의·시정요구의 법적 근거

사람의 얼굴·신체·음성을 대상으로 한 촬영물 등을 대상자의 의사에 반해 성적 욕망·수치심을 유발하는 형태로 편집·합성·가공한 자는 7년 이하의 징역 또는 5000만원 이하의 벌금(제1항)

영리 목적으로 정보통신망을 이용해 반포한 자는 3년 이상의 유기징역(제3항)

편집물등 또는 복제물을 소지·구입·저장·시청한 자는 3년 이하의 징역 또는 3000만원 이하의 벌금(제4항, 2024년 10월 16일 신설)