콘텐츠로 건너뛰기

콘텐츠 데일리

Home » AI 기본법 개정 논의, 크리에이터의 딥페이크 표시 의무는 어디까지

AI 기본법 개정 논의, 크리에이터의 딥페이크 표시 의무는 어디까지

가상 이미지 설명: 영상 편집 화면과 표시 아이콘을 형상화한 썸네일이며, 실제 사건 사진이 아니다.

채널을 운영하는 영상 크리에이터가 있다고 가정해 보자. 생성 AI로 만든 배경 위에 직접 촬영한 인물 영상을 얹고, 내레이션 일부는 합성 음성으로 바꿔 올린다. 이런 작업의 딥페이크 표시 의무는 그동안 사업자 쪽 문제로 여겨졌다. 과학기술정보통신부가 2026년 1월 22일 AI 기본법 시행 때 낸 투명성 확보 가이드라인이 영상 생성 AI로 영화를 만드는 제작사나 AI 웹툰 창작자를 의무 주체로 보지 않았기 때문이다. 그 전제가 바뀔 수 있다는 보도가 나왔다.

가상 이미지 설명: 영상 편집 화면 앞에서 작업 기록을 정리하는 크리에이터를 그린 장면이며, 실제 사건 사진이 아니다.
AI 생성 설명용 이미지. 실제 인물·현장·작품 장면이 아닙니다.

이용자까지 넓히려는 개정안, 확정은 아니다

서울경제는 10월 11일 과기정통부가 유튜버 등 AI 이용자에게도 딥페이크 표시 의무를 지우는 AI 기본법 개정안을 마련 중이라고 보도했고, 한국데이터경제가 10월 16일 기사에서 이를 인용했다. 현행법은 딥페이크 표시 책임을 AI 사업자에게 두는데, 정부가 사업자만으로는 실효성을 확보하기 어렵다고 보고 대상을 넓히려 한다는 내용이다. 정부 관계자는 이용자의 의무와 범위 등 구체적인 사항은 논의 중이라고 밝혔다. 이 글에서 다루는 내용은 9월 28일부터 10월 20일 사이의 보도이며, 새로 확정된 조문이나 시행일은 없다. 한국데이터경제는 과태료 계도기간이 최소 2027년 1월 22일까지로 잡혀 있다고 전했다.

전자신문은 9월 28일 기사에서 과기정통부 지원 데스크에 9월까지 접수된 온라인 상담 461건 중 투명성 의무 문의가 212건으로 가장 많았다고 전했다. 같은 기사가 소개한 가이드라인에 따르면 사업자는 가시적·비가시적 방법 중 하나를 고를 수 있고, 메타데이터 같은 비가시적 방법을 택하면 문구나 음성으로 AI 생성 사실을 1회 이상 안내해야 한다. 국회에서도 표시 의무를 모델 개발사와 이용 사업자의 역할별로 나누는 개정안이 소관 위원회 심사 중이다.

개정 논의 앞에서 영상 창작자가 점검할 네 단계 작업 흐름을 나타낸 흐름도

딥페이크 표시 방식을 두고 나온 제안

10월 20일 한국인공지능산업협회 조찬포럼에서도 표시 방식이 쟁점이었다. 지디넷코리아에 따르면 박상철 서울대 법학전문대학원 부교수는 가시적 워터마크가 편집으로 쉽게 지워져 실효성이 떨어진다며 비가시 워터마크나 메타데이터를 중심에 두고 플랫폼의 탐지·표시 지원이 함께 맞물려야 한다고 말했다. 유포 주체의 표시 의무를 성범죄나 소비자·투자자 기만 같은 고위험 분야에 집중할지 전반으로 넓힐지는 사회적 합의가 필요하다는 입장이다. 마크애니 김동화 상무는 생성 단계부터 출처 정보를 기록해야 한다며 C2PA와 비가시 워터마크의 결합을 제안했다. C2PA는 생성 주체와 제작·수정 이력을 기록하는 공통 기술 규격으로, 메타데이터가 지워져도 내부 워터마크가 출처 추적을 보완한다는 설명이다.

한국데이터경제는 비교 사례로 EU AI Act 제50조 제4항을 들어, 2026년 8월 2일 적용돼 딥페이크 배포자에게 공개 의무를 둔다고 설명했다.

가상 이미지 설명: 책상 위 노트북과 메모에 영상 제작 단계가 적힌 장면이며, 실제 현장 사진이 아니다.
AI 생성 설명용 이미지. 실제 인물·현장·작품 장면이 아닙니다.

작업 흐름에서 미리 점검해 볼 질문

아래는 보도된 쟁점을 작업 단위로 옮긴 해석일 뿐, 법률 자문이 아니다.

  • 첫째, 어느 장면이 실제와 구분하기 어려운가. 정의가 사람의 인식에 기대는 만큼 합성 음성이나 인물 합성 구간부터 따로 적어 둔다.
  • 둘째, 생성과 단순 편집의 경계다. 편집 기능까지 포함할지 정해지지 않은 만큼, 도구별로 무엇을 생성했고 무엇을 보정만 했는지 남긴다.
  • 셋째, 표시 방식이다. 사업자에겐 비가시적 표시와 별도 안내가 짝지어져 있어, 도구의 표시 기능과 영상 속 안내 문구를 기록해 둔다.

확정된 것은 이용자 확대 방향이 보도됐다는 점뿐이다. 범위와 표시 방식, 제재는 열려 있다.

참고한 자료