AI 기본법 시행 5개월, 합성콘텐츠·딥페이크 표시 의무 가이드

인공지능 기본법이 2026년 1월 22일 본격 시행된 지 5개월 시점. 모든 AI 생성물에 표시 의무가 부과되고, 딥페이크는 명확한 가시 표시가 의무화됐다. 일반 사용자·창작자가 알아야 할 가이드를 정리한다.

AI 기본법의 큰 그림

AI 기본법(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법)은 2024년 12월 국회 본회의를 통과해 2026년 1월 22일 시행됐다. 핵심은 AI 산업 진흥의 토대를 만들면서 동시에 신뢰 기반(투명성·안전성·인권)을 확보하는 것이다. 고영향 AI·생성형 AI에 차등 의무가 부과되고, 합성콘텐츠 표시제가 일반 사용자에게도 직접 영향을 준다.

핵심 의무 1: AI 생성물 표시

AI로 생성된 모든 콘텐츠는 사람이 식별할 수 있는 표시를 게재해야 한다. 표시 방법은 두 가지가 가능하다. 첫째, 사람이 인식할 수 있는 가시 표시(텍스트·로고·자막 등). 둘째, 워터마크 등 기계가 판독할 수 있는 표시. 일반 생성물은 둘 중 하나로 충족된다.

핵심 의무 2: 딥페이크의 가시 표시

실제와 구분이 어려운 딥페이크 결과물은 이용자가 시각·청각으로 명확하게 인식할 수 있는 방법으로만 표시해야 한다. 비가시적 워터마크만으로는 충분하지 않다. 영상·이미지·음성 합성물에 모두 적용된다. 표시 의무 위반은 시정명령 또는 3천만 원 이하 과태료가 부과될 수 있다.

계도 기간의 의미

계도 기간(최소 1년 이상)이 부여됐지만 이는 과태료 부과 유예일 뿐 법적 의무 자체는 2026년 1월 22일부터 발생한다. 계도 기간 중에도 시정명령은 가능하다. 사업자·창작자는 계도 기간을 의무 준수 체계를 갖추는 시간으로 활용하는 것이 권장된다.

고영향 AI와 생성형 AI의 구분

고영향 AI는 사람의 생명·신체·재산·기본권에 중대한 영향을 미칠 수 있는 AI 시스템이다. 의료·금융·채용·사법 등 특정 영역에 적용된다. 생성형 AI는 텍스트·이미지·음성·영상 등을 생성하는 AI다. 두 영역은 의무 수준과 적용 대상이 다르다.

일반 사용자가 알아야 할 5가지

첫째, 본인이 SNS·블로그·유튜브에 게시하는 AI 생성 콘텐츠에도 표시 의무가 적용된다. 둘째, 본인이 만든 AI 합성물이 타인의 명예·인격권을 침해하면 별도 형사·민사 책임을 진다. 셋째, AI 생성 콘텐츠를 확인하는 도구·습관이 일상 정보 분별의 토대가 된다. 넷째, 본인 이미지·음성이 무단 합성된 경우 신고·법적 대응이 가능하다. 다섯째, 가족·자녀의 AI 콘텐츠 사용 교육이 필요하다.

창작자·사업자가 알아야 할 6가지

첫째, AI를 활용한 콘텐츠 제작 시 표시 의무 준수. 둘째, 워터마크·메타데이터·자막 등 표시 방법의 적정성 점검. 셋째, 외주·협력사가 사용한 AI 도구의 표시 의무 점검. 넷째, 사내 AI 활용 가이드라인 정비. 다섯째, 고객·이용자에게 AI 활용 사실 명확히 안내. 여섯째, 신고·문제 발생 시 대응 절차 사전 마련.

딥페이크 식별의 4가지 단서

첫째, 영상에서 얼굴·머리카락·귀·치아의 부자연스러운 경계. 둘째, 음성과 입 모양의 불일치, 음성의 톤·억양의 비일관성. 셋째, 배경·조명·그림자의 부자연스러움. 넷째, 콘텐츠의 출처·맥락의 의심스러움(공식 채널 외 유포 등). 단, 딥페이크 기술은 빠르게 발전해 단서가 점점 줄어든다. 의심 시 출처 직접 확인이 가장 안전한 방법이다.

보이스피싱·스미싱과의 결합

AI 음성 합성 기술이 보이스피싱에 결합되면서 가족·지인 사칭 사기가 빠르게 증가하고 있다. 다음 4가지가 권장된다. 첫째, 가족·친지를 사칭한 자금 송금 요청은 직접 통화로 재확인. 둘째, 본인 음성·영상이 무단 수집되지 않도록 SNS 공개 범위 점검. 셋째, 의심 메시지·통화는 즉시 차단·신고. 넷째, 가족 간 약속어(verbal code) 사전 합의.

본인 이미지·음성 무단 합성 시 대응

본인 또는 가족이 무단 합성물의 대상이 됐다면 다음 4단계가 권장된다. 첫째, 증거 보존(스크린샷·URL·날짜). 둘째, 해당 플랫폼에 즉시 신고·삭제 요청. 셋째, 개인정보 침해 신고센터·방송통신심의위원회·경찰청 사이버수사대에 신고. 넷째, 손해배상·형사 고소 필요 시 변호사 상담.

가족·자녀와 함께 점검할 4가지

첫째, 자녀가 사용하는 AI 도구의 표시 의무 인지. 둘째, 자녀의 본인 이미지·음성 공유 범위. 셋째, 사이버 폭력·괴롭힘에서 딥페이크가 사용되는 경우 대응. 넷째, 가족 디지털 위생과 AI 콘텐츠 분별 능력의 함께 학습.

핵심 요약

• AI 기본법 2026.1.22 시행, 모든 AI 생성물 표시 의무
• 딥페이크는 가시 표시 필수, 비가시적 워터마크만으로 불충분
• 과태료 3천만 원 이하·시정명령, 계도 기간은 과태료 유예일 뿐
• 일반 사용자도 본인 AI 콘텐츠 표시 의무, 무단 합성 피해 시 신고·법적 대응
• AI 보이스피싱·딥페이크 식별 단서 4가지·가족 약속어 활용

⚠️ 면책 고지: 본 포스팅은 공개된 법령 자료를 바탕으로 한 정보 제공 목적의 글이며, 개별 사안의 법적 판단을 대체하지 않는다. AI 콘텐츠·법적 분쟁은 자격을 갖춘 변호사·관련 기관과 상담할 것을 권장한다.