요약
2026년, 한국에서 AI가 만든 콘텐츠에 "AI 생성물"이라고 표시하는 일이 권고에서 의무로 바뀌었습니다.
두 흐름이 동시에 작동합니다.
- AI 기본법 제31조 — AI로 생성·편집한 콘텐츠임을 이용자가 알 수 있도록 표시하는 의무.
- 딥페이크 광고 라벨링 — AI로 만든 광고에 표시를 강제하고, 허위·조작 정보 유포에 대한 처벌을 강화하는 흐름.
핵심 기준은 콘텐츠의 성격에 따라 갈립니다.
현실과 구별이 어려운 실사적 딥페이크 → 눈에 보이는 라벨. 만화·일러스트처럼 명백히 인공적인 콘텐츠 → 비가시 디지털 워터마크.
이 글은 사업자·광고주·플랫폼이 실무에서 무엇을 점검해야 하는지를 정리합니다.
1. 무엇이 의무가 됐나 — AI 기본법 제31조
AI 기본법(2026년 1월 22일 시행) 제31조는 생성형 AI·고영향 AI를 활용한 서비스 사업자에게 두 가지를 요구합니다.
- 사전 고지: 이용자에게 AI가 사용된다는 사실을 미리 알릴 것.
- 결과물 표시: AI 생성 결과물이 실제와 구별이 어려운 경우, AI로 생성됐음을 표시할 것.
여기서 중요한 건 "구별이 어려운 경우"라는 단서입니다. 모든 AI 결과물에 똑같은 표시를 요구하는 것이 아니라, 혼동 위험의 크기에 따라 표시 방식이 달라집니다.
| 콘텐츠 유형 | 표시 방식 | 이유 |
|---|---|---|
| 실사적 합성(딥페이크 영상·음성·사진) | 가시 라벨 (눈에 보이는 표시) | 현실과 혼동 → 적극적 경고 필요 |
| 명백히 인공적인 콘텐츠(만화·스타일라이즈드 이미지) | 비가시 디지털 워터마크 | 혼동 위험 낮음 → 메타데이터 수준 표시 |
또한 이용자가 이렇게 부착된 AI 표시를 임의로 제거하거나 훼손하는 행위가 금지됩니다.
2. 광고는 더 엄격하다 — 딥페이크 광고 라벨링
광고 영역은 별도로 더 강한 규율을 받습니다. AI로 생성·조작한 광고가 소비자를 속이는 딥페이크 사기로 이어지는 문제에 대응하기 위한 것입니다.
핵심은 두 가지입니다.
- 표시 의무: 광고주는 AI로 생성한 광고임을 표시해야 합니다.
- 처벌 강화: 허위·조작 정보를 고의로 유포해 손해를 입힌 경우, 손해액의 최대 5배까지 배상 책임을 지우는 징벌적 방향이 논의·도입되고 있으며, 과태료 역시 상향됩니다.
광고는 "혼동을 의도적으로 유발할 동기"가 가장 큰 영역이라, 표시 누락의 비용이 일반 콘텐츠보다 훨씬 큽니다.
3. 플랫폼 사업자의 '관리 의무'
표시 의무는 콘텐츠를 만든 사람에게만 있는 것이 아닙니다. 포털·플랫폼 사업자에게는 별도의 관리 의무가 부여됩니다.
- 이용자·콘텐츠 제공자가 표시 의무를 이행할 수 있도록 라벨링 수단을 제공할 것.
- 표시 의무가 있다는 사실을 이용자에게 고지할 것.
- 부착된 AI 라벨이 임의로 제거·훼손되지 않도록 관리할 것.
즉, 사용자가 콘텐츠를 올리는 SaaS·커뮤니티·마켓플레이스를 운영한다면, "우리는 도구만 제공한다"는 입장으로는 충분하지 않습니다. 표시를 가능하게 하고, 안내하고, 라벨을 보호하는 기능이 제품에 들어가 있어야 합니다.
4. 사업자 유형별 점검표
자신이 어디에 해당하는지에 따라 우선순위가 다릅니다.
생성형 AI 기능을 제품에 넣은 SaaS 사업자
- AI 생성 결과물에 자동으로 표시(가시/비가시)를 부착하는가?
- 사전 고지(이 기능이 AI를 사용한다는 안내)가 UI에 있는가?
- 결과물의 "AI 생성" 메타데이터가 다운로드·공유 시에도 보존되는가?
광고를 집행하는 사업자·대행사
- AI로 만든 광고 소재에 표시를 붙이는 절차가 있는가?
- 소재의 생성 출처(누가·언제·어떤 도구로)를 기록·보관하는가?
- 허위·과장 소지가 있는 합성 소재를 사전 검수하는 게이트가 있는가?
사용자 콘텐츠를 받는 플랫폼 사업자
- 업로더가 "AI 생성물"을 표시할 수 있는 입력 수단을 제공하는가?
- 표시 의무를 고지하고 있는가?
- 라벨 제거·훼손을 방지·탐지하는가?
5. 표시를 넘어 '출처 증명'으로 — C2PA와 증빙
표시는 시작입니다. 더 근본적인 흐름은 콘텐츠의 출처를 변조 불가능하게 증명하는 방향으로 가고 있습니다.
국제적으로는 C2PA(Coalition for Content Provenance and Authenticity) 표준이 빠르게 확산하고 있습니다. C2PA는 이미지·영상·음성·문서에 출처 메타데이터를 암호학적으로 결합해, "이 콘텐츠가 어디서·어떻게 만들어졌는가"를 검증 가능하게 만듭니다. 6,000개 이상의 조직이 참여하고 있고, 일부 단말·플랫폼에는 기본 탑재되고 있습니다.
EU AI Act도 2026년 8월부터 AI 생성 콘텐츠의 출처 공개를 요구합니다. 즉, 흐름은 단순한 "라벨 붙이기"에서 **"출처를 증명하기"**로 이동하고 있습니다.
왜 이게 중요할까요? 라벨은 떼어질 수 있지만, 출처 증명은 분쟁 상황에서 책임 소재를 가립니다. 이 콘텐츠는 누가, 언제, 어떤 도구로, 어떤 검토를 거쳐 만들어졌는가 — 이 질문에 답할 수 있는 기록이 있으면, 표시 의무 이행을 사후에도 입증할 수 있습니다.
6. 지금 해야 할 일
- 표시를 자동화하세요. 사람이 매번 라벨을 붙이는 방식은 누락이 생깁니다. 생성 시점에 표시가 자동으로 부착되는 구조가 안전합니다.
- 출처를 기록하세요. 어떤 콘텐츠가 AI로 만들어졌는지, 누가 만들고 검토했는지를 변경 불가능하게 남기세요.
- 광고는 한 단계 더. 합성 소재는 집행 전 검수 게이트를 두고, 그 검수 사실까지 기록하세요.
- 플랫폼이라면 도구를 제공하세요. 업로더가 표시할 수 있는 수단 + 고지 + 라벨 보호.
핵심은, 표시와 증빙이 별도의 수작업이 아니라 콘텐츠 생성·발행 흐름의 일부로 자동 생성되는 것입니다.
크로노젠은 이 문제를 어떻게 다루는가
크로노젠의 핵심은 "AI 결정을 사람이 제어하고 증명하는 인프라"입니다. AI 생성물 표시·출처 증명도 같은 구조 위에서 작동합니다.
- 운영 증빙(DPU): AI가 생성한 결과물에 대해 "어떤 입력으로, 누가 검토하고, 무엇이 발행됐는지"가 하나의 결정 단위로 SHA-256 해시 체인에 기록됩니다. 라벨이 사후에 제거돼도, 출처 증빙은 남습니다.
- 사람의 검토 지점: 외부로 나가는 콘텐츠(광고 소재·공개 발행물 등)에 대해 담당자가 검토·승인하는 화면이 흐름에 들어가 있고, 그 검토의 질(누가·얼마나·무엇을 수정)까지 보존됩니다.
- C2PA 정합: 글로벌 출처 표준과 같은 방향(암호학적 출처 결합)으로 설계되어, 표시 의무를 "증명 가능한 자산"으로 전환합니다.
표시는 화면에서 떼어질 수 있지만, 증빙은 떼어지지 않습니다. 이것이 표시 의무 시대의 진짜 대비입니다.
마무리
AI 생성물 표시는 이제 "하면 좋은 것"이 아니라 "해야 하는 것"입니다. 실사적 딥페이크는 보이는 라벨, 명백한 인공물은 비가시 워터마크, 광고는 더 엄격한 규율 — 그리고 플랫폼에는 관리 의무.
하지만 표시만으로는 부족합니다. 라벨은 떼어질 수 있기 때문입니다. 진짜 안전망은 출처를 변경 불가능하게 증명하는 것입니다.
당신이 발행한 AI 콘텐츠가 "AI로 만들어졌다"는 사실을, 라벨이 사라진 뒤에도 증명할 수 있습니까?
참고 자료
- AI 기본법 제31조(AI 생성물 표시 의무), 2026.01.22 시행 / 표시 관련 조항 2026년 1분기 적용
- 딥페이크 광고 라벨링 규율 및 허위·조작 정보 징벌적 배상(손해액 최대 5배) 도입 논의 (2026)
- 가시 라벨(실사적 딥페이크) vs 비가시 디지털 워터마크(양식화 콘텐츠) 기준
- 포털·플랫폼 사업자의 라벨링 수단 제공·고지·라벨 보호 관리 의무
- C2PA(콘텐츠 출처·진본성 표준), 6,000+ 참여 조직 / EU AI Act AI 생성물 출처 공개 의무(2026.08)
함께 읽기 — AI 기본법 투명성 가이드, AI 생성물 표시 의무 SaaS UI/UX 대응, C2PA와 DPU 글로벌 감사 표준. 크로노젠 블로그 AI 자동화 카테고리에서 확인하실 수 있습니다.