AI 기본법으로 워터마크 부착 의무화

1. 서론: 왜 AI 워터마크가 필요할까?

최근 인공지능(AI)이 만들어내는 콘텐츠의 수준이 인간을 뛰어넘을 만큼 정교해지면서, 진짜와 가짜의 경계가 무너지고 있다. 특히 딥페이크(Deepfake)는 인물의 얼굴, 음성, 행동까지 조작할 수 있어 사회적 혼란을 초래할 위험이 높다.

이에 따라 정부는 AI 생성물의 진위를 누구나 쉽게 판별할 수 있는 기준을 마련하기 위해 ‘AI 기본법 시행령’을 입법 예고했다. 그 핵심은 바로 “맨눈으로 식별 가능한 워터마크 부착 의무화”다.

---

2. AI 기본법 시행령 제정안의 주요 내용

과학기술정보통신부는 2025년 11월 12일, AI 기본법 시행령 제정안을 공개하며 AI 생성물의 투명성과 신뢰성 확보를 목표로 했다.

이번 제정안의 핵심은 다음과 같다.

• 딥페이크 및 진위가 불분명한 AI 콘텐츠에는 눈으로 식별 가능한 워터마크를 부착해야 함.
• 단, 내부 업무용이거나 이미 AI 활용이 명백한 경우에는 예외.
• 애니메이션, 게임 등 시각적 품질이 중요한 콘텐츠는 기계 판독형 워터마크로 대체 가능.

이는 ‘AI를 어디까지 허용할 것인가’라는 사회적 논의에 실질적인 기준을 제공하는 첫 시도라 할 수 있다.

---

3. 딥페이크와 일반 AI 생성물의 구분

법안은 딥페이크를 “실제와 구분이 어려운 AI 결과물”로 정의했다. 예를 들어 유명인의 얼굴을 합성하거나 가짜 뉴스 영상에 사용하는 AI 콘텐츠가 대표적이다.

반면 일반 AI 생성물은 인간이 명확히 인지할 수 있는 수준에서 제작된 콘텐츠로, 여기에는 AI 일러스트, 문장 자동 생성, 번역 등이 포함된다.

정부는 콘텐츠 품질 저하에 대한 업계의 우려를 반영해, 딥페이크 외의 AI 콘텐츠에는 기계 판독형 워터마크도 허용했다. 즉, 사용자 눈에는 보이지 않지만 시스템을 통해 진위를 확인할 수 있게 된다.

---

4. ‘고영향 AI’의 개념과 기업의 책임 강화

이번 시행령에서 눈에 띄는 또 다른 변화는 ‘고영향 AI(High-Impact AI)’의 개념 도입이다.
고영향 AI는 다음 기준을 종합적으로 고려해 판단한다.

• 사용 영역
• 국민의 기본권에 미치는 영향
• 위험의 중대성 및 발생 빈도

사업자가 정부에 고영향 여부를 확인 요청하면, 30일 이내에 결과를 통보받게 되며, 필요 시 최대 60일까지 연장할 수 있다.

또한, 10의 26제곱 부동소수점 연산 이상인 초고성능 AI 시스템을 사용하는 기업은 위험 관리 절차를 문서화하고, 감독 기관의 요청 시 이를 제출해야 한다.

---

5. 국내외 기업에 미치는 영향

AI 산업을 선도하는 구글, 오픈AI, 메타, 마이크로소프트 등 해외 빅테크 기업들도 이번 시행령의 영향을 받는다.

다음 세 가지 기준 중 하나라도 충족하면, 국내 대리인을 지정해야 한다.

1. 전년도 매출 1조 원 이상
2. AI 서비스 매출 100억 원 이상
3. 국내 일평균 이용자 100만 명 이상

이는 한국 내 AI 서비스 제공 시 책임 소재를 명확히 하기 위함이다.
또한, AI 관련 사고 발생 시 일시적으로 대리인 지정 의무가 부과될 수도 있다.

결국 이 조치는 “AI 서비스의 글로벌 책임 체계”를 강화하려는 한국 정부의 의지를 보여준다.

---

6. 정부의 방향성과 AI 산업의 미래

정부는 이번 시행령이 AI 산업 발전을 저해하는 규제가 아니라, 신뢰 기반의 AI 생태계 조성을 위한 제도적 장치임을 강조한다.

초기에는 1년 이상의 계도기간을 두어 업계가 충분히 적응할 수 있도록 지원할 예정이다.
이는 곧 “규제 중심이 아닌 진흥 중심의 정책 기조”로 평가된다.

배경훈 과학기술정보통신부 장관은 다음과 같이 밝혔다.

“이번 시행령은 AI 3대 강국 도약을 위한 제도적 초석이 될 것이다. 산업 발전과 안전, 신뢰 기반 조성을 함께 달성할 수 있는 균형점을 마련하겠다.”

이처럼 정부는 기술 혁신과 국민 보호 사이에서 균형을 찾으려 하고 있다.

---

7. 투명한 AI 시대를 향한 첫걸음

AI가 만들어내는 콘텐츠가 폭발적으로 늘어나는 지금, 진짜와 가짜를 구별할 수 있는 기준은 더 이상 선택이 아닌 필수가 되었다.
워터마크 의무화는 단순한 규제가 아니라, AI 신뢰 생태계를 구축하기 위한 첫 단추다.

AI는 이미 우리의 일상과 산업 전반에 깊숙이 들어왔다. 하지만 그만큼 위험도 존재한다. 이번 AI 기본법 시행령은 AI가 인간을 속이는 도구가 아닌, 신뢰를 기반으로 한 협력적 기술로 발전하기 위한 첫걸음이라 할 수 있다.

앞으로 AI를 활용하는 기업과 개발자 모두가 윤리적 책임감과 투명성을 갖춘 기술 활용에 나서야 한다.
AI 시대의 진정한 경쟁력은 ‘신뢰’와 ‘투명성’에서 비롯된다는 사실을 잊지 말아야 한다.