AI로 만든 영상이라고 표시하면 딥페이크처벌을 피할 수 있을까?

최근 일부 온라인 콘텐츠에는 AI로 제작되었다는 안내 문구가 표시됩니다.

이러한 표시는 이용자가 실제 촬영물과 인공지능 생성물을 구별하는 데 도움이 될 수 있습니다.

그러나 AI 생성 콘텐츠라는 사실을 표시했다고 해서 해당 영상의 제작이나 이용이 모두 적법해지는 것은 아닙니다.

특히 실제 사람의 얼굴이나 신체, 음성을 성적인 형태로 합성한 경우에는 성폭력처벌법상 요건을 별도로 살펴보아야 합니다.

딥페이크처벌 규정에서는 결과물이 AI로 만들어졌다는 표시보다 대상자의 의사에 반한 편집·합성·가공에 해당하는지 등이 중요할 수 있습니다.

또한 콘텐츠를 보는 사람이 가짜 영상임을 알고 있었다는 사실만으로 대상자의 권리 침해 문제가 사라지는 것은 아닙니다.

반대로 AI 기술을 사용했다는 이유만으로 모든 콘텐츠가 형사처벌 대상이 되는 것도 아닙니다.

교육이나 예술, 일반적인 이미지 편집 등 다양한 활용이 가능하므로 법률에서 정한 구성요건에 해당하는지를 확인해야 합니다.

AI 생성 여부를 표시하는 것은 투명성을 높이는 방법일 수 있지만, 그 자체가 타인의 성적 이미지나 인격적 이익을 침해할 권한을 주는 것은 아닙니다.