인공지능, AI의 발전이 이어지면서 뜻밖의 피해가 계속되고 있다. 브브걸 유정, 권은비 등이 딥페이크 및 초상을 이용한 합성 음란물 사진에 고통을 호소한 가운데, 덱스는 딥페이크 기술을 이용한 불법 도박 게임 광고에 초상이 사용돼 주의에 나섰다.
지난 23일 덱스의 소속사 킥더허들 스튜디오 측은 공식 채널을 통해 “최근 소속 아티스트 덱스를 사칭해 딥페이크, 인공지능(AI) 등의 기술이 접목된 불법 도박 게임 광고가 온라인 커뮤니티 및 유튜브, SNS 등을 통해 무분별하게 유포되고 있다”고 주의를 당부했다.
소속사 측은 “덱스는 불법 도박 어플 광고를 진행한 바 없으며, 해당 광고는 덱스가 출연했던 영상들을 기반으로 만들어진 가짜 영상”이라며 “이러한 불법 가짜 영상을 발견 즉시 신고해 주시길 바라며, 불법 광고로 인한 피해가 발생하지 않도록 각별한 주의 부탁드린다”고 밝혔다. 이와 함께 소속사도 지속적인 모니터링을 통해 강력 대응할 것이라고 밝혔다.
딥페이크(deepfake)는 딥러닝(deep learning)과 페이크(fake)의 합성어로, 보통 인공지능을 기반으로 활용한 인간 이미지 합성 기술을 의미한다. 기존에 있던 인물의 얼굴을 CG처리해 합성한 영상편집물이다. 이러한 기술은 기존 인물의 사진 몇 장으로도 원하는 표정, 움직임을 담은 모습을 그대로 구현할 수 있다. 연예인 등 방송 활동을 하는 경우 이러한 다각도의 사진을 구하기 쉽기 때문에 피해를 당하기 쉽다.
앞서 지난 2월 tvN STORY ‘어쩌다 어른’에 출연한 브브걸 출신 유정은 딥페이크를 이용한 피해를 입었다고 고백했다. 당시 유정은 “제 사진을 딥페이크에 이용한다는 사실을 지인 제보로 알게 됐다. 기분이 나빴다. 여성이나 남성 누구나 충분히 피해를 볼 수 있는 상황이라고 생각한다. 법적인 처벌이 가능한지 궁금하다"라며 이야기를 털어놨다.
그는 “범죄에 악용되는 딥페이크, 진위 여부를 확인할 수 있는 방법도 있는지 궁금하다”고 물으면서 딥페이크 기술 악용에 불쾌함을 드러내기도.
지난달 5일 권은비의 소속사 울림엔터테인먼트도 성희롱과 인신공격 등 명예훼손과 관련된 피해를 고백하며 법적 대응을 알렸다. 소속사 측은 “권은비에 대한 성희롱, 인신공격성 게시물, 허위사실 유포, 사생활 침해 등 심각한 명예훼손 행위로 인해 아티스트의 정신적 피해를 공지한 바 있다”면서 이후 고소장을 제출했다고 전했다.
특히 울림 측은 “무분별한 악성 게시글을 작성하고 아티스트의 초상을 합성해 허구의 음란성 사진을 유포하는 행위를 한 자들의 범죄 행위에 대해 다수 게시물을 취합해 1차 고소장을 제출한 상태”라고 설명하며 단순히 성희롱을 넘어 허구의 음란물 사진까지 만들어 명예를 훼손하는 행위를 이어가고 있다고 덧붙였다.
보통 여성 스타의 딥페이크 피해는 음란물 피해로 이어지고 있다. 지난 5월 방송통신심의우너회는 딥페이크 기술로 유명 연예인의 얼굴을 음란물 영상과 합성한 ‘성적허위영상물’ 유포 사례 중 4691건에 대해 시정 요구를 의결한 바 있다.
이와 관련해 방심위 측은 “해외 음란사이트 등에서 K팝 아이돌 등 연예인의 '성적 허위영상물' 유포가 증가함에 따라 올 1~4월 중점 모니터링을 실시했다. 전년 동기보다 3745건 증가한 4691건에 대해 시정요구를 의결했고, 이는 약 400% 폭증한 것”이라며 “유명 연예인뿐 아니라 청소년, 일반인을 대상으로 한 성적 허위영상물도 확인되는 등 딥페이크 기술을 악용한 영상물 유포 증가가 심각하게 우려되는 상황”이라고 전하며 신고를 당부했다.
한편, 이러한 딥페이크 피해는 국내 뿐만 아니라 해외에도 이어지고 있다. 지난 1월에는 세계적인 인기를 끌고 있는 팝가수 테일러 스위프트의 초상을 이용한 딥페이크 음란물이 확산돼 논란이 됐다.
/cykim@osen.co.kr
[사진] OSEN DB, 방송 캡처
