한국 아이돌로 장사한 해외 딥페이크 역사 그리고 피해는 어느 정도일까 (+구글의 방치)

 

전국에서 동시다발적으로 일어나는 중학생‧고등학생을 대상으로 한 딥페이크 범죄로 인해 케이팝 아이돌, 특히 아이브 장원영 안유진, 트와이스 사나 쯔위, 블랙핑크 제니 지수, 뉴진스 민지 등 걸그룹을 대상으로 한 딥페이크 범죄가 다시 수면 위로 올랐다. 그 범위가 어느 정도이고, 구글은 이를 어디까지 방치하고 있는 것일까.

 

외국인에게 축제였던 ‘잼버리 콘서트’, 국내에서 아이돌을 상주로 내세운 장례식.

 

1. 2017년 딥페이크 음란물의 시작과 한국 아이돌 피해의 시작.

 

2017년 12월 해외에서 갤 가돗, 엠마 왓슨, 스칼렛 요한슨 등 할리우드 유명 여배우 얼굴을 실제 포르노 배우의 몸과 합성한 영상이 공개돼 비난이 일었다. 이 영상은 지금까지도 돌아다니고 있다. 이후 몇 개월 지나지 않은 2018년 초 블랙핑크 제니, 지수 등을 비롯해 소녀시대 윤하 등 한국 걸그룹 멤버들의 음란물 동영상이 온라인에 유포됐다. 해외 딥페이크 음란물 영상이 유포된 지 두 달도 되지 않아서 케이팝(K-POP) 아이돌 멤버들이 ‘음란물 딥페이크’의 희생양이 된 셈이다.

 

당시에는 생성형 AI 등의 용어도 생소했고, 일반인이 딥페이크 기술을 구현한다는 것이 상상하기도 어려운 상황이었다. 이 때문에 논란은 일었지만, 더 많은 딥페이크 음란물이 생성될 것이라 생각하지 않았다. 그런데 그건 착각이었다.

 

2. 2019년 네덜란드 보고서 속 한국 연예인.

 

2019년 네덜란드의 사이버 보안 연구 회사인 딥 트레이스가 발표한 보고서에 따르면, 딥페이크 영상은 2018년 7964개에서 2019년 1만 4678건으로 84%가 상승했는데, 그 중 성인물이 무려 96%를 차지하는데, 영상에 등장하는 특정인물의 성별은 모두 여성이라고 밝혔다. 그리고 영상의 피해자 중 25%가 한국 연예인인 것으로 드러났다.

 

3. 2023년 미국 보고서 속 한국 연예인

 

미국 사이버 보안 업체 홈시큐리티히어로즈가 발표한 ‘2023년 딥페이크 현황’ 보고서에 따르면 온라인에 올라온 딥페이크 동영상 9만 5820개와 딥페이크 웹사이트 100여개를 분석한 결과 98%가 음란물이었다. 일반 동영상은 여성이 주인공인 경우가 77%였지만, 음란물 딥페이크 동영상은 여성 주인공 비율이 99%에 달했다.

 

그리고 딥페이크 음란물 주인공 53%가 한국 배우와 가수였다. 다음으로 미국(20%), 일본(10%), 영국(6%), 중국(3%), 인도(2%), 대만(2%), 이스라엘(1%) 순이다.

 

한국 배우와 가수 중에서도 비율을 굳이 따지지 않아도 걸그룹이 압도적일 것이다. 이미 2018년부터 이들을 대상으로 제작됐고 유포됐으면 생성형 AI로 인해 더더욱 많은 영상물이 돌아다닐 것으로 보이기 때문이다.

 

특히 이전에는 음란물 영상에 한국 연예인들의 얼굴을 합성했다면 최근에는 아이돌, 특히 걸그룹들의 무대에 나체의 모습을 합성하는 모습으로 진화했다.

 

빙(bing) copilot를 이용한 그림 그리기. ‘무대 위 한국여자=걸그룹’(?)

 

 

4. 중국의 웹사이트와 구글( google)의 방치

 

현재 한국 걸그룹 중 ‘누가 피해자다’라고 말하기 어려울 정도로 딥페이크 영상은 확산됐다. 어이없게도 구글에서 이와 관련된 키워드 몇 개만 조합해서 검색해보면 이미지와 동영상이 그대로 나온다. 물론 대부분 유료 결제인데, 썸네일만 보더라도 케이팝 아이돌 그룹들의 피해가 어느 정도일지 가늠이 될 정도다.

 

특히 중국 느낌을 풍기는 웹사이트가 적잖이 보인다. 이들은 아예 카테고리를 케이팝, 트와이스, 아이브, 블랙핑크, 르세라핌 등 글로벌하게 인기를 끌고 있는 걸그룹들이 주요 타깃이다 여기에 최근 법적 대응을 한다는 권은비를 비롯해 다수의 배우도 존재한다.

 

5. 한국 정부의 대응.

 

사실 정부 차원에서 이를 원천적으로 막을 방법은 없다. 특히 글로벌 검색 플랫폼 등이나 텔레그램은 어느 선까지 개입하고, 어떻게 대응해야 할 지도 막막할 것이다. 현재 경찰 조사와 별개로 방송통신심위위원회가 기존 시정요청 협력 대상에 공식 등재된 구글·유튜브·페이스북·인스타·엑스·틱톡·텀블러·핀터레스트·윅스·왓패드·미디엄과 간담회를 개최할 예정이라고 한다.

 

문제는 현재의 방심위가 이러한 실제 문제 해결보다는 윤석열 정부의 방송 장악, 김건희의 방탄을 위해 만들어졌다는 것이다. 이들이 과연 한국 연예인들의 딥페이크 문제를 진지하게 생각할지 의문이다.

 

- 아해소리 -