딥페이크: '포르노 비디오에 내 얼굴 찍혔다'

케이트 아이삭스

당신의 얼굴이 당신의 동의 없이 디지털 방식으로 포르노 비디오로 편집되어 인터넷에서 공유되었다고 상상해 보십시오. 한 여성이 자신에게 일어나는 공포를 드러냅니다.

어느 날 저녁 그녀의 트위터 피드를 스크롤하던 중 Kate Isaacs는 알림 중 충격적인 동영상을 발견했습니다.

Kate는 일어난 일에 대해 처음으로 공개석상에서 "이 공포감이 저를 덮쳤습니다."라고 말했습니다. "누군가 내 얼굴을 도용하여 포르노 비디오에 올려 마치 나인 것처럼 만들었습니다."

케이트는 딥페이크를 했다. 누군가 인공 지능을 사용하여 다른 사람의 얼굴을 디지털 방식으로 조작했습니다. 이 경우에는 포르노 배우였습니다.

동의하지 않은 포르노에 반대하는 캠페인을 하는 Kate가 태그된 Twitter의 딥페이크 비디오는 캠페인 기간 동안 제공한 TV 인터뷰 영상을 사용하여 만들어졌습니다. 섹스를 하는 모습을 보여주는 것 같았다.

"내 마음이 가라앉았다. 나는 명확하게 생각할 수 없었다"고 그녀는 말한다. "이 비디오가 모든 곳에 퍼질 것 같은 느낌이 들었던 기억이 납니다. 끔찍했습니다."

Kate는 deepfake에 대한 링크가 포함된 트윗에서 태그되었습니다.

과거에는 유명 인사와 정치인이 딥페이크의 가장 일반적인 대상이었습니다. 비디오는 항상 포르노가 아니었고 일부는 코미디적인 가치를 위해 만들어졌습니다. 그러나 사이버 보안 회사인 Deeptrace에 따르면 수년에 걸쳐 모든 딥페이크의 96%가 합의되지 않은 포르노입니다.

리벤지 포르노와 마찬가지로 딥페이크 포르노는 동의 없이 친밀한 이미지를 촬영, 제작 및/또는 공유하는 것을 포괄하는 포괄적인 용어인 이미지 기반 성적 학대로 알려져 있습니다.

스코틀랜드에서는 동의 없이 친밀한 상황에 있는 다른 사람을 보여주는 이미지나 동영상을 공유하는 것은 이미 범죄입니다. 그러나 영국의 다른 지역에서는 그러한 행동이 피해자에게 고통을 주기 위한 의도였다는 것이 입증될 수 있는 경우에만 범죄에 해당합니다.

오랫동안 기다려온 영국 전역의 온라인 안전 법안에 대한 정부 계획은 끝없이 수정되었으며 반복적으로 보류되었습니다. 새로운 법률은 규제 기관인 Ofcom에게 영국 사용자가 전 세계 어디에 기반을 두고 있든 상관없이 영국 사용자에게 피해를 줄 수 있는 것으로 간주되는 모든 웹사이트에 대해 조치를 취할 수 있는 권한을 부여합니다. 그러나 이달 초 미셸 도넬런 문화부 장관은 그녀와 그녀의 팀이 법안이 제대로 전달될 수 있도록 "정확하게 작업 중"이라고 말했다.

30세의 Kate는 2019년에 #NotYourPorn 캠페인을 설립했습니다. 1년 후, 그녀의 활동은 성인 엔터테인먼트 웹사이트인 Pornhub에 기여하여 인증되지 않은 사용자가 사이트에 업로드한 모든 비디오 (대부분 콘텐츠)를 삭제해야 했습니다.

따라서 Kate는 그녀의 딥페이크 배후에 있는 사람이 그녀의 캠페인에 짜증을 냈다고 생각했습니다. 그녀는 "포르노를 가져갔다".

그러나 그녀는 그 사람이 누구인지, 누가 비디오를 보았는지 전혀 알지 못했습니다. 그리고 그녀는 자신의 얼굴이 포르노 배우의 영상에 겹쳐진 것을 볼 수 있었지만, 그 비디오는 다른 사람들이 속임수를 알아차리지 못할까봐 걱정할 정도로 충분히 설득력이 있었습니다.

"위반이었습니다. 내 신원이 동의하지 않은 방식으로 사용되었습니다."

영상 밑에 사람들은 케이트를 따라 집에 가서 강간하고 공격을 촬영하고 영상을 인터넷에 게시할 것이라는 모욕적인 댓글을 남기기 시작했습니다.

"당신은 당신의 가족에 대해 생각하기 시작합니다."라고 그녀는 눈물을 참으며 말합니다. "그들이 이 콘텐츠를 본다면 어떤 기분이 들까요?"

Kate의 집과 직장 주소가 비디오 아래에 게시되었을 때 위협이 강화되었습니다. 이것은 독싱으로 알려진 관행입니다.

"나는 완전히 편집증 상태가 되었습니다. '누가 내 주소를 알아요? 내가 아는 사람이 이런 짓을 한 건가요?'

"나는 '여기서 정말 문제가 생겼어요. 이것은 인터넷상의 일부 사람들이 입으로 떠드는 것이 아니라 실제로 진짜 위험이 있습니다'라고 생각했습니다."

비슷한 상황에 있는 다른 사람들을 지원한 경험을 통해 Kate는 누군가가 피해자가 되면 어떻게 해야 하는지 정확히 알고 있었지만 그 순간 얼어붙었습니다.

"나는 내 자신의 조언을 따르지 않았습니다."라고 그녀는 말합니다. "캠페인 케이트는 매우 강했고 어떤 취약성을 보여주지도 않았습니다. 그때 저와 케이트가 정말 겁을 먹었습니다."

한 동료가 해당 영상, 악성 댓글, 독설을 트위터에 신고했고 모두 플랫폼에서 삭제됐다. 그러나 일단 딥페이크가 게시되고 온라인에 공유되면 유통에서 완전히 제거하기가 어렵습니다.

Kate는 "나는 그 비디오를 인터넷에서 없애고 싶었지만 내가 할 수 있는 일은 아무것도 없었습니다."라고 말합니다.

딥페이크를 당했다면 어떻게 해야 할까요?

• 증거 수집 - 직관적이지 않게 느껴질 수 있습니다. 모든 것을 지우고 싶지만 비디오를 다운로드하고 화면 캡처 날짜, 타임스탬프, 사용자 이름 및 URL을 다운로드하는 것이 중요합니다. 안전한 폴더에 넣고 암호로 보호하십시오.
• 계정 보고 - 일단 증거를 수집했다면, 그것이 나타난 플랫폼에 무슨 일이 일어났는지 보고하십시오.
• 경찰에 연락하십시오 - 무슨 일이 있었는지 기록하고 수집한 증거를 공유하는 것이 중요합니다. 비긴급 전화번호 101번으로 전화하십시오.
• 지원 및 조언을 받으십시오 - Revenge Porn 헬프라인은 1000-1600 월-금(공휴일 제외) 0345 6000 459 또는 help@revengepornhelpline.org.uk로 운영됩니다.

온라인 포럼에는 딥페이크 시장이 있습니다. 사람들은 자신의 아내, 이웃, 직장 동료, 심지어는 그들의 어머니, 딸, 사촌까지도 동영상으로 만들어 달라는 요청을 게시합니다.

콘텐츠 제작자는 필요한 소스 자료, 가장 적합한 촬영 각도에 대한 조언, 작업에 대한 가격표와 같은 단계별 지침으로 응답합니다.

영국 남동부에 기반을 둔 딥페이크 콘텐츠 제작자 Gorkem은 BBC에 익명으로 말했습니다. 그는 자신의 만족을 위해 유명인 딥페이크를 만들기 시작했습니다. 그는 사람들이 "이전에는 [원문 그대로] 불가능했던 방식으로 환상을 실현"할 수 있다고 말합니다.

나중에 Gorkem은 거의 알지도 못하는 직장 ​​동료를 포함하여 자신이 끌리는 딥페이크 여성에게로 넘어갔습니다.

"한 명은 결혼했고, 다른 한 명은 관계에 있었습니다."라고 그는 말합니다. "이 여성들을 딥페이크한 후 직장에 들어서는 것이 이상하게 느껴졌지만 저는 단지 신경을 통제했을 뿐입니다. 아무 잘못도 없는 것처럼 행동할 수 있습니다. 아무도 의심하지 않을 것입니다."

자신이 "취미"라고 부르는 것으로 돈을 벌 수 있다는 것을 깨달은 Gorkem은 맞춤형 딥페이크에 대한 커미션을 받기 시작했습니다. 여성의 소셜 미디어 프로필에서 영상을 수집하는 것은 그에게 많은 소스 자료를 제공합니다. 그는 최근에 Zoom 통화 녹음을 사용하여 여성을 딥페이크한 적도 있다고 말했습니다.

"많은 양의 비디오에서 카메라를 똑바로 바라보는 것은 저에게 좋은 데이터입니다. 그러면 알고리즘이 그것으로부터 외삽하고 대상 비디오에서 얼굴을 잘 재구성할 수 있습니다."

그는 "일부 여성"이 딥페이크에 의해 심리적으로 피해를 입을 수 있다는 점을 인정하지만, 자신이 그들을 객관화하는 방식의 잠재적 영향에 대해서는 무관심해 보입니다.

"그들은 그냥 '내가 아니라 - 이것은 가짜입니다.'라고 말할 수 있습니다. 그들은 그것을 인식하고 하루를 보내야 합니다.

"도덕적 관점에서 보면 저를 막을 수 있는 것은 없다고 생각합니다."라고 그는 말합니다. "내가 커미션으로 돈을 벌려면 그렇게 할 것입니다. 그것은 생각할 필요가 없습니다."

딥페이크의 표준은 크게 다를 수 있으며 비디오를 만든 사람의 전문 지식과 사용된 기술의 정교함에 따라 달라집니다.

그러나 가장 큰 딥페이크 포르노 웹사이트 뒤에 있는 남자는 조작된 이미지를 보고 있는지 여부를 더 이상 확실히 알기가 쉽지 않다고 인정합니다. 그의 사이트는 한 달에 약 1,300만 명의 방문자를 유치하고 한 번에 약 20,000개의 비디오를 호스팅합니다. 그는 미국에 거주하며 언론과 거의 대화하지 않지만 익명으로 대화하는 데 동의했습니다.

그는 "평범한" 여성을 딥페이크하는 것은 레드 라인이지만 그의 견해로는 유명인, 소셜 미디어 영향력 있는 사람 및 정치인의 음란한 딥페이크 비디오를 호스팅하는 것은 정당하다고 말합니다.

"그들은 부정적인 미디어에 익숙하고 그들의 콘텐츠는 주류에서 볼 수 있습니다. 그들은 일반 시민과 다릅니다."라고 그는 말합니다.

"내가 보기에 그들은 그것을 다른 방식으로 처리할 수 있습니다. 그들은 그냥 무시할 수 있습니다. 동의가 필요하다고 생각하지 않습니다. 그것은 환상이고 현실이 아닙니다."

그는 자신이 하는 일이 잘못되었다고 생각합니까? 그의 일부는 "여성에게 미치는 영향에 대해 부인하고 있다"고 그는 인정합니다. 특히 그는 배우자가 자신이 생계를 위해 무엇을 하는지 모른다고 밝혔습니다.

"아내에게 말하지 않았다. 그것이 그녀에게 어떤 영향을 미칠지 두렵다."

비교적 최근까지만 해도 딥페이크 소프트웨어는 쉽게 구할 수 없었고 평범한 사람도 만들 수 없었을 것입니다. 그러나 이제 12세 이상이라면 누구나 몇 번의 클릭만으로 수십 개의 앱을 합법적으로 다운로드하고 설득력 있는 딥페이크를 만들 수 있습니다.

Kate에게 그것은 걱정스럽고 "정말 무서운" 일입니다.

"다크 웹이 아니라 앱 스토어에 있습니다. 바로 우리 얼굴 앞에 있습니다."

그녀는 또한 희망하는 온라인 안전 법안이 기술을 따라가지 못할까봐 두려워합니다. 3년 전 법안 초안이 처음 작성되었을 때 딥페이크 창작은 단순히 앱을 다운로드하는 것이 아니라 누군가가 훈련을 받아야 하는 전문 기술로 여겨졌습니다.

"우리는 몇 년이 지났고 [법안]의 내용은 구식입니다. 누락된 부분이 너무 많습니다."라고 그녀는 말합니다.

그러나 제작자 Gorkem에게 딥페이킹을 범죄화하면 상황이 바뀔 것입니다.

"온라인에서 추적할 수 있다면 거기서 멈추고 아마도 다른 취미를 찾을 것입니다."라고 그는 말합니다.

"나는 그들이 이기도록 두지 않을 것입니다."라고 Kate가 말합니다.

딥페이크와 독설은 Kate의 건강과 다른 사람들을 신뢰하는 그녀의 능력에 영향을 미쳤습니다. 그녀는 공격 배후에 있는 사람들이 그녀를 위협하고 굴욕감을 줄 뿐만 아니라 그녀를 침묵시키려고 했다고 믿습니다. 한동안 그녀는 여성혐오에 대해 계속 말할 수 있을지 의문을 품고 캠페인에서 물러났습니다.

그러나 지금 그녀는 더욱 분발했습니다. 그녀는 그녀가 떠나는 것을 너무 많이 걱정한다는 것을 깨달았습니다.

"나는 그들이 이기게 두지 않을 것이다."

딥페이크는 여성을 통제하는 데 사용될 수 있으며 얼굴 교환을 가능하게 하는 앱을 만드는 회사를 포함한 기술 회사는 보호 장치를 마련하도록 권장해야 한다고 그녀는 말합니다.

"모든 앱은 성적인 콘텐츠를 감지할 수 있어야 합니다."

"회사가 자신의 앱이 성적 학대 콘텐츠를 만드는 장소로 사용되지 않도록 하는 데 돈, 자원, 시간을 투자하지 않았다면 고의적으로 무책임한 것입니다. 책임이 있습니다."