최선을 위해 지난 10년 동안 악의적인 가짜 “포르노” 사이트에서는 유명 인사, 정치인, 공인을 포함한 여성을 성적 상황으로 묘사하는 수천 개의 비동의 동영상을 게시했습니다. 이제, 현재까지 노골적인 딥페이크 사이트에 대한 최대 규모의 게시 중단을 통해 뉴욕 당국은 12개 이상의 유해 사이트를 압수했습니다.
월요일 맨해튼 지방검찰청은 유명인의 딥페이크 동영상을 ‘불법’ 공유, 게시, 판매하는 데 사용된 12개의 도메인을 압수했다고 발표했습니다. 약 1,200명(대부분 여성)이 웹사이트에서 합의되지 않은 성적인 이미지와 비디오로 묘사되었다고 사무실은 밝혔습니다. 여기에는 소셜 미디어 영향력자, 배우, 활동가, 운동선수, 음악가 및 정치인이 포함됩니다.
앨빈 브래그(Alvin Bragg) 지방검사는 성명을 통해 “이러한 끔찍한 사생활 침해는 피해자의 직업과 개인 생활에 영향을 미치고 감정적, 정신적 안녕에 큰 타격을 준다”며 잠재적인 피해자가 사이버범죄수사국에 연락할 것을 촉구했다. 국은 해당 웹사이트의 책임자와 피해자의 유해한 동영상을 업로드한 사람들에 대한 조사가 진행 중이라고 밝혔습니다.
뉴욕의 형사소송법에 따라 이루어진 이번 체포는 아마도 2017년 말 기술이 처음 등장한 이후 노골적인 딥페이크 동영상을 호스팅하는 사이트에 대한 가장 중요하고 주요한 조치 중 하나일 것입니다. AI 기술이 발전함에 따라 웹사이트, 앱, 봇이라는 암흑 산업이 등장했습니다. 이들은 “이를 제거하거나 포함하는 섹스 비디오를 제작”하도록 설계되었습니다. 이미지와 비디오는 점점 현실감이 높아지고 몇 초 만에 생성될 수 있습니다.
딥페이크 기술은 유명인이 아닌 여성과 소녀들에 대해 널리 사용되며 종종 개인 소셜 미디어 그룹에서 공유되지만, 유명인들은 콘텐츠에 묘사되는 것의 많은 해로움과 이를 제거하는 데 따른 어려움에 대해 이야기했습니다. 딥페이크에 대한 법률은 서서히 등장하고 있지만, 미국의 테이크 잇 다운법(Take It Down Act)은 점점 더 이미지 삭제를 허용하고 있으며 법 집행관이 웹사이트를 파괴하고 압수하는 것을 법의 일부로 허용하고 있습니다.
맨해튼 지방검찰청은 압수한 웹사이트의 이름을 공개적으로 밝히지 않았습니다. 그러나 브래그의 발표 이전에 WIRED는 지난주 말에 사이트의 여러 홈 페이지가 게시 중단 알림(“이 도메인이 압수되었습니다”)으로 대체되었으며 현재 해당 사이트는 뉴욕주 대법원이 발부한 압수 영장에 따라 압수당했다고 독립적으로 밝혔습니다.
딥페이크 생성 생태계를 연구해온 ISD(전략 대화 연구소) 연구원 Leonie Oehmig는 “이 작업은 합의되지 않은 합성 친밀 이미지(NCII)와의 싸움에서 중요한 승리입니다.”라고 말합니다. Oehmig는 주 법 집행 기관이 유해한 콘텐츠를 처리할 수 있으며 VPN을 사용하여 다른 위치에서 액세스하려고 시도하면 압수된 사이트에 액세스할 수 없는 것으로 보인다고 말했습니다. “이는 규제 자체가 관할권 전반에 걸쳐 단편화되어 있는 경우에도 의미 있고 조정된 집행이 달성 가능하다는 것을 보여줍니다.”
웹사이트는 아마도 수백만 번 조회되었을 것입니다. 많은 사람들이 “섹스 유명 인사”와 같은 문구를 포함하거나 “진짜 딥페이크”를 약속하는 이름을 사용했습니다. 그들은 세계에서 가장 유명한 유명인의 가짜 비디오를 호스팅했는데, 한 사람은 “다른 여배우의 얼굴이 딥페이크에 사용되었습니다”라고 말했습니다.
비디오는 몇 분 동안 지속될 수 있으며 완전히 성적으로 노골적인 장면을 포함하며 종종 유명인이나 공인의 얼굴을 기존 포르노 비디오로 교체합니다. 웹사이트의 보관된 버전에 따르면 일부 비디오는 수만 번 조회되었으며, 사이트 중 하나는 2018년부터 온라인에 있었다고 주장합니다.
