한 사례에서는 Microsoft가 Midnight Blizzard로 식별한 국가 후원 러시아 해커 그룹이 정찰을 위해 Claude를 사용하여 우크라이나 정부 네트워크 및 기타 유럽 네트워크를 포함하는 대상을 침해하고 데이터를 훔치고 액세스를 유지했습니다. ShinyHunters 사이버 범죄 그룹은 해킹 및 강탈 캠페인의 거의 모든 단계에서 Claude를 사용했습니다. 케냐에서 방글라데시에 이르기까지 정치적으로 초점을 맞춘 허위 정보 캠페인이 이 도구를 사용했습니다. 그리고 아마도 가장 충격적인 것은 소수의 사례에서 Anthropic이 병원체 및 질병 독소와 같은 잠재적인 생물학적 무기를 개발하려는 도구를 사용하는 것으로 보이는 것을 발견했다는 것입니다.
Anthropic은 보고서에서 이러한 위협에 대처하는 데 성공했다고 선전하지만(암묵적으로 자사 도구의 강력함을 겸손하게 자랑함) 사례 연구의 효과는 안심하기보다는 혼란스럽습니다. 결국, Anthropic이 AI의 모든 악의적인 사용을 탐지했다는 보장은 없습니다. 경쟁업체와 덜 보호된 오픈 소스 AI 도구를 고려하면 이 보고서는 AI 범퍼의 승리 랩이라기보다는 다가올 AI 지원 대혼란에 대한 미리보기처럼 보입니다.
Xinbi의 4년 평생 보증은 인터넷에서 가장 큰 불법 시장이 되었습니다. 매출은 300억 달러 이상으로 추산되었으며, 그 중 대부분은 주로 동남아시아를 기반으로 하는 암호화폐 사기 작전인 ‘돼지 도살’을 위한 자금세탁의 형태를 취했지만 성매매와 고용 괴롭힘도 포함되었습니다. 그들은 모두 메시징 서비스인 Telegram을 통해 번창했습니다. Telegram은 Xinbi를 1년 전에 폐쇄한 후 재구축하여 결국 그 어느 때보다 커졌습니다. 이번 주에 미국 정부는 마침내 Telegram이 하지 못한 일을 하기 위해 개입했습니다. Telegram 플랫폼에서 Xinbi 채널을 압수하고 시장을 제재하는 것입니다. 법무부는 동시에 마다가스카르의 13개 사기 단지에 대한 급습을 발표했습니다. 이는 서방 법 집행 기관이 강제 노동 사기 확산을 심각하게 받아들이기 시작했다는 신호일 뿐만 아니라 이러한 사기 행위가 얼마나 널리 퍼졌는지를 보여주는 증거이기도 합니다.
Conti 랜섬웨어 조직은 2022년 공식적으로 해체될 때까지 세계에서 가장 위험한 해킹 팀 중 하나였습니다. 미국 법 집행 기관에 따르면 이 사건은 천 명 이상의 희생자를 냈고 수백만 명을 갈취했으며 한때 코스타리카 정부 시스템을 완전히 혼란시켜 비상 사태를 촉발했습니다. 이제 그 그룹의 한 구성원이 정의의 심판을 받게 되었습니다. 우크라이나의 Oleksii Oleksiyovych Lytvynenko(44세)는 이번 주에 4년의 징역형을 선고받았습니다. 이는 랜섬웨어 공격자가 미국 교도소 내부를 엿보는 드문 사례입니다.
퓨처리즘(Futurism)에 따르면 페이스북은 AI로 생성된 어린이 폭력을 묘사한 동영상을 업로드하는 대규모 계정 네트워크를 운영하고 있으며, 자료를 분류하는 데 며칠이 걸렸고 셀 수 없을 만큼 많은 것을 계속해서 찾았습니다. 영상에는 어린 아이들이 구타당하고, 화형을 당하고, 투옥되고, 굶어 죽는 모습이 담겨 있습니다. 많은 사람들이 영상이 실제라고 믿는 것처럼 보이는 사용자로부터 수천 개의 반응을 끌어냅니다. Futurism은 하나를 개설한 다음 유사한 비디오의 꾸준한 스트림을 제공하는 Facebook의 추천 피드를 팔로우하여 대부분의 계정을 찾았다고 말했습니다. 이는 Meta의 자체 시스템이 회사가 금지한다고 말하는 콘텐츠 카테고리를 이미 식별할 수 있다는 신호입니다.
Futurism은 표준 사용자 채널을 통해 8개의 계정을 보고했습니다. Meta는 두 개를 제거했는데, 그 중 하나는 먼저 보고서를 기각한 후였습니다. 몇 가지 결정에는 일주일 이상이 걸렸습니다. 회사는 홍보실에 보낸 대부분의 비디오를 삭제했지만 처음에는 냉동실에 갇힌 어린이를 보여주는 비디오를 포함하여 다른 비디오는 남겨 두었습니다.
아동 성적 학대 자료에 대한 일반적인 금지 외에도 Meta의 서면 정책은 예술, 만화, 영화 및 게임을 제외하고 실제이든 합성이든 성적이 아닌 아동 학대에 대한 묘사를 금지합니다. AI가 생성한 비디오가 이러한 예외에 해당하는지 여부는 밝히지 않습니다. 성명서에서 메타는 기자들에게 일부 신고된 링크가 규칙을 위반하지 않았으며 달리 쓰지 말라고 요청했습니다.
