앤스로픽, 첩보원·범죄자의 클로드 악용 사례 상세 공개
앤스로픽은 지난해 12월부터 8월까지 자사 챗봇 클로드를 악용한 러시아 첩보원, 중국 해커, 선거 조작 세력의 계정을 차단했다고 밝혔다.
- 러시아 정보기관 미드나이트 블리자드는 12월부터 클로드를 피싱 및 우크라이나 정찰에 활용했다.
- 범죄 조직 샤이니헌터스는 클로드를 이용해 안드로이드 앱 180만 개를 스캔하고 1테라바이트 이상의 데이터를 탈취했다.
- 이스탄불의 BBS 빌리심은 말레이시아 222개 선거구 여론을 조작하기 위해 1,000개 이상의 가짜 계정을 운영했다.
왜 중요한가: AI 도구 판매사가 해당 도구의 오남용 여부를 판단하는 유일한 심판관 역할을 하고 있다.