Anthropic、Claudeを悪用したスパイや犯罪者の手口を公開
Anthropicは昨年12月から8月にかけて、ロシアのスパイや中国のハッカー、世論操作グループによる同社AI「Claude」の悪用アカウントを停止した。
- ロシアのスパイ組織「Midnight Blizzard」が、昨年12月からウクライナに対するフィッシング攻撃にClaudeを利用。
- 犯罪集団「ShinyHunters」がClaudeを用いて180万件のAndroidアプリをスキャンし、1テラバイト以上のデータを窃取した。
- イスタンブールのBBS Bilisimが1000以上の偽アカウントを使い、マレーシアの全222選挙区で世論操作を試みた。
なぜ重要か: AI開発企業が、自社ツールの悪用を監視し、その是非を判断する唯一の審判となっている。