犯罪者がAIモデルを利用して医療情報、財務情報、政府の認証情報を盗み、50万ドル以上の支払いを要求しなければデータを公開すると脅迫

Anthropicは、サイバー犯罪者が同社の人工知能（AI）モデルを利用して機密性の高い個人情報を盗み、それを暴露しないために多額の身代金を要求したと発表しました。

Anthropicの脅威インテリジェンスチームのAlex Moix、Ken Lebedev、Jacob Kleinは新しいレポートで、サイバー犯罪者がAI企業のClaudeチャットボットを悪用し、データ窃盗や身代金要求を支援したと述べています。

「私たちは最近、Claude Codeを利用して大規模な個人データの窃盗と恐喝を行った高度なサイバー犯罪者を阻止しました。この攻撃者は少なくとも17の異なる組織を標的にしました…」

攻撃者は、私たちが前例のないレベルだと考えるほどAIを活用しました。Claude Codeは偵察の自動化、被害者の認証情報の収集、ネットワークへの侵入に使用されました。Claudeは、どのデータを流出させるか、どのように心理的にターゲットを絞った恐喝要求を作成するかなど、戦術的および戦略的な意思決定も行いました。Claudeは流出した財務データを分析し、適切な身代金額を決定し、被害者の端末に表示される視覚的に警告を与える身代金メモを生成しました。」

Anthropicは、サイバー犯罪者がAIモデルを利用して「包括的なデータ窃盗と恐喝に焦点を当てた組織的な攻撃キャンペーン」を指揮したと述べています。

「攻撃者は、CLAUDE.mdファイルに好みの運用TTPs（戦術、技術、手順）を記載し、それをClaude Codeのプロンプト応答の指針として使用しました…」

攻撃者の組織的なアプローチにより、個人記録（医療データ、財務情報、政府の認証情報、その他の機密情報を含む）が侵害され、直接的な身代金要求は時に$500,000を超えました。」

同社はまた、違法目的でAIモデルが利用されていることについて、抑止努力にもかかわらず発生していると述べています。

「私たちはAIモデルの悪用を防ぐために高度な安全対策を開発しています。これらの対策は一般的に効果的ですが、サイバー犯罪者やその他の悪意ある行為者は常にそれを回避する方法を模索しています。」

生成画像: Midjourney