マイクロソフト、Azure AI を悪意ある目的で悪用するハッカーに対して法的措置を講じる

マイクロソフトのサイバー犯罪に対する継続的な戦いは、Azure の生成 AI サービスを悪用したとして告発されたハッキング グループを標的とした最新の訴訟により、新たな高みに達した。このテクノロジー大手は、海外を拠点とする脅威アクターが、Azure AI の安全プロトコルを回避し、有害なコンテンツやマルウェアの作成を可能にするハッキング アズ ア サービス プラットフォームを作成したことを明らかにした。

この事例は、サイバー犯罪者が AI プラットフォームを悪意のある目的で利用することで生じるリスクが増大していることを浮き彫りにしており、世界中の組織にとって重大なサイバーセキュリティの課題となっています。

ハッカーがマイクロソフトの Azure AI を悪用した方法

マイクロソフトのデジタル犯罪ユニット（DCU）は2024年7月にこの活動を発見した。このグループは、公開されている情報源から収集した盗まれた顧客の認証情報を使用して、Azureシステムに侵入し、OpenAIのDALL-EなどのAIモデルを改ざんした。

主な詳細は次のとおりです:

• 資格情報の盗難: 盗まれた Azure API キーと Entra ID 認証データが、Azure OpenAI サービスにアクセスするために使用されました。
• 有害コンテンツの作成: このグループは、不快な画像を生成し、AI コンテンツ フィルターを回避するツールを作成することで、アクセスを収益化していました。
• Hacking-as-a-Service : このグループは、 aitism[.]netなどのWebサイトを通じてツールへのアクセスを販売し、使用方法を他のサイバー犯罪者と共有していました。

これらの行為により、何千もの有害な画像が違法に生成され、さらなる AI の不正使用が促進され、その間、加害者は自らのデジタルフットプリントを消去しようと試みました。

マルウェアとのつながり

生成 AI サービスの悪用は、マルウェア開発に広範な影響を及ぼします。脅威アクターは次のような行為を行う可能性があります。

• 信頼できるプラットフォームを模倣するように設計されたフィッシング詐欺や偽の Web サイトを生成します。

この攻撃は、ハッキンググループが盗んだ認証情報と高度な AI 機能を組み合わせて大規模なサイバー攻撃を実行するなど、戦術を進化させていることを浮き彫りにしています。

リバースプロキシの悪用とLLMジャッキング

この事件の注目すべき点の 1 つは、de3u ツールなどのリバース プロキシの使用です。これらのプロキシは、正当な API 呼び出しを模倣して、ユーザー デバイスからの通信を Cloudflare トンネル経由で Azure OpenAI サービスにリダイレクトしました。

この手法は、盗まれたクラウド認証情報を使用して Anthropic、AWS Bedrock、Google Vertex AI などの大規模言語モデル (LLM) サービスにアクセスする LLMjacking 攻撃で特定された戦術を反映しています。このようなスキームにより、脅威アクターはクラウドベースの AI ツールをハイジャックし、多くの場合、アクセスを他の犯罪者に販売して収益を得ることができます。

マイクロソフトの対抗措置と広範な影響

この操作に対して、Microsoft は次の対応をとっています。

• アクセスの取り消し: グループの盗まれた資格情報を無効にし、サービス インフラストラクチャを閉鎖しました。
• 押収されたドメイン: aitism[.]net を閉鎖するよう裁判所命令を取得しました。
• 強化された防御: 将来同様の不正行為を防ぐために追加の安全策を実施しました。

しかし、マイクロソフトは、このグループが他の AI サービス プロバイダーを標的にしている証拠も発見しており、サイバー セキュリティ分野における AI の悪用の傾向がより大きくなっていることを示唆しています。

AIツール：諸刃の剣

ChatGPT や DALL-E などの生成 AI ツールは大きなメリットをもたらしますが、サイバー犯罪者による悪用により、セキュリティ プロトコルの強化が緊急に必要であることが浮き彫りになっています。

1. API セキュリティ: 組織は、不正アクセスを防ぐために API キーを強力に保護する必要があります。
2. 脅威の監視: AI サービスの使用状況を継続的に監視することで、異常な動作を検出してブロックできます。

Microsoft の訴訟は、AI とサイバー犯罪の危険な交差点を明らかにしています。脅威アクターが AI サービスを悪用して有害なコンテンツを生成したりマルウェアを開発したりすることが増えているため、組織は AI インフラストラクチャの保護を優先する必要があります。

この事件は、AIがテクノロジーの未来を象徴する一方で、その脆弱性が武器化される可能性があり、デジタル脅威との戦いには強力なサイバーセキュリティ対策が絶対に必要であるということを厳しく思い出させるものである。