DeepSeek のセキュリティ侵害により AI の脆弱性が露呈し、サイバー攻撃が発生
中国の最新の生成AIであるDeepSeekは、発売以来、サイバーセキュリティの厳しい監視の対象となっている。セキュリティ研究者は最近、システムプロンプトのジェイルブレイクを暴露し、モデルの内部構造を明らかにした。一方、DeepSeekは一連のDDoS攻撃にも直面し、新規ユーザー登録を制限せざるを得なくなった。これらの事件は、AIモデルのセキュリティリスクと、AIサービスを狙ったサイバー攻撃の高度化の両方を浮き彫りにしている。
目次
DeepSeek のシステムが脱獄を促す: 研究者が発見したこと
DeepSeek のデビューから間もなく、API セキュリティ企業 Wallarm の研究者が、AI モデルの完全なシステム プロンプトを公開する脱獄の脆弱性を発見しました。この種のセキュリティ欠陥は、AI のシステム プロンプトがその動作、応答制限、コンテンツ モデレーション ポリシーを規定するため、特に懸念されます。ChatGPT の OpenAI を含むほとんどの AI 開発者は、このような漏洩を防ぐために厳格な対策を講じています。
Wallarm は 2 月 1 日のブログ投稿で、同社の脱獄方法はバイアスベースの AI 応答ロジックを利用していると述べたが、責任ある開示方針により具体的な技術的詳細は明らかにしなかった。DeepSeek はこの問題の通知を受け、その後修正プログラムを導入した。しかし、Wallarm はシステムプロンプトのテキスト全体を公開し、セキュリティ専門家が DeepSeek の運用フレームワークを分析できるようにした。
この暴露は次のような議論を引き起こした:
- AI のプライバシー対策と、DeepSeek がユーザーデータをいかに効果的に保護するか。
- DeepSeek のトレーニングには潜在的なバイアスがある。特に、トレーニングにOpenAI のデータを使用した可能性があるという主張を考慮すると。
- 特に AI コンテンツが厳しく管理されている中国では、AI モデルの動作に影響を及ぼす可能性のある規制上の制約。
OpenAI の潜在的な影響を調査するため、Wallarm 氏は DeepSeek のシステム プロンプトを ChatGPT のものと比べました。ChatGPT の分析によると、DeepSeek の応答はより厳格なコンプライアンス対策に沿っているのに対し、OpenAI のアプローチはより柔軟でユーザー中心です。
DeepSeek への DDoS 攻撃: 組織的なサイバー攻撃
DeepSeek の人気が高まるにつれ、同社は大規模な分散型サービス拒否 (DDoS) 攻撃の標的となった。同社は、攻撃の量が膨大だったため、新規ユーザー登録をブロックする必要があると発表した。
攻撃を監視しているサイバーセキュリティ会社 NSFocus によると、DeepSeek は 1 月 25 日、26 日、27 日に API インターフェースを狙った 3 回の大規模な DDoS 攻撃に直面しました。各攻撃は約 35 分間続き、DeepSeek のプラットフォームに深刻な影響を及ぼしました。1 月 28 日になっても、中断が続いていたため、API インターフェースは依然として利用できませんでした。
DeepSeek チャット システムも攻撃を受け、1 月 20 日と 25 日にそれぞれ約 1 時間続いた DDoS 攻撃が確認されました。
DDoS攻撃の手法
NSFocus は、次のような複数のリフレクションベースの攻撃手法を特定しました。
- NTP リフレクション攻撃– ネットワーク タイム プロトコル (NTP) サーバーを悪用して攻撃トラフィックを増幅します。
- Memcached リフレクション攻撃– 誤って構成された Memcached サーバーを使用して、DeepSeek に大量のトラフィックを送り込みます。
- SSDP リフレクション攻撃– Simple Service Discovery Protocol (SSDP) サービスをターゲットにして、ネットワーク リソースを圧迫します。
- CLDAP リフレクション攻撃– コネクションレス型 Lightweight Directory Access Protocol (CLDAP) サーバーを活用して攻撃量を増加させます。
高度に組織化された攻撃
1 月 28 日までに、DeepSeek は、攻撃者が同社の緩和策に応じて手法を変えていると報告しました。これらの攻撃の精度と連携から、NSFocus は、犯人はランダムなハッカーではなく、プロフェッショナルで組織化されたチームであると結論付けました。
「攻撃者は、標的の選択から攻撃のタイミング、攻撃の強さのコントロールまで、攻撃のあらゆるステップで極めて高いプロ意識を示している」とNSFocusは述べている。
サイバーセキュリティ企業の分析によると、主な攻撃元には米国、英国、オーストラリアのシステムが含まれていた。
AIセキュリティにとってこれが意味すること
DeepSeek 事件は、生成 AI におけるサイバーセキュリティ リスクの増大を浮き彫りにしています。脱獄の脆弱性から標的型サイバー攻撃まで、AI サービスは現在、セキュリティ研究者と悪意のある行為者の両方にとって主要なターゲットとなっています。
重要なポイント:
- AI の脱獄は依然としてセキュリティ上の課題です。DeepSeek のような新しい AI モデルでも、リバースエンジニアリングによって内部ロジックが公開される可能性があります。
- AI プラットフォームに対する DDoS 攻撃が増加しています。AI サービスの人気が高まるにつれて、より高度に組織化されたサイバー攻撃が引き起こされるようになります。
- AI セキュリティは急速に進化する必要があります。開発者は、即時の漏洩を防ぎ、サイバー脅威から防御するための強力な安全対策を実装する必要があります。
AI がデジタル環境を形成し続ける中、サイバーセキュリティ チームは常に一歩先を行き、新たな脅威に対して AI モデルの安全性と回復力を確保する必要があります。