中国に拠点を置くDeepSeek AI、サイバー攻撃とセキュリティ懸念の高まりを受け新規登録を制限
中国のAIスタートアップDeepSeekは、人工知能の世界で急速に注目を集めているが、人気の高まりとともに課題も増えている。同社は最近、自社のサービスに対する大規模な悪意ある攻撃のため、新規ユーザー登録を制限した。既存ユーザーは引き続きプラットフォームにアクセスできるが、新規登録は一時的に制限されている。
この状況は、AIプラットフォームが直面しているセキュリティ上の脅威の増大を浮き彫りにし、中国のテクノロジー企業を取り巻くAIセキュリティ、プライバシー、地政学的緊張のより広範な影響に対する懸念を引き起こしている。
目次
DeepSeek を狙ったサイバー攻撃
DeepSeek はこれらの攻撃の性質について詳細を明らかにしていないが、サイバーセキュリティの専門家は、分散型サービス拒否 (DDoS) 攻撃、システムプロンプトの抽出、コンテンツ制限の回避や AI の動作の操作を目的とした脱獄の試みが混在している可能性があると考えている。
Rapid7 の主任 AI エンジニアである Stuart Millar 氏によると、攻撃者は DeepSeek の機密性の高い質問に対する応答をテストしたり、システム プロンプトを抽出しようとしたり、AI の動作方法を変更しようとしたりする可能性があるとのことです。システム プロンプトの抽出に成功すると、独自の指示が明らかになり、AI の脆弱性がさらされてさらに悪用される可能性があります。
KnowBe4のサイバーセキュリティ研究者Erich Kron氏は、このような攻撃はさまざまな要因によって引き起こされる可能性があると指摘した。
- 恐喝– 攻撃者は、妨害行為を停止する代わりに身代金の支払いを要求する可能性があります。
- 企業による妨害行為- 競合他社が DeepSeek の評判と市場での地位を弱めようとする可能性があります。
- 投資保護– 競合する AI プロジェクトに投資している組織は、DeepSeek を脅威と見なし、それを弱体化させようとする可能性があります。
AI の世界で急成長を遂げる DeepSeek
2023年に設立されたDeepSeekは、AI競争における主要な競争相手としての地位を急速に確立しました。DeepSeek-V3を含む同社のモデルは、OpenAIのGPTやMetaのLLaMAなどの西洋のAIモデルと競合し、さらには凌駕する能力を持ちながら、わずかなコストでトレーニングできることで注目を集めています。
同社のiOSチャットボットアプリは最近、米国と英国におけるAppleの無料アプリランキングでトップに躍り出、人気ではOpenAIのChatGPTを上回った。
DeepSeek の成功の大きな要因は、その効率性です。同社によると、DeepSeek-V3 モデルは、シリコンバレーの同業他社に比べて GPU の使用時間が大幅に少ないとのことです。米国の制裁により、中国企業への高度な AI チップの販売が制限されているため、この効率性は重要な競争上の優位性となっています。
こうした技術的な進歩にもかかわらず、DeepSeek は検閲ポリシーや、データ保存方法に関連する潜在的な国家安全保障上のリスクにより、依然として物議を醸しています。
セキュリティ上の欠陥とプライバシーに関する懸念
DeepSeek は過去にもセキュリティの脆弱性に直面しており、その中にはセキュリティ研究者の Johann Rehberger 氏が発見したプロンプト インジェクションの脆弱性も含まれている。この欠陥により、攻撃者は AI 生成の応答に埋め込まれたクロスサイト スクリプティング (XSS) ペイロードを使用してユーザー アカウントを乗っ取ることができた可能性がある。
さらに、Kela による最近の脅威インテリジェンス レポートでは、DeepSeek の AI モデルが脱獄攻撃に対して脆弱であり、次のような非倫理的で違法なコンテンツを生成する可能性があることが判明しました。
- ランサムウェアコード生成
- 偽情報の捏造
- 爆発物や毒素を作るためのステップバイステップガイド
- マルウェア開発手順
これらの調査結果は、AI が適切に保護されていない場合に悪用される可能性があるという深刻な倫理的懸念を引き起こします。
さらに、DeepSeek のプライバシー ポリシーでは、デバイス情報、ネットワークの詳細、支払いデータなどのユーザー データが中国にあるサーバーに保存されていることが明らかになっています。これは西側諸国、特に米国で懸念を引き起こしており、米国海軍は最近、セキュリティと倫理上のリスクの可能性を理由に、隊員に DeepSeek の使用を避けるよう勧告しました。
イタリアのデータ保護当局も調査を開始し、DeepSeek がユーザーデータをどのように収集、保存、処理しているかを明らかにするよう要求している。同社は、データソース、処理の法的正当性、AI モデルのトレーニングにデータスクレイピングが含まれるかどうかに関する質問に 20 日以内に回答する必要がある。
地政学的緊張の中での新たなAI競争
DeepSeek の登場は、特に米中間の技術摩擦が激化する中で、世界的な AI 競争に新たな側面を加えるものである。AI コミュニティはこれに注目しており、OpenAI の CEO サム・アルトマン氏は DeepSeek の推論モデルを「素晴らしい」と呼び、正当な競争相手として認めている。
興味深いことに、NVIDIA の Jim Fan 氏は、DeepSeek はオープン リサーチと幅広いアクセシビリティに重点を置くことで「OpenAI の本来の使命を生かし続けている」と指摘しました。これは、OpenAI が最近クローズド ソース モデルへと移行していることを微妙に批判する発言です。
一方、中国は、技術規制に関する自国の立場を擁護し、現地の法律に従う限り、世界的なAI企業の活動を認めていると主張している。しかし、中国のAI企業が政府の規制、検閲政策、国家安全保障指令によってどのような影響を受けるかについては懸念が残っている。
AIセキュリティの転換期
DeepSeek の台頭は、中国が AI 開発で大きな進歩を遂げていることを示していますが、同時に AI 企業が直面するサイバーセキュリティの課題が増大していることも浮き彫りにしています。悪意のあるサイバー攻撃、プライバシーの懸念、地政学的な監視など、DeepSeek の歩みは、AI のイノベーション、セキュリティ、世界政治の複雑な相互作用を浮き彫りにしています。
ユーザーにとって、これらの出来事は、機密データを扱う AI プラットフォーム、特にプライバシー ポリシーが不透明でセキュリティ上の脆弱性があるプラットフォームには注意が必要であることを思い出させるものです。AI が進化し続ける中、ユーザーの信頼と世界的な信用を維持したい企業にとって、堅牢なサイバー セキュリティ対策と透明性のあるデータ処理を確保することは極めて重要です。