AI 搭載マルウェアが 10,000 種の亜種を生み出し、検出システムを圧倒する恐れ
サイバーセキュリティ研究者は、大規模言語モデル (LLM) がマルウェア開発を加速させる潜在的な悪用について警鐘を鳴らしている。パロアルトネットワークスの Unit 42 による新しい分析では、LLM はマルウェアをゼロから作成するのには向いていないものの、既存の悪意のあるコードを大規模に書き換えて難読化し、最大 88% のケースで検出を回避する亜種を作成できることが明らかになった。
これにより、脅威アクターが生成 AI を悪用して検出システムを回避し、機械学習モデルを劣化させ、ますます拡大するマルウェアを展開する可能性があるという重大な懸念が生じます。
目次
AIを活用したマルウェア作成の仕組み
Unit 42 によると、犯罪者は LLM に悪意のある JavaScript コードの変換を実行させることができ、検出システムが書き換えられたスクリプトにフラグを立てるのが難しくなります。説得力の低い出力を生成する従来の難読化ツールとは異なり、LLM による書き換えはより自然で検出が困難です。
主な変換手法は次のとおりです。
- 変数名の変更
- 文字列の分割
- ジャンクコードの挿入
- 空白の削除
- 完全なコードの再実装
各反復により、元の悪意のある機能を維持しながら、検出される可能性を大幅に減らす新しいマルウェアの亜種が生成されます。
Unit 42 は、LLM を使用して既存のマルウェア サンプルから 10,000 種類の JavaScript バリアントを作成し、このアプローチを実証しました。これらのバリアントは、PhishingJS や Innocent Until Proven Guilty (IUPG) などの広く使用されているモデルを含むマルウェア分類器をうまく欺きました。多くの場合、VirusTotal プラットフォームでさえ、書き換えられたスクリプトを悪意のあるものとして検出できませんでした。
AI 難読化の危険な側面
より簡単に検出およびフィンガープリントできるパターンを生成する obfuscator.io などの古いツールとは異なり、LLM ベースの書き換えは本質的により洗練されています。正規のコードに近いように見えるため、機械学習 (ML) モデルやウイルス対策ツールによる識別が困難になります。
この方法の影響は計り知れません。
- マルウェア分類ツールは、悪意のあるスクリプトを無害なものとして分類するように騙されます。
- ML モデルは、マルウェアの亜種の絶え間ない進化に対応するのに苦労しており、パフォーマンスが低下しています。
- 敵対者が検出不可能な新しいマルウェアを継続的に生成するため、検出システムが時代遅れになるリスクがあります。
より広範なサイバー犯罪にLLMを悪用
この傾向はマルウェア開発に限ったことではありません。悪意のある攻撃者は、生成 AI を使用してフィッシング キャンペーンを自動化し、特定の被害者に合わせた説得力のあるソーシャル エンジニアリング攻撃を作成する WormGPT などの不正ツールを活用しています。
LLM プロバイダーは、OpenAI が 2024 年 10 月に 20 件の不正な操作をブロックするなど、不正使用を制限するためのガードレールを実装していますが、脅威アクターはこれらの制限を回避する方法を常に見つけています。
希望の光：火に火をもって対抗する
リスクはあるものの、マルウェアを難読化するのに使用される LLM 駆動型の同じ手法は、防御側にも役立ちます。Unit 42 は、これらの AI 手法を使用して、マルウェア検出モデルの堅牢性を向上させるトレーニング データを生成することを提案しています。分類器に難読化されたコードの例をさらに入力することで、研究者は最も高度な亜種を検出する能力を強化できる可能性があります。
新たな AI 脆弱性: TPUXtract 攻撃
LLM を利用したマルウェアの増加は、注目を集めている唯一の AI 関連の脅威ではありません。ノースカロライナ州立大学の研究者は、Google の Edge Tensor Processing Unit (TPU) から AI モデル アーキテクチャを盗むことができる TPUXtract と呼ばれるサイドチャネル攻撃を公開しました。
ニューラル ネットワークの推論中に放出される電磁信号をキャプチャすることで、攻撃者はレイヤーの種類、ノード番号、フィルター サイズ、アクティベーション関数などの詳細を 99.91% の精度で抽出できます。この攻撃にはデバイスへの物理的なアクセスと高価な機器が必要ですが、知的財産に重大なリスクをもたらし、後続のサイバー攻撃を容易にする可能性があります。
サイバーセキュリティにとってこれが意味すること
生成 AI の急速な進化は、サイバーセキュリティにとって諸刃の剣です。イノベーションへの新たな扉を開く一方で、サイバー犯罪者にとって前例のないツールも提供します。
- 組織は積極的に行動し、AI 駆動型の難読化技術に適応できる高度な検出システムに投資する必要があります。
- 政策立案者は、AI の倫理的使用に関する明確なガイドラインを確立するとともに、誤用を防ぐためのより厳格な管理を実施する必要があります。
- セキュリティ研究者は、AI を活用して敵に先んじ、進化する脅威に対抗できる回復力のあるシステムを開発する必要があります。
AIマルウェアの未来
LLM が 10,000 種類のマルウェア バリアントを作成し、88% のケースで検出を回避できることは、サイバー脅威がますます高度化していることを如実に示しています。テクノロジーが進化するにつれ、防御も進化する必要があります。企業、政府、サイバー セキュリティの専門家は、悪意のある攻撃者より一歩先を行き、AI を利用した攻撃からデジタル世界を守るために、革新的な戦略を採用する必要があります。