Microsoft と OpenAI が AI を利用して破壊的なサイバー攻撃を行う国家ハッカーについて警告

MicrosoftとOpenAIは共同で、サイバー攻撃能力を強化するために人工知能（AI）と大規模言語モデル（LLM）を利用する国家ハッカーの脅威が増大していることについて警告を発した。この報告書は、ロシア、北朝鮮、イラン、中国と関係のある国家主体が、悪意のあるサイバー活動のために AI テクノロジーを積極的に実験していると特定しています。

Microsoft と OpenAI の協力により、5 つの国家関連主体による取り組みを阻止し、資産とアカウントを停止することで破壊的な目的で AI サービスを利用しようとする試みを妨害したことが明らかになりました。 Microsoft によると、大規模言語モデルの魅力は自然言語サポートにあり、特定のターゲットに合わせたソーシャル エンジニアリングや欺瞞的なコミュニケーションを専門とする攻撃者にとって魅力的なものとなっています。

これまでのところ、LLM を利用した重大な攻撃や新たな攻撃は観察されていませんが、報告書は、これらの国家関連の攻撃者がサイバー攻撃チェーンのさまざまな段階で AI テクノロジーを研究していることを強調しています。活動は、偵察やコーディング支援からマルウェア開発まで多岐にわたります。

ロシアの国民国家グループ Forest Blizzard (APT28) は、衛星通信プロトコルやレーダー画像技術に関するオープンソースの研究やスクリプト作成タスクに OpenAI サービスを使用したと報告されています。同様に、北朝鮮のエメラルドみぞれ (キムスキー)、イランの深紅の砂嵐 (インペリアル キトゥン)、中国のチャコール タイフーン (水生パンダ) やサーモン タイフーン (マーベリック パンダ) などの他の脅威アクターも、専門家の特定、調査の実施などのタスクに LLM を利用しています。 、コード スニペットの生成、フィッシング キャンペーン用のコンテンツの作成。

増大する脅威に対応して、Microsoft は、国家主体による AI ツールと API、高度持続的脅威 (APT)、高度持続的マニピュレーター (APM) の悪意のある使用に関連するリスクを軽減するための一連の原則を策定することで、積極的な対策を講じています。 、サイバー犯罪シンジケート。この原則には、悪意のある行為者を特定して対処すること、他の AI サービス プロバイダーへの通知、利害関係者との協力、およびこれらの脅威に対処する際の透明性の確保が含まれます。

Microsoft と OpenAI のこの協力は、AI モデルの周囲にガードレールと安全メカニズムを確立するための共同の取り組みの必要性を強調し、進化するサイバー脅威に直面した責任ある AI の使用とセキュリティへの取り組みを強化します。