気をつけて！人工知能は詐欺を正当なものに見せかけ、ランサムウェアのようなマルウェアの脅威を拡散させる可能性がある

英国の諜報機関GCHQの一部である国家サイバーセキュリティセンター（NCSC）は、人工知能（AI）によって促進されるサイバー攻撃の脅威の増大について警告を発した。 NCSC の評価によると、単純なプロンプトから説得力のあるテキスト、音声、画像を生成できる生成 AI ツールにより、本物の電子メールと詐欺師や悪意のある行為者によって送信された電子メールとを区別することが困難になっています。

同庁は、AI、特にチャットボットを強化する生成型 AI と大規模言語モデルが、今後 2 年間のサイバー脅威の増加に大きく寄与すると予測しています。主な懸念の 1 つは、フィッシング、スプーフィング、ソーシャル エンジニアリングなど、さまざまな種類の攻撃を識別するのが難しいことです。

AI テクノロジーの高度化により、サイバーセキュリティの理解レベルに関係なく、電子メールやパスワード リセット要求の正当性を個人が評価することが困難になることが予想されます。

AI はランサムウェアの標的の拡大に役立つ可能性がある

過去 1 年間に大英図書館やロイヤル メールなどの機関を標的にしたランサムウェア攻撃も増加すると予想されています。 NCSCは、AIの高度化により、アマチュアサイバー犯罪者がシステムにアクセスし、ターゲットの情報を収集し、コンピュータシステムを麻痺させ、機密データを抽出し、暗号通貨の身代金を要求する攻撃を実行する障壁が低くなっていると警告している。

生成 AI ツールは、フィッシング攻撃で見られる一般的なエラーを回避することで、説得力があるように見える偽の「ルアー ドキュメント」を作成するためにすでに使用されています。ランサムウェア コードの有効性は生成 AI によって強化されない可能性がありますが、ターゲットの特定と選択には役立ちます。 NCSC は、国家主体が高度なサイバー作戦で AI を活用することに最も熟練している可能性が高いと示唆しています。

AIの良いところと悪いところ

増大する脅威に対応して、NCSC は AI が防御ツールとしても機能し、攻撃の検出とより安全なシステムの設計を可能にすることを強調しています。この報告書は、英国政府がランサムウェア攻撃から回復するための準備を強化することを企業に奨励する新しいガイドライン「サイバーガバナンス実践規範」の導入と一致している。しかし、元NCSC長官キアラン・マーティン氏を含む一部のサイバーセキュリティ専門家は、より強力な行動を主張し、ランサムウェアの脅威に対するアプローチの根本的な再評価を示唆している。マーティン氏は、身代金の支払いに関するより厳格な規則の必要性を強調し、敵対国の犯罪者への報復など、非現実的な戦略に対して警告を発している。