OpenAI、世界的なサイバー犯罪キャンペーンに対抗し、20の悪質なサイバー活動をブロック
驚くべきことに、OpenAI はデジタル脅威との戦いにおいて強力な勢力として浮上しました。同社は今年初めから、 AI プラットフォームを悪用して有害な活動を試みた 20 件以上の悪意あるキャンペーンを阻止することに成功しており、サイバーセキュリティの未来がすでに到来していることを示しています。
これらの操作は、マルウェアのデバッグや偽情報の作成から、偽のソーシャルメディアのペルソナの作成まで多岐にわたりました。脅威アクターは、OpenAI のプラットフォームを利用して、偽のアカウントの経歴を生成したり、X (旧 Twitter) の偽のソーシャルメディア ID 用に AI 生成のプロフィール写真を作成したりといった悪意のある活動を支援しようとしました。
しかし、こうした努力にもかかわらず、OpenAI は、これらのキャンペーンのいずれもマルウェア作成や偽情報の拡散において画期的な進歩にはつながらなかったと国民に安心させている。言い換えれば、悪意のある人物は AI の実験を行っているものの、まだ大きな進歩には至っていないということだ。
目次
サイバー犯罪者はどのようにAIを悪用したか
悪意のある攻撃者は中国からイランまで世界中からやってきて、さまざまな戦術を採用しました。顕著な例の 1 つは SweetSpecter です。これは中国を拠点とするグループで、偵察や脆弱性の調査に AI を使用し、OpenAI の従業員へのスピアフィッシング攻撃 (失敗) も試みました。
イランのグループも重要な役割を果たした。イラン革命防衛隊（IRGC）とつながりのあるサイバー・アベンジャーズは、AIを使用してプログラマブル・ロジック・コントローラーを研究し、別のイランの組織であるストーム0817は、AIを使用してAndroidマルウェアをデバッグし、ソーシャルメディアのプロフィールをスクレイピングした。
これらの標的型キャンペーンに加えて、OpenAI はいくつかの大規模な影響力操作をブロックしました。これらの 1 つである A2Z は、ソーシャルメディアに広く投稿するための英語とフランス語のコンテンツを生成し、Stop News は AI 生成の画像 (多くの場合、漫画風またはドラマチックなスタイル) を活用して、記事やツイートを充実させました。
世界的な偽情報キャンペーンを阻止する
政治システムを標的とした偽情報キャンペーンも懸念される分野のひとつだ。OpenAI は、米国、ルワンダ、インド、欧州連合の選挙に影響を与えようとする試みに介入したと報告している。これらの取り組みはいずれもバイラルな広がりを見せなかったが、脅威アクターが選挙を操作しようとしたという事実は、AI 主導の偽情報によってもたらされるリスクが高まっていることを浮き彫りにしている。
Zero Zenoとしても知られるイスラエルの企業STOICは、この分野の主要プレーヤーの1つであり、インドの選挙に関するソーシャルメディアのコメントを生成しており、この活動は今年初めにMetaとOpenAIの両社によってすでに明らかにされていた。
OpenAI の継続的な監視により、Bet Bot と Corrupt Comment という 2 つのネットワークも発見されました。これらのネットワークは、API を使用して X 上で会話を生成し、ユーザーをギャンブル サイトにリンクしたり、捏造されたコメントをソーシャル メディアに溢れさせたりしていました。
マイクロターゲティングによる誤情報拡散における AI の役割
生成型 AI は、大規模な偽情報の拡散だけでなく、マイクロターゲティングにも武器として利用される可能性があります。サイバーセキュリティ企業 Sophos の最近のレポートによると、AI を操作して、電子メール、Web サイト、偽の人物を通じて、高度にパーソナライズされた政治的な偽情報を拡散することができます。メッセージを特定のキャンペーン ポイントに合わせて慎重に調整することで、脅威アクターは有権者を新たなレベルで欺くことができ、選挙結果を変えたり、偽の情報で世論を左右したりする可能性があります。
研究者たちは、政治家や運動を、実際には支持していないかもしれない政策姿勢と結び付けるのは驚くほど簡単で、有権者の間に混乱を招き、民主的なプロセスに損害を与えていると警告している。
OpenAIのサイバーセキュリティへの取り組み
AI は前例のない進歩の機会を提供する一方で、深刻なセキュリティ上の課題ももたらします。OpenAI は、自社の技術を悪用しようとする悪意ある試みに対抗できる能力があることを証明しました。しかし、サイバーセキュリティの専門家とサイバー犯罪者とのいたちごっこは今後も続くと思われます。
今年、20 を超える世界的なキャンペーンを阻止しようとした OpenAI の取り組みは大きな勝利を収めたものの、戦いはまだ終わっていません。AI が進化するにつれ、脅威アクターが使用する戦術も進化します。AI がデジタル欺瞞のツールではなく、善の力であり続けるためには、絶え間ない警戒と革新が鍵となります。