【一緒にセキスペになろう！】サイバー攻撃の怖い話③生成AI攻撃編

T.E.

2025.12.04

「AIが詐欺をするなんて、映画の中だけの話でしょ？」ーいえいえ、実はもう現実の話です。
生成AIの進化により、詐欺メールや偽サイトはますます巧妙になり、私たちの“違和感センサー”をすり抜けてきます。
今回は、AIが悪用されることでどんなサイバー攻撃が可能になるのか、そして私たちがどう備えるべきかを、わかりやすく解説します。

AIが詐欺を“量産”する時代とは？

かつてのフィッシングメールといえば、どこか不自然な日本語や怪しい文体が特徴でした。
「こんにちは、不正利用を検知したため、あなたのアカウントがロックされました。パスワードの更新するを要求します。」――そんな文面に、違和感を覚えて警戒できた方も多いのではないでしょうか。
しかし、今やその“違和感”を頼って見抜くことができなくなってきています。生成AIの登場によって、攻撃者は日本語をはじめ世界中の言語を自然に操り、説得力のある詐欺文面を大量に作成できるようになったのです。

AIがもたらす「詐欺の自動化」と「パーソナライズ」

生成AIは、数秒で数百通のメール文面を作成することができます。つまり、従来は人が作成していた詐欺メールが、ほぼ自動で“量産”できるようになりました。

というのも、生成AIは文法的に正しいだけでなく、各言語が持つ特徴ー例えば、敬語・カジュアルさ・感情表現など、文体の“ニュアンス”まで調整することができます。
さらに、攻撃者はAIに「日本の銀行」風、「配送業者からの通知」風、「社内の上司からの依頼」風など、具体的な指示を与えることで、ターゲットに合わせた文面を生成します。

たとえば、以下のようなケースが考えられます：

過去に購入したことのある通販サイトの名前を使ったメール
実際にやり取りしたことのある上司の名前を使った業務指示のメール
子育て中の保護者向けの「保育園からのお知らせ」メール

このように、メール文面は誰にでも通用する“汎用型”ではなくなり、“あなた向け”の詐欺が作られる時代になったのです。
生成AIの進化により、宇宙人が騙される未来もあるかもしれません・・・。

ABテストで精度向上

攻撃者は、メールをパーソナライズすることに加え、そのメールの精度を上げるために「ABテスト」も実施しています。この「ABテスト」は、マーケティングの世界でよく使われている、「A案」「B案」など複数のパターンで広告やメールの文面を試し、どれが最も反応率が高いか（効果的か）を比較する手法です。そして、攻撃者も同様にこの手法を使い始めています。
AIで複数の詐欺メール文面を生成し、実際に送信してみて、どの文面が最もクリックされるかを分析。その結果をもとに、さらに騙しやすい（成功率の高い）詐欺メールを作成する――まるで“サイバー犯罪のマーケティング調査”が行われています。

音声・画像・動画も“本物らしく”

生成AIは文章を作るだけでなく、音声や画像、さらには動画まで自在に生成できるようになりました。“ディープフェイク”という言葉、きっと一度は耳にしたことがあるのではないでしょうか。
最近では、CEOの声を模倣した「音声なりすまし詐欺」や、偽のカスタマーサポートチャットボットなども登場しています。私たちの生活に身近なところでは、ショート動画アプリやSNS上でも“AIで作った人物”や“存在しない出来事”を自然に見せる動画が日常的に流れています。

こうしたAIで生成されたコンテンツは、人がもつ視覚・聴覚の“信頼感”を逆手に取った攻撃です。
従来の「映像だから本物」「声を聞いたから本人」といった直感的な判断だけのセキュリティ意識では対応が難しくなっています。

実際にあったAI悪用事例

SFやスパイ映画の中だけだと思っていたAIによる攻撃――実はもう、現実のものになってきています。
2025年6月、OpenAIは実際に発生した10件のAI悪用事例を発表、その中には驚くほど巧妙な手口が含まれていました。その中の一つとして、攻撃者によるマルウェア開発事例ー「ScopeCreep」が紹介されています。
この事例から分かること、それは生成AIがサイバー攻撃の“共犯者”になり得るということです。

参考：Disrupting malicious uses of AI: June 2025＜PDF＞

生成AIが使われたマルウェア開発の舞台裏

「ScopeCreep」を作成した攻撃者は、ChatGPTを使ってWindows向けのマルウェアを開発・改良していました。
この際、単に高度なものを作るだけでなく、検出をすり抜けだれにも気づかれないように、また、世界中のどこでもマルウェアが動くためにAIを使っています。

このような巧妙な手法における特徴をまとめてみました：

使い捨てアカウントの活用
一度の会話で一つの改善を行い、すぐにアカウントを破棄。これにより、OpenAIの不正利用検知やアカウント追跡を回避
段階的な改良
複数のアカウントを使って、マルウェアを少しずつブラッシュアップ
多言語対応のデバッグ
AIを使って複数言語のコードのバグを見つけ出し、修正を加え、国際的な環境でも動作するマルウェアを構築

偽装と拡散：ゲームツールに見せかけた罠

それでは、この手法で作られたマルウェアはどうやって世に出ていったのでしょうか？
攻撃者は、シューティングゲームにおいて、銃でかまえたときに画面に照準の目安として出る十字のマーク（エイムのレティクル）を自分好みの色や大きさに変えることができる正規ツール「Crosshair X」を装ったマルウェア入りの偽装ソフトを作成しました。この偽装ソフトを、世界最大級の開発者向けプログラミング・コード共有サイトに保管し、拡散を狙っていたのです。

T.E.

かんたんにいうと、パソコンのマウスのカーソル（ポインター）を変えるイメージです！視認性をあげることや、かわいく／かっこよくしたいといった目的で、色や大きさ・キャラクターに変更できるんですよ^^

幸いにも、マルウェアが仕掛けられた偽装ソフトであることが早期に発覚したことで、実際の被害は確認されていません。
しかし、本物の「Crosshair X」は有償であり、ITリテラシーが高くない一般ユーザーや、無料版を探すゲーマーなどによっては、情報収集が不十分なことで、マルウェアなどのウイルスが仕組まれたソフトをダウンロードしてしまう可能性がありました。無償提供されていることに違和感を持つことや、必ず公式ストアや公式WEBページからインストールすることが重要です。

余談ですが、企業などでは、その組織が認めているソフト以外はインストールを禁止していることが多いと思います。このアプリ使ってみたいんだけどインストールできない…と思ったことがある方もいらっしゃるかもしれませんが、実は、怪しいソフトの無断ダウンロードを未然に防ぐためだったのです。

安全なフリに騙されてはいけないーートロイの木馬

セキュリティやサイバー攻撃の関連で、「トロイの木馬」というワードを耳にしたことはありませんか？
名前の由来は、あの有名なギリシャ神話――大きな木の馬に兵士を隠して敵の城内に侵入し、城塞都市トロイアを攻め落としたお話です。

これに由来して、正規のプログラムやデータを装って信用させ、インストール・実行することで内部で悪意のある動作をするマルウェアの一種です。トロイの木馬に感染すると、保存されている個人情報の流出やデータの破損・暗号化のほか、パソコンが使用できなくなるなどのさまざまな被害が想定されます。感染しないためにも、日ごろからセキュリティソフトの導入や覚えがないファイルは開かないなどの対策をしていきましょう。

なぜこの事例が重要なのか？

ScopeCreepの事例で特に注目すべきは、AIが悪用され、攻撃者にとって能力をぐっと引き上げる装置として使われた点です。
いまや多くの企業で資料作成やアイデア出しといった効率化にAIが活かされていますが、攻撃者も同じくしてAIの技術を利用できたことで、マルウェアの開発から配布・感染の確認まで、攻撃全体を高度化してしまったのです。

こうしたことから、企業も個人も、AIを使った攻撃を前提にセキュリティを考える必要がある時代になってきています。
「AIが攻撃に使われるなんて、映画の話だと思ってた…」では済まされないのかもしれませんね。