スマホを狙う「生成AIを利用した詐欺」増加　アナログだが有効な対抗策をFBI推奨

最新の報告によれば、スマートフォンを標的としたサイバー攻撃においてAI（人工知能）の利用が増加している。たとえば、Gmail利用者を騙すテクニカルサポート詐欺、不正なギャンブルアプリ、高度な手口で生体認証を突破する銀行詐欺などが挙げられる。

このような状況を受け、米連邦捜査局（FBI）は、いわゆる「生成AI」が詐欺行為の遂行に悪用されていることに警鐘を鳴らし、スマートフォン利用者に「いったん電話を切り、非常時に身元確認できる『合言葉』を設定すべきだ」とする公共啓発メッセージを発した。この警告は、詐欺的攻撃がより巧妙化する中、何に注意しどのように対応すべきかについて、読者の参考となるはずである。

■FBIが警告する生成AIによるスマートフォン攻撃

FBIは公共安全通知（I-120324-PSA）の中で、攻撃者が大規模な詐欺を実行し、その信ぴょう性を高めるために生成AIを積極的に活用していると注意喚起している。「これらのツールはコンテンツ作成を支援し、通常なら詐欺を見抜く手がかりとなる人為的な誤りを修正できる」とFBIは述べている。

FBI自らが認めるように、今日では本物とAI生成物との区別が困難になっているため、この通知は多くの人々にとって、身を守る上で重要な指針となる。すべての助言がスマートフォン利用者専用というわけではないが、顔や声のクローン技術を用いたAIディープフェイク（高度な合成映像・音声による偽装）攻撃の主要な流通チャネルがスマートフォンであることを踏まえ、ここでは特にスマートフォン利用者が参考にすべき点に焦点を当てる。

FBIは、主にフィッシング関連の詐欺で、AIが以下のように悪用されている具体例を挙げている。

・生成AIで合成した写真を用いて、被害者に「本物の人間と話している」と信じ込ませる

・生成AIによる有名人やソーシャルメディア上の人気者が不正行為を推奨するかのような偽画像

・家族や親しい知人を装い、危機的状況を訴える声をAIで合成した短い音声クリップを用いて金銭援助を求める

・「会社幹部」や「法執行機関」、「公的権威」を名乗る人物とのAI生成によるリアルタイムビデオチャット

・オンライン上の相手が「実在の人物」であると「証明」するためのAI生成動画

セキュリティプラットフォーム「Gen」（「Norton」や「Avast」といったブランドを含む）でサイバーセーフティ担当最高技術責任者を務めるシギ・ステフニッソンは次のように警告する。「新年を迎えるにあたり、AIは私たちの日常的な現実を曖昧にしていくでしょう。ディープフェイクは見分けがつかなくなりますし、AIは専門家でさえ本物かどうか判断できないほど高度になるでしょう。悪意ある者は必ずこれを利用します」

合言葉を決めておく。相手のスマホを実際に揺らしてAIかどうかを判定する

ステフニッソンは、元交際相手が偽写真で噂を広めるといった個人的レベルの嫌がらせから、政府が政治的な偽情報を拡散し、国民全体を誘導するような極端な事例まで起こり得ると指摘している。つまり、今後、私たちはあらゆる画像や動画に対し「これは本物なのか？」と問い続ける必要があるわけだ。

■「電話を切り、合言葉を決める」

スマートフォンを悪用するAI詐欺のリスクを軽減するため、FBIは以下の対策を推奨している。

・かかってきた電話はいったん切り、相手の正当性をオンラインで検索し、見つかった正式な番号にかけ直すなどして身元を確認すること

・家族や知人同士で、緊急時に本人確認できる「合言葉」や「フレーズ」を決めておくこと

・オンラインや電話上だけで知り合った相手に、決して機密情報（銀行口座情報や個人情報など）を渡さないこと

■「揺らして見抜く」──スマートフォン上のディープフェイクを判定する新手法

シンガポールのナンヤン工科大学のジシン・シエとジュン・ルオは、技術研究論文「Shaking the Fake: Detecting Deepfake Videos in Real Time via Active Probes（『シェイキング・ザ・フェイク』：能動的な振動を用いたリアルタイムディープフェイク動画検知）」で、スマートフォン動画がAI生成かどうかを判定する「SFake」というシステムを提案している。

「SFakeはディープフェイクモデルが物理的干渉に適応できない点を革新的に利用します。スマートフォンに振動を与えるプローブを送信し、その振動パターンと顔領域の整合性に基づいて、顔がディープフェイクで差し替えられたかどうかを判定するのです」と研究者ら述べている。

ディープフェイク検出機能を搭載したHonorの最新スマホ

テストの結果、「SFakeは他の検出手法よりも高い精度、速い処理速度、低いメモリ消費を達成している」と報告されている。将来的には、モバイル環境でディープフェイクを検出・防御する有望な手段になり得るだろう。

■Honor「Magic 7 Pro」にはオンデバイスのディープフェイク検出機能が搭載へ

近く発売されるHonorのフラッグシップスマートフォン「Magic 7 Pro」には、詐欺対策を端末内で実行する革新的なオンデバイス型のAIディープフェイク検出機能が搭載される見込みだ。Honorによれば、この検出プラットフォームは「オンライン詐欺関連の動画・画像を大量に学習しており、AIは3秒以内にディープフェイクを識別・スクリーニング・比較できる」という。疑わしいコンテンツが検出されれば、ユーザーに即時の警告が表示され、高額被害をもたらす詐欺被害を防ぐことが可能である。

■AIを用いたスマートフォン詐欺をFBIに通報する方法

もし金融詐欺の被害に遭ったと考えられる場合は、FBIのインターネット犯罪苦情センター（Internet Crime Complaint Center）へ報告することが推奨されている。FBIは、報告時に可能な限り次の情報を提供するよう求めている。（これは米国内での例だが、日本国内で警察に通報する場合でも同様の情報が役に立つ）。

・攻撃者特定につながる情報（入手可能であれば氏名、電話番号、住所、メールアドレスなど）

・日時、支払方法・金額、口座番号、受領金融機関名、受取先の暗号資産アドレスなど、金融取引に関する詳細な情報

・攻撃の経緯についてできるだけ詳しく説明（犯人とのやり取りの内容、接触のきっかけ、提供してしまった情報など）