有名人ディープフェイク詐欺：怪しい推薦動画の見分け方
怪しい推薦には、著名投資家が投資を勧める姿、俳優が商品を紹介する様子、CEOがプレゼント企画を案内する場面が映ることがある。顔や声が本物らしくても、それは確かめるべき主張であって証拠ではない。
FBIが実際に警告していること
FBIの公開警告（IC3, PSA241203）は率直だ。犯罪者は生成AIを悪用し、より大きな規模で、より信じやすい形で詐欺を働くという。FBIは、生成AIが標的をだますのにかかる時間と手間を減らし、ふだんなら詐欺に気づかせるはずの人間のミスまで修正してしまうと説明する。
FBIが挙げる手口のうち、推薦詐欺に直結するものが二つある。犯罪者はAI生成の動画で公人をそれらしく描き出して詐欺を後押しし、AI生成の音声で著名人になりすまして送金を引き出す。FBIはまた、AI生成のテキストが投資などの信用詐欺に使われ、AI生成の画像がそれらしいプロフィール写真や身分証を作り出すと述べる。合成コンテンツを作成・配布すること自体は違法ではないが、詐欺や恐喝を助長しうるともFBIは付け加えている。
有名人の顔や声がもう証拠にならない理由
見慣れた顔を信じたくなる本能——この詐欺はまさにその反射を借りている。公人そっくりに見えても推薦が本物だとは限らないし、逆にぎこちないクリップだからといって偽物とも限らない。動画の中の人物は、確かめるべき「主張」であって、それ自体が証拠ではない。問うべきは「本人に似ているか」ではなく「その人が実際に運用しているチャンネルで確認できるか」だ。
怪しい推薦を確かめる五つの手順
顔を凝視するのではなく、コンテンツの外側から確かめていく。
- 1. 本人やブランドの公式チャンネルに自分でアクセスする。 知っているサイトや認証済みアカウントを直接入力する——動画や広告内のリンクはたどらない。本人や企業がそのチャンネルで企画を確認しているか調べる。確認できなければ、クリップだけを根拠に行動しない。
- 2. ロゴではなくドメインを読む。 リンク先のドメインと、自分で開いた公式ドメインを一文字ずつ比べる。余計な単語、不自然な接尾辞、綴りの違いがあれば、情報入力や支払いの前に止まって確認する。
- 3. 金銭の要求を問い詰める。 何の支払いを、誰が、なぜ求めているのかを書き出す。本人やブランドが、自分で開いた公式チャンネルでその依頼を確認するまでは支払わない。FBIの警告は、AIによるなりすましを、支払いの要求や投資詐欺と明確に結びつけている。
- 4. 元のクリップを探す。 クリップ内の特徴的な一文を検索するか、一コマを逆画像検索して、より早い投稿や元の投稿を探す。見つかったら映像・音声・文脈・リンク先を比べる。見つからなければ、未確認のままと判断する。
- 5. 独立した二つ目のシグナルを得る。 ファイルがあるなら検知ツールに通してデータを一つ増やす。ただし、その結果をどう扱うかは次の項を読んでほしい。
検知ツールが役立つ場面と限界
検知ツールが返すのは判決ではなく、確率的なリスクのシグナルだ。DeepFakeCheckは画像・動画・音声・テキストを分析し、AIによる生成・加工の可能性を示す。最初の確認に登録は不要で、無料の利用枠には上限がある。複数の根拠の一つとして使うぶんには役に立つ。
ただし限界ははっきりさせておく。自動検知ツールは誤検知（本物を偽物と判定）も見逃し（加工されたものを取りこぼす）も起こす。スコアが高くても低くても、その数字だけで推薦が本物だとか、誰かが実際にそう言ったとか、あるメディアが本物だと証明することはできない。数字は疑いを上げ下げするために使い、実際の判断は上のチャンネル確認に委ねる。
すでにお金が絡んでいるなら
送金してしまった、あるいはしかけたなら、恥ではなく詐欺の疑いとして扱う。追加の支払いを止め、銀行やカード会社にすぐ連絡し、動画・URL・決済情報・メッセージをすべて保存する。FBIは金融詐欺の被害者に対し、インターネット犯罪苦情センター（IC3）www.ic3.gov への通報を案内している。
FBIは、生成AIが標的をだます時間と手間を減らし、詐欺をより信じやすくしうると警告している。守りになるのは、粗探しの鋭い目ではなく、コンテンツから離れて出典を確かめる習慣だ。
出典
- FBI インターネット犯罪苦情センター（IC3）公共サービス告知「Criminals Use Generative Artificial Intelligence to Facilitate Financial Fraud」 — https://www.ic3.gov/PSA/2024/PSA241203