職場のディープフェイク詐欺：財務・人事の確認手順

別経路で確認するまでは未確認の依頼として扱う

役員からと思われる緊急電話が入る。ビデオ会議の参加者が財務担当に振込先の変更を求める。聞き慣れた声が人事担当に従業員情報を渡すよう指示する。顔や声に見覚えがあっても、本人確認が済んだことにはならない。FBI は、犯罪者が生成 AI を使って詐欺を大規模かつ信じやすいものにしていると警告している。AI 生成音声で公人や身近な人になりすまして支払いを引き出す手口や、AI 生成動画で公人のもっともらしい映像を作り詐欺を補強する手口も挙げている。

職場の高リスクな依頼は、依頼者が提供も管理もしていない経路で確認できるまで未確認のままにする。声や顔が合成かどうかを社員にその場で当てさせるのではなく、圧力のある状況でも実行できる短い手順を用意する。

名乗った身元と求められた操作を分ける

応答する前に、相手が誰だと名乗ったか、何を変更してほしいのかを書き出す。本人らしく見えても、求められた操作が安全とは限らない。どの支払い、口座、従業員記録、資格情報、承認が変わるのか、誰が利益を得るのか、どの期限が示されたのか、通常のどの管理を省こうとしているのかを確認する。

FBI の資料は AI を使った詐欺と不正ななりすましへの注意を促しているが、財務や人事の承認基準を定めたものではない。以下は各組織が自社の規程、権限、報告義務に合わせて調整するために本記事が提案する運用手順である。

独立した確認経路を使う

取引や情報開示を止める。 確認が終わるまで振込先、アクセス権、従業員記録を変更しない。緊急だという点は記録すべき情報であり、管理を省く許可ではない。

入ってきた連絡を終了する。 不審な連絡で示された電話番号、会議リンク、メールアドレス、チャットアカウントは使わない。社内名簿など、チームが以前から信頼している記録を自分で開く。

名乗られた本人に別途連絡する。 既知の番号に電話するか、確立済みの社内チャネルで新しいメッセージを始め、依頼内容を改めて説明してもらう。連絡できない場合は承認を即興で作らず、社内規程ですでに権限を持つ担当者へ回す。

通常の承認者を外さない。 ビデオ出演や聞き慣れた声を、支払い、取引先口座の変更、給与情報の更新、アクセス権の再設定、個人情報の開示に必要な人と記録の代わりにしない。誰が、独立して開いたどの経路で確認したかを残す。

不審な資料を保存する。 元の留守番電話、ファイル、メッセージ、送信者情報、会議招待、取引情報を可能な範囲で保管し、唯一のコピーを編集しない。金融詐欺の可能性がある場合、FBI は被害者に Internet Crime Complaint Center へ利用できる詳細を添えて通報するよう案内している。

調べられるファイルがある場合だけ検出を使う

ライブ通話では検査に使える録音が残らないことがある。留守番電話、画像、動画、保存したクリップがある場合、DeepFakeCheck でファイルを分析し、確率的なリスク信号を得られる。この信号は確認材料になるが、発信者の身元、支払いの承認、依頼の正当性を証明しない。

自動検出には偽陽性と偽陰性がある。偽陽性は本物の資料を疑わしいと判定し、偽陰性は合成または加工された資料を見逃す。高いスコアは追加確認の理由になるが、低いスコアで依頼を承認することはできない。どの結果でも独立した連絡と組織の承認記録が必要だ。

検出結果は、保存したファイル、確認メモ、最終判断と一緒に残す。ツールが示したリスク信号と、社員が社内手順で確認した事実を区別できる。

次の緊急依頼が来る前に経路を決める

財務・人事チームは、高リスク操作に使う独立した連絡経路と承認者を前もって決めておく。社員が入ってきた連絡で示された情報に頼らず、依頼を止め、信頼できる連絡先を探し、確認内容を記録できるかを確かめる。

できない場合は、検出ツールを増やす前にその手順を直す。固定した確認経路があれば、映像がもっともらしく、検出結果が不確かなときも業務判断を守れる。

出典

• FBI Internet Crime Complaint Center, “Criminals Use Generative Artificial Intelligence to Facilitate Financial Fraud”: https://www.ic3.gov/PSA/2024/PSA241203