AI生成のニュースメディア：出所を起点にする検証ワークフロー

検出器より先に出所を追う

SNSで流れてくるニュース動画は、手元に届いた時点で元の文脈がはがれている。スクリーンショットが撮られ、再アップロードされ、字幕がつき、いくつものアプリで圧縮された末に、あなたの画面に現れる。この伝播経路を復元する作業は、映像が生成されたものかどうかを問うよりも前に来る。

出所優先（source-first）の検証とは、ファイルがどこから来て、どの経路をたどり、途中で何が変わったのかを、自動スコアより先の証拠として扱う考え方だ。実際に撮影された動画でも、誤った日付や場所を貼り付ければ、それ自体が偽情報になる。ピクセルが本物かどうかだけを確認しても、この種の問題は防げない。

NIST のメディアフォレンジクス評価が示すこと

アメリカ国立標準技術研究所（NIST）は、画像・動画の改ざん検出と改ざん箇所の特定を自動化する技術の性能を測るため、OpenMFC（Open Media Forensics Challenge）という公開評価シリーズを運営している。その目的として、メディアフォレンジクス技術の水準を前進させること、ベンチマークデータセット・評価インフラ・コミュニケーションフォーラムによって研究を支援することが挙げられている。

このプログラムから二点を日常の検証に持ち込める。第一に、OpenMFCはメディアが改ざんされているかを判定するだけでなく、可能な場合は改ざんの領域と種類まで特定するよう求める。真か偽かという問いが粗いものだと分かる。第二に、関連するMFCの課題には、画像の改ざん履歴を記述する系統グラフ（phylogeny graph）の構築や、メディアのセンサー識別の検証が含まれる。出所と編集履歴がフォレンジクスの問題の一部として扱われている。

OpenMFCは、DARPAのメディアフォレンジクス（MediFor）プログラムにおけるMFC評価の経験を土台にしており、NISTは2020年にOpenMFCのリーダーボード評価プラットフォームを立ち上げた。このプログラムは、測定、ベンチマークデータセット、評価インフラ、反復評価を軸に構成されている。ニュース検証に直結する注意点が一つある。NISTはこのプログラムが画像と動画を対象とすると記しており、音声は評価対象として明示していない。したがって音声トラックは別途の確認が必要だ。

出所優先の検証ワークフロー

ステップ1：最初に現れた時点を探す。 代表的なフレームや動画自体を逆検索し、別の日付・別の字幕で先に投稿された記録がないかを確認する。古い動画が新しい事件と結び付けられていないか確認する。この確認は合成検出とは分けて進める。

ステップ2：アカウントを調べる。 開設日、過去の投稿、たどれる身元があるかを確認する。履歴のない匿名アップロードは、判断を遅らせる理由になる。

ステップ3：原本とメタデータを保存する。 再スクリーンショットではなく原本を保存する。確認できるメタデータを記録し、最も古い追跡可能な出所と照合してから手がかりとして使う。

ステップ4：文脈を独立に組み立て直す。 主張されている場所・日付・看板・言語は、その出来事の他の記録と一致するか。自ら素材を検証する報道機関の確認は、転載数より重い。

ステップ5：ここで初めて検出ツールを使う。 DeepFakeCheck のような確率ベースのツールにメディアをアップロードし、そのスコアを、すでに済ませた出所調査の隣に一つの入力として記録する。初回利用はサインアップ不要で、限られた無料利用枠がある。

スコアの読み方：確率であって判定ではない

自動検出器が返すのは確率であって、裁定ではない。本物のメディアを改ざんと表示する誤検知（偽陽性）と、実際の改ざんを見逃す見落とし（偽陰性）の両方が起こる。スコアが高いのはさらに調べよという合図であり、スコアが低くてもファイルが無傷だと保証するものではない。

スコアを正直に使うには二つの制約を守る。ツールを媒体に合わせる。NISTのプログラムが評価するのは画像と動画であり、ニュースに含まれる音声や文字は、別の手順で確認する。そして、判断に伴う各エラーの代償を比べる。改ざんされた映像を本物として出すことと、本物の映像を偽物と決めつけることは、結果の異なる別々の失敗だ。

証拠が尽きたとき

出所がたどれず、文脈も確認できず、スコアも曖昧な中間に留まることがある。その結果自体が情報だ。まだそのコンテンツを広める根拠がない、という意味だからだ。共有を見送る、未確認と明示する、リスクの高い案件を専門の査読者に回す。どれも正当な着地点である。立証責任は、そのメディアが本物だと主張する側にあり、あなたの疑いの側にはない。

ソース

• NIST Open Media Forensics Challenge (OpenMFC): https://www.nist.gov/itl/iad/mltg/open-media-forensics-challenge