国立情報学研究所の山岸順一准教授と越前功教授、パリ東マルヌ・ヴァレ大学のヴィンセント・ノジック准教授は、人工知能（ＡＩ）で偽造された動画「フェイクビデオ」を見破るＡＩ技術を開発した。人の顔を移し替える、思い通りにしゃべらせるといったＡＩによる偽造を暴く。今回開発したＡＩ技術は偽造側のＡＩより学習コストを抑えた。偽造と摘発がいたちごっこになっても、摘発側が優位になる。

　近年、政治家などの顔の動画を操作して発言していないコメント入れ込んだビデオを偽造することや、アダルトビデオの出演者に人気女優の顔を移植した動画などが社会問題になっている。口や目などが滑らかに動き、表情も自然にできており簡単には識別できない。

　そこでフェイクビデオと元の動画を学習して識別するＡＩ技術を開発した。顔移植は９８％、表情操作は９５％の精度で識別できた。動画のフレーム１枚ごとに真偽を判定する場合、１分間のビデオの識別に３―４分間かかる。フレーム数を間引けば処理時間を減らせ、リアルタイムに識別できる。ウェブブラウザーなどに組み込める。

　真偽を見破るＡＩができると、摘発側と偽造側のＡＩを対立するシステムとして組み上げて、さらに学習させることが可能。その場合、摘発ＡＩをだますように偽造ＡＩを育てられるという技術的な問題がある。

　そこで山岸准教授らは、摘発ＡＩの構造をできる限り単純化した。４層のニューラルネット型とシンプルな構造を採用している。顔移植のＡＩの場合、移植する人とされる人の顔の画像がそれぞれ１万枚必要となる。だが、摘発ＡＩは５０００枚の顔で識別できるという。学習コストが小さく摘発側を優位に保てる。