人工知能（ＡＩ）の普及で本物と見分けがつかない偽（フェイク）の画像や動画、ニュースがネット上で氾濫している。フェイク情報は詐欺に使われたり、災害時に拡散されて復旧の妨げになったりするだけでなく、政治や経済の混乱、紛争時の利用などが現在進行形で起きている。生成ＡＩの登場でこうした状況に拍車がかかる。政府や企業ではフェイク情報への対策を急いでおり、健全なネット空間を確保していく。（編集委員・小川淳）

富士通　抽出―分析を一貫処理

フェイク情報をめぐっては、６月の先進７か国首脳会議（Ｇ７サミット）の首脳声明で、ＡＩなどによる偽情報拡散による外国からの選挙干渉を「民主主義に対する脅威」とし、共同で対応の枠組みを作ることを盛り込むなど、国際的な課題になっている。

７月には偽情報などの対策を議論する総務省の有識者会議が提言案を公表しており、その中で生成ＡＩが作成した情報かどうかを判断する技術のほか、コンテンツやその発信者の信頼性を確保する技術の研究や実装の必要性を盛り込んでいる。

こうした中、富士通は、偽情報の抽出から分析までを一貫して処理する「偽情報対策システム」の開発を進めている。新エネルギー・産業技術総合開発機構（ＮＥＤＯ）の公募案件に採択されたもので、２０２７年までに６０億円の支援を受ける予定だ。

開発するシステムでは、会員制交流サイト（ＳＮＳ）の投稿内容などから「文章」「画像」「映像」「音声」を各メディアごとに分解して抽出・分析し、生成ＡＩなどによって作成されたものではないか判定する。

さらに、対象となる情報に付加される発信者情報（人や組織とその属性）、位置、日時などの根拠の関係性をつなぎ合わせた「エンドースメントグラフ」により、整合性や矛盾を分析して、真偽の判定を支援する。このほか、偽情報の特徴を分析して拡散規模や社会への影響度を評価する技術も開発する。

富士通によると文章や画像などの偽情報に対し、抽出から分析まで一貫して処理するシステムは従来なかったという。同社は「開発技術を統合・システム化することで、安定的で自律的な経済活動を維持するための偽情報対策の社会基盤を整備する」としている。

日立　特定単語、頻度で文章判別

一方、日立製作所は、生成ＡＩが作成した文章かどうかを判別する独自技術を開発、７月に公開した。生成ＡＩが文章を作成する際、あらかじめ指定した特定の単語グループを高い割合で採用するように仕込み、ＡＩが作成したかどうかをその検出頻度で判断する。

画像や動画では生成ＡＩによって作られたコンテンツかどうか、ピクセル（画素）を意図的に変えるなどして判別する「ラベル」がすでに実用化されている。しかし、文章では「文字を一つでも変えると意味が変わってしまう」（研究開発グループ先端ＡＩイノベーションセンタの永塚光一氏）。このため、効果的な対策が難しかった。

具体的には、ＡＩ事業者が大規模言語モデル（ＬＬＭ）によって生成ＡＩを作成する際に、開発した技術を組み込む。生成ＡＩは、あらかじめ指定した特定の単語グループを多く取り込んで文章を作成することになるため、ＡＩが作成したと判別しやすい。日立ではこの単語グループを２重、３重に組み合わせることにより、より精度を高めることに成功した。どの言葉が特定の単語なのかを判別するには、パスワードが必要になる。

この技術が普及すれば、フェイクニュースと疑われる報道やＳＮＳ投稿について、生成元を簡単に確認できるようになるほか、企業や官公庁が文章を作成する際、確認用のツールとして使用し、知的財産権の侵害の防止などに役立つ。

実用化は当面先になるが、永塚氏は「日立だけでやろうとしても社会には浸透しない。国際組織に働きかけないと効力は発揮しない」と指摘し、国際社会の動向に合わせ、技術開発を続けていく。