ニュースイッチ

デマ急増1件→104件…能登半島地震のSNSに「フェイクの波」、研究者の嘆き

デマが揺さぶる共助 能登半島地震のSNS分析(上)
デマ急増1件→104件…能登半島地震のSNSに「フェイクの波」、研究者の嘆き

情通機構の災害状況要約システム「D-SUMM」。地震に関する投稿と、その内容に矛盾するかもしれない投稿を提示(右)

能登半島地震で会員制交流サイト(SNS)の投稿から被害状況を分析するシステムが活躍した。石川県の災害対策本部で利用され、津波や火災などの早期把握に貢献した。一方でフェイクもまん延し、事実確認の負荷を押し上げている。SNS分析ではX(旧ツイッター)を見限る研究者も現れている。SNSは被災時に市民が市民を助ける“共助”の要だ。フェイクの波を止められるかの岐路に立っている。(3回連載)

封じ込めに課題

「収益化を意図した安易な投稿が混乱を招いている」―。情報通信研究機構の大竹清敬データ駆動知能システム研究センター長は憤る。災害状況要約システム「D―SUMM」を開発してきた。

D―SUMMはXの投稿から「津波がきた」などのフレーズを検出して災害に関する報告をまとめるシステムだ。2016年10月に試験公開され公的機関で活用されてきた。民間で同様のサービスが始まり、23年12月28日に試験公開を終了していたが、翌年1月1日の震災を受けて再稼働した。調査するとデマの投稿が急増していた。

D―SUMMは日本語投稿のうち10%を分析対象としている。災害報告の検出と並行して、矛盾するかもしれない報告を検索して注意喚起する機能がある。この機能を用いてデマを調べた。

16年の熊本地震では発災後24時間の災害に関する報告が1万9095件検出され、その中で救助に関するものは573件だった。能登半島地震では地震が1万6739件で救助は1091件と倍増した。このうち254件の投稿で矛盾報告が検出され、人手で調べてデマと推定できたのは104件だった。熊本地震ではそれぞれ1件だった。

SNS分析は現地で真偽を確認する訳ではないため数値には不確実性がある。それでもデマ投稿が急増したと考えるのが妥当だ。情通機構の鳥沢健太郎フェローは「正しいと思われる情報をデマと断定する投稿もある。フェイクが拡散すると状況把握は困難になる。開発者としてじくじたる思いだ」と嘆く。

Xが健全化を図らない限り、状況は改善しないと見込まれる。投稿信頼性への疑念は以前から指摘されていた。そこで5年ほど前に限られたコミュニティーで使う情報共有ツールに研究をシフトした。チャットボットとの対話形式で情報を収集し共有するシステムを防災科学技術研究所、ウェザーニューズなどと開発。ウェザーニューズが事業化し、自治体への導入を進めている。23年7月の九州北部大雨では福岡県久留米市の市職員と地域の役員など1400人が被害情報を登録した。雨量が増えるにつれて河川水位の上昇や冠水、堤防の決壊、土砂崩れの情報が共有された。鳥沢フェローは「信頼できる相手から発信される情報が重要になる」と説明する。

日刊工業新聞 2024年02月07日
小寺貴之
小寺貴之 Kodera Takayuki 編集局科学技術部 記者
確実な数字ではないですがデマが約100倍に増えました。限定的な調査なので、もっと少ないかもしれないし、多いかもしれないです。これはX社の広告益分配プログラムだけで説明が付くのか難しいですが、それが一因なら広告益分配プログラムと同じようにデマへの対応を促すプログラムが必要になります。また災害のような緊急事態は社会の脆弱性をテストする絶好の機会です。オレオレ詐欺のような犯罪集団の単位なのか、はたまた国家単位なのかはおいといて、デマやフェイクへの耐性がどの程度あるか検証できてしまいます。今回、発覚しなければ次は大規模に仕掛けられるかもしれない。社会としてデマやフェイクへの体制を示していくことは大切です。報道機関はファクトチェックで食べてきた業種です。ただ自分が報道する内容しかファクトチェックせず、災害時に被災者が必要とするファクトチェック機能は担えません。多くは被災地で何が起きたかを被害のなかった人に届けます。被災者が求める細かな情報はマスメディアでは成立せず、自治体や地域住民などからの発信が担っています。発災すると被災地に自治体や消防、事業者、防災研究者が集まって災害対応支援するように、報道機関からも人を出してファクトチェックのプロとして地域に貢献する仕組みがあってもいいように思います。すぐにできることとしては発信された地域でフィルターをかけるだけでもデマを落とせるのでないかと思います。

特集・連載情報

デマが揺さぶる共助 能登半島地震のSNS分析
デマが揺さぶる共助 能登半島地震のSNS分析
能登半島地震では会員制交流サイト(SNS)の投稿から被害状況を分析するシステムが活躍しました。石川県の災害対策本部で利用され、津波や火災などの早期把握に貢献しました。一方でフェイクもまん延し、事実確認の負荷を押し上げています。フェイクの波を止められるかの岐路に立っている今を追いました。

編集部のおすすめ