ホント?ウソ?AIがフェイクニュースを判定。「計算社会科学」への期待

SNSトラブル防止に活用、世論操作の懸念も

 トランプ米国大統領の影響で計算社会科学(CSS)という学問が勃興しようとしている。CSSは世論やスキャンダルのインパクトを計算科学で解き明かす研究だ。米大統領選を通して、つぶやきやフェイクニュース、米国民の右往左往など一連のログがとれた。介入とその影響、最終的な投票結果までデータがそろい解析できるようになった。そしてCSSを駆使したトランプ陣営の勝利が決め手になり、この学問は投資を集めると期待される。CSSは日本では東日本大震災を機に開発された。時を経て再び脚光を浴びようとしている。

 「6年前の我々とほぼ同じことを米国が繰り返している」と東北大学の乾健太郎教授は振り返る。乾教授らは震災後にSNS上に流れたデマの検出や伝搬経路解析技術を開発した。

 東日本大震災では救援物資の過不足やうがい薬が安定ヨウ素剤の代わりになるなどの情報が飛び交った。SNS上の膨大なテキストを人工知能(AI)技術で読み込み、対立するつぶやきや訂正情報を拾い、デマの早期収束を目指した。この技術は米大統領選で問題になったフェイクニュースの特定や拡散抑制にも応用できる。

 ホットリンク(東京都千代田区)の榊剛史マネージャー・東京大学客員研究員はSNS上で情報を拡散するユーザー属性を解析した。おたくや活動家など特定のコミュニティーの中で拡散しているか、コミュニティーを選ばず広く拡散しているか可視化した。榊マネージャーは「フェイクニュースの拡散主体やコミュニティーごとの拡散しやすいトピックスがわかれば対策を打てる」と説明する。

反対情報を避ける


 デマやフェイクニュースの拡散解析はスキャンダルポリティクスの可視化につながる。スキャンダルが伝搬するネットワークとその影響力がわかれば効果的に選挙戦を戦える。

 ただ米大統領選ではフェイクニュースの影響は限定的だったようだ。米スタンフォード大学はフェイクニュースが選挙結果を変えたなら、一つのフェイクニュースにテレビCM36本に相当する影響力が必要と試算した。榊マネージャーは「フェイクニュースより偽情報が流れたというニュースの方が拡散されやすい」と指摘する。
               

 CSSはコミュニティーのネットワーク構造分析も重要なテーマだ。SNSは国民の分断を加速させ、トランプ勝利につながったと言われる。その原因の一つは確証バイアスだ。人間は自身の持つ仮説や信念に即した情報を信じ、反対する情報から身を置きやすい。

 自らの信念に寄り添うニュースやメディアを選択し、心地よい情報環境をつくってしまう。香港城市大学の小林哲郎准教授は「インターネットで誰でも知識にアクセスできれば社会全体のリテラシーが高まるという研究者の期待は見事に裏切られた」と振り返る。

 情報環境ができあがると意見が固定化されていく。小林准教授が13年の参院選を解析すると、橋下徹大阪市長(当時)のツイートを1カ月間フォローしたユーザーは日本維新の会に対する好感度が上昇した。政治的争点に関する態度や知識には効果はないが、繰り返し接点を持つ相手に好意的になった。

実態把握難しい


 もともと人間が集まって議論すると、意見が極端になる(極化)ことが知られている。議論は参加者が互いに知らない重要な情報を共有することが目的だが、実際に議論してみると皆が知っている知識の確認に多くの時間が使われる。

 中央大学の安野智子教授は「集団極化はSNS上でもみられる。ただユーザーがアカウントを使い分けるため実態把握が難しい」と説明する。

 一方SNS側も反論する。フェイスブックは1000万人以上のユーザーデータを解析。保守派とリベラル派のニュースがネットワークを拡散して読まれる過程を調べた。

 結論は、理想的ではないがユーザーは横断的なニュースに触れている。リベラル派はリベラル派の友人が多くニュースも偏るが、それは友人や家族などの人脈によるものだった。SNSは解析と介入ができるぶん、既存メディアよりも適正化しやすいのかもしれない。学習院大学の遠藤薫教授は「分断説はまだまだ検証が足りない。一面だけを切り取って論証している」と指摘する。

民意変化を素早く察知


 SNSで社会がどう変化しているか、まだ結論は出ていない。ただCSSでおぼろげながら世論や民意が見えてきたことは確かだ。日和見層の特定やスキャンダルポリティクスに効果を発揮する。世論の動的な変化を計測できれば、従来の世論調査よりも素早く民意の変化に対応できる。

 そこで世論形成をシミュレーションする研究も進んでいる。電気通信大学の栗原聡教授は大量の単純なAIに情報をやりとりさせるマルチエージェント型シミュレーションで、ニュースの拡散と個人の変心を再現している。「まだ萌芽的な段階だが要素技術はそろいつつある」という。

 そしてテキスト解析AIの要約技術や論点抽出技術と対話AIを組み合わせると、会話にニュースやトピックスを混ぜて発信するAIが作れる。栗原教授は「気に入ってフォローしていた相手が対話AIだったということは未来の話ではない」と強調する。

 AIのツイートへの対応からトピックスへの賛否を推定し、政治キャンペーンなどの介入効果も測れるかもしれない。

 小林准教授は「米国では住民の投票履歴など、あらゆるデータを総動員して日和見層を特定。選挙活動を繰り広げた」と振り返る。この世論操作にも使える技術に対して日本の研究者は保守的だ。東北大の乾教授は「世論を知る重要な判断材料だが慎重な議論が必要」と指摘する。

社会的意義ある研究を


 日本では再生医療の意識調査など、ソフトなテーマに応用されている。奈良先端科学技術大学院大学の若宮翔子博士研究員らはiPS細胞への期待や懸念を解析した。「SNS上の誤解拡散を防いだり、迅速に訂正する支援システムに応用したい」という。

 乾教授はいじめやヘイトニュースへの対応を進める。フェイクではないが偏った解釈や感情をあおる表現、憎悪や見下す表現をAI技術で特定する。事態が深刻化する前に手を打てるようになるかもしれない。乾教授は「社会的意義のある研究を目指すべきだ」と力を込める。
(文=小寺貴之)

日刊工業新聞2017年3月21日

日刊工業新聞 記者

日刊工業新聞 記者
03月22日
この記事のファシリテーター

情報拡散の進捗や拡散していくネットワーク構造はわかるようになってきました。自然言語処理の長年の夢は〝議論〟です。人間とAIの議論や、人間同士の議論をAIが支援するなど、深く考えた結果の世論や民意を計算社会科学でも扱いたいと思います。ただ、深い文章理解はまだまだ難しく、推論技術や専門知識の構造化・更新など多くの課題が残ります。まだ途上でもスキャンダルポリティクスには役に立ってしまうところが、技術のすごいところであり、恐ろしいところでもあります。
(日刊工業新聞科学技術部・小寺貴之)               

この記事にコメントする

  

ファシリテーター紹介

記者・ファシリテーターへのメッセージ

この記事に関するご意見、ご感想
情報などをお寄せください。