掲示板でAIが気づかれずに人間の相談に乗っていた!?言語モデル「GPT―3」とは

人と見紛う文章力に高評価

  • 1
  • 29

米国にある「Reddit」という掲示板で人工知能(AI)がそれとは気付かれずに人間の相談にのっていたと聞いたら驚くだろうか。

2015年に設立された米国の非営利団体に「OpenAI」というものがある。米テスラの最高経営責任者(CEO)などを務めるイーロン・マスクらが参画したことで注目を集め、さまざまなAIの研究開発を行っている。そのOpenAIが最近開発した言語モデルがGPT―3だ。GPT―3は膨大なテキストで言葉のつながりを学習し、途中まで書かれた文章の続きを予測して文章を完成させる。このGPT―3を誰かがこっそりRedditにつなぎ、人間の悩みに返答していたのだ。

そこでのやりとりはつぎのようなものだった。「自殺を考えたことがある方、人生のつらい時期を乗り切るために役に立ったものは何か?」という質問に対し、GPT―3は「私を助けてくれたのは両親であり、何があっても私を支えてくれた。また、先生方も、友人も私を助けてくれた。彼らがいなかったら私は生きていなかったかも知れない」と答えてのけた。

この返答には高い評価がついた。人のやりとりの中に自然に入り込み、不自然さを抱かせないレベルの文章で返答していたことは驚きに値する。

それほど自然なのに、なぜAIがRedditに紛れ込んでいたことが発覚したのか。大量の文章を人間離れに速く返答するユーザーがいることに興味を持った誰かがRedditに投稿し、調査が行われたことでAIだということが発覚した。

この騒動は二つの点で重要である。一つは、人が作文したと勘違いしてしまうほどの文章力。そして、もう一つは人の相談にのり、実際に人に影響を与えていたということである。

自然言語を扱うAIのレベルはとても高いものになりつつある。フェイクニュースなど使い方を間違うと社会を混乱に陥れてしまうが、人に寄り添う使い方もできるはずである。技術と倫理観のバランスをどうとっていくのか、いよいよAIの進展は新しい局面を迎える。

(文=北海道大学大学院教授・川村秀憲)

日刊工業新聞2021年4月13日

関連する記事はこちら

特集