―山本さんが開発した将棋プログラム「Ｐｏｎａｎｚａ（ポナンザ）」は、どうしてプロ棋士トップの“名人”に勝つまで強くなれたのでしょうか。
　「機械学習の利用で大きく変わった。以前の人工知能（ＡＩ）開発は、人の知識をプログラムに落とし込む方法だった。例えば、コップを判別する場合、透明や円筒といった特徴を覚えさせる。ただ、似たものとの区別や例外は難しく、人が説明できなければＡＩは正しく判断できない。一方、機械学習は無数のコップ画像を学習させて、ＡＩが自分で本質を理解し、判別する。判別基準はブラックボックスになるが、人の説明の限界を超えられる。著書『人工知能はどのようにして「名人」を超えたのか？』ではまず、なぜ最近のＡＩの急速な進化が起きたか伝えたかった」

　―人の役割は何ですか。
　「人はＡＩが勉強しやすい環境をつくるコーチになる。億を超える判断のパラメーター調整は人にはできない。ＡＩの判断は人が理解不可能な領域に入る。怖い面もあるが、正しい状態だと思う」

　―なぜですか。
　「分からないけれど利用することは、医学にもある。例えば、健康な人に膿（うみ）を接種して重度な感染を防ぐ『種痘』は、当初どんな仕組みか分からなくても、人命を優先して実行された。高度なものほど説明は難しくなるのではないか。というのも、人の理解は還元方式で、細かなパーツの理解を基に全体を理解する。だが、必ずしも世界はそれだけでは理解できない」

　―著書を読むと、知性とは何かを考えさせられます。ＡＩが人の能力を超えるシンギュラリティー以降、何が起きると思いますか。
　「産業革命の影響は国によって違った。英国では王室が残ったがが、ロシアでは社会主義が台頭した。情報革命も社会を変えるが、どう変えるかは決まってない。個人的には、産業革命は労働力としての人間の価値を奪ったと思う。一方、ＡＩは脳を奪う。昔、力持ちは貴重な能力だったが、今は人の特徴の一つ。知的さの価値もそうなるのではないか」

　―恐ろしいですね。
　「今は先が読めない不安な時代だが、せっかくなら変化を楽しんだ方がいい。人はあっという間に順応する。４年前にポナンザがプロ棋士に勝った時、記者会見はお通夜のようだったが、今年、名人に勝った時は普通に受け取られた。ＡＩが人を超えても人は楽しく暮らせるかもしれない」

　―ＡＩの限界は。
　「今、ＡＩは経済的に有利な分野の開発が先行している。短期的に限界はあっても、ＡＩが自分で自分を賢くするようになると状況は変わる。一方、ＡＩが暴走しないためには倫理観が必要で、学習データを提供する我々はいい人でいなければいけない。また人には場面ごとに切り替え、変化に対応する力も必要だろう」

　―次の目標は。
　「ポナンザの１０年の長い旅は満足した。次は伝える力を付けるなど、いろんなことをやりたい。また“よいシンギュラリティー”を迎えるために、社会を考えられる“よいプログラマー”を増やす教育に関わりたい」
（聞き手＝梶原洵子）
【略歴】
山本一成（やまもと・いっせい）愛知学院大学特任准教授。１２年（平２４）東大院理学系研究科修了。史上初の現役プロ棋士を破った将棋ソフト『Ｐｏｎａｎｚａ』作者。２０１７年には名人を破り話題に。人工知能とプログラムへの見識を生かし現在は東大先端科学技術研究センター客員研究員、愛知学院大特任准教授、ＨＥＲＯＺリードエンジニアを兼任。愛知県出身、３１歳。著書『人工知能はどのようにして「名人」を超えたのか？』（ダイヤモンド社）