人工知能（ＡＩ）研究の中で、説明可能なＡＩ「ＸＡＩ」は今最も注目のテーマだ。現在のＡＩは判断根拠を明示できないものが主流のため、社会や経済に大きな影響を与える用途に使いにくい。これを解決するため、国や民間でＸＡＩ研究が進む。米国防高等研究計画局（ＤＡＲＰＡ）との研究に取り組む米ゼロックス・パロアルト研究所バイスプレジデントのラージ・ミンハス氏に進捗を聞いた。

　―どのようなアプローチでＸＡＩに取り組んでいますか。
　「ＤＡＲＰＡから、自律飛行ロボット（ドローン）による捜索や救難の任務について二つの課題を出された。一つは『ドローンがなぜこのアクションを起こしたか』の説明、もう一つは任務に成功するかどうかの予測。ＡＩの判断がもたらした結果から、モデルの中で何が起こったのかを、開発中の『ＸＡＩシステム』で説明する。現在、捜索・救難の任務についてシンプルな説明ができるところまで研究が進んだ」

　―ＸＡＩシステムはどのようなものですか。
　「ＡＩの判断に影響する多くのパラメーター（変数）と人が理解できる概念との間をマッピングし、つなぐことがアイデアの基本だ。コンピューターが理解できるように概念を記述する仕様『オントロジー』に基づき、ドローンや医療などの分野で使う用語を『共通領域』として定義した。ＸＡＩシステムは、この共通領域を使うことで、機械学習モデルの中で起きたことを人の言葉で説明する」

　―具体的に、ドローンの任務などはどう説明できますか。
　「例えば『離陸』には、滑走路を走行し、飛行高度が上がるというステップがある。ＸＡＩシステムは、多くのパラメーターから自動的に離陸のステップだと理解する。同様に『飛行中』『捜索パターンの飛行』『墜落』もわかる。ドローンが墜落した場合、天候やセンサー精度なども踏まえ、『悪天候でセンサーを活用できず、山を見つけられなくて墜落した』といった説明ができる。ＡＩの専門家以外も理解できることがポイントだ」

　―今後、研究をどう進めますか。
　「ＤＡＲＰＡとは、より多くの原因が考えられる複雑な場合も説明できるように研究を進める。将来は総合的なドローンの任務に対応したい。また、ＸＡＩによってユーザーがＡＩに抱く信頼性が高まるか効果を測定している。当社としては民生向けのＸＡＩの研究に取り組む。例えば、Ｘ線画像から、がんを発症する可能性だけではなく、『画像のこの部分ががんになりそうな可能性を示している』といった説明を提供できるものを作りたい」