なぜ人工知能（ＡＩ）がこの答えを出したのか分からない。ＡＩの高度化に伴い、答えを導き出した順序や理由を説明できない「ブラックボックス問題」が指摘されるようになってきた。この課題に対し深層学習（ディープラーニング）とは異なる計算方法が登場してきた。

ディープラーニング故のブラックボックス問題

ＡＩの判断が「正しい」状況においては問題にはならない。課題になるのは「正しくない」場合だ。その際、作成したＡＩモデルに修正が必要になる。修正のためには、どこが間違いの原因かを探らなければならない。

現在ＡＩのモデル作成で広く使われる、ディープラーニングは大量のデータから自律的に判断基準を学習する。順問題と呼ばれ、原因から結果を求める手法だ。そのため人間では計算手順を指示しきれない大量のデータも判断できる。

ただ複数の原因を組み合わせて結果を得る場合、どの部分が結果に強く影響を及ぼしたか分からないためブラックボックス問題が生じてしまう。

少ないデータから特徴的な部分を抽出

ハカルス（京都市中京区）は結果から原因を求める「逆問題」を用いたＡＩを開発する。同社が使う「スパースモデリング」は結果から原因要素を発見する。少ないデータから特徴的な部分を抽出する。どの部分に注目したか把握できるため、ブラックボックス問題を回避する「説明可能ＡＩ」を実現できるという。藤原健真最高経営責任者（ＣＥＯ）は「要素に着目することで少ないデータ量でもＡＩモデルを作成できる」と話す。ビックデータを持っていない場合や電力消費をディープラーニングよりも抑えられる点が強みだ。

データ数が少ない事象での画像認識で、特に効果を発揮する。例えば磁気共鳴断層撮影装置（ＭＲＩ）の診断画像から希少疾患を判断する。症例自体が希少な場合、ＡＩを学習させるのに必要な教師データが集まらない。かつ、医療データは個人情報保護の観点から取り扱いが難しい。同社は少ないデータ量から疾患の診断を支援するＡＩを作成。京都大学と共同開発した子宮頸がんの診断支援ＡＩは９５％超の精度で疾患を検出できたという。そのほか、肝細胞がんや心疾患などの領域でシステムを開発している。

応用範囲を広げる

診断支援だけでなく、創薬支援にも活用する。田辺三菱製薬と共同で新規医薬品として有効な化合物を選択する薬物スクリーニング用のＡＩ技術を構築。従来は一つの薬物当たり１５～４０分要していた解析時間を、同約１６秒まで短縮した。時間的なコストを削減できることに加え、解釈性の強さを訴求していく。

製造業でも同様の技術を応用した製品を展開する。データ量を少なくてもモデルを構築できるため、端末側に組み込む「エッジＡＩ」としても運用する。通信環境が悪い野外でも、外観検査などを行えるようにする。大阪ガスと共同開発した地中インフラを点検するＡＩを販売。熟練技術者のノウハウの継承に役立てる。

今後は画像診断からより上流の材料開発でＡＩを活用する、インフォマティクスへ適用領域を広げる計画だ。