米ＩＢＭは、企業の人工知能（ＡＩ）活用で課題となるブラックボックス化を解消する新技術を開発した。ＡＩが意思決定を行う際に自動的にバイアス（偏り）を検出し、どのように意思決定したかを説明することが可能。さまざまな業界の企業が構築したＡＩシステムを自社で管理することを支援する。

　開発した技術「トラスト・アンド・トランスぺアレンシー・ケーパビリティーズ」は、ＩＢＭクラウド上で提供する。さらにＡＩのバイアスを検出するツールをオープンソースのコミュニティーに提供し、ＡＩで課題となるバイアスへの取り組みに広く協力していく。新技術はＩＢＭのＡＩ「ワトソン」、グーグルのテンソルフローのほか、スパーク機械学習、ＡＷＳセージメーカー、アジュール機械学習などに幅広く対応。これにより、企業が使用する一般的なＡＩフレームワークの大半で活用できる。

　同技術は完全に自動化しており、意思決定が行われるタイミングで意思決定の説明とＡＩモデル内のバイアス検出を行う。検出したバイアスを軽減できるように、モデルに追加すべきデータを自動的に提案する機能も備える。説明は分かりやすい用語を使い、どの因子がどの方向でどの程度決定に影響したのかに加え、提案の信頼度や信頼度の要因を示す。一連の機能はすべて視覚的なダッシュボードを通じてアクセスでき、ＡＩが導き出した決定の理解や説明などについて専門スキルへの依存を低減する。

　ＩＢＭの調査によると、８２％の企業がＡＩの導入を検討しているものの、６０％は責任問題を危惧しており、６３％はＡＩを確実に管理するための人材が社内にいないということが明らかになっている。ブラックボックス化を解消する新技術はこうした問題を背景に実用化した。