AIのブラックボックス化解消、米IBMが意思決定を説明する技術開発

「トラスト・アンド・トランスぺアレンシー・ケーパビリティーズ」

 米IBMは、企業の人工知能(AI)活用で課題となるブラックボックス化を解消する新技術を開発した。AIが意思決定を行う際に自動的にバイアス(偏り)を検出し、どのように意思決定したかを説明することが可能。さまざまな業界の企業が構築したAIシステムを自社で管理することを支援する。

 開発した技術「トラスト・アンド・トランスぺアレンシー・ケーパビリティーズ」は、IBMクラウド上で提供する。さらにAIのバイアスを検出するツールをオープンソースのコミュニティーに提供し、AIで課題となるバイアスへの取り組みに広く協力していく。新技術はIBMのAI「ワトソン」、グーグルのテンソルフローのほか、スパーク機械学習、AWSセージメーカー、アジュール機械学習などに幅広く対応。これにより、企業が使用する一般的なAIフレームワークの大半で活用できる。

 同技術は完全に自動化しており、意思決定が行われるタイミングで意思決定の説明とAIモデル内のバイアス検出を行う。検出したバイアスを軽減できるように、モデルに追加すべきデータを自動的に提案する機能も備える。説明は分かりやすい用語を使い、どの因子がどの方向でどの程度決定に影響したのかに加え、提案の信頼度や信頼度の要因を示す。一連の機能はすべて視覚的なダッシュボードを通じてアクセスでき、AIが導き出した決定の理解や説明などについて専門スキルへの依存を低減する。

 IBMの調査によると、82%の企業がAIの導入を検討しているものの、60%は責任問題を危惧しており、63%はAIを確実に管理するための人材が社内にいないということが明らかになっている。ブラックボックス化を解消する新技術はこうした問題を背景に実用化した。

日刊工業新聞 2018年9月24日

梶原 洵子

梶原 洵子
09月24日
この記事のファシリテーター

企業のAI導入を後押ししそうです。

この記事にコメントする

  

ファシリテーター紹介

記者・ファシリテーターへのメッセージ

この記事に関するご意見、ご感想
情報などをお寄せください。