お茶の水女子大学大学院人間文化創成科学研究科の伊藤貴之教授は米マイクロソフトと共同で、人工知能（ＡＩ）の機械学習で起こる偏り（バイアス）を可視化するシステムを提案した。学習に使うデータと結果を、複数の可視化要素を組み合わせて分析。映画のコンテンツ推薦システムで、ユーザーの鑑賞履歴と推薦結果を比較することで、偏りを明らかにした。

コンテンツ推薦システムに機械学習の結果を活用する場合、学習のデータやモデルに含まれる偏りにより、不公平な結果を導く問題がある。例えば属性が偏ったデータからの推薦結果では、多様なコンテンツに触れる機会が失われるという。

今回、伊藤教授とマイクロソフトリサーチアジア（中国・北京）は、機械学習に伴う偏りを視覚的に捉える技術に取り組んだ。マイクロソフトの推薦システムによる約３９００本の映画（アクション、ＳＦ、恋愛、コメディーなどのジャンル）と、６０００人超のユーザー属性（性別、年齢、職業など）で分析した。

このオープンデータによる推薦結果では、女性や子どもなどの少数派や、視聴数が少ない人は、多数派と異なり好みと推薦結果が大きくずれた。また恋愛ものに特化した女性ユーザー層がいる一方、アクションをよく見るユーザーは男女とも恋愛ものを含め多様なジャンルを鑑賞するなど、さまざまな傾向が分かった。

同大は４月にジェンダード・イノベーション研究所を設立した。ＡＩによる性差のバイアスを、心理学や工学で見るなど異分野融合の研究が進みそうだ。