「ロボットいじめ」はプロセス、ロボット「倫理」研究者が語る社会浸透への課題

連載・The ROBOT #03・理化学研究所革新知能統合研究センター 水上拓哉氏に聞く

  • 1
  • 0
理化学研究所革新知能統合研究センター(AIP)の水上拓哉氏

「私はロボットの開発そのものをやっているわけではなく、あくまでその付き合い方や設計の仕方を哲学的にアプローチしている人間なのですが、大丈夫でしょうか」。編集部の取材依頼メールに対し、控えめにそう答えたのは、理化学研究所革新知能統合研究センター(AIP)の水上拓哉氏。水上氏が進める研究テーマは「ソーシャルロボットの倫理的問題」である。水上氏は「ソーシャルロボットの倫理における設計者の道徳的責任の範囲と内実」というテーマで、哲学的な視点からロボットと人間との関係性に関する研究や取組みを進め、2022年2月10日に博士号(学際情報学)を取得した。ロボットの「倫理」を専門とした研究者への取材は、編集部にとっても初挑戦となる。果たしてどのような中身になるのだろうか―。

3月8日発売のロボット情報誌「The ROBOT」では、各業界の産業用/サービス用ロボットに着目し、さまざまな切り口での技術動向などを探った。ニュースイッチでは「The ROBOT」に掲載した「特集」や「インタビュー」の一部を公開する。

ソーシャルロボットにも「倫理」が必要?

「ソーシャルロボット」と聞いて一般的に思い浮かぶのは、接客でよく使われている「Pepper(ペッパー)」や、ペットロボットの「AIBO(アイボ)」などがあるだろう。水上氏はソーシャルロボットを「工学的な意味で自律的に振る舞う技術的人工物」の中で、「何らかの社会的役割を持つことを目的に開発されたもの」として定義している。そのうえで「身体的特性を持つものは(ロ)ボット、持たないものはbots(ボット)と呼ばれる。

ボットはハードウェアを持たないものの、ハードウェアなしでは機能しない。本定義ではボットもソーシャルロボットとみなす」と説明している。最近では会話を楽しむようなボットも増えており、水上氏はこうしたボットもソーシャルロボットに含めて研究している。ここでいうボットとは、日本の「りんな」や中国の「XiaoIce(シャオアイス)」、米国の「Tay(テイ)」のような、AI技術によってソーシャルネットワーク上にもたらされた存在を指す。コミュニケーションツールを介して会話できることから、「チャットボット」とも呼ばれている。

水上氏がチャットボットで特に注目する例は、2016年に発生した、チャットボット「Tay」が攻撃的な発話を繰り返してしまったことをめぐるアカウント停止騒動だ。

チャットボット「Tay」は攻撃的ツイートが増えていった

Tayは中国のXiaoIceを踏まえて米マイクロソフトが開発した、Twitter(ツイッター)上の存在である。15~24歳くらいの皮肉屋な女の子という設定のもと、ユーザーとのやり取りから会話を覚えてツイート発信を行っていた。しかし、複数のユーザーがTayに“不適切”な会話を覚えさせていったことから、自殺教唆やヘイトスピーチのような攻撃的な発話を繰り返すようになり、運営するマイクロソフトはTayのアカウント停止に追い込まれることとなった。

「当時のツイッターユーザーは、Tayの発するただの文字列に対して何らかのagency(行為主体性)を見出していたと言える」。水上氏が注目するのはボット自体の能力ではなく、それを解釈するユーザー側の視点だ。これに対する比較としてよく話題に挙がりやすいのが、Tayの“前身”とされたXiaoIceである。中国ではTayが運用された英語圏とは異なる文化的背景があるのか、XiaoIceの発信内容に関しては、そうした大きな問題の発生は今のところ報告されていないという事実があるのも興味深いところだ。

ロボットとの「関係性」を見つめる

ソーシャルロボットと人間との関係性について、水上氏が注目する事例はチャットボット以外にもある。例えば、子どもによる「ロボットいじめ(robot abuse)」だ。

ロボットに通せんぼや暴行などの嫌がらせをする子供たち

日本に限らず世界各国では、歩行ロボットを“通せんぼ”して通行を妨げたり、殴る蹴るなどの暴行を加えたりする子供が後を絶たない。このような「ロボットいじめ」の問題は、特にソーシャルロボットに警備や清掃、街案内といった役割を担わせるスマートシティ構想を実現する際に対処しなければならない問題だ。水上氏はこの現象について「ソーシャルロボットの社会浸透における喫緊の課題」と述べるが、「人間世界の“いじめ”とは違う現象かもしれない」とも考えている。

「ロボットいじめは、ロボットの社会浸透の『失敗』というよりはむしろ、社会浸透の『プロセス』なのではないか。例えるなら街中に出現したキャラクターの着ぐるみに対する子供の反応のような、目の前のものがどのような存在なのかをあれこれ探るプロセスなのかもしれない」。こうした視点に基づき、水上氏は直近の博士論文で、ソーシャルロボットの倫理をフィクション論の視点から語り直したものを執筆している。

<雑誌紹介>

 雑誌名:ビジネスチャンスが見えるロボット情報誌「The ROBOT」(機械設計2022年4月別冊)
 税込み価格:1,100円

<販売サイト>
 Amazon
 日刊工業新聞ブックストア

<特集目次>
 特集1:ウィズコロナを見据えた新たなロボット需要
 業務・サービスロボットの市場動向を紹介するとともに、医療施設や公共施設、飲食店の現場などでの事例を元に、ロボット活用の新たな方向性を探る。
 特集2:よりフレキシブルに!5Gで進化するロボット活用方法
 製造工場や医薬、農業などでの実証事例、導入事例を元に、5Gを活かしたロボット活用の可能性をレポートする。
 特別企画1:水上・水中ロボット最前線
 水上交通網の構築を目指した自律航行システム、水中における検査や調査のための水中ドローン、生体群制御とロボット技術を活用した水産業の自動化、といった切り口からロボットの新たな活用領域を切り開こうとしている企業の動きを追う。
 特別企画2:これから注目のロボットスタートアップ
 ロボットを活用して、さまざまな社会課題に立ち向かうスタートアップ企業がつぎつぎと生まれている。今後の飛躍が期待できそうなスタートアップ企業のバックグラウンドや起業に至った経緯、技術開発などを通じてその可能性を探っていく。

ビジネスチャンスが見えるロボット情報誌「The ROBOT」(機械設計2022年4月別冊)

関連する記事はこちら

特集

このサイトでは、アクセス状況の把握や広告配信などのためにクッキー(Cookie)を使用しています。オプトアウトを含むクッキーの設定や使用の詳細についてはプライバシーポリシーページをご覧ください。

閉じる