SNSの違法有害ワードをAIで自動検出。監視システム安価に構築

メタデータ、人手による目視監視置き換え

 メタデータ(東京都文京区、野村直之社長)は、人工知能(AI)を使い会員制交流サイト(SNS)に投稿されたネズミ講などの悪徳商法やわいせつな表現など違法有害ワードを自動検出する技術を開発した。既存の人手による目視監視サービスより安価に活用できる。パートナーを募り製品化を進める。SNS運営業者の負担を低減する技術として期待される。

 メタデータはSNS上の顧客の声をAIで自動分類し、ある製品やサービスの競合分布グラフやポジショニング(市場での評価などの位置付け)マップを作り出す技術などを有する。こうしたAI技術のノウハウを応用した。SNSを通じた犯罪などの社会課題解決に役立つ技術として開発したという。

 既存の目視による監視サービスよりも安価なシステムの構築を目指す。メタデータはAIが学習するために必要なデータを低コストで作り、学習できる技術も持っており、そうした技術も活用する。

 メタデータはベンチャー企業で独力の事業展開は限界があるため、製品化と運営・サービスはパートナー企業と協業したい考えだ。

 SNSの投稿やコメントの量は膨大で、人手による監視には限界がある。監視が運営コストを押し上げる要因にもなるため、問題となっている。

日刊工業新聞2017年8月16日

昆 梓紗

昆 梓紗
08月16日
この記事のファシリテーター

芸能人のSNSアカウントを見るとこういったコメントも多く、システム運営者ではなく利用者側が注意を呼びかけるといった例もありました。

この記事にコメントする

  

ファシリテーター紹介

記者・ファシリテーターへのメッセージ

この記事に関するご意見、ご感想
情報などをお寄せください。