AIが投稿内容の再考を促すサービス「matte」開発の背景や想い

#インタビュー

' セルリア編集部 2020.11.05

SNSなどのユーザー同士がコミュニケーション可能なサービスにおいて、誹謗中傷が大きな問題になっています。 この課題の解決に取り組む「matte」というサービスは、ユーザーが文章を投稿する前にAIが内容を読み取り、誹謗中傷 […]

SHERE!

SNSなどのユーザー同士がコミュニケーション可能なサービスにおいて、誹謗中傷が大きな問題になっています。

この課題の解決に取り組む「matte」というサービスは、ユーザーが文章を投稿する前にAIが内容を読み取り、誹謗中傷や荒らし行為と思われる投稿を検知。 ユーザーに再考を促すことができる、アディッシュ 株式会社がリリースしたサービスです。

今回はこのmatteのプロダクトマネージャーの岩佐 晃輔さんにmatteの機能や開発の背景お話を伺った一部を紹介します。

全文は動画でご覧ください。


撮影場所:アディッシュ株式会社(東京都品川区西五反田1-21-8 ヒューリック五反田山手通ビル8階)

matteについて

本日はよろしくお願いします。
早速ですが「matte」とはどのようなサービスなのでしょうか?

岩佐さん(以下岩佐):よろしくお願いします。
matteとは、コミュニティサービスのユーザーが不適切な投稿をした際に、再考を促すサービスです。
弊社が長年積み重ね、蓄えてきたデータとノウハウをAIモデルを用いて開発しました。

アディッシュ株式会社 「matte」プロダクトマネージャー
岩佐 晃輔さん

ありがとうございます。
このサービスはどのような企業をターゲットにして開発されたものなんでしょうか?

岩佐:例えばECサイトやレビューサイト、SNSやゲームサービスなど、「コミュニティ機能を含むサービス」を提供している企業がターゲットとなります。

ありがとうございます。
個人的にコミュニティサービスといえばSNSのイメージが強かったですが、レビューや口コミなどでもユーザー同士が変わりませんし、広いターゲットに認知されて今後広がっていくサービスだと思います。

岩佐:そうですね。
特に今年はインターネット上における誹謗中傷が話題になったと思いますが、そういったサービスを運営している企業をターゲットに開発しました。

matteの立ち上げ背景・目的

matte立ち上げの背景・目的を教えてください

岩佐:弊社は長年有人モニタリングとシステムを融合させたサービスを提供していて、そのAI化に取り組んでいました。 matteのサービス方針に行き着いたのは今年(2020年)の春頃でした。

弊社のビジョンは「情報社会をあなたの居場所に」とミッションである「つながりを常によろこびに」ですが、原点に戻ってこのビジョンとミッションをAIに落とし込んだ結果、matteというサービスの方針が定まったというのが背景です。

立ち上げ時の課題や苦労とは

matteの開発において苦労したことや課題があれば教えてください。

岩佐:先ほどからAIと申し上げておりますが、AI化を行なうことが大変でした。
弊社は、最終的には有人が判断するサービスを提供することが多く、これはワードではなく文脈によってNGを出すのは人だからこそできることとして捉えているからです。

この(文脈を把握する)判別の精度をあげることが非常に課題としてありました。

例えば、ワード上ではNGワードが含まれる投稿だったとしても、文章として捉えればOKだったりすることもあるんですね。
その精度を高めるために、弊社の機械学習エンジニアが情報・データを学ばせて精度が高いものを提供できるようになりました。

ありがとうございます。
課題点をしっかりとクリアしてサービスのリリースに至ったわけですね。

導入方法・導入までに必要な期間は?

このmatteを導入するには何が必要なのでしょうか?

岩佐:matteはAPIで連携するモデルとなっているため、クライアント様にAPIを組込む作業をしていただく必要があります。

matteは、投稿内容の再考を促すポップアップが出るサービスなため、クライアント様の提供するサービスに合うようなデザインや文章にする必要があります。
やはり、サービスに合わせてカスタマイズできる仕様にしないとユーザーに違和感を与えてしまうため、このようなシステムになっています。

クライアント企業に合ったデザインにするには時間は必要かなと思いますが、matteを導入してから開始するまでの期間はどれくらいなのでしょうか?

岩佐:クライアント様にもよりますが、基本的には1ヶ月をベースでお話しさせていただいております。 ただし、クライアント様が希望する内容によって工数は前後するため、一概には言えません。

サービス開始までに1ヶ月かかるということは、そろそろサービス提供開始から1ヶ月ということになります。 そろそろmatteの運用を開始する企業もいらっしゃるということですね。

岩佐:そうですね。
ありがたいことに、大企業からスタートアップ企業までの幅広い企業様からお問い合わせをいただいておりまして、その中には実際にサービスをスタートさせる企業様もいらっしゃいます。

ではそろそろ僕もmatteのポップアップを見れるかもしれないんですね。
・・・でも攻撃的な投稿をしないと見れないんですよね(笑)

岩佐:そうですね、引っかからないようにしていただけたら(笑)

気をつけます。(笑)

matteに対する企業の反応は?

今、ディスカッションを続けている企業からの反応を教えてください。

岩佐:今年は誹謗中傷の問題が国内外で話題になりました。
この誹謗中傷問題の解決のためにどのようなアプローチがあるのかと探している企業様が多いです。

ユーザーの投稿を規制してしまうと、ユーザーの離脱に繋がってしまうので、そこまで厳しくはしたくないという企業様が多いです。

matteのアプローチは投稿を禁止するわけではなく、不適切な投稿に対して投稿前に投稿の修正を促すサービスなので、非常に興味を持ってくださる企業様が多いです。

企業様にとっても痒いところに手がとどくサービスだと思います。
頭に血が上っている時に、ポップアップが出てくることによってそのまま投稿するよりも違うと思うんですよね。怒りの沸点というか・・

岩佐:仰る通り、怒りのピークって6秒と言われていているんです。

そんなに短いんですね。

岩佐:怒りのまま投稿してしまうことが誰しもあると思うんですよね。
時間が経って思い返すと「何故あんな投稿をしてしまったのか」と思ってしまったり。

ユーザー全員のネットリテラシーを引き上げるというのは、ある程度ユーザーに判断を委ねる必要があると考えている企業にmatteの提供するサービスが刺さったということなんですね。

岩佐:そうですね。
ちょっと切り口を変えてみると、海外の選挙の話だとプラットフォームによって判断が別れるということが問題になっています。

matteはプラットフォームでジャッジするわけではなく、AIによって一度ジャッジすることができるので、最終的に投稿するのかを選ぶのはユーザーですので、プラットフォーム毎のコメントがどのようにして活発になっていくのかをユーザーのみなさんが考えられるような仕組みを提供できると考えています。

現在の課題点や改善点

様々な企業とディスカッション中だと思うのですが、その中で出てきた課題などはありますか?

岩佐:ユーザーテストで、ポップアップの内容を読まずに投稿してしまったという声やデザインがわかりにくいという声をいただきまして、導入するプラットフォームによってユーザーに印象を与える最善なデザインや文言を提供できるようにしていきたいと考えております。

今後想定される課題点・改善点

サービスをリリースされる企業が増えていく中で、想定できる課題点やその改善点などがあれば教えてください。

岩佐:今後出てくる新しい言葉、例えばスラングや略語であったり時代や流行によって出てくる言葉をどのように捉えていくのかが課題として出てくると思っています。

AIは過去のデータを取得していくので、時代によって意味合いや言葉が変わっていきます。
時代によって不適切な投稿が変わっていくので、その時の状況に対応できるフローができるのかということが大事だなと捉えています。

特に若者世代が使うSNSなどでは非常に大事な要素だと思います。
ありがとうございます。

岩佐:さらに今は、過去に投稿されていない投稿・ワードが検出できないかということも検証しています。

今後の企業へのアプローチ方法

今後の企業へのアプローチ方法は何か考えていらっしゃいますか?

岩佐:現在は取引をさせていただいている企業様に向けてアプローチをさせていただいていますが、matteの登場を機に新規の企業様にもアプローチができればいいなと考えています。

また、監視業務がない・やっていないコミュニティサービスもたくさん存在しているのでそこの向けたアプローチを行えればと思っています。

今後のビジョン

今後のビジョンを教えてください。

岩佐:アディッシュ の「情報社会をあなたの居場所に」というビジョンの元matteのサービスを推し進めます。 ユーザーに気づきと機会を与えるアプローチで「居場所」を作っていくというところですが、まだその機能しか提供できていない状況です。

ユーザーにとっての居場所になる上では今のアプローチだけでは足りないと思っているので、模索をしながらさらなるアプローチを探していきたいと考えています。

まとめ

最初は緊張されていた岩佐さんでしたが、インタビューが進むにつれて様々な思いをお伺いする事ができました。 インタビュー以外の時間でもAIに関する様々な知識を教えてくださり、終始学びになるインタビューでした。

今後もmatteの普及によるネットリテラシーの向上に期待が高まります。
本日はインタビューありがとうございました!

(インタビュアー:杉原 立紀)

 

関連情報

[会社名] アディッシュ株式会社
[サービス名] matte

[企業URL] https://www.adish.co.jp/

 

最後までお読みいただきましてありがとうございます。インタビューのご依頼・ご意見・ご要望
などございましたら、 以下のフォームよりお問い合わせを受けつけておりますので、よろしければご利用ください。

          
SHERE!