Yahoo!ニュース、不適切コメントへの対策として導入している深層学習を用いた自然言語処理モデル(AI)のAPIを無償提供開始

 〜建設的なコメントを評価する特許出願中の技術を外部に提供し、業界全体でインターネット空間の健全化を目指す〜

 詳細ページ( https://yahoo.jp/ctgP-Z )

 

 ヤフー株式会社(以下、Yahoo! JAPAN)は、「Yahoo!ニュース コメント」の健全化を目的に導入している「深層学習を用いた自然言語処理モデル(AI)」を利用してコメントを評価する技術(以下、本AI技術)のAPI(アプリケーション・プログラム・インターフェース)の無償提供を開始します。投稿系サービス事業者は、Yahoo! JAPANのAPIを活用することで、自社サービスに投稿されたコメントをAIで評価し、それをもとに自社においてコメントの削除や表示順の並び替えなどを行うことができます。本日より日本国内の投稿系サービス事業者に向けて受付を開始しました。

 「Yahoo!ニュース」はユーザーがニュースを通してさまざまな意見に触れ、新たな視点を得るきっかけを作るために、配信される記事に意見や感想を投稿できる機能「Yahoo!ニュース コメント」を2007年より提供しています。「Yahoo!ニュース」では健全な言論空間を創出するため、専門チームによる人的なパトロールに加えて、自社で開発した「深層学習を用いた自然言語処理モデル(AI)」を利用して、誹謗中傷などの不適切な投稿を1日平均約2万件削除するなど、不適切な投稿への対策を行っています。

 加えて、言論空間のさらなる健全化と充実化を目指し、「深層学習を用いた自然言語処理モデル(AI)」によって、「客観的で、必要であれば根拠を提示している」「新たな考え方や解決策、見識を提供する」などの条件を満たす建設的なコメントをスコアリングし、スコアが高いものを上位表示させる当社独自の技術である「建設的コメント順位付けモデル」を、2018年から取り入れています。

 ※以下は添付リリースを参照

 

 リリース本文中の「関連資料」は、こちらのURLからご覧ください。

添付リリース

https://release.nikkei.co.jp/attach_file/0540584_01.pdf