東京報道新聞

LINEヤフーは2月13日、ニュース配信サービス「Yahoo!ニュース」のコメント欄に導入したAI「コメント添削モデル」の効果について発表しました。この機能は、ユーザーがコメントを投稿する前に、AIが表現の見直しを提案するというものです。

同社によると、コメント添削モデルの導入後、「不快と感じる可能性のあるコメント」の数が約24％減少したとのことです。また、AIの提案を受けて修正されたコメントのうち、約半数は不快度が低い内容に書き換えられていました。

コメント添削モデルは、2024年9月に導入されました。背景には、コメントポリシーには違反しないものの、閲覧者にとって不快に感じられるコメントが投稿されるケースがあったことがあります。

LINEヤフーでは、「不適切投稿判定モデル」を用いて不快度を点数化し、一定の基準を超えるコメントを「不快なコメント」と定義。導入前後の4週間ずつを比較して、その効果を検証しました。

今回の結果から、AIによる事前のチェックがユーザーの投稿内容の改善に一定の効果があることが示されました。今後も、より健全なコメント欄の実現に向けた取り組みが期待されます。

ネット上では、「本当にAIなのか疑問を感じることが多いですね」「特定の属性に対する差別コメントが横行しているなど体感的にあまり変わらないと思う」「なんちゃってAIで単語見て判断してるだけだろって感じ」などの意見が寄せられています。

ヤフコメに誹謗中傷や不適切な書き込み 2014年より監視を開始

「Yahoo!ニュース」のコメント欄「ヤフコメ」は、2007年の開設以来、誹謗中傷や不適切な書き込みなどの問題を抱えてきました。多様な意見を通じて多角的な視点を提供するという本来の目的とは裏腹に、一部のユーザーによる不適切な投稿が、サービスの健全性を損なう要因となっていたのです。

こうした状況を改善すべく、ヤフーは2014年よりAIを活用したコメントの監視を開始。2018年以降は、コメントの関連度や不快度を点数化し、一定の基準を下回る投稿を削除する仕組みを導入しました。

1日あたり約2万件のコメントが削除されていたとのことですが、問題の根本的な解決には至りませんでした。さらに同社は2021年、「違反コメント」が一定数を超えた記事のコメント欄を丸ごと非表示にする措置に踏み切りました。

しかしこの方法では、健全なコメントまで読めなくなってしまうなど、新たな課題も浮上していました。そして今回、新たなAI「コメント添削モデル」を導入し、「不快と感じる可能性のあるコメント」の減少に成功しています。