LINEヤフー株式会社（以下、LINEヤフー）が運営する「Yahoo!ニュース」のコメント欄において、「コメント添削モデル」の導入を開始しました。

AIが「Yahoo!ニュース コメントポリシーに違反するコメント」や「不快と感じる可能性のあるコメント」を判定し、利用者が投稿しようとする際に、該当箇所をハイライトで示す機能だといいます。

「コメント添削モデル」とは？

投稿フォームにコメントを入力し「投稿する」ボタンを押すと、全体の文脈から「コメント添削モデル」が不快と感じられる可能性のある内容判定を実施。

該当箇所がなければ、そのままコメントは投稿されます。該当箇所がある場合はその箇所をハイライトで示し、表現の見直しを提案するポップアップが表示されるのだといいます。

この時点では、コメントの投稿は完了しておらず、「コメント入力に戻る」ボタンを押すとコメントを再編集する画面が表示されます。

再編集画面では、投稿フォームの下に「コメント添削モデル」が指摘したすべての該当箇所が表示。必要に応じてコメント本文の見直しを行い「投稿する」ボタンを押下すると投稿が完了します。

ただし、修正は任意であり、修正せずに「投稿する」ボタンを押すと、そのままでも投稿は可能です。

現時点では、ブラウザやYahoo!アプリでは発動する一方、Yahoo!ニュースアプリからのコメント投稿では発動対象外となります。

ヤフコメ健全化への取り組み

「Yahoo!ニュース」は、ユーザーが発信主体としてもニュースに多様な意見を共有し、新たな視点を得る場を提供することを目的として、2007年からコメント欄を設置しました。

ユーザーによる表現の自由を尊重しつつ、より安心して利用できる環境を目指して誹謗中傷や個人情報・無関係な情報などを含む投稿を禁止し、コメントポリシーとして整備。24時間体制の専門チームによる人的なパトロールに加え、LINEヤフーが開発したAI技術「深層学習を用いた自然言語処理モデル」などを活用し、違反コメントの削除などを行っているといいます。