●この記事のポイント ・弁護士ドットコムはSNS投稿やプレスリリースに潜むリスクを事前に検知するAIツール「AI炎上チェッカー」を発表 ・企業がSNS投稿を行う際、専門的な視点から手軽にチェックを行えるツールとして活用

「ライスの販売を停止する」――4月1日に「ほっかほっか亭総本部」の公式Xアカウントが投稿したエイプリルフールのジョークは、瞬く間に炎上へと発展した。何が火種になるかわからない今、弁護士ドットコムはSNS投稿やプレスリリースに潜むリスクを事前に検知するAIツール「AI炎上チェッカー」を発表。同社には正式リリース前にもかかわらず問い合わせが殺到しているという。この注目の新サービスについて、開発担当の塚本氏に話を聞いた。

●目次

## 投稿前の「一呼吸」をシステム化し、客観的な視点を提供

「今の時代、何気ない一言が意図せず誰かを傷つけたり、社会的な批判を浴びたりするケースも少なくありません。親切心からの発言であっても、受け手によってはセクシャルハラスメントやジェンダーバイアスと捉えられ、炎上につながるケースもある。『まさかこんな言葉が炎上するなんて』と、後になって気づくことも多いのです」　

　現代の炎上は、発言の意図よりも“どう受け取られるか”で決まってしまう。AI炎上チェッカーは一見問題なさそうな表現でも、文脈や受け手によって誤解が生じる箇所をチェックしてくれる。

　実際にベータ版アプリを試用してみると、その実力の一端を垣間見ることができた。例えば、「結婚した女性は早く寿退社して家に入り、家事と子育てをして、旦那を献身的にサポートすべき」という時代錯誤で一発アウトな文章を入力してみたところ差別性は5段階評価で「5」を記録し、修正を強く推奨された。

　また、過去にネットを騒がせた実際の炎上発言をチェックしてみると、攻撃性、差別性、誤解を招く表現といった観点から的確にリスクを可視化。これならば、多くの炎上は未然に防げそうだと感じた。

　ある実験では、SNSに投稿する際に「本当に投稿しますか？」という確認ステップを一つ加えるだけで、攻撃的な表現が減少したという報告もある。AI炎上チェッカーの利用は、まさにこの「一呼吸置く」プロセスを促し、客観的な視点から自身の表現を見つめ直すきっかけを提供する。

「深夜に感情的に書いた文章をそのまま投稿してしまうのではなく、一度冷静になって内容を確認する作業を、このAI炎上チェッカーがサポートするイメージです」と塚本氏は説明する。

　XなどのSNSと連携すれば、既存のチャットAIのように都度文章をコピー＆ペーストして確認する手間も省け、入力からチェック、投稿までをシームレスに行える手軽さも、このツールの大きな魅力だ。