企業から個人まで、全方位的なリスク管理ツールを目指して

　正式リリース前から、企業の広報部やインフルエンサーなどからも問い合わせが寄せられているという「AI炎上チェッカー」。弁護士ドットコムは、どのような顧客層を想定しているのか。

「個人のユーザー様はもちろんのこと、法人の方にも利用してもらいたいと思っています。特に企業の広報担当者様などがSNS投稿を行う際、言葉一つひとつに細心の注意を払われていることでしょう。しかし、人的なチェックには限界があり、専門コンサルタントへの依頼は高コストになりがち。そういった際に、専門的な視点から手軽にチェックを行えるツールとしてご活用していただけると思っています」

　さらに、発言のチェックだけでなく、弁護士ドットコムが持つ法務に関する専門知識や、万が一の事態が発生した際に専門家へアクセスできるサポート体制も予定しているという。

　気になる料金体系については、現在検討を重ねている段階だという。

「このプロダクトは社会的な意義が大きいと考えており、個人ユーザーの皆様から高額な利用料をいただくことは想定していません。私たちのゴールは単純な収益化ではないですし、表現の自由を制限したいわけでもない。『ネット炎上の総量を下げ、表現の萎縮も防ぐ』という公共的なミッションにあります」と塚本氏は力を込める。

　多くの企業にとってもSNSの活用は「やるべきこと」から「やらないといけないこと」になりつつある。一方で、思わぬ炎上によって企業イメージを大きく損なうリスクをはらむ。さらに炎上し、大火傷を負うのはSNSなどの場だけではない。社内のチャットツールなどでもセクハラやパワハラのリスクと隣り合わせだ。

　企業のパワハラ調査やコンプライアンス研修にかかるコストは年々増加傾向にあるが、このツールを活用すれば、問題のある発言がなされた時点で早期に火種を発見し、対処できる可能性も秘めている。今後は、広告やマーケティング部門だけでなく、法務やリスク管理の観点からもAI炎上チェッカーを導入する企業が増えるのではないか。

AI技術の成熟が後押し、常に進化する「炎上チェッカー」

　AI炎上チェッカーのようなツールは、SNSが普及し始めた頃からニーズはあった。

「ニーズは昔からありましたが、このタイミングでのリリースとなったのは、やはりAI技術の急速な進化が背景にあります。現在のAI技術の進歩により、ようやく自信を持って皆様にご提供できるレベルのサービスが実現できました」

　AIがバズワードになっている昨今では、AI活用を謳うものの、単なる統計処理に基づいた「なんちゃってAI活用」も散見される。しかし、AI炎上チェッカーでは最新のAIモデルを活用し、AI自体も日々進化を続けているという。

　これにより、時代のリアルタイムな変化に即した対応も期待できる。例えば、冒頭で触れた「ほっかほっか亭」のエイプリルフール事例。「すべての店舗でライスの販売を停止する」という投稿には「#エイプリルフール」の記載があり、以前であれば炎上しなかっただろう。しかし、今回はタイミングが最悪だった。昨今のコメ価格上昇という社会情勢も相まって、「配慮が足りなかった」と謝罪する事態となってしまった。

　塚本氏は、「コメの価格が高騰する以前であれば、この投稿が炎上するとは考えにくかったでしょう。明らかに問題のある差別や偏見だけでなく、ジョークのつもりの投稿も炎上し得る世の中ですその点、『AI炎上チェッカー』は最新のAIモデルを活用し、時代とともに変化する言葉の感度や社会通念についても、継続的に学習データをアップデートしていく予定です。現時点では学習データの更新頻度に限界があり、ごく最近の社会問題や話題については反映が遅れる場合もあります。今後は、常に最新の炎上リスクを検知できるよう努めています」と語る。

　来年のエイプリルフール、企業アカウントが「笑えるけれど誰も傷つけないジョーク」を投稿し、炎上0件という未来を迎えられるか――。「AI炎上チェッカー」は、その鍵を握る存在になりそうだ。

（文＝加藤純平／ライター）