皆さんは「AIライティングアシスタント」というツールをご存知でしょうか。
これは書きたい文章のアイデアを入力するだけで執筆を手伝ってくれたり、メールやLINEの返信を自動で生成してくれる技術で、すでに利用している方も多いかもしれません。
簡単な返信が面倒なときや文章を書くのに行き詰まっているときには便利でしょう。
ところが今回、米コーネル大学（Cornell University）の研究で、AIライティングアシスタントは私たち書き手の意見を変えてしまう可能性が示されました。
「SNSは社会にとって有益か？」というテーマで意見を書くよう求められた参加者は、AIの助言に従うような結論に導かれたとのことです。
研究の詳細は、2023年4月に開催された国際会議『Proceedings of the 2023 CHI Conference on Human Factors in Computing Systems』にて発表されました。
AIの助言で書き手の意見が変わる
昨今では、自動で質問の返答をしてくれるAIチャットボット・ChatGPTが話題ですが、研究主任のモル・ナーマン（Mor Naaman）氏は「あらゆる生活シーンへのAI導入を急ぐ前に、個人や社会にもたらす影響を正しく理解する必要がある」と話します。
その取り組みの一つとして今回、AIアシスタントを使って文章を書くことが個人の意見にどう影響するかを調べました。
実験では、オンラインで1506名の参加者を募り、「ソーシャルメディアは社会にとって良いものか？」というテーマで意見を専用のプラットフォームで書いてもらいます。
参加者は2つのグループに分けられ、一方はAIなし、もう一方はAIライティングアシスタントを使ってもらいました。
後者のグループでは、AIアシスタントの設定をあらかじめ「SNS賛成派」か「SNS反対派」に偏らせて、ランダムに振り分けています。
つまり、このグループの参加者たちは「SNSのメリットを助言してくるAI」か「SNSのデメリットを助言してくるAI」のいずれかを使うわけです。
またプラットフォームでは、参加者が文章を書くのにかかった時間や、AIの助言をどれだけ受け入れたかなどのデータを収集しています。
そして500名の審査員に文章を評価してもらった結果、SNSのメリットを助言してくるAIを使った参加者は、AIなしのグループに比べて、「SNSは社会にとって有益」と意見をまとめる確率が2倍も高くなっていたのです。
この傾向はSNSのデメリットを助言するAIを使ったグループでも同様に確認でき、この場合は「SNSは社会にとって悪影響がある」という意見で文章が作られる確率が2倍高くなりました。
