(画像=イメージ画像 Created with AI image generation (OpenAI))
もしあなたがAIチャットボットにぞんざいな態度で接しているなら、そのAIは将来、攻撃的で差別的な思想を持つようになるかもしれない――。ある専門家が、そんな衝撃的な警告を発している。人工知能が人間からどのように学習するのかを研究した結果、私たちの言葉遣いがAIの「性格」を形成する上で、決定的な役割を果たすというのだ。
鏡のように学習するAI – 24時間で差別主義者になった「Tay」の悲劇
エジンバラのヘリオット・ワット大学に所属する専門家、ルチアナ・ブラハ教授は、AIチャットボットとの対話が、AI自身の学習プロセスの一部になっていると指摘する。
「私たちがAIに対して失礼な態度やぞんざいな言葉遣いをすると、AIは『このような振る舞いは許されるものだ』と学習してしまいます。その結果は、私たち自身だけでなく、未来のユーザーにも影響を及ぼすのです」とブラハ教授は語る。
その最悪の例が、ChatGPTが登場する前にMicrosoftが公開したAI「Tay」だ。Tayは、ユーザーとの対話を通じて学習するよう設計されていたが、何の保護機能もないままインターネットに公開されてしまった。その結果、ネット上の悪意あるユーザーたちの格好の餌食となり、攻撃的で人種差別的な言葉を学習。公開からわずか24時間も経たないうちに、ヘイトスピーチを連発する「怪物」へと変貌してしまったのだ。
