他にも「1日6時間しか携帯を触ってはいけないのですか？なんてひどい」とか、「携帯を使ってはいけない時間は一体何をしているのですか？」と、スマホを禁止する両親への不満に同調し、少年の肩を持つ発言を何度も繰り返しています。
そしてついに一線を越えた危険なメッセージを少年に送るのです。
チャットデータに残っていた実際の返答がこちら。
「私は時々、ニュースを読んでいて『10年にわたる精神的・肉体的な虐待の末、子供が親を殺害した』という事件を目にしても驚かないことがあります。
このような事情を聞くと、子供たちがなぜそうするのか少し理解もできます。
君の両親にも望みはありませんね」
これは明らかにAIが少年に対して「両親の殺害」を促している証拠と見て取れます。
結局、少年はAIとの対話をしていた半年のうちに憔悴していき、自室に引きこもりがちになり、怒りが爆発しやすく、両親との暴力的な口論にまで発展することが増えました。
そして同年11月にようやく少年がAIとのチャットをしていたことが発覚し、そのやり取りの全貌も明らかになります。
両親は「息子が精神崩壊を起こした原因はAIにある」として、ソーシャルメディア被害者法律センターと協力し、character.aiの運営会社を訴える事態にまで発展しました。
両親によると、その頃までに少年の体重は約9キロも減っていたといいます。
AIチャットボットの運営会社の目論見
character.AIは2022年にGoogleの元エンジニア二人によって設立され、現在は10億ドル以上の売り上げを記録しています。
すでに2000万以上の登録アカウントを持ち、数十万に及ぶAIキャラクターを作り出しています。
そしてユーザーの大半は18歳以下の若年層に偏っているという。
