黒坂岳央です。
ここ数年、Xはドンドン使いにくくなっていると感じる。投稿やアカウントの多くがBOTと呼ばれる自動投稿になり、闇バイトや詐欺商材への入り口になっている。有力者が投稿すると、下にぶら下がるリプライの3分の1はBOTや詐欺誘導で埋め尽くされる。最近は有料広告もそれに加わった。もはやSNSは本来の使い方を非常にしづらい状況となっている。
恐ろしいのは、パッと見で明らかな詐欺誘導に引っかかってしまう人が決して少なくないということだ。一頃流行った「うそはうそであると見抜ける人でないと（掲示板を使うのは）難しい」という言葉が昨今のSNSにそのまんま当てはまる。
生成AIの偽情報を見抜く力がない人は、SNSの利用はしないほうが良い。シンプルにデメリットがメリットを上回るためだ。
一昔前のネット詐欺は「こんなもので騙される人はいるのか？」と思えるものばかりだった。不自然な日本語、どこかで見たフリー素材写真、違和感たっぷりのURLなどパッと見で詐欺とわかりやすく偽装していた。まるでゴリラが人間に擬態しているような違和感であり、被害者は今ほど多くなかったと推測ができる。
だが生成AIがすべてを変えた。マカフィー株式会社が2023年に発表したオンライン音声詐欺の現状に関するレポート「The Artificial Imposter」によると、成人の10%が被害に遭遇しているという。
生成AI、ディープフェイクでパッと見ではわからないほど精巧なうそが出回っている。普通の日常生活を送る上では、そうそうこうしたAI詐欺に引っかかるきっかけはなさそうだが、最も身近な入り口がSNSなのだ。
厄介なことに投稿した瞬間にBOTでリプライをつけ、さらに投稿主のアカウントをブロックすることで自身を排除できないようにするケースもあるようだ。また、本人に偽装してSNSに詐欺広告を出すケースも有る。普通に投稿を見る側には投稿者が何も反応をしていないので、見る人によっては「これは本当なのでは」とコロリと騙されてしまう。
いちいち、誘導先アカウントの妥当性のチェック、URLの確認などをしない人は、もう何が正しくて何がうそかが見分けがつかない。詐欺被害にあった後日、投稿主へ「先日、あなたに詐欺にあった！」と詰め寄るも、投稿者にとっては寝耳に水という状態が起きている。
普通に投稿を楽しみたい一般利用者の立場としても、詐欺が大量に混じって投稿がノイジーになって見づらいため、プラットフォーマー側で対策をしてもらいたいと思うが今のところ有効な対策は「無視」しかない（スパム報告をしてもドンドン生成されるのできりがない）。
