一方、生成AIは人々の常識感をほぼ全て覆そうとしています。例えばですがルーブル美術館に今展示されている絵画を全て模倣し、それを上野の国立美術館で再現し、ウェブ上ですべての人にアクセス可能なようにせよとか、ビルボードトップ100の曲を過去20年分分析し、ジャンルごとにヒットしそうな曲を10曲ずつ作詞作曲し、ディープフェイクでつくる最も人気あるアーティストにそれを演奏させよ、さらには芥川賞と直木賞と本屋大賞の過去10年分の作品を読み込み、時代のトレンドを考察したうえでノーベル文学賞を狙えるような作品を作れ、ということもできるでしょう。

こうなると画家も音楽家も小説家もおまんまの食い上げです。例えば私のこのブログだって誤字脱字が多いと指摘されもう書きたくないと思ったとき、生成AIに過去のブログを全部読ませ、本日のニュースを読ませればそれなりの生成AIブログができると思います。ただ、もしもそれをやった時、読者層はついてこないだろうと思います。なぜならお前はいつも変なことを書くから面白いのじゃ、と思ってくれる人がある程度はいらっしゃるわけでおり、そのために「あら捜し特捜隊」が毎日ご出動されるわけです。もしも完璧な文章で文脈も記載内容にも一点の曇りもないとすればコメント欄は閑散とし、「どうせ、これ、生成AIが作っているんでしょ。ならファンになれないな」ということになりやしないでしょうか？

ディープフェイクがもっとも脅威になるのはオレオレ詐欺だと思います。日経に「会議相手はフェイク動画、40億円被害が示す詐欺AIの進化」と題する記事があります。英国の会社でディープフェイクのテレビ会議が設定され、本当の経理担当者がそれに参加すると社のディープフェイクのCFO（財務最高責任者）や他の同僚何人かが出席していて資金を〇〇に40億円振り込んでくれ」というのを経理担当者に指示するというものです。その担当者はフェイク会議に騙され、お金を振り込んだのです。

「AIゆりこ」を見たことがある方もいらっしゃるでしょう。よくできています。小池百合子氏にすれば「クローン版ゆりこ」ともいえるのでしょう。ではそのAIゆりこが突然ウソのメッセージを発信し始めたらどうでしょうか？見ている人は皆信じているわけですからあっさり騙されるわけです。

私は生成AIを反対しているわけではないのです。ただ、善意もあれば悪意もあるということ、それ以上に人間が本来持つ能力を開拓したり発掘できるのかなぁ、という素朴な疑問があるのです。もしも人々が「AIに聞いてみよう」と安直に思うようになれば人々は考える、チャレンジする、失敗することが無くなるでしょう。技術は進化するかもしれませんが、人間の成長は止まるかもしれないと憂いています。私の勝手な邪推であればよいのですが…。

江戸時代など昔の人は空を見て天気を予想していました。船乗りの人は特にその能力が長けていたとされます。今の人は空を見てもそんなことは全くわかりません。人間が持てる能力がいかに開拓されていないかという好例でしょう。

では今日はこのぐらいで。

編集部より：この記事は岡本裕明氏のブログ「外から見る日本、見られる日本人」2024年7月2日の記事より転載させていただきました。