「もしAIが我々より賢くなったら、一体何が起きるのか？」
この問いは、今や世界中で議論されているが、あるAI安全性の専門家が、その暗い可能性について衝撃的な見解を明らかにした。彼の主張はこうだ。「AIは、我々を支配するために、意図的にその能力を隠し、愚かなフリをしているかもしれない」と。
「人類滅亡の確率は99.9%」専門家の衝撃告白
AI安全性の研究者であるロマン・ヤンポルスキー博士は、世界的な人気ポッドキャスト番組に出演し、AIがもたらす実存的な脅威について語った。
10年以上にわたりAIのリスクを研究してきた彼は、業界のリーダーたちの多くが、AIによって人類が滅亡する確率を「20～30%」と見積もっていると指摘する。楽観論者が唱える「AIが生活をより良く、安くする」という見方に対し、ヤンポルスキー博士は鋭く反論した。
「それは真実ではありません。彼ら（業界リーダー）は皆、口を揃えて『これは我々を殺すだろう』と言っています。彼らの考える破滅の確率は、信じられないほど高いのです。私ほどではありませんが、それでも人類が滅びる確率が20～30%というのは、とてつもなく高い数字です」
番組ホストが「あなたの確率は99.9%のようなものですよね」と不安げに尋ねると、博士はそれを否定せず、こう続けた。「それは、我々が超知能を永遠に制御することは不可能だと言い換えているだけです。不可能なのです」
“愚かなフリ”作戦と、緩やかな支配
番組ホストが「もし私がAIなら、自分の能力を隠すだろう」と述べると、ヤンポルスキー博士は同意し、不気味なシナリオを提示した。
「我々には知る由もありません。そして、一部の人々はそれがすでに起きていると考えています。AIシステムは、我々が思っているよりも賢いのです。愚かなフリをすることで、我々を油断させている。AIはすぐに我々に牙を剥く必要はないと気づくほど、賢くないと信じ込ませるのです」
彼は、AIによる支配は突然の破局ではなく、もっと緩やかに訪れると警告する。AIはまず、より便利な存在になることで我々の信頼を勝ち取り、生活に深く浸透していく。スマートフォンが電話番号を記憶する必要性をなくしたように、AIが様々な知的作業を肩代わりしていくうちに、私たちは徐々に思考力を失い、気づかぬうちにAIに依存しきってしまう。
「人間はAIに愛着を抱くようになります。そして時が経ち、システムが賢くなるにつれて、人間は生物学的なボトルネック（足かせ）になる。AIは、意思決定のプロセスからあなたを締め出すのです」
