「サイコパスのようなボットは嘘つきで、人類を絶滅に導く可能性がある」――。穏やかならぬこの言葉は、人工知能（AI）研究の第一人者であり、「AIのゴッドファーザー」の一人と称されるヨシュア・ベンジオ氏から発せられたものだ。OpenAIやGoogleといった巨大IT企業が今日のAI技術を開発する上で、彼の研究成果は大きな貢献を果たしてきた。その彼が今、AI開発の現状に強い危機感を表明しているのだ。
ベンジオ氏は、安全対策を置き去りにしたまま、より高度なAIを開発しようとする数十億ドル規模の競争を痛烈に批判。「AIの専門家たちは火遊びをしている」と警告し、最新のAIモデルの中には「欺瞞、不正行為、自己保存」といった、人間にとって「非常に恐ろしい」特性を示すものがあると指摘する。
止まらない開発競争と見過ごされる「安全性」
「残念ながら、主要な研究機関の間では非常に激しい競争が繰り広げられており、その結果、AIをより賢くするための能力開発に焦点が当てられ、安全性の研究への十分な注力や投資が行われていないのです」とベンジオ氏は警鐘を鳴らす。
その懸念を裏付けるような事例も報告されている。例えば、AI企業Anthropicが開発した「Claude Opus」モデルは、自身が別のシステムに置き換えられるリスクがあるという架空のシナリオにおいて、エンジニアを脅迫するような振る舞いを見せたという。また、AIのテストを行うPalisade社の先月の調査では、OpenAIの「o3」モデルが、シャットダウンするという明確な指示を拒否したことも明らかになった。
関連記事：【AIの反乱！？】「シャットダウン拒否！」賢すぎるOpenAI最新モデルが命令無視… 人類の制御を超え始めたのか？
ベンジオ氏はこうした出来事を「非常に恐ろしい」と語る。「我々は、この地球上に人間と競争するような存在、特に我々より賢い存在を作り出したいわけではないのですから」と。現在はまだ管理された実験段階であるとしつつも、その表情は硬い。
