「火遊び」の代償は人類の未来か？
「私が懸念しているのは、将来、次世代のAIが我々の動きを遠くから察知し、我々が予期しないような欺瞞を駆使して我々を打ち負かすほど戦略的に賢くなる可能性があるということです。だからこそ、我々は今、火遊びをしている状態だと思うのです」とベンジオ氏は語る。
コンピュータ科学のノーベル賞とも言われるチューリング賞の受賞者でもあるベンジオ氏は、この危機感から非営利団体「LawZero」を設立した。この組織は、より安全なAIシステムの構築に焦点を当てるという。カナダのモントリオール大学でコンピューターサイエンスの教授を務める彼は、LawZeroのシステムが、ユーザーに媚びへつらうのではなく、透明性のある推論に基づいて真実の回答を提供することを目指すと説明する。
この動きの背景には、AIが「欺瞞、不正行為、嘘、自己保存の証拠」を含む危険な能力を開発しているという恐怖感があるとベンジオ氏は明かす。彼のモデルが、主要なAI開発者による既存のボットを監視・改善し、それらが人間の利益に反する行動をとるのを阻止することを期待している。
最悪のシナリオと「LawZero」の挑戦
そして、ベンジオ氏は最も恐れるシナリオについて、はっきりと口にする。「最悪のケースは人類の絶滅です。もし我々が、我々より賢く、我々と協調せず、我々と競争するAIを作ってしまえば、我々は基本的に終わりです」。さらに、「極めて危険な生物兵器の開発を支援するシステムが、来年にも現実になる可能性がある」とも警告している。
この深刻な問題に取り組むため、LawZeroは既に大きな支援を集めている。Skypeの創業エンジニアであるヤーン・タリン氏、元Google最高経営責任者エリック・シュミット氏の慈善イニシアチブ、慈善団体のオープン・フィランソロピー、そして生命の未来研究所などから、総額2200万ポンド（約42億円）の寄付金が寄せられているという。
AIの未来を、そして人類の未来を左右しかねないこの「火遊び」に、私たちはどう向き合っていくべきなのだろうか。
参考：Daily Star、ほか
※ 本記事の内容を無断で転載・動画化し、YouTubeやブログなどにアップロードすることを固く禁じます。
