ブレーキなき開発競争の果てに

　ペンタゴン内部にも、この暴走にブレーキをかけようとする動きはある。国防高等研究計画局（DARPA）は、AIの信頼性を数学的に保証するための研究プログラムを開始した。しかし、その予算は、AI兵器システム開発に注ぎ込まれる巨額の資金のほんの一部に過ぎない。

「我々はこの飛行機を飛ばしながら作っているようなものだ」

　ある科学者は、現状の危うさをそう表現する。

「トップダウンの圧力は、慎重さではなく、スピードにかかっている。『リスクを取ってでも、もっと速く進め』というのが現状だ」と、軍関係者は語る。

　AIは、人類にとって計り知れない利益をもたらす可能性を秘めている。しかし、その思考回路を完全には理解できず、倫理的な制御方法も確立できないまま、国家の存亡を左右する兵器システムに組み込むことは、自ら破滅への引き金を引くことになるかもしれない。

　我々は今、AIを「神託」として崇めるのか、それとも限界とリスクを理解した上で「不完全なパートナー」として扱うのか、その重大な岐路に立たされている。

参考：POLITICO、ほか

※ 本記事の内容を無断で転載・動画化し、YouTubeやブログなどにアップロードすることを固く禁じます。