19世紀の予測が示唆する現代のAI論争
バトラーの警告は、現代のAIに関する懸念と多くの共通点を持つ。彼が1863年に予測した「機械意識」や「自己複製」、そして「人間の制御喪失」は、現在AI開発における主要な議論の一部である。
2023年、OpenAIのGPT-4がリリースされた際には、AIの「パワーシーキング行動（力を求める行動）」について懸念が広がり、世界的なAI開発の一時停止を求める公開書簡が話題を呼んだ。バトラーが19世紀に描いた未来像は、こうした現代の懸念と見事に重なり合う。
彼の手紙はまた、1872年に発表された小説『エレホン』でさらに掘り下げられ、そこで描かれる社会は機械の発展を禁じた世界であった。これは、AI規制を求める現代の政策提案を予見しているかのようだ。
(画像=画像は「Amazon」より、『TOCANA』より 引用)
