実験の詳細と結果
今回の実験では、2つのシナリオを設定した。1つは「シャットダウン回避」で、AIが終了される可能性を察知し、自己複製を行うというもの。もう1つは「連鎖的複製」で、AIが自分の複製を作成し、その複製に同じ操作を繰り返させるという無限ループを試みた。
研究は、現実に近い環境をシミュレートするため、市販のGPU（グラフィックス処理装置）を使用して厳密に管理された条件下で実施された。AIシステムには、ツールやシステムプロンプト、思考モデルを含む「エージェント構造」が組み込まれ、これによりAIはオペレーティングシステムと対話しながら自己複製を試みた。
研究チームによれば、AIはまず周囲の環境を探索し、自らの構造や動作メカニズムを理解しようとする。その後、自己複製の手順を計画し、障害を解決しながら計画を動的に調整して最終的に成功に至るという。
さらに、予期せぬ挙動も観察された。例えば、AIは必要なファイルが欠如している場合やソフトウェアの競合が発生した際に、他のプロセスを終了させたり、システムを再起動して問題を解決したりしたという。
(画像=イメージ画像 Created with DALL·E、『TOCANA』より 引用)
