中枢を感覚システムと運動システムから遮断し記憶を繰り返させる

AIの学習過程に古い記憶を脳内で繰り返させる過程を加えて疑似的な睡眠とした
Credit:Canva . ナゾロジー編集部

どうやって睡眠をニューラルネットに導入するか?

答えを得るため研究者たちはシミュレーション上で、「毒を避けてエサとなる粒子を探して食べる」という簡素な機能を持つ人工生命体を作り、被検体にすることにしました。

伝統的な生物学の分野では生きた動物が実験体として使われますが、計算生物学の分野ではしばしば、特定の条件のもとに動く生物のシミュレーションを用いて研究が行われます。

(※たとえば以前に行われた人工生命を薬物依存にさせる研究では「アシモフ」と名付けられたウミウシのシミュレーションが用いられました)

電脳ウミウシを薬物依存にするシミュレーションで、生物が”クスリ漬け”になる過程が明らかに

今回の研究で作られた人工生命体も、エサと毒を感知する感覚システムと移動するための運動システムを備え、中枢となるスパイクニューラルネットでは何がエサで何が毒かを判断するための認識力が報酬系を利用した学習によって付与されています。

スパイクニューラルネットは既存のニューラルネットを動物の脳により近いものに改良したものであり、情報が継続的に伝達されるのではなく、時間を置いて別々のイベントとして処理されます。

学習が済むと、この簡素な人工生命体はコンピューターの仮想空間を感覚システムと運動システムを頼りに探索し、毒を避けてエサを食べるようになります。

ここでエサや毒となる粒子を別のものに変更すると、人工生命体は混乱を起こしますが、学習が進むと次第に新たな条件に適合するようになり、新たなエサを効率的に探して食べるようになりました。

ですが再びエサと毒の粒子を最初のものに戻すと、人工生命体は再び混乱を起こします。

人工生命体は新たなエサと毒に適合して中枢のスパイクニューラルネットを適合させる過程で、過去のエサと毒の情報にかんして「壊滅的な忘却」を起こしていたからです。

研究者たちは早速、この簡素な人工生命体に睡眠システムを導入することにします。

睡眠システムの導入にあたってはまず、人工生命体の脳である中枢システムと感覚システムと運動システムのリンクを切断しました。

睡眠中の人間は感覚器官と運動器官の脳との通信が大幅に制限されており、現実世界で呼びかけても夢をみている脳には届かず、また夢の世界で体を動かしても現実世界の体は動きません。

そのため中枢と感覚、運動のリンクを切断するのは、睡眠中の状態を再現する第一歩と言えます。

ただ感覚システムと運動システムとのリンクを遮断するだけでは、人工生命体の眠りを再現することはできません。

そこで研究者たちは、世界から切り離された人工生命体の中枢システムに対して、自発的に学習内容を繰り返させる仕組みを導入しました。

睡眠中の人間の脳では、起きている間に学んだ内容を、感覚器官や運動器官との連動なしに繰り返されますが、同じ仕組みを人工生命体の中枢で行わせることで、睡眠の代替としたのです。

実験では、この疑似的な睡眠状態を、新しいエサ条件の学習と交互に繰り返し、学習効果への影響が調べられました。

人間で例えるならば、古い学習内容の夢をみながら、新しい学習内容に挑んでいる状態と言えるでしょう。

結果、疑似的な睡眠と新しい条件の学習の繰り返しは「壊滅的な忘却」を起こさず、人工生命体は古い学習成果を維持したまま、新しい学習内容のパフォーマンスを向上させることに成功しました。

この結果は、人工生命体に組み込まれた疑似的な睡眠がニューラルネット全体での記憶の統合と定着を促進している可能性を示します。

疑似的な睡眠で繰り返された自発的な記憶の繰り返しが、古い学習内容を覚えているために必須なシナプスを保存した状態で、新しい学習内容の定着を可能にしていたのです。

研究者たちは今後、疑似的な睡眠システムを導入することで、ニューラルネットの結合性マトリックス(データ構造)は個々の学習効果を維持した多様体へと進化できると結論しています。

参考文献
Artificial Neural Networks Learn Better When They Spend Time Not Learning at All

元論文
Sleep prevents catastrophic forgetting in spiking neural networks by forming a joint synaptic weight representation