川村正樹, 岡田真人, 信学技報 (ニューロコンピューティング研究会), NC-2004, 104, No.140 , pp.35-40, 2004-06

相関ノイズを持つ連想記憶モデルにおけるアトラクタの確率遷移

同期発火現象のメカニズムが様々なモデルで議論されている.しかしながら,そ の機能的な役割については十分な解析がされていない.青木と青柳は熱揺らぎで はなく,同期スパイクによって,状態遷移が起きることを示した.そこで,我々 は相関のあるノイズの効果を検討するために,リカレント型連想記憶モデルにお いて,相関を持ったノイズを導入した場合のダイナミクスを議論する.ここでは, 各ニューロンに対して独立なノイズと共通なノイズを導入する.共通ノイズの影 響により,ニューロン間の相関は無視できず,サンプル依存性が現れる.また, 記憶パターンに階層構造を持ったパターンを記憶した連想記憶モデルを用い,相 関ノイズがある場合において,確率密度関数の発展方程式を導出した.さらに, 相関ノイズによる記憶パターンから混合状態への確率的な遷移を調べ,計算機シ ミュレーションと理論の結果がよく一致することを確認した。


Stochastic transition of attractors in an associative memory model with correlated noise

The mechanism of correlated firing has been analyzed in various models. However, its function has not been discussed enough. Aoki and Aoyagi have shown that state of network transits by not thermal noise but correlated noise. We discuss dynamics of a recurrent neural network with correlated noise in order to analyze effect of the correlated noise. In this report, we introduce two types of noise for each neuron: independent noise and common noise. Because of the effects of the common noise, the correlation between neural inputs cannot be ignored, and then behavior of the network has sample dependence. The associative memory model stores hierarchically correlated patterns. We derive a macroscopic dynamical description as a recurrence relation form of a probability density function, when the common noise exists. Furthermore, stochastic transition from a stored pattern to a mixed state by the common noise is analyzed. The results by computer simulations agree with those of theory.


kawamura
Last modified: Tue Jun 29 12:33:22 JST 2004