NOLTA に論文が掲載されましたので、簡単に内容を紹介します。
Cyclic-group-ring-valued Hopfield associative memory of order three
以前に Group ring-valued Hopfield networks で群環 (group ring) を利用した Hopfield network を提案しました。これを GRVHN と記すことにします。これまでに群環を利用した事例は Klein four group によるモデルがありますが、これは四元数モデルに近い構成でした。
- M. Kobayashi: “Noise robust projection rule for Klein Hopfield neural networks”, Neural Computation, Vol.33, No.6, pp.1698-1716 (2021)
- M. Kobayashi: “Hopfield neural networks using Klein four-group”, Neurocomputing, Vol.387, pp.123-128 (2020)
他にも群環の枠組みで説明できるモデルもあります。split-complex number (hypberbolic number), bicomplex number (commutative quaternion) などがそうです。しかし、これまでの構成では２の冪乗次の代数系しか扱うことができません。今回のモデルは３次の代数系を利用した希少な事例となります。
３次巡回群 \( G= \langle \tau \rangle = \left\{ \epsilon, \tau, \tau^2 \right\} \) に GRVHN の理論を適用します。プロジェクションルールを利用するために安定性条件を拡張する議論を行っています。群環は次のように表されます。
\( \mathbb{R}G=\left\{ x_0\epsilon + x_1\tau + x_2 \tau^2 \,|\, x_0,x_1,x_2 \in \mathbb{R} \right\}\)
ニューロンの状態集合を定めれば、GRVHN の理論によりモデルは確定します。本研究では次のように定義しました。
\( \displaystyle \left\{ \left. \cos\left(\frac{2k\pi}{K}\right)\epsilon +\sin\left(\frac{2k\pi}{K}\right)\tau \,\right|\,k=0,1,\cdots,K-1 \right\}\)
\(\tau^2\) の項がないことに注目してください。\(\tau^2\) の項が無駄になっているように思うかもしれませんが、結合荷重としては有効に使われています。結合パラメータの数は複素連想記憶の 1.5倍になります。パラメータが多いと言うことは、それに見合った性能を求められます。複素連想記憶では回転不変性が雑音耐性の面で障害になっていましたが、提案モデルは回転不変性がないことで雑音耐性を期待以上に改善していると考えられます。一方、記憶容量の面では複素連想記憶からの改善はみられません。
