IEICE に論文が掲載されましたので、簡単に紹介します。連想記憶に高次元の代数系を適用する研究の1つです。先行研究として、群環を連想記憶に導入しています。
Group ring-valued Hopfield networks 群環を連想記憶に利用することを提案
Cyclic-group-ring-valued Hopfield associative memory of order three 具体的な群として3次の巡回群を連想記憶に適用した例
本論文では巡回群を使って3次元の連想記憶を提案しています。3次元の連想記憶は使い辛いです。連想記憶は研究の本質ではなく、3次元信号処理に巡回群を適用する例として考えるべきです。自分の詳しい連想記憶を適用例としただけで、他の応用先に詳しい研究者の方々が上手く適用してくれることを期待します。連想記憶だけでなく、他のニューラルネットワークのモデルでも3次元の手法は少なくて、比較的成功しているのは Arena らが四元数を利用した方法でしょう。四元数を使って3次元の回転を表すのは良く知られた手法で、MLP に適用してロボットの制御などにも応用されています。本(Lecture Note)も出版されています。
P. Arena, L. Fortuna, G. Muscato, and M.G. Xibilia, Neural networks in multidimensional domains: fundamentals and new trends in modelling and control. Springer (1998).
この手法を連想記憶にも適用はできます。構成だけは一応しましたが、Hebb や Projection rule の学習則が適用できないので、実装はしていません。実装するなら勾配降下学習となるでしょう。卒論のテーマなどにいかがでしょうか。
Three-Dimensional Quaternionic Hopfield Neural Networks
新田先生(現 東京女子大教授)は3次元の外積を3次元MLPに導入しました。外積は3次元の2項演算ですが、結合則が成立しません。私は連想記憶モデルを使って研究していますので、この点はかなり不便です。MLPを研究される方は勾配降下で学習しますので、特に問題ではないのかもしれません。私は四元数の積の一部に外積が現れることに注目して、四元数を使って拡張しました。四則演算が可能になりましたので、計算が便利になりました。一方、パラメータ数は 4/3倍必要になります。これもまだMLPへの適用はしていません。この記事をご覧の皆様の中から、外積MLPとの比較など研究してくださる方が出てくることを期待します。
Quaternionic Vector Product Hopfield Network
本論文では3次の巡回群を連想記憶に適用しました。割り算が出来ない可能性はありますが、代数系としては十分使いやすいものになっています。四元数を使った場合と違って、パラメータ数を増やす必要もありません。シミュレーションで比較していますが、結果は四元数に劣っています。これはメモリ使用量とのトレードオフとなります。これも誰かがMLPへの適用例を研究してくれることを期待しています。