前回、対称CVHAMではプロジェクションルールが使えないという問題点が残りました。そこで、次の研究を使って、新しいアーキテクチャを考案しました。
Quaternion Projection Rule for Rotor Hopfield Neural Networks
ここで使われているプロジェクションルールの大元は次の論文にあります。
Quaternionic Hopfield Neural Networks with Twin-Multistate Activation Function
新しいアーキテクチャでは、部分的に対称結合を採用しています。回転不変性を防ぐためなら、全て対称結合である必要はありません。
四元数について簡単に説明しておきます。ここでは2つの複素数 \(x,y\) を使って、\(x+yj\) と表します。次の2つの性質を抑えておけば十分でしょう。
\( j^2=-1\)
\( yj=j\overline{y}\)
2つ目の性質から積は非可換です。入力和の様子を見るために積を計算してみましょう。
\( (u+vj)(x+yj) = \left( ux – v\overline{y} \right) + \left( v\overline{x} + uy \right) j \)
アイデアの骨子はニューロンの状態を \(x,y\) の一方に与えることです。\(y=0\) および \(x=0\) として計算してみましょう。
\( (u+vj)\,x = ux + v\overline{x} j \)
\( (u+vj)\,yj = – v\overline{y} + uy j \)
この結果における成分間の変換をまとめよう。
\(x\)成分 \(\rightarrow\) \(x\)成分:\(ux\) \(y\)成分 \(\rightarrow\) \(y\)成分:\(uy\)
\(x\)成分 \(\rightarrow\) \(y\)成分:\(v\overline{x}\) \(y\)成分 \(\rightarrow\) \(x\)成分:\(-v\overline{y}\)
異なる成分間の場合のみ複素共役になっています。\(x\)成分に割り当てたニューロンのグループを第1層、\(y\)成分に割り当てたニューロンのグループを第2層とします。このとき、同じ層内の結合は共役、異なる層間の結合は対称です。上手くいったように見えますが、実は不十分なのです。前回、2ニューロンでは回転不変性が消えていないことを説明しました。このままではニューロンが層に変わっただけで、層内は順回転、層間は逆回転という回転不変性が生じます。3層にすれば解決しそうですが、どのようにプロジェクションルールを適用すれば良いのでしょうか。それを次回解説します。