General Neural Network 【論文掲載】Transformations between left and right quaternion-valued neural networks
NOLTA に論文が掲載されましたので、簡単に内容を紹介します。四元数の積は非可換ですので、ニューラルネットワークにおいて結合荷重の作用の向きによって結果が異なります。このことは30年ほど前から指摘されていましたが、どのように異なるのかは分...
General Neural Network Associative Memory 【論文掲載】Algebraic Hopfield network (2)
前回は入力空間を加群、結合荷重を作用素として入力和を定義しました。続けて、数学的な準備をしていきます。論文では第4章になります。\(F\) を \(\mathbb{R}\) または \(\mathbb{C}\) とし、\(A\) を \(F...
Associative Memory 【論文掲載】Algebraic Hopfield network (1)
IEICE の英文誌 A に論文が掲載されましたので、簡単に内容を紹介します。Algebraic Hopfield networkHopfield network は非常に良く出来たモデルです。実数で構成されていた古典的なモデルは複素数など...
Associative Memory 【論文掲載】Cyclic-group-ring-valued Hopfield associative memory of order three
NOLTA に論文が掲載されましたので、簡単に内容を紹介します。Cyclic-group-ring-valued Hopfield associative memory of order three以前に Group ring-valued...
Associative Memory 【論文掲載】Quaternionic Vector Product Hopfield Network (2)
前回は VPHN の問題点を指摘し、四元数を導入して解決することを述べました。四元数には幾つかの表現方法がありますが、ここではスカラー部とベクトル部を使った表現を使用します。四元数は \( q=\hat{q}+\vec{q} \) のように...
Associative Memory 【論文掲載】Quaternionic Vector Product Hopfield Network (1)
IEICE TRANS. FUNDAMENTALS に論文が掲載されましたので、簡単に内容を紹介します。Quaternionic Vector Product Hopfield Network 3次元の Hopfield モデルの例は極めて...
Associative Memory 【論文掲載】Complex-valued Hopfield associative memories with hybrid connections (3)
前回はネットワークを３層に分けるところまで解説しました。今回はプロジェクションルールをどのように適用するか解説していきます。一般的な用語ではないですが、ネットワークの合成を使います。ネットワークの合成はヘブ学習でも使われています。ヘブ学習で...
Associative Memory 【論文掲載】Complex-valued Hopfield associative memories with hybrid connections (2)
前回、対称CVHAMではプロジェクションルールが使えないという問題点が残りました。そこで、次の研究を使って、新しいアーキテクチャを考案しました。 Quaternion Projection Rule for Rotor Hopfield N...
Associative Memory 【論文掲載】Complex-valued Hopfield associative memories with hybrid connections (1)
NOLTA に論文が掲載されました。オープンアクセスですので誰でもご覧になれます。論文には次のリンクからアクセスしてください。Complex-valued Hopfield associative memories with hybrid ...
MISC ノーベル物理学賞雑感
ホップフィールド先生とヒントン先生がノーベル物理学賞を受賞されました。ホップフィールドネットワークの研究者としては感慨深いです。今回は伝統的な物理学賞の傾向からかなり外れたものになりました。選考委員会の基準は分かりませんが、人によって感想は...