講演抄録/キーワード |
講演名 |
2022-06-29 13:55
結合行列の対称性制御によるリカレントニューラルネットワークの構造最適化 ○藤本ありさ・山本英明・守谷 哲(東北大)・徳田慶太(筑波大)・香取勇一(公立はこだて未来大)・佐藤茂雄(東北大) NC2022-26 IBISML2022-26 |
抄録 |
(和) |
本研究では,レザバーコンピューティングにおいてレザバーとして用いるリカレントニューラルネットワーク(RNN)の構造をタスクに応じて最適化することを目的として,対称性を制御したガウシアンランダム行列における対称性の強さと出力性能の関係を調べた.性能評価は,手書き文字筆記のための時系列信号を出力するタスクを用いて行った.出力ターゲットの速さと対称性を操作したレザバーが生成するダイナミクスの速さを比較したところ,出力ターゲットに応じて適切な対称性が生まれることが分かった.この結果は,従来行われているスペクトル半径の調整に加えて,結合行列の対称性操作が高性能・高効率なレザバーの設計方法の1つとなる可能性を示唆している. |
(英) |
In this study, we investigated the relationship between the strength of symmetry in a Gaussian random matrix of a recurrent neural network (RNN) and its reservoir computing performance for optimizing network topology of RNNs in reservoir computing models. The performance of the random network with various symmetry was evaluated based on a task that outputs time-series signals for writing handwritten digits. Matrix symmetry influenced the speed of the dynamics in the reservoir layer, and the highest performance was achieved when the speed of the target output was comparable to that of the network dynamics. This result suggests that, in addition to the conventional adjustment of the spectral radius, optimization of the matrix symmetry in the weight matrix could be used to efficiently improve the performance of reservoir networks. |
キーワード |
(和) |
リカレントニューラルネットワーク / レザバーコンピューティング / 結合行列 / 対称性 / 固有値 / / / |
(英) |
Recurrent neural network / Reservoir computing / Weight matrix / Symmetry / Eigenvalue / / / |
文献情報 |
信学技報, vol. 122, no. 89, NC2022-26, pp. 184-188, 2022年6月. |
資料番号 |
NC2022-26 |
発行日 |
2022-06-20 (NC, IBISML) |
ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
NC2022-26 IBISML2022-26 |