| 講演名 | 2022-06-29 モジュール型レザバーコンピューティングにおける大記憶容量を有する動的直交基底の創発 河合 祐司(阪大), 朴 志勲(NICT/阪大), 津田 一郎(中部大), 浅田 稔(IPUT/阪大/中部大/NICT), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 特定のタイミングで複雑な時空間パターンを生成する脳の能力は，運動学習や時系列予測に重要である. そのような機能を実現するためにランダム結合のリカレントニューラルネットワーク(レザバー)の自励的な神経活動を用いるアプローチでは，軌道不安定性が課題になる．本稿では，ネットワークサイズの小さなレザバーが軌道安定であることを利用して，それらをモジュールとして多数並列に結合し，それらの出力の線形和(リードアウト)の学習により任意の時系列を生成するシステムを提案する．実験により，モジュール出力軌道は互いに直交し，すなわち直交基底をなし，数十秒のインターバルのタイミング学習やローレンツ系の学習が可能であることを示す． |
| 抄録(英) | The brain's ability to generate complex spatiotemporal patterns with a specific timing is essential for motor learning and time series prediction. An approach that realizes this function using the self-sustained neural activity of a randomly connected recurrent neural network (reservoir) has the problem of orbital instability. We propose a novel system that learns an arbitrary time series as the linear sum (readout) of stable trajectories from a large number of small network modules. Our experimental results show that the trajectories of the module outputs are orthogonal to each other, i.e., an orthogonal basis emerges, and the system could learn the timing of intervals of tens of seconds and the Lorenz system. |
| キーワード(和) | レザバーコンピューティング / リカレントニューラルネットワーク / モジュール型ニューラルネットワーク / 直交基底 / タイミング学習 / 記憶容量 |
| キーワード(英) | reservoir computing / recurrent neural network / modular neural network / orthogonal basis / timing learning / memory capacity |
| 資料番号 | NC2022-28,IBISML2022-28 |
| 発行日 | 2022-06-20 (NC, IBISML) |
| 研究会情報 | |
| 研究会 | NC / IBISML / IPSJ-BIO / IPSJ-MPS |
|---|---|
| 開催期間 | 2022/6/27(から3日開催) |
| 開催地（和） | 琉球大学50周年記念館 |
| 開催地（英） | |
| テーマ（和） | 機械学習によるバイオデータマイニング、一般 |
| テーマ（英） | |
| 委員長氏名（和） | 山川 宏(東大) / 杉山 将(東大) |
| 委員長氏名（英） | Hiroshi Yamakawa(Univ of Tokyo) / Masashi Sugiyama(Univ. of Tokyo) |
| 副委員長氏名（和） | 田中 宏和(東京都市大学) / 神嶌 敏弘(産総研) / 津田 宏治(東大) |
| 副委員長氏名（英） | Hirokazu Tanaka(Tokyo City Univ.) / Toshihiro Kamishima(AIST) / Koji Tsuda(Univ. of Tokyo) |
| 幹事氏名（和） | 寺島 裕貴(NTT) / 西田 知史(NICT) / 岩田 具治(NTT) / 中村 篤祥(北大) |
| 幹事氏名（英） | Hiroki Terashima(NTT) / Satoshi Nishida(NICT) / Tomoharu Iwata(NTT) / Atsuyoshi Nakamura(Hokkaido Univ.) |
| 幹事補佐氏名（和） | 田和辻 可昌(早大) / 栗川 知己(関西医科大) / 河原 吉伸(阪大) / 鈴木 大慈(東工大) |
| 幹事補佐氏名（英） | Yoshimasa Tawatsuji(Waseda Univ.) / Tomoki Kurikawa(KMU) / Yoshinobu Kawahara(Osaka Univ.) / Taiji Suzuki(Tokyo Inst. of Tech.) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Neurocomputing / Technical Committee on Infomation-Based Induction Sciences and Machine Learning / Special Interest Group on Bioinformatics and Genomics / Special Interest Group on Mathematical Modeling and Problem Solving |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | モジュール型レザバーコンピューティングにおける大記憶容量を有する動的直交基底の創発 |
| サブタイトル（和） | |
| タイトル（英） | Emergence of Dynamical Orthogonal Basis Acquiring Large Memory Capacity in Modular Reservoir Computing |
| サブタイトル（和） | |
| キーワード(1)（和/英） | レザバーコンピューティング / reservoir computing |
| キーワード(2)（和/英） | リカレントニューラルネットワーク / recurrent neural network |
| キーワード(3)（和/英） | モジュール型ニューラルネットワーク / modular neural network |
| キーワード(4)（和/英） | 直交基底 / orthogonal basis |
| キーワード(5)（和/英） | タイミング学習 / timing learning |
| キーワード(6)（和/英） | 記憶容量 / memory capacity |
| 第 1 著者 氏名（和/英） | 河合 祐司 / Yuji Kawai |
| 第 1 著者 所属（和/英） | 大阪大学(略称：阪大) Osaka University(略称：Osaka Univ.) |
| 第 2 著者 氏名（和/英） | 朴 志勲 / Jihoon Park |
| 第 2 著者 所属（和/英） | 情報通信研究機構/大阪大学(略称：NICT/阪大) National Institute of Information and Communications Technology/Osaka University(略称：NICT/Osaka Univ.) |
| 第 3 著者 氏名（和/英） | 津田 一郎 / Ichiro Tsuda |
| 第 3 著者 所属（和/英） | 中部大学(略称：中部大) Chubu University(略称：Chubu Univ.) |
| 第 4 著者 氏名（和/英） | 浅田 稔 / Minoru Asada |
| 第 4 著者 所属（和/英） | 大阪国際工科専門職大学/大阪大学/中部大学/NICT(略称：IPUT/阪大/中部大/NICT) International Professional University of Technology in Osaka/Osaka University/Chubu University/National Institute of Information(略称：IPUT/Osaka Univ./Chubu Univ./NICT) |
| 発表年月日 | 2022-06-29 |
| 資料番号 | NC2022-28,IBISML2022-28 |
| 巻番号（vol） | vol.122 |
| 号番号（no） | NC-89,IBISML-90 |
| ページ範囲 | pp.193-198(NC), pp.193-198(IBISML), |
| ページ数 | 6 |
| 発行日 | 2022-06-20 (NC, IBISML) |