| 講演名 | 2022-03-27 Deep FORCE学習によるレザバーコンピューティングの予測性能の向上 中田 一紀(TDK), 鈴木 英治(TDK), 須田 慶太(TDK), 寺﨑 幸夫(TDK), 浅井 哲也(北大), 佐々木 智生(TDK), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 近年の機械学習において物理実装の重要性が高まっている．レザバーコンピューティングは時系列向けの機械学習の１つであり，物理実装に適していることから急速に研究が進展している．レザバーコンピューティングをエッジAIデバイスとして実装するためには，ストリームデータに対するオンライン学習が必須となる．これまでに，高い収束性を持つ FORCE (First-Order, Reduced and Controlled Error) 学習が提案されており，従来主流の確率勾配法に対する優位性が示されている．しかし，FORCE学習は RLS (Recursive Least Squares) アルゴリズムに基づいているため，単一出力という制約があり，多クラスデータをはじめとする追加学習には適していない．そこで，本報告ではFORCE学習の自然な拡張として，カルマンフィルタに基づいたオンライン学習アルゴリズム（Deep FORCE）を提案する．提案手法を二重振子の実軌道予測に適用し，従来のFORCE学習よりも予測性能を向上することを示す． |
| 抄録(英) | The physical implementation has become increasingly important in the recent machine learning trends. Reservoir Computing (RC) is a machine learning framework for time series processing, and the research on RC has progressed rapidly because of the suitability for physical implementation. For implementing RC as edge AI devices, sequential online learning is an essential requirement. Previously, FORCE (First-Order, Reduced and Controlled Error) learning having fast convergence property has been proposed and its advantages over the conventional Stochastic Gradient Descent algorithm were demonstrated. However, RC is not suitable for incremental learning of multi-class data due to the restriction of a single output per layer since it is based on RLS (Recursive Least Squares) algorithm. In this report, we propose a natural extension of FORCE learning, Deep FORCE, based on Kalman filtering. We demonstrated that Deep FORCE can improve the prediction performance of real trajectory of a double pendulum as a nonlinear transformation task as compared to conventional FORCE learning. |
| キーワード(和) | レザバーコンピューティング / オンライン学習 / FORCE学習 |
| キーワード(英) | Reservoir Computing / Online leaning / FORCE learning |
| 資料番号 | CCS2021-40 |
| 発行日 | 2022-03-20 (CCS) |
| 研究会情報 | |
| 研究会 | CCS |
|---|---|
| 開催期間 | 2022/3/27(から1日開催) |
| 開催地（和） | 北海道 ルスツリゾートホテル&コンベンション（ハイブリッド開催，主：現地開催，副） |
| 開催地（英） | RUSUTSU RESORT HOTEL & CONVENTION |
| テーマ（和） | 一般 |
| テーマ（英） | |
| 委員長氏名（和） | 浅井 哲也(北大) |
| 委員長氏名（英） | Tetsuya Asai(Hokkaido Univ.) |
| 副委員長氏名（和） | 赤井 恵(北大) / 会田 雅樹(都立大) |
| 副委員長氏名（英） | Megumi Akai(Hokkaido Univ.) / Masaki Aida(TMU) |
| 幹事氏名（和） | 中田 一紀(TDK) / 眞田 耕輔(三重大) |
| 幹事氏名（英） | Kazuki Nakada(TDK) / Kosuke Sanada(Mie Univ.) |
| 幹事補佐氏名（和） | 中野 秀洋(東京都市大) / 安東 弘泰(筑波大) / 松原 崇(阪大) / 宮田 純子(芝浦工大) |
| 幹事補佐氏名（英） | Hidehiro Nakano(Tokyo City Univ.) / Hiroyasu Ando(Tsukuba Univ.) / Takashi Matsubara(Osaka Univ.) / Sumiko Miyata(Shibaura Inst. of Tech.) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Complex Communication Sciences |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | Deep FORCE学習によるレザバーコンピューティングの予測性能の向上 |
| サブタイトル（和） | |
| タイトル（英） | An Improvement of Prediction Performance of Reservoir Computing using Deep FORCE Learning |
| サブタイトル（和） | |
| キーワード(1)（和/英） | レザバーコンピューティング / Reservoir Computing |
| キーワード(2)（和/英） | オンライン学習 / Online leaning |
| キーワード(3)（和/英） | FORCE学習 / FORCE learning |
| 第 1 著者 氏名（和/英） | 中田 一紀 / Kazuki Nakada |
| 第 1 著者 所属（和/英） | TDK株式会社(略称：TDK) TDK Corporation(略称：TDK) |
| 第 2 著者 氏名（和/英） | 鈴木 英治 / Eiji Suzuki |
| 第 2 著者 所属（和/英） | TDK株式会社(略称：TDK) TDK Corporation(略称：TDK) |
| 第 3 著者 氏名（和/英） | 須田 慶太 / Keita Suda |
| 第 3 著者 所属（和/英） | TDK株式会社(略称：TDK) TDK Corporation(略称：TDK) |
| 第 4 著者 氏名（和/英） | 寺﨑 幸夫 / Yukio Terasaki |
| 第 4 著者 所属（和/英） | TDK株式会社(略称：TDK) TDK Corporation(略称：TDK) |
| 第 5 著者 氏名（和/英） | 浅井 哲也 / Tetsuya Asai |
| 第 5 著者 所属（和/英） | 北海道大学(略称：北大) Hokkaido University(略称：Hokkaido Univ.) |
| 第 6 著者 氏名（和/英） | 佐々木 智生 / Tomoyuki Sasaki |
| 第 6 著者 所属（和/英） | TDK株式会社(略称：TDK) TDK Corporation(略称：TDK) |
| 発表年月日 | 2022-03-27 |
| 資料番号 | CCS2021-40 |
| 巻番号（vol） | vol.121 |
| 号番号（no） | CCS-442 |
| ページ範囲 | pp.25-30(CCS), |
| ページ数 | 6 |
| 発行日 | 2022-03-20 (CCS) |