講演名 2023-03-14
逐次および同時マルチタスク学習のグラフ縮約による解析
杉山 大知(東海大), 倉重 宏樹(東海大),
PDFダウンロードページ PDFダウンロードページへ
抄録(和) 人や動物は様々なタスクを学習できる.その際,逐次的にタスクを学習することが一般的である.しかし,以前に学習した内容が次の学習に与える影響については明らかになっていない.そこで本研究では,リカレントニューラルネットワークに複数のタスクを逐次および同時に学習させ,それらの解空間をグラフ縮約法を用いて解析し,その差異を比較した.結果,逐次学習と同時学習の間に統計的な差は見られなかった.この結果は,あるタスクのクラスについては学習の同時性・逐次性は差異をもたらさないことを示唆する.今後はより広いタスククラスについて,この検討を広げていく必要がある.
抄録(英) Humans and animals can learn multiple tasks. It is common that learning to learn tasks sequentially. However, it is not clear whether and how preceding learning affects subsequent one. Therefore, in this study, we investigated the difference in the dynamical features between the recurrent neural networks that learned multiple tasks concurrently and sequentially. Using the graph reduction method, we showed that there is no statistical difference between them. This result suggests that the sequentiality of learning does not make a difference for a particular class of tasks. It is necessary to extend this analysis to a wider range of task classes in the future.
キーワード(和) リカレントニューラルネットワーク / マルチタスク学習 / グラフ縮約法
キーワード(英) Recurrent neural networks / Multi-task learning / Graph reduction
資料番号 NC2022-99
発行日 2023-03-06 (NC)

研究会情報
研究会 NC / MBE
開催期間 2023/3/13(から3日開催)
開催地(和) 電気通信大学
開催地(英) The Univ. of Electro-Communications
テーマ(和) 脳アーキテクチャー, 一般(NC, ME)
テーマ(英) Brain architecture, General
委員長氏名(和) 山川 宏(東大) / 堀 潤一(新潟大)
委員長氏名(英) Hiroshi Yamakawa(Univ of Tokyo) / Junichi Hori(Niigata Univ.)
副委員長氏名(和) 田中 宏和(東京都市大学) / 吉田 久(近畿大)
副委員長氏名(英) Hirokazu Tanaka(Tokyo City Univ.) / Hisashi Yoshida(Kinki Univ.)
幹事氏名(和) 寺島 裕貴(NTT) / 西田 知史(NICT) / 奥野 竜平(摂南大) / 辛島 彰洋(東北工大)
幹事氏名(英) Hiroki Terashima(NTT) / Satoshi Nishida(NICT) / Ryuhei Okuno(Setsunan Univ) / Akihiro Karashima(Tohoku Inst. of Tech.)
幹事補佐氏名(和) 田和辻 可昌(早大) / 栗川 知己(関西医科大) / 湯田 恵美(東北大) / 金子 美樹(阪大)
幹事補佐氏名(英) Yoshimasa Tawatsuji(Waseda Univ.) / Tomoki Kurikawa(KMU) / Emi Yuda(Tohoku Univ) / Miki Kaneko(Osaka Univ.)

講演論文情報詳細
申込み研究会 Technical Committee on Neurocomputing / Technical Committee on ME and Bio Cybernetics
本文の言語 JPN
タイトル(和) 逐次および同時マルチタスク学習のグラフ縮約による解析
サブタイトル(和)
タイトル(英) Dynamical analysis of concurrent and sequential multi-task learning in recurrent neural networks using the graph reduction method
サブタイトル(和)
キーワード(1)(和/英) リカレントニューラルネットワーク / Recurrent neural networks
キーワード(2)(和/英) マルチタスク学習 / Multi-task learning
キーワード(3)(和/英) グラフ縮約法 / Graph reduction
第 1 著者 氏名(和/英) 杉山 大知 / Daichi Sugiyama
第 1 著者 所属(和/英) 東海大学(略称:東海大)
Tokai University(略称:Tokai Univ.)
第 2 著者 氏名(和/英) 倉重 宏樹 / Hiroki Kurashige
第 2 著者 所属(和/英) 東海大学(略称:東海大)
Tokai University(略称:Tokai Univ.)
発表年月日 2023-03-14
資料番号 NC2022-99
巻番号(vol) vol.122
号番号(no) NC-425
ページ範囲 pp.42-47(NC),
ページ数 6
発行日 2023-03-06 (NC)