| 講演名 | 2017-06-23 選択的不感化ニューラルネットの追加学習能力の解析 市場 知樹(筑波大), 丹野 智博(筑波大), 堀江 和正(筑波大), 井澤 淳(筑波大), 染野 翔一(筑波大), 森田 昌彦(筑波大), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 大域的な汎化が可能な従来のニューラルネットワーク(NN)で追加学習を行うと，学習済みの入出力関係が壊れるという問題がある．選択的不感化ニューラルネット(SDNN)はこの問題が発生しないことが応用研究より示唆されているがその理由は不明である．そこで本研究では，2変数関数近似の追加学習課題における数値実験により，SDNNと従来のNNの性質の違いを解析し，追加学習におけるSDNNの能力とその要因を解明する．結果，SDNNは従来のNNと異なり，追加学習時個々の学習サンプルの学習の影響は小さいが，学習サンプルを増やしていくと軸平行線上において学習の影響が大きく広がるという性質を持つことが分かった．そのためSDNNは大域への汎化が可能でありながら学習済みの入出力関係を壊さずに追加学習を行うこともできると考えられる． |
| 抄録(英) | A conventional neural network with high generalization ability is known to entirely forget the previously learned information by sequential learning. Recent applied researches have showed that selective desensitization neural network (SDNN) does not have this problem, but its factors are unclear. The present study clarifies the capability and its factors of SDNN on sequential learning by analyzing the difference in characteristics of SDNN and conventional neural networks through numerical experiments of sequential learning on two-dimensional function approximation tasks. As a result, SDNN was able to not only locally fit to each of the new data but also affect widely to complement between samples when several similar data gathered near. These characteristics of SDNN contribute to its high capability to both preserve the previous model and effectively fit to the new data while keeping high generalization ability. |
| キーワード(和) | 関数近似 / ニューラルネットワーク / 選択的不感化ニューラルネット / 追加学習 / 大域的汎化 |
| キーワード(英) | Function approximation / Neural network / Selective Desensitization Neural Network / Sequential learning / Global generalization |
| 資料番号 | NC2017-9 |
| 発行日 | 2017-06-16 (NC) |
| 研究会情報 | |
| 研究会 | NC / IPSJ-BIO / IBISML / IPSJ-MPS |
|---|---|
| 開催期間 | 2017/6/23(から3日開催) |
| 開催地（和） | 沖縄科学技術大学院大学 |
| 開催地（英） | Okinawa Institute of Science and Technology |
| テーマ（和） | 機械学習によるバイオデータマインニング、一般 |
| テーマ（英） | Machine Learning Approach to Biodata Mining, and General |
| 委員長氏名（和） | 萩原 将文(慶大) / / 福水 健次(統計数理研) |
| 委員長氏名（英） | Masafumi Hagiwara(Keio Univ.) / / Kenji Fukumizu(ISM) |
| 副委員長氏名（和） | 平田 豊(中部大) / / 杉山 将(東大) |
| 副委員長氏名（英） | Yutaka Hirata(Chubu Univ.) / / Masashi Sugiyama(Univ. of Tokyo) |
| 幹事氏名（和） | 青西 亨(東工大) / 吉川 大弘(名大) / / 鹿島 久嗣(京大) / 津田 宏治(東大) |
| 幹事氏名（英） | Toru Aonishi(Tokyo Inst. of Tech.) / Tomohiro Yoshikawa(Nagoya Univ.) / / Hisashi Kashima(Kyoto Univ.) / Koji Tsuda(Univ. of Tokyo) |
| 幹事補佐氏名（和） | 篠沢 佳久(慶大) / 稲垣 圭一郎(中部大) / / 竹内 一郎(名工大) / 神嶌 敏弘(産総研) |
| 幹事補佐氏名（英） | Yoshihisa Shinozawa(Keio Univ.) / Keiichiro Inagaki(Chubu Univ.) / / Ichiro Takeuchi(Nagoya Inst. of Tech.) / Toshihiro Kamishima(AIST) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Neurocomputing / Special Interest Group on Bioinformatics and Genomics / Technical Committee on Infomation-Based Induction Sciences and Machine Learning / Special Interest Group on Mathematical Modeling and Problem Solving |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | 選択的不感化ニューラルネットの追加学習能力の解析 |
| サブタイトル（和） | |
| タイトル（英） | Analysis of Sequential Learning Capability of Selective Desensitization Neural Network |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 関数近似 / Function approximation |
| キーワード(2)（和/英） | ニューラルネットワーク / Neural network |
| キーワード(3)（和/英） | 選択的不感化ニューラルネット / Selective Desensitization Neural Network |
| キーワード(4)（和/英） | 追加学習 / Sequential learning |
| キーワード(5)（和/英） | 大域的汎化 / Global generalization |
| 第 1 著者 氏名（和/英） | 市場 知樹 / Tomoki Ichiba |
| 第 1 著者 所属（和/英） | 筑波大学(略称：筑波大) Tsukuba University(略称：Tsukuba Univ.) |
| 第 2 著者 氏名（和/英） | 丹野 智博 / Tomohiro Tanno |
| 第 2 著者 所属（和/英） | 筑波大学(略称：筑波大) Tsukuba University(略称：Tsukuba Univ.) |
| 第 3 著者 氏名（和/英） | 堀江 和正 / Kazumasa Horie |
| 第 3 著者 所属（和/英） | 筑波大学(略称：筑波大) Tsukuba University(略称：Tsukuba Univ.) |
| 第 4 著者 氏名（和/英） | 井澤 淳 / Jun Izawa |
| 第 4 著者 所属（和/英） | 筑波大学(略称：筑波大) Tsukuba University(略称：Tsukuba Univ.) |
| 第 5 著者 氏名（和/英） | 染野 翔一 / Syoichi Someno |
| 第 5 著者 所属（和/英） | 筑波大学(略称：筑波大) Tsukuba University(略称：Tsukuba Univ.) |
| 第 6 著者 氏名（和/英） | 森田 昌彦 / Masahiko Morita |
| 第 6 著者 所属（和/英） | 筑波大学(略称：筑波大) Tsukuba University(略称：Tsukuba Univ.) |
| 発表年月日 | 2017-06-23 |
| 資料番号 | NC2017-9 |
| 巻番号（vol） | vol.117 |
| 号番号（no） | NC-109 |
| ページ範囲 | pp.27-32(NC), |
| ページ数 | 6 |
| 発行日 | 2017-06-16 (NC) |