講演名 | 2022-06-27 単純なソフトプラスニューラルネットワークにおけるフィッシャー情報行列の分解条件の緩和 飯田 昌澄(九大), 武石 啓成(九大), 竹内 純一(九大), |
---|---|
PDFダウンロードページ | PDFダウンロードページへ |
抄録(和) | 隠れ層1層の単純なニューラルネットワークにおける最終層の重みのフィッシャー情報行列を議論する.武石ら(2021)は活性化関数としてRectified Linear Unit (ReLU)を用いたときの近似的な固有値分解を導出した.一方飯田ら(2022)はソフトプラス関数を用いたときにReLUの場合と似た形式の分解を示したが,この結果を得るためにソフトプラス関数の急峻さに制限をおいていた.本稿では,ネットワークの入力分布を変更することで,そうした制限をおかなくてもほぼ同等の結果が成り立つことを示す. |
抄録(英) | |
キーワード(和) | 機械学習 / ニューラルネットワーク / フィッシャー情報行列 / ソフトプラス / ReLU / 固有値分解 |
キーワード(英) | |
資料番号 | NC2022-6,IBISML2022-6 |
発行日 | 2022-06-20 (NC, IBISML) |
研究会情報 | |
研究会 | NC / IBISML / IPSJ-BIO / IPSJ-MPS |
---|---|
開催期間 | 2022/6/27(から3日開催) |
開催地(和) | 琉球大学50周年記念館 |
開催地(英) | |
テーマ(和) | 機械学習によるバイオデータマイニング、一般 |
テーマ(英) | |
委員長氏名(和) | 山川 宏(東大) / 杉山 将(東大) |
委員長氏名(英) | Hiroshi Yamakawa(Univ of Tokyo) / Masashi Sugiyama(Univ. of Tokyo) |
副委員長氏名(和) | 田中 宏和(東京都市大学) / 神嶌 敏弘(産総研) / 津田 宏治(東大) |
副委員長氏名(英) | Hirokazu Tanaka(Tokyo City Univ.) / Toshihiro Kamishima(AIST) / Koji Tsuda(Univ. of Tokyo) |
幹事氏名(和) | 寺島 裕貴(NTT) / 西田 知史(NICT) / 岩田 具治(NTT) / 中村 篤祥(北大) |
幹事氏名(英) | Hiroki Terashima(NTT) / Satoshi Nishida(NICT) / Tomoharu Iwata(NTT) / Atsuyoshi Nakamura(Hokkaido Univ.) |
幹事補佐氏名(和) | 田和辻 可昌(早大) / 栗川 知己(関西医科大) / 河原 吉伸(阪大) / 鈴木 大慈(東工大) |
幹事補佐氏名(英) | Yoshimasa Tawatsuji(Waseda Univ.) / Tomoki Kurikawa(KMU) / Yoshinobu Kawahara(Osaka Univ.) / Taiji Suzuki(Tokyo Inst. of Tech.) |
講演論文情報詳細 | |
申込み研究会 | Technical Committee on Neurocomputing / Technical Committee on Infomation-Based Induction Sciences and Machine Learning / Special Interest Group on Bioinformatics and Genomics / Special Interest Group on Mathematical Modeling and Problem Solving |
---|---|
本文の言語 | JPN |
タイトル(和) | 単純なソフトプラスニューラルネットワークにおけるフィッシャー情報行列の分解条件の緩和 |
サブタイトル(和) | |
タイトル(英) | Relaxing the Requirement for Decomposition of the Fisher Information Matrix for Simple Softplus Neural Networks |
サブタイトル(和) | |
キーワード(1)(和/英) | 機械学習 |
キーワード(2)(和/英) | ニューラルネットワーク |
キーワード(3)(和/英) | フィッシャー情報行列 |
キーワード(4)(和/英) | ソフトプラス |
キーワード(5)(和/英) | ReLU |
キーワード(6)(和/英) | 固有値分解 |
第 1 著者 氏名(和/英) | 飯田 昌澄 / Masazumi Iida |
第 1 著者 所属(和/英) | 九州大学(略称:九大) Kyushu University(略称:Kyushu Univ.) |
第 2 著者 氏名(和/英) | 武石 啓成 / Yoshinari Takeishi |
第 2 著者 所属(和/英) | 九州大学(略称:九大) Kyushu University(略称:Kyushu Univ.) |
第 3 著者 氏名(和/英) | 竹内 純一 / Jun'ichi Takeuchi |
第 3 著者 所属(和/英) | 九州大学(略称:九大) Kyushu University(略称:Kyushu Univ.) |
発表年月日 | 2022-06-27 |
資料番号 | NC2022-6,IBISML2022-6 |
巻番号(vol) | vol.122 |
号番号(no) | NC-89,IBISML-90 |
ページ範囲 | pp.53-60(NC), pp.53-60(IBISML), |
ページ数 | 8 |
発行日 | 2022-06-20 (NC, IBISML) |