| 講演名 | 2019-03-04 積層自己符号化器における人が理解できる深層学習を目指して 石川 眞澄(九工大), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 深層学習の進展はめざましく，その認識性能は人を凌駕するとも言われている．ただ，獲得された特徴量は判然とせず，深層学習の判断理由も人には分からないことが多い．1990年代のニューラルネットワークも同様の指摘がなされ，筆者は忘却（L1ノルム，ラプラス正則化とも呼ぶ）等の提案によりその解決を目指した．本稿では，この提案を深層学習向けに拡張した方法を提案する．非線形系である深層学習ではL1ノルムのみでは分散表現が出現することが多く，人の理解を妨げる．このため，L1ノルムに加えて，構造分割，選択的L1ノルム，隠れ層活性度正則化等を併用する方法を提案する．本提案を深層学習の一つである積層自己符号化器に適用し，スパース化及び意味付け獲得の有効性を検証する． |
| 抄録(英) | Recent progress of deep learning(DP) is remarkable and its recognition ability is said to surpass that of humans. The acquired features, however, are not clear to humans. In many cases, basis of judgement by DP is not known. In 1990s the author proposed l1-norm to make neural networks understandable. In DP, nonlinear in nature, l1-norm alone is not enough to understand the resulting model due to distributed representations. The present paper proposes to extend the previous proposal by jointly using selective l1-norm, hidden neurons activation regularization and so forth, and applies it to real data to verify that sparsity obtained and meaning of hidden neurons attached are effective. |
| キーワード(和) | 深層学習 / 積層自己符号化器 / 理解できるAI / L1ノルム / ニューラルネットワーク |
| キーワード(英) | Deep learning / Stacked autoencoders / Understandable AI / l1- norm / Neural networks |
| 資料番号 | NC2018-62 |
| 発行日 | 2019-02-25 (NC) |
| 研究会情報 | |
| 研究会 | NC / MBE |
|---|---|
| 開催期間 | 2019/3/4(から3日開催) |
| 開催地（和） | 電気通信大学 |
| 開催地（英） | University of Electro Communications |
| テーマ（和） | NC, ME, 一般 |
| テーマ（英） | |
| 委員長氏名（和） | 平田 豊(中部大) / 京相 雅樹(東京都市大) |
| 委員長氏名（英） | Yutaka Hirata(Chubu Univ.) / Masaki Kyoso(TCU) |
| 副委員長氏名（和） | 庄野 逸(電通大) / 野村 泰伸(阪大) |
| 副委員長氏名（英） | Hayaru Shouno(UEC) / Taishin Nomura(Osaka Univ.) |
| 幹事氏名（和） | 吉川 大弘(名大) / 吉本 潤一郎(奈良先端大) / 永岡 隆(近畿大) |
| 幹事氏名（英） | Tomohiro Yoshikawa(Nagoya Univ.) / Junichiro Yoshimoto(NAIST) / Takashi Nagaoka(Kindai Univ.) |
| 幹事補佐氏名（和） | 稲垣 圭一郎(中部大) / 篠崎 隆志(NICT) / 小林 匠(横浜国大) / 鈴木 康之(阪大) |
| 幹事補佐氏名（英） | Keiichiro Inagaki(Chubu Univ.) / Takashi Shinozaki(NICT) / Takumi Kobayashi(YNU) / Ｙａｓｕｙｕｋｉ Ｓｕｚｕｋｉ(Osaka Univ.) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Neurocomputing / Technical Committee on ME and Bio Cybernetics |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | 積層自己符号化器における人が理解できる深層学習を目指して |
| サブタイトル（和） | |
| タイトル（英） | Towards understandable deep learning in stacked autoencoders |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 深層学習 / Deep learning |
| キーワード(2)（和/英） | 積層自己符号化器 / Stacked autoencoders |
| キーワード(3)（和/英） | 理解できるAI / Understandable AI |
| キーワード(4)（和/英） | L1ノルム / l1- norm |
| キーワード(5)（和/英） | ニューラルネットワーク / Neural networks |
| 第 1 著者 氏名（和/英） | 石川 眞澄 / Masumi Ishikawa |
| 第 1 著者 所属（和/英） | 九州工業大学(略称：九工大) Kyushu Institute of Technology(略称：Kyutech) |
| 発表年月日 | 2019-03-04 |
| 資料番号 | NC2018-62 |
| 巻番号（vol） | vol.118 |
| 号番号（no） | NC-470 |
| ページ範囲 | pp.99-104(NC), |
| ページ数 | 6 |
| 発行日 | 2019-02-25 (NC) |