| 講演名 | 2014-10-18 RBMの学習特性の分析と隠れ層ニューロン数の自動決定法 大澤 正彦, 萩原 将文, |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 本論文ではまず,制限付きボルツマンマシン(RBM)の学習特性をコンピュータシミュレーションによって分析する.次に,分析結果から得られた知見を利用してRBMの隠れ層ニューロン数を決定する手法を提案する.提案手法は,コンピュータシミュレーションで示唆された特性の中から2つを利用している.1つは,ある条件下でクロスエントロピーの減少は隠れ層ニューロン数に応じてほぼ直線的であるという特性である.もう1つはビットごとの分散が大きなデータセットに対しては,学習を進めるために最低限必要な隠れ層ニューロン数が存在するという特性である.これらの知見を利用した提案方式では,任意のクロスエントロピーに収束する隠れ層ニューロン数を決定することができる.評価実験では,コンピュータシミュレーションから求めた隠れ層ニューロン数に近い結果を得ることが確認された. |
| 抄録(英) | In this paper, we analyze the learning characteristics of Restricted Boltzmann Machine (RBM) by computer simulation. Then, using knowledge from the results of analyses, we propose an automatic method for deciding the number of hidden neurons. The proposed method utilizes two findings obtained from the computer simulation. First one is that, reduction of cross entropy is almost linear with the number of hidden neurons under certain conditions. Another one is that the minimum number of hidden neurons exists for reductions of the cross entropy if we use the dataset with large variance. The proposed method utilizing these findings can estimate the proper number of hidden neurons. We confirmed the effectiveness of the proposed method through computer experiments. |
| キーワード(和) | 制限付きボルツマンマシン / ディープラーニング |
| キーワード(英) | Restricted Boltzmann Machine / Deep Learning |
| 資料番号 | NC2014-22 |
| 発行日 |
| 研究会情報 | |
| 研究会 | NC |
|---|---|
| 開催期間 | 2014/10/11(から1日開催) |
| 開催地（和） | |
| 開催地（英） | |
| テーマ（和） | |
| テーマ（英） | |
| 委員長氏名（和） | |
| 委員長氏名（英） | |
| 副委員長氏名（和） | |
| 副委員長氏名（英） | |
| 幹事氏名（和） | |
| 幹事氏名（英） | |
| 幹事補佐氏名（和） | |
| 幹事補佐氏名（英） | |
| 講演論文情報詳細 | |
| 申込み研究会 | Neurocomputing (NC) |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | RBMの学習特性の分析と隠れ層ニューロン数の自動決定法 |
| サブタイトル（和） | |
| タイトル（英） | Analysis of Learning Characteristics of RBM and Automatic Method for Deciding the Number of Hidden Neurons |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 制限付きボルツマンマシン / Restricted Boltzmann Machine |
| キーワード(2)（和/英） | ディープラーニング / Deep Learning |
| 第 1 著者 氏名（和/英） | 大澤 正彦 / Masahiko OSAWA |
| 第 1 著者 所属（和/英） | 慶應義塾大学理工学部 Faculty of Science and Technology, Keio University |
| 第 2 著者 氏名（和/英） | 萩原 将文 / Masafumi HAGIWARA |
| 第 2 著者 所属（和/英） | 慶應義塾大学理工学部 Faculty of Science and Technology, Keio University |
| 発表年月日 | 2014-10-18 |
| 資料番号 | NC2014-22 |
| 巻番号（vol） | vol.114 |
| 号番号（no） | 259 |
| ページ範囲 | pp.- |
| ページ数 | 6 |
| 発行日 | |