| 講演名 | 1999/3/19 因子分析の統計力学 : Wake-Sleep Algorithmのダイナミクスの解析 嶋崎 政一, 樺島 祥介, |
|---|---|
| PDFダウンロードページ | PDFダウンロードページへ |
| 抄録(和) | Wake-Sleep Algorithmは非対称の結合をもつ多層型ネットワークであるHelmholtz machineにおける学習のために考案されたHebb型の確率的近似法である. いくつかの実験報告はあるものの推定値の収束性など理論的な側面については簡単なモデルにおいてさえもあまり明らかされていない. 本論文では, 1因子モデルの因子分析問題をとりあげ, WS algorithmのダイナミクスの性質について統計カ学的解析を行う. まず, 学習係数が0の極限における推定値が最尤推定値(MLE)に一致することを示し, さらに学習係数が有限である場合の影響についても明らかにする. |
| 抄録(英) | The Wake-Sleep algorithm is a stochastic learning algorithm which enables Helmholtz machine, asymmetrically connected layered network to work in practice. Experimentally, several positive results have been reported so far, but theoritically, little is known about its properties even for a simple model.In this paper, we analyse the dynamics of the Wake-Sleep Algorithm applying to a single factor analys is problem in respect with statitical mechanics context. As a result, we clarify the convergence properties of WS algorithm, even for the case of using finite learning rate. |
| キーワード(和) | 統計力学 / 因子分析 / 教師無し学習 / helmholtz machine |
| キーワード(英) | statistical mechanics / factor analysis / unsupervised learning / helmholtz machine |
| 資料番号 | NC98-154 |
| 発行日 |
| 研究会情報 | |
| 研究会 | NC |
|---|---|
| 開催期間 | 1999/3/19(から1日開催) |
| 開催地（和） | |
| 開催地（英） | |
| テーマ（和） | |
| テーマ（英） | |
| 委員長氏名（和） | |
| 委員長氏名（英） | |
| 副委員長氏名（和） | |
| 副委員長氏名（英） | |
| 幹事氏名（和） | |
| 幹事氏名（英） | |
| 幹事補佐氏名（和） | |
| 幹事補佐氏名（英） | |
| 講演論文情報詳細 | |
| 申込み研究会 | Neurocomputing (NC) |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | 因子分析の統計力学 : Wake-Sleep Algorithmのダイナミクスの解析 |
| サブタイトル（和） | |
| タイトル（英） | Statistical mechanics of factor analysis : Dynamical analysis of The Wake-Sleep algorithm |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 統計力学 / statistical mechanics |
| キーワード(2)（和/英） | 因子分析 / factor analysis |
| キーワード(3)（和/英） | 教師無し学習 / unsupervised learning |
| キーワード(4)（和/英） | helmholtz machine / helmholtz machine |
| 第 1 著者 氏名（和/英） | 嶋崎 政一 / Seiichi Shimasaki |
| 第 1 著者 所属（和/英） | 東京工業大学大学院総合理工学研究科 知能システム科学専攻 樺島研究室 Dept. of Compt. Intl. and Syst. Sci. Tokyo Institute of Technology, Kabashima lab. |
| 第 2 著者 氏名（和/英） | 樺島 祥介 / Yoshiyuki Kabashima |
| 第 2 著者 所属（和/英） | 東京工業大学大学院総合理工学研究科 知能システム科学専攻 樺島研究室 Dept. of Compt. Intl. and Syst. Sci. Tokyo Institute of Technology, Kabashima lab. |
| 発表年月日 | 1999/3/19 |
| 資料番号 | NC98-154 |
| 巻番号（vol） | vol.98 |
| 号番号（no） | 674 |
| ページ範囲 | pp.- |
| ページ数 | 8 |
| 発行日 | |