| 講演名 | 2014-11-21 ベルヌーイ正規事前分布を用いた圧縮センシングのハイパーパラメータ推定(BCI/BMIとその周辺,一般) 渡部 敏之, 井上 純一, |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 圧縮センシングは,非ゼロ数の圧倒的に少ない情報源を効率よく,少ない観測数から推定する方法論であるが,ベイズ推定のもとでは通常,事前分布としてラプラス分布(L_1-正則化)が用いられる.しかし,非ゼロ率(スパース率:ハイパーパラメータ)に対するベルヌーイ分布でゼロ/非ゼロ成分が生成され,かつ,非ゼロ成分が正規分布に従う「ベルヌーイ正規分布」を事前確率として選んだ方が(真の分布もまたベルヌーイ正規分布である場合に)「ベイズ最適性」という意味では好ましい.そこで,本稿では,レプリカ法を用いて平均自乗誤差等のハイパーパラメータ依存性を評価するとともに,周辺尤度に基づくパラメータ推定のダイナミックスを解析した結果を報告する. |
| 抄録(英) | Compressive sensing is a theory that estimates sparse information signals which has few non-zero elements from less observations. In terms of Bayesian estimation, Laplasian distribution (L_1-regularization) is normally chosen for the prior distribution. However, if a true distribution is a Bernoulli normal distribution whose zero or non-zero element is generated by a Bernoulli distribution of a non-zero rate (sparse rate as a 'hyper-parameter') and the non-zero elements is normally distributed, the Bernoulli normal distribution should be chosen for a candidate of the prior distribution in the sense of Bayesian optimality. In this paper, we evaluate a dependence of the hyper-parameter on the mean-square error by replica method and discuss the dynamics of hyper-parameter estimation by means of EM algorithm to maximize the marginal likelihood indirectly. |
| キーワード(和) | 圧縮センシング / 統計力学 / レプリカ法 / EMアルゴリズム / マルコフ連鎖モンテカルロ法 |
| キーワード(英) | Compressive sensing / Statistical mechanics / Replica method / EM algorithm / Markov chain Monte Carlo method |
| 資料番号 | NC2014-28 |
| 発行日 |
| 研究会情報 | |
| 研究会 | NC |
|---|---|
| 開催期間 | 2014/11/14(から1日開催) |
| 開催地（和） | |
| 開催地（英） | |
| テーマ（和） | |
| テーマ（英） | |
| 委員長氏名（和） | |
| 委員長氏名（英） | |
| 副委員長氏名（和） | |
| 副委員長氏名（英） | |
| 幹事氏名（和） | |
| 幹事氏名（英） | |
| 幹事補佐氏名（和） | |
| 幹事補佐氏名（英） | |
| 講演論文情報詳細 | |
| 申込み研究会 | Neurocomputing (NC) |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | ベルヌーイ正規事前分布を用いた圧縮センシングのハイパーパラメータ推定(BCI/BMIとその周辺,一般) |
| サブタイトル（和） | |
| タイトル（英） | Hyper-parameter estimation for compressive sensing with a Bernoulli-Gauss prior distribution |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 圧縮センシング / Compressive sensing |
| キーワード(2)（和/英） | 統計力学 / Statistical mechanics |
| キーワード(3)（和/英） | レプリカ法 / Replica method |
| キーワード(4)（和/英） | EMアルゴリズム / EM algorithm |
| キーワード(5)（和/英） | マルコフ連鎖モンテカルロ法 / Markov chain Monte Carlo method |
| 第 1 著者 氏名（和/英） | 渡部 敏之 / Toshiyuki WATANABE |
| 第 1 著者 所属（和/英） | 北海道大学大学院情報科学研究科 / Graduate School of Information Science and Technology, Hokkaido University / |
| 第 2 著者 氏名（和/英） | 井上 純一 / Jun-ichi INOUE |
| 第 2 著者 所属（和/英） | |
| 発表年月日 | 2014-11-21 |
| 資料番号 | NC2014-28 |
| 巻番号（vol） | vol.114 |
| 号番号（no） | 326 |
| ページ範囲 | pp.- |
| ページ数 | 6 |
| 発行日 | |