電子情報通信学会 研究会発表申込システム
講演論文 詳細
技報閲覧サービス
技報オンライン
‥‥ (ESS/通ソ/エレソ/ISS)
技報アーカイブ
‥‥ (エレソ/通ソ)
 トップに戻る 前のページに戻る   [Japanese] / [English] 

講演抄録/キーワード
講演名 2014-11-21 12:15
圧縮センシングの絶対零度ダイナミックス
井上純一北大
技報オンラインサービス実施中
抄録 (和) 圧縮センシングを信号ベクトルの$L_{r}$-ノルム最小化問題として解く
信号復元アルゴリズムのダイナミックスを議論する. サンプリング数を
「例題数」, 信号ベクトルを「シナプス加重」とみなすことで,
圧縮センシングの信号復元過程はある種の「例題からの学習」と考える
ことができる. 本稿では特に$r=2$の場合を扱うが, このとき, 事後確率
最大化をエネルギー関数の勾配学習として陽に離散時間ダイナミックス
で与えると, その定常解は疑似逆行列を用いて表される. これはニューラル
ネットワークの`AdaLine (Adaptive Linear Neuron)学習' に対応して
得られる結果である. また, アルゴリズムの性能評価として,
特定の測定行列, 元信号に依らない信号復元ダイナミックスの
「平均的振る舞い」を少数個のマクロ変数で記述する場合, 測定行列要素
で構成される相関行列の固有値分布が必要となるが, ここでは最も簡単な
測定行列アンサンブルに対し, 統計力学的解析手法に基づく計算結果を示す.
この定式化により, 勾配学習が定常解へ至る信号復元プロセスが解析的に
記述できるため, 平均自乗誤差の時間発展における学習係数やエネルギー
関数に含まれるハイパーパラメータ依存性についても詳細に議論すること
ができる. 
(英) We discuss dynamics of signal restoring process in compressed
sensing based on the $L_{r}$-minimizer. In particular,
we will focus on the dynamics at `zero temperature',
which means that we utilize the MAP estimate for the solution
by gradient descent learning of the cost function
(logarithm of the posterior). When we regard the number of
sampling as `the number of examples', and the original signal
to be reconstructed as `synaptic weight vector', the dynamics of
compressed sensing could be treated as a sort of `learning from
examples'. In this paper, we examine the case of $r=2$.
Then, we find that the steady state of estimated signal vector
by means of the gradient descent learning is written in terms of
the pseudo inverse matrix, which has been well-known in the
literature of `AdaLine (Adaptive Linear Neuron) learning' for artificial
neural networks. In order to evaluate the average-case performance
of reconstruction dynamics, we derive coarse-grained dynamics with
respect to several macroscopic quantities. We find that the dynamics
contains an eigenvalue spectrum for correlation matrix whose
elements are constructed by observation matrix.
For the simplest choice of ensemble of observation matrix, we
calculate the explicit form of the eigenvalue distribution
and discuss the learning rate and hyper-parameter dependences
of the mean-square error, and we also argue the residual error as
a function of sparse and sampling rates.
キーワード (和) 圧縮センシング / 信号復元ダイナミックス / 学習理論 / ランダム行列理論 / 平均的性能評価 / / /  
(英) Compressed sensing / Signal reconstruction dynamics / Learning theory / Random matrix theory / Average-case performance / / /  
文献情報 信学技報, vol. 114, no. 326, NC2014-29, pp. 21-26, 2014年11月.
資料番号 NC2014-29 
発行日 2014-11-14 (NC) 
ISSN Print edition: ISSN 0913-5685  Online edition: ISSN 2432-6380

研究会情報
研究会 MBE NC  
開催期間 2014-11-21 - 2014-11-22 
開催地(和) 東北大学 
開催地(英) Tohoku University 
テーマ(和) BCI/BMIとその周辺, 一般 
テーマ(英)  
講演論文情報の詳細
申込み研究会 NC 
会議コード 2014-11-MBE-NC 
本文の言語 日本語 
タイトル(和) 圧縮センシングの絶対零度ダイナミックス 
サブタイトル(和)  
タイトル(英) Dynamics of compressed sensing at zero temperature 
サブタイトル(英)  
キーワード(1)(和/英) 圧縮センシング / Compressed sensing  
キーワード(2)(和/英) 信号復元ダイナミックス / Signal reconstruction dynamics  
キーワード(3)(和/英) 学習理論 / Learning theory  
キーワード(4)(和/英) ランダム行列理論 / Random matrix theory  
キーワード(5)(和/英) 平均的性能評価 / Average-case performance  
キーワード(6)(和/英) /  
キーワード(7)(和/英) /  
キーワード(8)(和/英) /  
第1著者 氏名(和/英/ヨミ) 井上 純一 / Jun-ichi Inoue / イノウエ ジュンイチ
第1著者 所属(和/英) 北海道大学 (略称: 北大)
Hokkaido University (略称: Hokkaido Univ.)
第2著者 氏名(和/英/ヨミ) / /
第2著者 所属(和/英) (略称: )
(略称: )
第3著者 氏名(和/英/ヨミ) / /
第3著者 所属(和/英) (略称: )
(略称: )
第4著者 氏名(和/英/ヨミ) / /
第4著者 所属(和/英) (略称: )
(略称: )
第5著者 氏名(和/英/ヨミ) / /
第5著者 所属(和/英) (略称: )
(略称: )
第6著者 氏名(和/英/ヨミ) / /
第6著者 所属(和/英) (略称: )
(略称: )
第7著者 氏名(和/英/ヨミ) / /
第7著者 所属(和/英) (略称: )
(略称: )
第8著者 氏名(和/英/ヨミ) / /
第8著者 所属(和/英) (略称: )
(略称: )
第9著者 氏名(和/英/ヨミ) / /
第9著者 所属(和/英) (略称: )
(略称: )
第10著者 氏名(和/英/ヨミ) / /
第10著者 所属(和/英) (略称: )
(略称: )
第11著者 氏名(和/英/ヨミ) / /
第11著者 所属(和/英) (略称: )
(略称: )
第12著者 氏名(和/英/ヨミ) / /
第12著者 所属(和/英) (略称: )
(略称: )
第13著者 氏名(和/英/ヨミ) / /
第13著者 所属(和/英) (略称: )
(略称: )
第14著者 氏名(和/英/ヨミ) / /
第14著者 所属(和/英) (略称: )
(略称: )
第15著者 氏名(和/英/ヨミ) / /
第15著者 所属(和/英) (略称: )
(略称: )
第16著者 氏名(和/英/ヨミ) / /
第16著者 所属(和/英) (略称: )
(略称: )
第17著者 氏名(和/英/ヨミ) / /
第17著者 所属(和/英) (略称: )
(略称: )
第18著者 氏名(和/英/ヨミ) / /
第18著者 所属(和/英) (略称: )
(略称: )
第19著者 氏名(和/英/ヨミ) / /
第19著者 所属(和/英) (略称: )
(略称: )
第20著者 氏名(和/英/ヨミ) / /
第20著者 所属(和/英) (略称: )
(略称: )
講演者
発表日時 2014-11-21 12:15:00 
発表時間 25 
申込先研究会 NC 
資料番号 IEICE-NC2014-29 
巻番号(vol) IEICE-114 
号番号(no) no.326 
ページ範囲 pp.21-26 
ページ数 IEICE-6 
発行日 IEICE-NC-2014-11-14 


[研究会発表申込システムのトップページに戻る]

[電子情報通信学会ホームページ]


IEICE / 電子情報通信学会