| 講演名 | 2020-03-17 低ランク・スパース近似のDNN表現と学習 三好 亮平(長崎大), 酒井 智弥(長崎大), 大西 峻(千葉大), 羽石 秀昭(千葉大), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 低ランク・スパース近似またはロバスト主成分分析は，線形従属な特徴と希少な特徴が混合している時系列データの情報処理に適している．しかし，その応用にはいくつかの課題がある．低ランク性とスパース性のバランスを司る超パラメタ${bf Lambda}_{mbox{scriptsize S}}$を実データに合わせて調整しなければならない．また，低ランク性・スパース性以外の事前知識を併用すると算法が複雑化する．本稿では，これらの課題の解決を図るため，低ランク・スパース近似の算法をディープニューラルネット（DNN）と見なして超パラメタ${bf Lambda}_{mbox{scriptsize S}}$の学習を試みる．深層学習のフレームワークがもつ自動微分の機能に注意し，低ランク・スパース近似の算法に使われる特異値閾値処理とソフト閾値処理，および低ランク性とスパース性を計算出力に課すための核ノルムと$ell_1$ノルムを実装した．また，自然呼吸下X線造影像の血管強調の応用に対して全変動（total variation）を損失関数に追加してDNNを最適化すると，スパース成分の分布を超パラメタが学習し，造影領域の推定が改善されることを確認した． |
| 抄録(英) | Low-rank and sparse (L+S) approximation, a.k.a. stable and robust principal component analysis, is known to be suitable for analyzing sequential data simultaneously containing linearly dependent and sparse features. There remain, however, some challenges in practice. Hyperparameters ${bf Lambda}_{mbox{scriptsize S}}$ to control the balance between the low-rankness and sparseness must be tuned on real data. Introducing additional prior knowledge to the L+S structures makes the optimization algorithm computationally intensive. This work takes a novel approach to improve the L+S approximation by representing its algorithm as a deep neural network (DNN) with trainable hyperparameters ${bf Lambda}_{mbox{scriptsize S}}$. In order for the DNN to learn via the backpropagation, the singular-value thresholding and soft thresholding in the L+S algorithm, as well as the nuclear and $ell_1$ norms imposing the L+S nature on the DNN outputs, can be implemented as auto-differentiable modules using a deep learning framework. Introducing the total variation of the sparse components into the loss function for the DNN training, the hyperparameters successfully acquire spatial distribution of the sparse components, which is experimentlly shown to improve artery detction in the application to celiac angiography under free-breathing condition. |
| キーワード(和) | ロバスト主成分分析 / ハイパーパラメータ最適化 / 核ノルム損失関数 / ADMM |
| キーワード(英) | Robust PCA / Hyperparameter optimization / Nuclear loss function / ADMM |
| 資料番号 | PRMU2019-91 |
| 発行日 | 2020-03-09 (PRMU) |
| 研究会情報 | |
| 研究会 | PRMU / IPSJ-CVIM |
|---|---|
| 開催期間 | 2020/3/16(から2日開催) |
| 開催地（和） | 京都大学 |
| 開催地（英） | |
| テーマ（和） | 安全安心、セキュリティ・防災 |
| テーマ（英） | |
| 委員長氏名（和） | 佐藤 洋一(東大) |
| 委員長氏名（英） | Yoichi Sato(Univ. of Tokyo) |
| 副委員長氏名（和） | 玉木 徹(広島大) / 木村 昭悟(NTT) |
| 副委員長氏名（英） | Toru Tamaki(Hiroshima Univ.) / Akisato Kimura(NTT) |
| 幹事氏名（和） | 入江 豪(NTT) / 牛久 祥孝(オムロンサイニックエックス) |
| 幹事氏名（英） | Go Irie(NTT) / Yoshitaka Ushiku(OMRON SINICX) |
| 幹事補佐氏名（和） | 内田 祐介(DeNA) / 山下 隆義(中部大) |
| 幹事補佐氏名（英） | Yusuke Uchida(DeNA) / Takayoshi Yamashita(Chubu Univ.) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Pattern Recognition and Media Understanding / Special Interest Group on Computer Vision and Image Media |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | 低ランク・スパース近似のDNN表現と学習 |
| サブタイトル（和） | 自然呼吸下X線血管造影への応用 |
| タイトル（英） | Deep neural network representation and learning of low-rank and sparse approximation |
| サブタイトル（和） | With application to celiac angiography under free breathing |
| キーワード(1)（和/英） | ロバスト主成分分析 / Robust PCA |
| キーワード(2)（和/英） | ハイパーパラメータ最適化 / Hyperparameter optimization |
| キーワード(3)（和/英） | 核ノルム損失関数 / Nuclear loss function |
| キーワード(4)（和/英） | ADMM / ADMM |
| 第 1 著者 氏名（和/英） | 三好 亮平 / Ryohei Miyoshi |
| 第 1 著者 所属（和/英） | 長崎大学(略称：長崎大) Nagasaki University(略称：Nagasaki Univ.) |
| 第 2 著者 氏名（和/英） | 酒井 智弥 / Tomoya Sakai |
| 第 2 著者 所属（和/英） | 長崎大学(略称：長崎大) Nagasaki University(略称：Nagasaki Univ.) |
| 第 3 著者 氏名（和/英） | 大西 峻 / Takashi Ohnishi |
| 第 3 著者 所属（和/英） | 千葉大学(略称：千葉大) Chiba University(略称：Chiba Univ.) |
| 第 4 著者 氏名（和/英） | 羽石 秀昭 / Hideaki Haneishi |
| 第 4 著者 所属（和/英） | 千葉大学(略称：千葉大) Chiba University(略称：Chiba Univ.) |
| 発表年月日 | 2020-03-17 |
| 資料番号 | PRMU2019-91 |
| 巻番号（vol） | vol.119 |
| 号番号（no） | PRMU-481 |
| ページ範囲 | pp.133-138(PRMU), |
| ページ数 | 6 |
| 発行日 | 2020-03-09 (PRMU) |