| 講演名 | 2018-03-14 L0ノルム最適化に基づくスパース判別アルゴリズムを用いた特徴量選択精度の評価 石橋 直樹(電通大), 伊藤 紀基(電通大), 佐藤 匡(電通大), 樺島 祥介(東工大), 宮脇 陽一(電通大/JSTさきがけ), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 小サンプルサイズかつ高次元データを学習データとする判別モデルでは，オーバーフィッティングによる汎化誤差の増加の問題が生じやすい．この問題を解決するには，重要な特徴量を選択することによる次元の削減が有効となる．我々は，選択する特徴量の数を最適化するL0ノルム最適化に基づくスパース判別アルゴリズムであるiterative hard thresholding for classification(IHTc)を提案し，実データへの適用を目指して評価を進めてきた．本研究では，これまで評価が不十分であった，データのスパース性を変化させた際のIHTcの性能について検証を行った．まず人工データに対するIHTcの判別成績と特徴量選択精度を，従来研究で提案された特徴量選択を行う判別器であるsparse logistic regression(SLR)と特徴量選択を行わない判別器であるsupport vector machine(SVM)と比較評価した．さらに機能的磁気共鳴画像法で計測された実脳活動データに対しても，それらの性能を同様に比較評価した．その結果，スパース性が高いデータ条件では，IHTcの判別成績はSVMを上回るもSLRとは同程度かやや劣るが，特徴量選択精度においてはIHTcが上回る場合があることが示された．これらの結果は，高次元データ中にスパースに表現された特徴量を正確に同定することが重要となる場面において，IHTcが有用な判別モデルとなる可能性を示唆している． |
| 抄録(英) | Classification often suffers from overfitting if applied to a dataset of small sample size and high dimensionality. Dimensionality reduction, or feature selection, is one of effective methods to resolve this problem. We have developed iterative hard thresholding for classification (IHTc), a sparse classification algorithm that performs feature selection based on L0-norm optimization, and evaluated its characteristics to promote its applicability to real data analyses. In this study, we systematically assessed performance of IHTc in terms of accuracy of classification and feature selection while varying sparsity of artificial datasets. We further evaluated applicability of IHTc to the real data of human brain activity measured by functional magnetic resonance imaging. Performance of IHTc was compared with sparse logistic regression (SLR) as a typical example of a sparse classifier and with support vector machine (SVM) as a typical example of a non-sparse classifier. As a result, especially for datasets with high sparsity, classification accuracy of IHTc tended better than SVM but was equivalent or worse than SLR whereas feature selection accuracy of IHTc exceed that of SLR in some cases. These results suggest that IHTc might be a useful classification algorithm in the case requiring accurate feature selection out of high-dimensional data. |
| キーワード(和) | 特徴量選択 / スパースモデリング / L0ノルム最適化 / iterative hard thresholding |
| キーワード(英) | feature selection / sparse modeling / L0-norm optimization / iterative hard thresholding |
| 資料番号 | NC2017-91 |
| 発行日 | 2018-03-06 (NC) |
| 研究会情報 | |
| 研究会 | MBE / NC |
|---|---|
| 開催期間 | 2018/3/13(から2日開催) |
| 開催地（和） | 機械振興会館 |
| 開催地（英） | Kikai-Shinko-Kaikan Bldg. |
| テーマ（和） | ME，一般 |
| テーマ（英） | ME, general |
| 委員長氏名（和） | 中島 一樹(富山大) / 萩原 将文(慶大) |
| 委員長氏名（英） | Kazuki Nakajima(Univ. of Toyama) / Masafumi Hagiwara(Keio Univ.) |
| 副委員長氏名（和） | 京相 雅樹(東京都市大) / 平田 豊(中部大) |
| 副委員長氏名（英） | Masaki Kyoso(TCU) / Yutaka Hirata(Chubu Univ.) |
| 幹事氏名（和） | 高野 博史(富山県立大) / 永岡 隆(近畿大) / 青西 亨(東工大) / 吉川 大弘(名大) |
| 幹事氏名（英） | Hironobu Takano(Toyama Pref. Univ.) / Takashi Nagaoka(Kindai Univ.) / Toru Aonishi(Tokyo Inst. of Tech.) / Tomohiro Yoshikawa(Nagoya Univ.) |
| 幹事補佐氏名（和） | 金 主賢(富山大) / 小林 匠(横国大) / 篠沢 佳久(慶大) / 稲垣 圭一郎(中部大) |
| 幹事補佐氏名（英） | Kim Juhyon(Univ. of Toyama) / Takumi Kobayashi(YNU) / Yoshihisa Shinozawa(Keio Univ.) / Keiichiro Inagaki(Chubu Univ.) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on ME and Bio Cybernetics / Technical Committee on Neurocomputing |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | L0ノルム最適化に基づくスパース判別アルゴリズムを用いた特徴量選択精度の評価 |
| サブタイトル（和） | |
| タイトル（英） | Evaluation of feature selection accuracy using sparse classification algorithm based on L0-norm optimization |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 特徴量選択 / feature selection |
| キーワード(2)（和/英） | スパースモデリング / sparse modeling |
| キーワード(3)（和/英） | L0ノルム最適化 / L0-norm optimization |
| キーワード(4)（和/英） | iterative hard thresholding / iterative hard thresholding |
| 第 1 著者 氏名（和/英） | 石橋 直樹 / Naoki Ishibashi |
| 第 1 著者 所属（和/英） | 電気通信大学(略称：電通大) The University of Electro-Communications(略称：UEC Tokyo) |
| 第 2 著者 氏名（和/英） | 伊藤 紀基 / Noriki Ito |
| 第 2 著者 所属（和/英） | 電気通信大学(略称：電通大) The University of Electro-Communications(略称：UEC Tokyo) |
| 第 3 著者 氏名（和/英） | 佐藤 匡 / Masashi Sato |
| 第 3 著者 所属（和/英） | 電気通信大学(略称：電通大) The University of Electro-Communications(略称：UEC Tokyo) |
| 第 4 著者 氏名（和/英） | 樺島 祥介 / Yoshiyuki Kabashima |
| 第 4 著者 所属（和/英） | 東京工業大学(略称：東工大) Tokyo Institute of Technology(略称：Tokyo Tech) |
| 第 5 著者 氏名（和/英） | 宮脇 陽一 / Yoichi Miyawaki |
| 第 5 著者 所属（和/英） | 電気通信大学/科学技術振興機構さきがけ(略称：電通大/JSTさきがけ) The University of Electro-Communications/PRESTO, Japan Science and Technology Agency(略称：UEC Tokyo/JST PRESTO) |
| 発表年月日 | 2018-03-14 |
| 資料番号 | NC2017-91 |
| 巻番号（vol） | vol.117 |
| 号番号（no） | NC-508 |
| ページ範囲 | pp.139-144(NC), |
| ページ数 | 6 |
| 発行日 | 2018-03-06 (NC) |